CEO Google DeepMind, Demis Hassabis, mengidentifikasi risiko terbesar kecerdasan buatan (AI) bukanlah terletak pada penggantian pekerjaan manusia. Hassabis justru mengkhawatirkan dua masalah besar, yaitu kemungkinan jatuh ke tangan yang salah dan kesulitan dalam menjaga AI yang canggih agar tetap beroperasi otonom.
Menurut Hassabis, kedua risiko tersebut merupakan tantangan penting dalam pengembangan AI. Ia mengingatkan akan adanya potensi penyalahgunaan AI yang memiliki tingkat kecerdasan setara dengan manusia. Oleh karena itu, ia mendorong penetapan batasan tertentu terhadap sistem kecerdasan buatan untuk menghindari penyalahgunaan oleh pihak yang tidak bertanggung jawab.
Hassabis juga menekankan perlunya kesepakatan internasional mengenai standar atau regulasi terkait AI. Hal ini penting untuk memastikan bahwa kecerdasan buatan digunakan untuk tujuan yang positif. Contoh penyalahgunaan AI seperti yang dilakukan para peretas yang menggunakan teknologi AI untuk mencari mangsa atau membuat deepfake porn menjadi sebuah perhatian serius bagi Hassabis.
Dengan demikian, upaya untuk membatasi dan mengatur penggunaan AI melalui kesepakatan internasional dapat menjadi langkah yang efektif dalam mengurangi risiko penyalahgunaan teknologi AI. Hal ini sejalan dengan upaya Google DeepMind dan upaya lainnya dalam memastikan keberlanjutan pengembangan AI yang bermanfaat bagi kemanusiaan.
