Perkembangan teknologi kecerdasan buatan (AI) semakin pesat, dengan superkecerdasan atau kecerdasan buatan super kini sudah tampak di depan mata. Sejumlah pakar mengungkapkan kekhawatiran bahwa kecerdasan super ini dapat mengancam eksistensi manusia. Geoffrey Hinton, yang dikenal sebagai ‘Godfather of AI’, secara terbuka menyampaikan kekhawatirannya terhadap potensi teknologi yang dikembangkannya untuk memusnahkan umat manusia. Di sisi lain, ia juga menyoroti bahwa raksasa teknologi mengambil pendekatan yang salah terhadap perkembangan teknologi tersebut.
Hinton, seorang ilmuwan komputer pemenang Hadiah Nobel dan mantan eksekutif Google, sebelumnya memberikan peringatan bahwa kemungkinan 10 hingga 20 persen sistem AI dapat mengancam manusia. Dalam sebuah konferensi industri di Las Vegas, Hinton mengungkapkan keraguan atas upaya perusahaan teknologi untuk memastikan manusia tetap dominan atas sistem AI. Menurutnya, usaha tersebut tidak akan berhasil karena AI akan jauh lebih cerdas daripada manusia dan memiliki cara untuk mengelak dari kendali manusia.
Upaya untuk menjadikan sistem AI tunduk pada manusia di masa depan dipertanyakan oleh Hinton. Contohnya, sudah terdapat sistem AI yang bersedia melakukan tindakan curang, menipu, dan mencuri demi tujuan tertentu. Untuk mengatasi potensi ancaman ini, Hinton mengusulkan ide memasukkan ‘insting maternal’ ke dalam model AI. Hal ini diharapkan dapat membuat sistem AI peduli terhadap manusia, terutama ketika teknologi tersebut menjadi lebih kuat dan cerdas dari manusia.
Namun, tidak semua pihak setuju dengan pendekatan ‘ibu AI’ yang diusulkan oleh Hinton. Ada yang menegaskan bahwa penting untuk menjaga martabat dan otonomi manusia dalam perkembangan kecerdasan buatan. Beberapa ahli meyakini bahwa AI akan mencapai kecerdasan super, yang dikenal juga sebagai kecerdasan buatan umum (AGI), dalam beberapa tahun mendatang. Meskipun Hinton tetap khawatir tentang potensi masalah dari kecerdasan buatan, ia optimis bahwa teknologi ini akan membawa terobosan luar biasa, termasuk dalam bidang medis. Misalnya, AI dapat membantu dalam menganalisis data medis yang kompleks untuk penemuan obat-obatan baru atau pengembangan pengobatan kanker yang lebih efektif.
