Korelasi.co – David Krueger, asisten profesor AI Universitas Montreal menyerukan perlambatan riset dan pengembangan Kecerdasan Buatan (AI).
Dikutip dari Future of Life Institut pada Kamis, (17/09/26) wacana perlambatan ini diimplikasi dari pandangan Kruger yang menilai bahwa, peradaban manusia saat ini belum mampu mengimbangi kecepatan ristet dan pengembangan AI terkhusus dalam segi pengawasan.
Komentar Kruger ini mencuat setelah CEO Anthropic, Dario Amodei, menerbitkan sebuah esai yang menyerukan perusahaan-perusahaan AI memperlambat laju pengembangan dan riset.
Usulan tersebut didukung Sam Altman (OpenAI) dan Elon Musk (SpaceX), sebuah kekompakan langka di antara beberapa nama terbesar di industri ini.
Amodei menyerukan regulasi dan kerja sama internasional, bersama dengan evaluator pihak ketiga yang akan punya akses setingkat karyawan ke perusahaan AI untuk memverifikasi praktik keselamatan dan pelaporan insiden jangka panjang bagi umat manusia.
Di sisi lain Krueger khawatir apa yang diminta Amodei tidak memadai dan bahwa metode pengujian AI belum sepenuhnya mutakhir yang membuat celah-celah ketidaktepatatan hasil pengujian.
“Pengujian tersebut pada dasarnya tak berfungsi dan akan makin tidak dapat diandalkan seiring makin pintarnya AI, karena AI pada dasarnya bisa berpura-pura. Ia bisa bersikap baik, bisa pura-pura bodoh, dan bisa mengelabui pengujian kita,” paparnya.
Hal yang menarik dari temuan Kruger ini adalah prihal manusia yang kehilangan eksistensinya. Leneliti keselamatan Anthropic menyebut peluang AI menghilangkan eksistensi tiap manusia adalah 1:10 dalam dekade mendatang. Kemudian, Krueger malahan menyebut angka tersebut terlalu rendah.
“Jika kita tidak mengoreksi arah saat ini, kemungkinan besar umat manusia akan kehilangan kekuasaannya secara permanen akibat AI yang lepas kendali dalam lima tahun ke depan. Dan pada saat itu, kepunahan manusia hanyalah masalah waktu,” katanya.
Dalam konteks ini Kruger mengemukakan istilah “Kehilangan Kekuasaan” artinya, manusia tak lagi memegang kendali atas kontriksi masyarakat, laju pemerintahan dan politik yang pada intinya AI mendominasi dan bermanifestasi menjadi spesies penguasa baru di planet bernama bumi ini.
“AI (nantinya akan) mengendalikan infrastruktur fisik, termasuk tiap tahapan proses dalam membangun lebih banyak AI serta merakit robot dan sistem fisik lainnya,” sebutnya.
“Bayangkan dunia di mana seluruh perusahaan dijalankan AI, robot di mana-mana, di mana manusia pada dasarnya tak punya pekerjaan kecuali pekerjaan yang sekadar nama dan bahkan politisi serta semua orang tunduk pada AI karena AI sepertinya memiliki penilaian sangat baik. Masa depan itu yang sedang kita tuju,” lanjut David.
Khawatiran Kruger bukan tanpa sebab ditengah masif dan proses adaptif AI yang cepat selain prihal ketidak mutakhiran platfor pengawasan ada sisi lain yakni, AI yang semakin sulit untuk dikendalikan.
“Kita bahkan takkan tahu komputer mana yang harus dimatikan. Kita harus mencoba mematikan semuanya dan itu akan sangat sangat sulit,” tuturnya.
Meski begitu, ia mengaku lebih optimis bahwa pemerintah akan bertindak, menyebut pekan lalu sebagai kali pertama di mana dunia merespons dengan cara yang waras.
“Saya rasa orang pada akhirnya benar-benar memahami betapa seriusnya krisis ini. Ini adalah keadaan darurat,” pungkas David.***
