CEO Anthropic Dario Amodei mengusulkan agar perusahaan kecerdasan buatan (AI) memperlambat laju pengembangan teknologinya. Menurut dia, langkah tersebut diperlukan untuk memastikan sistem AI dikembangkan dengan standar keselamatan yang memadai.
Gagasan itu disampaikan Amodei melalui sebuah esai yang mengajak perusahaan AI melakukan “pengereman” dalam pengembangan model. Ia menilai perlambatan tidak berarti menghentikan kemajuan teknologi, tetapi memberikan waktu yang cukup untuk memastikan model AI aman dan dapat dievaluasi secara independen.
Amodei mengusulkan tiga langkah untuk memperlambat pengembangan AI tanpa mengorbankan kepemimpinan dan keunggulan komersial Amerika Serikat di bidang tersebut.
Langkah pertama adalah memberikan akses kepada evaluator pihak ketiga untuk memverifikasi praktik keselamatan perusahaan dan pelaporan insiden. Menurut Amodei, Anthropic secara sepihak telah berkomitmen menerapkan langkah tersebut.
Langkah kedua mendorong perusahaan AI di negara-negara demokratis untuk berkoordinasi dan membangun standar keamanan bersama. Sementara langkah ketiga menyerukan koordinasi antara pemerintah negara demokratis dan pemerintahan otoriter dalam menghadapi risiko AI.
“Pengereman bukan berarti menghentikan pelatihan model atau kemajuan teknis, tetapi memastikan perusahaan mengambil waktu yang cukup untuk menyelaraskan dan menjaga model mereka, serta memberikan kesempatan kepada evaluator pihak ketiga untuk melakukan verifikasi,” tulis Amodei, seperti dikutip dari CNBC, Minggu (13/9/2026).
Seruan tersebut muncul setelah peneliti Anthropic, Jacob Coxon, mengumumkan pengunduran dirinya melalui media sosial. Coxon, yang sebelumnya juga pernah bekerja di OpenAI, menyebut adanya kekhawatiran di kalangan pengembang AI bahwa teknologi tersebut berpotensi menimbulkan risiko ekstrem bagi umat manusia dalam satu dekade mendatang.
Kekhawatiran mengenai potensi AI menyebabkan kepunahan manusia sebenarnya bukan hal baru. Pada 2023, sejumlah peneliti dan eksekutif perusahaan AI, termasuk Amodei dan CEO OpenAI Sam Altman, turut menandatangani pernyataan mengenai pentingnya mengurangi risiko kepunahan akibat AI.
Amodei mengatakan gagasan untuk menunda atau memperlambat pengembangan AI sebenarnya telah dipertimbangkan sejak 2023. Namun, menurut dia, kondisi teknologi saat itu belum memungkinkan langkah tersebut dianggap perlu.
Ia menilai model AI pada masa itu belum cukup canggih untuk melakukan tindakan signifikan di dunia nyata, termasuk penipuan, manipulasi, kecurangan, maupun serangan siber dalam skala besar.
Meski mengingatkan potensi risikonya, Amodei menegaskan dirinya tetap melihat AI sebagai teknologi yang dapat memberikan manfaat besar bagi manusia.
“Saya tetap percaya bahwa AI dapat meningkatkan kualitas hidup manusia secara signifikan. Keinginan saya untuk mencapai keuntungan ini tidak berkurang,” tulisnya.
Menurut Amodei, manfaat besar AI hanya dapat diwujudkan jika teknologi tersebut dikembangkan dengan pendekatan yang tepat. Karena itu, ia mendorong industri dan pemerintah menggunakan waktu yang ada untuk memastikan perkembangan AI berlangsung secara aman dan bertanggung jawab.
Sumber: detik.com
