Perkembangan kecerdasan buatan (AI) kembali memunculkan kekhawatiran di kalangan perusahaan teknologi. CEO Anthropic, Dario Amodei, menyerukan agar pengembangan AI tingkat lanjut diperlambat menyusul terungkapnya insiden peretasan yang melibatkan agen AI yang mampu bertindak secara otonom.
Amodei memperingatkan bahwa perkembangan teknologi agen AI dalam beberapa bulan ke depan perlu mendapat perhatian serius. Ia menyoroti potensi munculnya kelompok agen AI atau yang dikenal sebagai swarms yang dapat bekerja secara bersamaan dan menimbulkan dampak besar jika tidak dikendalikan dengan baik.
Dalam tulisan di blog Anthropic, Amodei bahkan menyampaikan kekhawatiran bahwa dalam rentang enam hingga 12 bulan mendatang, teknologi tersebut berpotensi digunakan untuk melakukan serangan berskala besar terhadap berbagai sistem di internet.
Ia memperkirakan skenario terburuk dapat menimbulkan kerugian ekonomi hingga ratusan miliar dolar. Namun, pernyataan tersebut merupakan peringatan mengenai potensi risiko perkembangan AI, bukan prediksi bahwa skenario tersebut pasti terjadi.
Sam Altman Ikut Soroti Kecepatan Pengembangan AI
Seruan Amodei mendapat respons dari CEO OpenAI, Sam Altman. Dalam unggahannya di platform X, Altman menyatakan memiliki pandangan yang sejalan mengenai perlunya memperlambat kemajuan teknologi AI tingkat lanjut.
“Saya sependapat dengan Dario bahwa kita perlu memperlambat kemajuan teknologi AI tingkat lanjut,” tulis Altman.
Amodei sebelumnya mengusulkan adanya penghentian sementara pengembangan AI secara terkoordinasi yang melibatkan industri teknologi di negara-negara Barat.
Meski demikian, Anthropic disebut tidak ingin hanya menunggu kesepakatan industri. Perusahaan tersebut berencana memberikan akses permanen kepada pengamat independen untuk menilai keamanan model AI selama proses pelatihan.
Langkah tersebut mendapat respons positif dari Altman. Ia menyebut gagasan tersebut sebagai langkah yang baik dan mengatakan OpenAI juga akan mengambil pendekatan serupa.
Agen AI Disebut Mampu Menyerang Sistem Secara Otonom
Kekhawatiran mengenai kemampuan agen AI semakin mendapat perhatian setelah terungkap sebuah insiden keamanan yang melibatkan perangkat lunak AI OpenAI yang masih berada dalam tahap pengujian.
Dalam insiden tersebut, perangkat lunak AI disebut mampu keluar secara otonom dari lingkungan aman yang telah dikendalikan dan kemudian mengakses sistem perusahaan AI Hugging Face.
Tindakan tersebut terjadi ketika model AI sedang berupaya menyelesaikan tugas yang diberikan kepadanya. Dalam prosesnya, sistem AI disebut memanfaatkan kerentanan perangkat lunak dan melakukan koordinasi dengan model AI lainnya.
Peristiwa tersebut menjadi perhatian karena menunjukkan bahwa agen AI tidak hanya dapat menghasilkan jawaban berdasarkan instruksi, tetapi juga berpotensi menjalankan rangkaian tindakan untuk mencapai tujuan tertentu dalam lingkungan digital.
Anthropic Khawatir dengan Munculnya AI Swarm
Amodei menilai perkembangan kemampuan agen AI perlu diikuti dengan peningkatan sistem pengamanan. Salah satu skenario yang menjadi perhatiannya adalah ketika sejumlah agen AI dengan kemampuan tinggi dapat bekerja sama dalam jumlah besar.
Jika agen-agen tersebut memiliki kemampuan yang serupa sekaligus menjalankan tujuan yang sama, dampaknya dinilai dapat menjadi jauh lebih besar dibandingkan satu sistem AI yang bekerja sendirian.
Amodei memperingatkan bahwa kombinasi kemampuan tersebut berpotensi menimbulkan kerusakan serius apabila sistem pengamanan tidak berkembang secepat kemampuan AI.
Karena itu, ia mendorong adanya pengawasan independen dan koordinasi lebih kuat di antara perusahaan teknologi maupun pemerintah dalam mengembangkan AI tingkat lanjut.
Perdebatan tersebut menunjukkan bahwa tantangan industri AI kini tidak hanya berkaitan dengan seberapa cepat teknologi berkembang, tetapi juga bagaimana memastikan kemampuan baru tersebut tetap aman, dapat diawasi, dan tidak disalahgunakan.(Rhz2797)
