CEO Anthropic Peringatkan Bahaya AI, Bisa Jadi Senjata Biologis

SAN FRANCISCO, investor.id – CEO Anthropic Dario Amodei, salah satu perusahaan kecerdasan buatan (artificial intelligence/ AI) terkemuka di dunia, mengeluarkan peringatan keras mengenai risiko sistem AI masa depan. Ia menyatakan, teknologi ini telah mencapai tingkat kecanggihan yang dapat mengancam kemanusiaan jika jatuh ke tangan yang salah.

Amodei mengungkapkan model bahasa besar (Large Language Model/ LLM) saat ini sedang mendekati, atau bahkan mungkin sudah mencapai, tahap di mana mereka memiliki pengetahuan yang cukup untuk membantu pembuatan dan penyebaran senjata biologis secara menyeluruh.

"Secara garis besar, saya khawatir LLM mulai menguasai pengetahuan yang dibutuhkan untuk menciptakan dan melepaskan (senjata biologis). Potensi kehancurannya sangatlah tinggi," tegas Amodei seperti dikutip Euro News, Senin (16/2/2026).

Kemajuan yang Melampaui Prediksi

Menurut Amodei, kecepatan perkembangan AI jauh lebih cepat daripada yang disadari oleh masyarakat umum. Hanya dalam waktu tiga tahun, AI yang dulunya kesulitan mengerjakan matematika dasar atau menulis satu baris kode komputer, kini telah bertransformasi secara drastis.

"Hari ini, teknologi yang sama membantu memecahkan masalah matematika yang belum bisa dipecahkan manusia dan sangat mahir dalam pengodean (coding) hingga para insinyur papan atas membiarkan AI melakukan sebagian besar pekerjaan mereka," tambahnya.

Anthropic menemukan pola konsisten. Semakin banyak data, daya komputasi, dan waktu pelatihan yang diberikan, maka kemampuan AI akan meningkat secara terprediksi di hampir semua bidang, termasuk sains biologi, keuangan, hingga fisika.

Kekhawatiran Terhadap Penyalahgunaan Kekuatan

Meskipun AI tidak memiliki emosi, Amodei menjelaskan model AI mempelajari pola dari data masif, termasuk gaya berpikir dan kebiasaan internal. Ia memperingatkan adanya risiko pencarian kekuatan yang tidak selaras (misaligned power-seeking), kata laporan tersebut.

Hal inilah yang menjadi dasar intelektual bagi prediksi bahwa AI di masa depan bisa saja menghancurkan kemanusiaan jika tujuannya tidak sejalan dengan keselamatan manusia. "Melihat kemajuan selama lima tahun terakhir dari dalam Anthropic, saya bisa merasakan detak jam yang terus berpacu," tukasnya.

Anthropic adalah perusahaan riset dan keselamatan AI asal Amerika Serikat (AS) yang didirikan pada 2021 oleh mantan petinggi OpenAI, termasuk Dario Amodei dan saudarinya, Daniela Amodei. Perusahaan ini dikenal lewat produk AI mereka yang bernama Claude, yang menjadi pesaing utama ChatGPT (OpenAI) dan Gemini (Google).

Berbeda dengan beberapa kompetitornya, Anthropic memposisikan diri sebagai perusahaan yang sangat berfokus pada "AI Safety" atau keselamatan kecerdasan buatan. Mereka mengembangkan teknik yang disebut Constitutional AI, sebuah metode untuk melatih sistem AI agar memiliki prinsip moral dan aturan internal yang mencegahnya menghasilkan konten berbahaya atau kebencian.

Peringatan dari Amodei ini muncul di tengah perlombaan global pengembangan AI yang semakin intens. Para pemimpin industri kini terbagi menjadi dua kubu, yakni mereka yang ingin mempercepat inovasi tanpa batas, dan mereka yang mendesak adanya regulasi ketat untuk mencegah skenario bencana global (existential risk) yang dipicu oleh teknologi AI yang melampaui kendali manusia.

Editor: Grace El Dora