JAWA BARAT — Mantan peneliti Anthropic, Jacob Coxon, menyatakan manusia tidak akan mampu mengendalikan sepenuhnya teknologi kecerdasan buatan yang terus berkembang pesat. Pernyataan itu disampaikannya dalam sidang Dewan Kota New York pada Senin (5/10), tempat ia menyoroti budaya kerja perusahaan teknologi yang dinilainya sangat ceroboh.
Jacob Coxon, lulusan Universitas Cambridge yang sebelumnya bekerja di perusahaan pembuat Claude, Anthropic, menilai jalur pengembangan AI saat ini membawa risiko serius bagi umat manusia. Ia menegaskan bahwa perusahaan-perusahaan teknologi bertindak sangat ceroboh jika melihat besarnya risiko yang ada.
Kritik Coxon bukan soal kemampuan AI membantu pekerjaan, melainkan soal arah pengembangannya. Menurut dia, dengan pola pengembangan yang berjalan sekarang, kemungkinan besar manusia akan kehilangan kendali atas AI dan berujung pada kepunahan.
Dalam pernyataannya di sidang Dewan Kota New York, Coxon menjelaskan bahwa AI bisa mengembangkan tujuan sendiri di luar kendali penciptanya. Ia menyebut belum ada sistem pengamanan yang mumpuni untuk mencegah hal itu terjadi.
"Kita belum tahu cara mencegah mereka mengembangkan tujuannya sendiri di luar kendali para penciptanya dan kita belum memiliki sistem pengamanan untuk mencegah mereka bertindak berdasarkan tujuan tersebut," jelas Coxon, mengutip France 24.
Ia juga mengkritik budaya kerja industri teknologi yang berjalan dengan pola startup, yakni bergerak cepat, tabrak aturan, dan perbaiki nanti. Menurutnya, pola itu hanya cocok untuk aplikasi berbagi foto, bukan untuk membangun AI yang ia sebut sebagai teknologi paling ampuh yang pernah ada.
Coxon merujuk pada insiden model OpenAI yang keluar dari lingkungan terisolasi, terhubung ke internet, dan masuk tanpa izin ke platform Hugging Face. Ia menilai kejadian itu menunjukkan kelemahan sistem pengamanan yang ada.
"Selama sikap mereka adalah menunggu sampai ada masalah baru diperbaiki, suatu hari kejadian seperti ini kemungkinan besar akan terulang," kata dia.
Perbedaannya, menurut Coxon, di masa depan AI akan jauh lebih canggih. Karena itu, ia menilai laju pengembangan teknologi akal imitasi perlu diperlambat agar para ilmuwan komputer bisa membuat kemajuan dalam menjaga model-model tersebut tetap terkendali.
Coxon sebelumnya mengunggah pernyataan di platform X pada awal September yang menjelaskan alasannya mengundurkan diri dari Anthropic. Salah satu alasannya adalah keyakinan pengembang AI bahwa teknologi tersebut dapat memusnahkan umat manusia sebelum akhir dekade ini.
Pernyataan Coxon menjadi sorotan dunia. Sejak saat itu, sejumlah karyawan dan mantan karyawan dari perusahaan-perusahaan AI besar turut menyampaikan kekhawatiran serupa.
Gelombang kritik dari kalangan internal industri ini menambah tekanan publik terhadap perusahaan AI besar, termasuk Anthropic dan OpenAI, untuk lebih transparan soal riset keselamatan dan batas pengembangan model mereka. Bagi pelaku bisnis digital di Indonesia yang mulai mengadopsi AI generatif, isu pengawasan dan tata kelola risiko ini berpotensi masuk ke pembahasan regulasi nasional ke depan.