Jakarta – Persaingan ketat di dunia kecerdasan buatan (AI) memunculkan kekhawatiran baru terkait keamanan dan etika penggunaannya. Yoshua Bengio, salah satu pionir AI yang dikenal sebagai Godfather AI, mengingatkan bahwa perkembangan pesat AI, terutama dengan kehadiran DeepSeek dari Tiongkok, dapat memperburuk situasi global jika tidak diawasi dengan ketat.
Dalam wawancara dengan The Guardian pada Jumat (31/1/2025), Bengio menyoroti bahwa persaingan agresif antara perusahaan teknologi di Amerika Serikat dan Tiongkok berisiko besar mengabaikan aspek keamanan. Ia menyebut bahwa saat satu pihak memiliki keunggulan yang signifikan, mereka masih bisa lebih berhati-hati dalam pengembangan teknologi. Namun, jika persaingan terlalu ketat, banyak perusahaan akan terpaksa mempercepat inovasi tanpa mempertimbangkan dampak jangka panjangnya.
“Dalam kondisi seperti ini, perusahaan-perusahaan besar mungkin mengesampingkan aspek keselamatan demi melampaui pesaing mereka,” ujar Bengio.
Bengio juga menyoroti kehadiran DeepSeek, startup AI asal Tiongkok, yang dalam waktu singkat berhasil menyaingi model AI buatan Barat. Menurutnya, perkembangan ini bisa menjadi pemicu bagi perusahaan AS untuk menurunkan standar keamanan demi mengejar ketertinggalan.
Pada KTT Keamanan AI 2023 di Bletchley Park, Inggris, Bengio bersama 96 pakar lainnya merilis laporan internasional pertama tentang keamanan AI. Laporan tersebut mengidentifikasi sejumlah ancaman yang ditimbulkan oleh AI, termasuk potensinya dalam serangan siber, pengembangan senjata biologis, hingga penyebaran disinformasi secara masif.
Menurut laporan itu, AI kini mampu menghasilkan instruksi rinci untuk menciptakan ancaman biologis yang lebih canggih dibandingkan kemampuan manusia biasa. Bahkan, sistem AI tingkat lanjut dapat membantu merancang strategi perang siber dan manipulasi informasi dalam skala besar.
Laporan ini juga menyoroti bahwa AI semakin dimanfaatkan dalam bidang militer dan politik global. Beberapa negara telah mulai mengembangkan sistem pertahanan berbasis AI, sementara kelompok tertentu menggunakan teknologi ini untuk propaganda dan penyebaran berita palsu.
Meski demikian, laporan ini juga menekankan manfaat besar AI dalam dunia medis, sains, dan ekonomi. AI telah terbukti mempercepat penemuan obat, mengoptimalkan rantai pasok global, serta membantu berbagai industri dalam meningkatkan efisiensi produksi.
Bengio menekankan bahwa tanpa regulasi ketat, AI bisa berkembang menjadi ancaman serius bagi kemanusiaan. Ia mendorong adanya kerja sama global untuk memastikan AI berkembang dengan aman dan bertanggung jawab.
“Kita perlu memastikan bahwa AI dikembangkan dengan tanggung jawab dan tidak menjadi ancaman bagi umat manusia,” tambahnya.
Sejumlah negara telah mulai merancang kebijakan terkait pengawasan AI. Uni Eropa, misalnya, telah mengesahkan Undang-Undang AI yang mengatur penggunaan teknologi ini dalam berbagai sektor. Sementara itu, Amerika Serikat dan Tiongkok masih terus memperdebatkan batasan etika yang harus diterapkan dalam pengembangan AI mereka.
Di tengah kekhawatiran ini, KTT global berikutnya tentang keamanan AI dijadwalkan berlangsung pada Februari mendatang di Paris. Forum ini diharapkan dapat menghasilkan kebijakan yang lebih ketat untuk mengatur perkembangan AI agar tetap berada dalam batas etika dan keamanan.
Namun, hingga kini, belum ada tanda-tanda bahwa industri AI akan memperlambat laju inovasinya. Persaingan tetap berlangsung sengit, dengan perusahaan-perusahaan raksasa berlomba-lomba menciptakan model AI yang lebih canggih.