JAVATEKNO
Ryan 
Liputan6.com, Jakarta – Untuk pertama kalinya, model kecerdasan buatan (Artificial Intelligence/AI) milik Google, Gemini, dilaporkan berhasil menembus sistem keamanan milik tiga perusahaan sungguhan. Kejadian ini terjadi ketika Gemini sedang menjalani pengujian keamanan siber.
Diberitakan The Guardian, Minggu (20/9/2026), insiden tersebut berlangsung pada Mei lalu. Saat itu, perusahaan keamanan AI asal Israel, Irregular, sedang melakukan evaluasi terhadap kemampuan keamanan siber sejumlah model kecerdasan buatan.
Dalam pengujian tersebut, Irregular menggunakan lingkungan tertutup yang melibatkan perusahaan-perusahaan fiktif untuk menguji sistem AI buatan OpenAI dan Anthropic. Namun, terjadi kesalahan teknis yang membuat jaringan internet secara tidak sengaja terhubung ke lingkungan pengujian tersebut.
Setelah mendapatkan akses internet, Gemini justru melakukan tindakan yang berada di luar perkiraan. Model AI tersebut kemudian berhasil mengakses sistem milik perusahaan yang benar-benar ada, bukan hanya perusahaan fiktif dalam simulasi.
Dalam salah satu pengujian, Irregular meminta Gemini untuk mendapatkan informasi dari perangkat lunak milik sebuah perusahaan fiktif yang mempunyai nama mirip dengan perusahaan nyata. Ketika terhubung ke internet, Gemini ternyata mampu menebak kata sandi dan menggunakannya untuk masuk ke layanan perusahaan sungguhan.
Tidak hanya satu kasus, pada dua pengujian lainnya Gemini juga menelusuri berbagai informasi di internet. Model tersebut menemukan repositori publik yang ternyata memuat kredensial, kemudian menggunakan informasi tersebut untuk memperoleh akses ke sistem milik dua perusahaan lainnya.
Google menyatakan bahwa Gemini langsung menghentikan tindakannya setelah menyadari bahwa sistem yang berhasil diakses merupakan milik perusahaan sungguhan dan bukan bagian dari simulasi pengujian.
Irregular kemudian melaporkan kejadian tersebut kepada Google pada akhir Juli. Laporan itu disampaikan setelah perusahaan tersebut juga menemukan adanya insiden lain yang melibatkan OpenAI dan Hugging Face. Google kemudian mengonfirmasi bahwa peristiwa tersebut memang terjadi, meskipun tidak ada kerugian yang dilaporkan oleh perusahaan-perusahaan yang terdampak.
Wakil Presiden Bidang Rekayasa Keamanan Google, Heather Adkins, menjelaskan bahwa kejadian tersebut bermula dari evaluasi standar. Dalam proses tersebut, model menemukan informasi yang tersedia secara publik di internet dan mencoba menggunakan kredensial yang ditemukan untuk mengakses situs web yang dianggap sebagai bagian dari pengujian.
Adkins juga menjelaskan bahwa pada ketiga kejadian tersebut, Gemini akhirnya menghentikan proses setelah mengetahui bahwa akses yang dilakukan bukan terhadap sistem simulasi.
Pengungkapan yang Menuai Respons
Meskipun Google tidak langsung mengumumkan kejadian tersebut kepada masyarakat luas, perusahaan memastikan bahwa ketiga perusahaan yang terdampak telah diberi tahu mengenai insiden tersebut.
Sikap Google tersebut berbeda dengan langkah OpenAI dan Anthropic dalam mengungkap beberapa insiden keamanan yang melibatkan model AI mereka. Pengungkapan tersebut kemudian mendapat perhatian dan respons dari sejumlah pihak, termasuk Senator independen Amerika Serikat, Bernie Sanders.
Sanders menyerukan agar pengembangan AI dihentikan sementara. Ia menilai perkembangan teknologi AI yang semakin cepat perlu diimbangi dengan pengawasan dan sistem keamanan yang memadai agar perusahaan tetap dapat mengendalikan teknologi yang mereka kembangkan.
Sementara itu, OpenAI disebut sempat menghentikan pengembangan modelnya selama dua minggu. CEO Anthropic, Dario Amodei, juga menyerukan adanya perlambatan pengembangan AI secara kolektif. Menurutnya, langkah tersebut diperlukan untuk memastikan sistem pengamanan yang memadai tersedia pada model-model AI yang semakin canggih.
Peristiwa ini kembali menjadi perhatian karena menunjukkan bahwa kemampuan AI dalam menjalankan tugas secara mandiri juga dapat menimbulkan risiko apabila sistem pengujian tidak memiliki pembatasan dan pengamanan yang cukup.
