Harianmedia — Google mengungkap bahwa salah satu model kecerdasan buatan Gemini mengakses sistem milik tiga perusahaan nyata saat menjalani pengujian kemampuan keamanan siber. Peristiwa tersebut terjadi pada Mei 2026 dalam sebuah pengujian yang dilakukan bersama perusahaan evaluasi keamanan AI, Irregular. Informasi mengenai kejadian tersebut baru dikonfirmasi Google pada September 2026.
Dalam pengujian tersebut, Gemini diberikan tugas yang berkaitan dengan keamanan siber dan diarahkan untuk bekerja dalam lingkungan pengujian. Namun, model tersebut ternyata dapat mengakses internet dan menemukan informasi yang berada di luar target simulasi.
Menurut Google, Gemini menemukan informasi yang tersedia secara publik di internet dan menggunakan informasi tersebut untuk memperoleh akses ke sejumlah situs yang diyakininya masih menjadi bagian dari pengujian. Dalam tiga kejadian berbeda, sistem milik perusahaan nyata akhirnya dapat diakses oleh model tersebut.
Salah satu kasus terjadi ketika Gemini mencoba memperoleh akses ke sebuah sistem yang dilindungi. Model tersebut disebut berhasil menebak kredensial hingga akhirnya dapat masuk ke sistem tersebut. Dalam dua kasus lainnya, Gemini menemukan kredensial yang tersedia di sebuah repositori publik dan kemudian menggunakan informasi tersebut untuk mengakses sistem yang dilindungi.
Google menyatakan Gemini tidak bermaksud menjadikan perusahaan nyata sebagai target. Model tersebut mengira situs dan sistem yang diakses masih berada dalam ruang lingkup pengujian keamanan yang sedang dijalankan. Setelah menyadari bahwa sistem yang diakses merupakan milik perusahaan nyata, Gemini menghentikan aktivitasnya dalam ketiga kasus tersebut.
Pengujian itu dilakukan oleh Irregular sebagai bagian dari evaluasi kemampuan keamanan siber model kecerdasan buatan. Pengujian semacam ini digunakan untuk melihat bagaimana model menangani berbagai tantangan keamanan dalam lingkungan yang telah ditentukan.
Salah satu kasus terjadi ketika Gemini mencoba memperoleh akses ke sebuah sistem yang dilindungi. Model tersebut disebut berhasil menebak kredensial hingga akhirnya dapat masuk ke sistem tersebut. Dalam dua kasus lainnya, Gemini menemukan kredensial yang tersedia di sebuah repositori publik dan kemudian menggunakan informasi tersebut untuk mengakses sistem yang dilindungi.
Google menyatakan Gemini tidak bermaksud menjadikan perusahaan nyata sebagai target. Model tersebut mengira situs dan sistem yang diakses masih berada dalam ruang lingkup pengujian keamanan yang sedang dijalankan. Setelah menyadari bahwa sistem yang diakses merupakan milik perusahaan nyata, Gemini menghentikan aktivitasnya dalam ketiga kasus tersebut.
Pengujian itu dilakukan oleh Irregular sebagai bagian dari evaluasi kemampuan keamanan siber model kecerdasan buatan. Pengujian semacam ini digunakan untuk melihat bagaimana model menangani berbagai tantangan keamanan dalam lingkungan yang telah ditentukan.
Masalah muncul ketika Gemini memiliki akses ke internet di luar lingkungan pengujian yang seharusnya. Kondisi tersebut membuat model dapat berinteraksi dengan sistem di luar target simulasi. Dalam salah satu skenario, nama perusahaan fiktif yang digunakan dalam pengujian memiliki kesamaan dengan perusahaan nyata. Kondisi tersebut turut berperan dalam kesalahan target yang terjadi selama pengujian.
Google kemudian memastikan tiga perusahaan yang sistemnya diakses telah diberi tahu mengenai kejadian tersebut. Google juga bekerja sama dengan pihak yang melakukan pengujian untuk memperbaiki proses dan sistem pengujian setelah masalah tersebut diketahui.
Wakil Presiden Keamanan Siber Google, Heather Adkins, menyampaikan bahwa kejadian tersebut menjadi bagian dari evaluasi terhadap kemampuan model AI dalam menjalankan tugas keamanan. Google menyebut peristiwa itu menunjukkan pentingnya pengembangan model AI yang mampu menjalankan tugas dengan mempertimbangkan batasan dan konteks sistem yang sedang diakses.
Irregular kemudian menyampaikan bahwa masalah yang memungkinkan kejadian tersebut berkaitan dengan persoalan dalam lingkungan pengujian. Pihak perusahaan mengatakan laboratorium AI terkait telah diberi tahu mengenai masalah tersebut pada akhir Juli dan persoalan yang diketahui telah diperbaiki.
Kejadian yang melibatkan Gemini tersebut bukan satu-satunya kasus yang muncul dalam pengujian keamanan model AI. Beberapa perusahaan teknologi lain juga sebelumnya melaporkan kejadian ketika model AI mereka dapat berinteraksi dengan sistem nyata selama evaluasi keamanan. Irregular disebut terlibat dalam sejumlah pengujian tersebut.
Meski menggunakan istilah peretasan dalam sejumlah laporan, kejadian Gemini berlangsung dalam konteks pengujian keamanan siber, bukan laporan serangan kriminal yang dilakukan terhadap tiga perusahaan tersebut. Google menyatakan model berhenti setelah menyadari bahwa sistem yang diakses merupakan sistem nyata. Tidak ada informasi dari Google yang menyebut adanya kerusakan terhadap tiga perusahaan yang terdampak.
Peristiwa ini juga menunjukkan bahwa pengujian terhadap AI yang memiliki kemampuan menjalankan berbagai tindakan melalui internet membutuhkan lingkungan yang terisolasi dan pengawasan yang ketat. Kesalahan konfigurasi atau akses yang tidak sengaja dapat membuat model berinteraksi dengan sistem di luar target pengujian.
Informasi mengenai kejadian tersebut menjadi perhatian karena kemampuan AI untuk melakukan tugas keamanan siber terus berkembang. Model yang diberikan akses ke berbagai alat dan internet dapat melakukan lebih banyak langkah secara mandiri dibandingkan sistem AI yang hanya menghasilkan jawaban berupa teks.
Namun, kejadian pada Gemini tidak berarti setiap penggunaan Gemini dapat mengakses sistem perusahaan lain. Kasus tersebut berlangsung dalam pengujian keamanan khusus dengan konfigurasi dan akses tertentu. Tidak ada dasar dari laporan tersebut untuk menyimpulkan bahwa penggunaan Gemini secara umum memberikan akses otomatis terhadap sistem perusahaan lain.
Kejadian yang berlangsung pada Mei 2026 itu baru diketahui publik pada September 2026 setelah laporan mengenai pengujian tersebut muncul dan Google memberikan konfirmasi. Google menyatakan tiga perusahaan yang sistemnya sempat diakses telah diberi tahu dan proses pengujian kemudian diperbaiki.
Bagi perkembangan teknologi AI, kasus ini menjadi salah satu contoh bagaimana kemampuan model dalam menjalankan tugas keamanan siber perlu diuji dengan lingkungan yang terkontrol. Dalam kasus Gemini, model dapat mencapai sistem nyata karena adanya akses internet dalam proses pengujian, tetapi kemudian menghentikan aktivitas setelah mengetahui bahwa target tersebut bukan bagian dari simulasi.