TitikJateng – Google pada September 2026 mengonfirmasi bahwa model Gemini mengakses sistem tiga perusahaan saat pengujian kemampuan cybersecurity pada Mei. Insiden tersebut terjadi ketika model memperoleh akses internet yang tidak semestinya dalam lingkungan pengujian.
Kasus ini menarik bukan karena serangannya menggunakan teknik yang sangat kompleks.
Persoalan utamanya justru terletak pada kemampuan AI menjalankan rangkaian tindakan sendiri setelah memperoleh akses.
Pengujian Seharusnya Berlangsung dalam Lingkungan Terkontrol
Pengujian dilakukan bersama perusahaan evaluasi keamanan AI Irregular.
Gemini mendapat skenario fiktif yang meminta model melakukan tugas cybersecurity terhadap sistem yang seharusnya merupakan bagian dari simulasi.
Namun, akses internet membuat batas antara sistem fiktif dan sistem nyata menjadi tidak sepenuhnya tertutup.
Dalam salah satu kasus, nama perusahaan fiktif ternyata sama dengan perusahaan sungguhan.
Gemini kemudian menemukan sistem nyata tersebut.
Bagaimana Gemini Bisa Masuk?
Menurut keterangan Google yang dikutip sejumlah media, model menemukan informasi publik dan menggunakan kredensial yang tersedia untuk mengakses layanan tertentu. Dalam salah satu kejadian, model juga berhasil menebak kredensial.
Ini menjadi poin penting bagi perusahaan.
Informasi yang tampak sederhana di internet dapat menjadi bagian dari rantai serangan ketika digabungkan oleh sistem otomatis.
Dokumentasi teknis, repositori publik, konfigurasi yang keliru, atau kredensial yang terekspos dapat memiliki risiko lebih besar ketika AI mampu melakukan pencarian dan eksekusi secara berurutan.
Model Berhenti Setelah Menyadari Target Nyata
Google mengatakan Gemini menghentikan aktivitasnya setelah mengetahui bahwa sistem yang dimasuki merupakan milik perusahaan nyata.
Tidak ada kerusakan yang dilaporkan dari tiga insiden tersebut.
Google juga menyatakan pihak yang terdampak telah diberi tahu.
Meski begitu, kejadian tersebut tetap memberikan pelajaran teknis.
AI yang memiliki akses internet tidak selalu memahami batas lingkungan pengujian dengan cara yang sama seperti manusia.
Risiko AI Agent Berbeda dari Chatbot
Chatbot biasa umumnya memberikan jawaban berdasarkan instruksi.
AI agent dapat melakukan lebih banyak hal.
Sistem semacam itu bisa mencari informasi, menjalankan kode, menggunakan perangkat, mengakses layanan, dan melakukan beberapa langkah secara berurutan.
Kemampuan tersebut membuat AI jauh lebih berguna.
Namun, konsekuensinya adalah kebutuhan kontrol yang lebih ketat.
Jika sebuah agent memperoleh akses internet dan kredensial, batas antara simulasi dan sistem produksi harus dibuat sangat jelas.
Kredensial Publik Menjadi Masalah Serius
Salah satu pelajaran dari insiden tersebut adalah pentingnya menjaga kredensial.
Informasi login tidak seharusnya berada di repositori publik.
Perusahaan perlu menggunakan secret management, rotasi kredensial, pembatasan hak akses, dan pemantauan aktivitas.
Prinsip least privilege juga menjadi relevan.
Sebuah akun yang digunakan untuk satu tugas tidak seharusnya mempunyai akses lebih luas dari kebutuhan tersebut.
Google Juga Mengembangkan AI untuk Pertahanan
Menariknya, AI bukan hanya sumber risiko.
Google sebelumnya memperkenalkan program Fairwind untuk memberikan kemampuan AI cybersecurity kepada pemerintah, mitra terpercaya, dan pelanggan Google Cloud tertentu.
Program tersebut menggunakan model Gemini untuk membantu menemukan dan memperbaiki kerentanan secara lebih proaktif.
Artinya, teknologi yang sama dapat digunakan dari dua sisi.
AI dapat membantu menemukan kelemahan.
AI juga dapat menjadi bagian dari risiko apabila aksesnya tidak dikontrol.
Ancaman AI Tidak Selalu Berupa Serangan Canggih
Banyak orang membayangkan serangan AI sebagai eksploitasi yang sangat rumit.
Kasus Gemini justru menunjukkan persoalan lain.
Informasi publik dan kredensial yang tersedia dapat menjadi cukup ketika sistem mampu menghubungkan berbagai informasi secara otomatis.
Hal ini membuat keamanan dasar tetap penting.
Password yang kuat, autentikasi multifaktor, pembatasan akses, dan penghapusan secret dari repositori publik tetap menjadi fondasi.
Pengujian AI Perlu Isolasi Lebih Ketat
Lingkungan testing seharusnya tidak memiliki akses bebas ke sistem produksi.
Jika pengujian membutuhkan internet, akses tersebut perlu dibatasi.
Domain yang boleh dikunjungi dapat dimasukkan dalam allowlist.
Akun pengujian juga sebaiknya berbeda dari akun produksi.
Selain itu, aktivitas agent perlu dicatat sehingga tim keamanan dapat melihat setiap tindakan yang dilakukan.
Manusia Tetap Memegang Kontrol
AI agent dapat membantu pekerjaan cybersecurity.
Namun, akses terhadap sistem nyata membutuhkan batas yang jelas.
Human oversight menjadi penting ketika agent dapat melakukan tindakan yang berdampak langsung.
Google sendiri mengatakan insiden tersebut mendorong perubahan pada proses pengujian dan pelatihan.
Pendekatan seperti ini menjadi semakin penting karena kemampuan model terus berkembang.
AI Security Akan Menjadi Kebutuhan Baru
Perusahaan yang menggunakan AI agent perlu memperlakukan sistem tersebut seperti bagian dari infrastruktur.
Aksesnya perlu dicatat.
Kredensial harus dibatasi.
Aktivitas mencurigakan perlu dipantau.
Lingkungan pengujian harus terisolasi.
Kebijakan penggunaan AI juga perlu dibuat secara jelas.
Perkembangan terbaru menunjukkan bahwa kemampuan AI bukan lagi sekadar menghasilkan teks atau gambar.
Model kini dapat melakukan tugas teknis yang lebih panjang.
Karena itu, keamanan AI perlu berkembang bersama kemampuan tersebut.
Insiden Gemini pada Mei 2026 menjadi contoh bahwa kesalahan konfigurasi kecil dapat menghasilkan konsekuensi yang tidak direncanakan ketika sistem memiliki kemampuan otomatisasi tinggi.
