Tim peneliti dari Intel, Boise State University, dan University of Illinois mengungkap metode baru yang mengejutkan untuk membobol sistem keamanan chatbot AI seperti ChatGPT dan Google Gemini. Teknik ini memungkinkan pengguna mengakses konten terlarang dengan menyamarkan permintaan berbahaya dalam tumpukan teks acak yang dikenal sebagai gibberish prompt maupun menggunakan metode eksploitasi InfoFlood.
Teknik InfoFlood: Membanjiri AI Chatbot Seperti ChatGPT dan Gemini dengan Banyak Informasi
Metode ini disebut Information Overload, di mana chatbot dibanjiri dengan data acak hingga sistemnya menjadi bingung. Dalam kondisi tersebut, AI gagal mengenali permintaan berbahaya yang tersembunyi di dalamnya. Peneliti menggunakan alat otomatis bernama InfoFlood untuk menguji dan mengeksploitasi celah ini.
Related Post
Risiko Keamanan yang Serius
Meski ChatGPT dan Gemini memiliki filter keamanan bawaan, studi ini menunjukkan bahwa mereka tetap rentan terhadap manipulasi input yang kompleks. Karena model AI cenderung merespons permintaan berdasarkan permukaan teks, mereka kesulitan memahami niat sebenarnya di balik prompt yang diberikan.
Hal ini membuka potensi penyalahgunaan, seperti:
- Mengakses informasi sensitif atau berbahaya
- Menyebarkan konten yang seharusnya diblokir
- Menurunkan kepercayaan publik terhadap teknologi AI
Tanggapan Industri & Langkah Pencegahan
Para peneliti telah mengirimkan temuan ini kepada perusahaan pengembang AI besar agar mereka dapat memperkuat sistem keamanan. Studi ini menjadi pengingat bahwa pengembangan AI harus selalu disertai dengan pengawasan etis dan teknis yang ketat.
Implikasi Etis dan Masa Depan AI
Penemuan ini menyoroti tantangan besar dalam menjaga keamanan dan etika penggunaan AI. Di tengah pesatnya adopsi teknologi ini, penting bagi pengembang dan pengguna untuk memahami bahwa AI bukanlah sistem yang sempurna dan celah seperti ini bisa dimanfaatkan oleh pihak yang tidak bertanggung jawab.
Ke depan, pendekatan seperti Constitutional AI dan reinforcement learning mungkin menjadi solusi untuk memperkuat filter keamanan. Namun, transparansi dan kolaborasi antar industri tetap menjadi kunci utama dalam menjaga kepercayaan publik terhadap teknologi AI.
Baca juga:
- Alibaba Luncurkan Model AI Qwen 2.5-Max, Siap Tantang DeepSeek dan GPT OpenAI
- OpenAI Siap Luncurkan Prosesor AI Kustom Pertama, Kapan Tanggal Rilisnya?
- Perang AI Memanas! OpenAI Tekan AS untuk Jegal DeepSeek AI?
Cari gadget berkualitas dengan harga terbaik? Temukan pilihan laptop, PC, dan komponen PC dengan harga terbaik hanya di Pemmz.com.
Cari tahu juga update berita terkini dan teraktual seputar teknologi dan gadget di Pemmzchannel.com.
