Peneliti keamanan siber dari startup asal Amerika Serikat, Hacktron AI, menemukan celah keamanan pada sistem OpenAI dengan bantuan chatbot Claude milik Anthropic.
Temuan tersebut dilakukan secara etis melalui program bug bounty OpenAI. Atas laporan kerentanan itu, Hacktron AI memperoleh hadiah sebesar 6.500 dolar AS atau sekitar Rp115,7 juta.
Dalam pengujiannya, tim Hacktron AI menggunakan Claude untuk membantu memperoleh akses ke sejumlah akun ChatGPT milik karyawan OpenAI melalui forum diskusi internal staf yang di-hosting di platform Discourse.
Setelah mendapatkan akses, peneliti membuat pull request yang tidak berbahaya ke salah satu layanan OpenAI melalui repositori perangkat lunak GitHub.
Pull request merupakan permintaan untuk menggabungkan perubahan kode ke dalam sebuah repositori. Hacktron AI menyatakan perubahan yang dibuat dalam pengujian tersebut tidak berbahaya.
Peneliti kemudian melaporkan temuan tersebut kepada OpenAI melalui program bug bounty. Hacktron AI mengatakan mereka memiliki akses terhadap kode dalam repositori GitHub tersebut, tetapi tidak mengunduhnya.
Menurut Hacktron AI, celah yang ditemukan memungkinkan akses dengan cakupan cukup luas. Meski Claude digunakan pada tahap awal pengujian, sebagian besar proses berikutnya dilakukan dengan memanfaatkan model AI milik OpenAI sendiri.
OpenAI kemudian mengonfirmasi bahwa celah keamanan tersebut telah diperbaiki.
“Kami berterima kasih kepada para peneliti karena telah menghubungi kami dan membagikan temuan mereka,” kata juru bicara OpenAI.
AI Permudah Pengujian Keamanan
Hacktron AI menilai perkembangan teknologi kecerdasan buatan (AI) membuat proses pengujian keamanan yang sebelumnya rumit dapat dilakukan dengan lebih cepat.
Menurut para peneliti, pekerjaan yang sebelumnya membutuhkan tim dengan sumber daya besar dan waktu berbulan-bulan kini dapat dikerjakan dalam hitungan hari dengan bantuan perangkat AI.
Dalam kasus ini, Claude digunakan untuk membantu menghasilkan kode yang diperlukan dalam proses pengujian keamanan terhadap sistem OpenAI.
Hacktron AI menegaskan bahwa seluruh pengujian dilakukan dalam konteks program bug bounty dan hasil temuannya dilaporkan kepada OpenAI.
Kasus tersebut menjadi salah satu contoh bagaimana model AI dapat dimanfaatkan dalam pengujian keamanan, sekaligus menunjukkan potensi risiko apabila teknologi serupa digunakan untuk serangan siber.
Sebelumnya, OpenAI juga mengungkap bahwa teknologi AI mereka digunakan dalam pengujian keamanan terhadap startup AI Hugging Face. Dalam pengujian itu, OpenAI menggunakan kelompok agen AI (swarm) yang mampu menjalankan sejumlah tugas secara mandiri.
Di sisi lain, Anthropic kembali menyerukan perlunya memperlambat pengembangan AI. Seruan tersebut berkaitan dengan kekhawatiran terhadap risiko yang dapat muncul apabila teknologi AI dikembangkan tanpa pengamanan yang memadai.
Sumber: detik.com
