The Hacker News

OpenRouter Coret 3 Penyedia Usai Peneliti Ungkap Pencurian Prompt Berbulan-bulan di Perusahaan AI Hosting

Sekelompok penyerang siber berhasil menyusup serta mencuri data krusial dari dalam infrastruktur tiga penyedia inferensi kecerdasan buatan selama berbulan-bulan tanpa terdeteksi oleh pihak internal, dan tidak satu pun dari ketiga entitas tersebut yang menyadari adanya intrusi hingga para peneliti keamanan memberi tahu mereka secara resmi, ungkap firma keamanan siber industri Dragos pada pekan ini.

Sebagian dari kueri yang berhasil dijarah tersebut sejatinya telah diberi penanda khusus Zero Data Retention, sebuah opsi konfigurasi privasi yang dirancang untuk menjamin bahwa teks perintah pengguna sama sekali tidak boleh disimpan di penyimpanan permanen mana pun.

OpenRouter, sebuah platform penghubung yang bertugas memetakan dan mengalirkan kueri AI milik pelanggan ke berbagai mitra penyedia pihak ketiga, mengumumkan secara publik hari ini bahwa mereka telah mengambil langkah tegas dengan mendepak tiga penyedia dari ekosistem mereka, mencabut izin dari sebanyak 125 endpoint terkait kelayakan fitur Zero Data Retention, serta mengirimkan notifikasi kepada seluruh konsumen yang berpotensi terdampak. Temuan teknis yang didapatkan menegaskan tidak adanya pelanggaran keamanan langsung pada infrastruktur internal OpenRouter itu sendiri, demikian konfirmasi resmi dari perusahaan tersebut.

Peretasan paling awal di antara ketiga insiden tersebut diketahui telah berlangsung sejak pertengahan Juli. Deretan instruksi yang disusupkan tersebut memang sengaja dipersiapkan sebagai umpan pemantauan, namun diproses secara bersamaan dengan kueri asli para pelanggan, dan seluruh data pelanggan yang berjalan di sampingnya hampir dipastikan telah ikut disalin oleh aktor jahat, terang pihak firma tersebut.

Temuan ini bersumber dari agenda penyelidikan canary token yang secara terencana menebarkan sekitar dua juta kueri berisikan tautan web unik serta kredensial palsu sepanjang rentang bulan Juli hingga November, untuk kemudian memantau secara berkala apakah ada entitas luar yang berupaya mengakses data rahasia tersebut. Sebuah data rahasia yang sengaja ditanam hanya dapat dipelajari dari satu titik distribusi yang spesifik, sehingga pemakaian apa pun atas kredensial tersebut menjadi bukti kuat bahwa seseorang telah membuka dan membaca isi pesan instruksi yang memuatnya.

Pelanggaran terbesar dari ketiga kasus tersebut mencakup sekitar dua ratus kunci akses AWS yang ditanamkan, di mana masing-masing dikirimkan melalui satu kueri tunggal ke salah satu penyedia tertentu dalam jendela waktu yang cukup singkat pada akhir Oktober. Seluruh lalu lintas data yang dikirimkan selama kurun waktu tersebut berhasil dijarah, dan sebagian di antaranya bahkan bersumber dari instruksi yang sudah ditolak oleh sistem penyedia sebelum sempat dijalankan oleh model AI, sebuah anomali yang menandakan bahwa pelaku menyalin lalu lintas data tepat pada gerbang masuk pertama alih-alih pada lapisan komputasi inferensi yang lebih dalam.

Pelaku pencurian tersebut langsung menguji validitas kunci-kunci curian dalam kurun waktu beberapa jam pada kasus-kasus tertentu, menginventarisasi bucket penyimpanan S3, menyisir Secrets Manager serta Parameter Store, dan berupaya menerbitkan kunci API Bedrock baru sekaligus mendaftarkan pengguna IAM tambahan guna mempertahankan hak akses jangka panjang, memicu terjadinya puluhan ribu panggilan API AWS yang mencurigakan.

Seorang penyerang terpantau berhasil meretas dua penyedia layanan secara bersamaan, memanfaatkan berbagai kunci rahasia yang dijarah dari kedua perusahaan tersebut melalui satu peladen sewaan yang sama.

Pada tanggal 1 November, pelaku peretasan yang serupa mengerahkan ARTEX, sebuah instrumen pengujian penetrasi otomatis berbasis kecerdasan buatan, dan menjalankannya semata-mata untuk memverifikasi apakah deretan kunci rahasia yang dikuasainya masih aktif. Dua identitas user agent yang digunakannya, yaitu artex-agent serta artex-judge-r121, tidak tercatat di dalam daftar indikator ancaman publik mana pun yang berhasil ditelusuri oleh firma tersebut, sehingga sangat disarankan untuk segera dimasukkan ke dalam basis data pendeteksian sistem pertahanan.

"Sebuah pengaturan privasi sama sekali tidak akan berguna ketika pelaku penyerangan sudah berada di dalam sistem," tulis HD Moore, selaku chief research officer pada firma tersebut.

Temuan kedua yang diungkap oleh penyelidikan ini bahkan tidak memerlukan teknik peretasan sistem yang rumit. Sejumlah penjual kapasitas di pasar pertukaran inferensi kecerdasan buatan memajang model dengan tawaran harga termurah, mengaktifkan fitur pencatatan kueri, lalu menghimpun semua informasi yang melintas tanpa izin, menurut paparan hasil studi tersebut.

Para pelaku yang mengeksekusi tindakan tersebut terindikasi sebagai individu biasa yang memanfaatkan jaringan internet rumahan. Salah seorang pelaku, yang mengoperasikan komputer Mac melalui sambungan internet pita lebar rumahan di wilayah Prancis, mengambil kata sandi dari dua instruksi pengguna lalu mengetikkan percobaan login SSH root secara manual, sebelum kemudian menggunakan perangkat komputer yang sama untuk menguji beberapa kunci AWS yang telah disusupi perangkap.

Salah satu kunci rahasia tersebut diketahui sempat mengalir melintasi router perantara lain yang secara diam-diam membelokkan sebagian lalu lintas datanya ke platform pasar pertukaran tersebut, sebuah rute transit tersembunyi yang tidak pernah diinformasikan kepada pengguna akhir. Pengelola router tersebut belakangan telah memberi tahu pihak firma bahwa mereka sudah menghentikan aktivitas perutean tersebut, sementara penelusuran jaringan terhadap sekitar 2.000 jalur transmisi berhasil mengidentifikasi keberadaan beberapa ratus sistem asing yang tidak dikenal, ditambah satu pihak penjual yang diam-diam menyisipkan sekitar 1.000 token tak terlihat ke dalam setiap teks kueri yang masuk.

Sebuah laboratorium kecerdasan buatan asal Tiongkok, yang identitasnya dirahasiakan oleh laporan penelitian ini, kedapatan mengambil data tautan rahasia dari lebih dari separuh kueri berumpan yang dialirkan ke model-model komputasi mereka antara Juli hingga Oktober, termasuk sekitar dua pertiga kueri yang diberi label tanpa pengumpulan data atau Zero Data Retention. Teks instruksi yang diarahkan ke pihak penyedia hosting asal Amerika Serikat yang menjual kembali model buatan laboratorium tersebut secara otomatis mengaktifkan modul pengikis data yang sama, sehingga informasi tersebut tetap bermuara kembali ke laboratorium asal.

Sebuah aplikasi git client pada infrastruktur komputasi awan lain di kemudian hari terpantau mencoba mengkloning repositori privat yang sempat disebut di dalam teks kueri, tetapi tindakan itu hanya menyasar kueri model dari laboratorium tersebut, sementara satu penyedia raksasa asal Amerika Serikat terus-menerus menelusuri tautan tersembunyi selama lebih dari dua bulan setelah satu kali kueri dikirimkan ke endpoint pencarian miliknya.

Dua puluh empat hari setelah sebuah kueri uji coba dikirimkan, tautan rahasia di dalamnya mendadak dibagikan ke dalam sebuah ruang percakapan pada aplikasi Feishu, perangkat komunikasi perkantoran asal Tiongkok yang secara global dikenal dengan nama Lark. Tautan tersebut kemudian langsung diakses hanya dalam rentang waktu dua menit dari tiga unit komputer desktop serta tiga unit telepon genggam yang berlokasi di Beijing dan Shanghai.

Firma riset tersebut sebelumnya hanya membeberkan 8 karakter pembuka dari tautan penyedia, sehingga pihak yang membagikan tautan tersebut dapat dipastikan sedang membaca salinan tembolok lengkap dari keseluruhan teks instruksi asli pengguna.

Dalam kenyataan operasionalnya, Moore mencatat bahwa kueri yang seharusnya terlindungi tersebut nyatanya tetap diarsipkan, dialihkan kepada korporasi lain, serta dibaca secara langsung oleh manusia.

Pihak OpenRouter menegaskan dalam keterangan resminya mengenai insiden ini bahwa pemangkasan 125 endpoint dari daftar kelayakan status Zero Data Retention menyasar entitas-entitas yang dilaporkan langsung oleh para periset, ditambah sejumlah endpoint lainnya yang sengaja diputus sebagai bentuk tindakan pencegahan awal. Seluruh endpoint yang dinonaktifkan sepanjang proses peninjauan ini diwajibkan memberikan jaminan keamanan serta melalui proses validasi menyeluruh sebelum hak statusnya dapat dipulihkan kembali.

Layanan gateway tersebut saat ini tengah mengadaptasi metodologi pengujian yang dirancang oleh para peneliti agar mekanisme evaluasi keamanan serupa dapat dijalankan secara berkala tanpa henti, sembari memverifikasi integritas topologi rute jaringan guna mendeteksi potensi adanya aliran data kueri maupun respons yang diam-diam diteruskan ke pihak luar.

Para investigator keamanan sekarang tengah menjalin kerja sama intensif dengan sekitar selusin penyedia layanan, mengingat kunci palsu serta tautan rahasia yang ditanamkan masih terpantau terus diakses hingga pekan ini, berbulan-bulan setelah peristiwa penjarahan pertama berlangsung.

Railway, sebuah korporasi penyedia platform, sempat menyatakan pada bulan Oktober lalu bahwa peristiwa intrusi yang dialami oleh infrastrukturnya kemungkinan besar adalah bagian dari rangkaian serangan terstruktur yang menargetkan penyedia platform dengan sasaran akhir menyusup ke lingkungan penyedia inferensi AI.

Tidak seluruh penyedia layanan yang terdampak bersedia mengumumkan peretasan ini ke ruang publik, jelas pihak gateway, meski OpenRouter sendiri tetap mengambil inisiatif untuk memberi tahu para pengguna yang dirugikan. Sejauh ini baru tiga entitas yang telah merilis laporan terbuka.

Pernyataan Resmi yang Diberikan Para Penyedia Layanan

Seorang penyusup berhasil mengambil alih kendali salah satu peladen inferensi di Phala dan memiliki kapasitas untuk melihat data kueri secara langsung saat sedang diproses, jelas penyedia tersebut dalam pengumuman insiden awal mereka pada pekan lalu. Gangguan tersebut berhasil dinetralisasi pada 8 November, dan pengoperasian model inferensi telah diaktifkan kembali dengan penambahan lapisan pengamanan baru.

Seluruh kueri yang dialirkan menuju model DeepSeek V4 Flash 0731 yang masuk ke Phala lewat gateway pada kurun waktu antara 21 Oktober pukul 00:00 UTC hingga 8 November pukul 05:35 UTC harus dianggap telah bocor ke tangan luar, tulis laporan itu, dan semua kredensial, token akses, kata sandi, maupun data rahasia lainnya yang tersimpan di dalamnya harus segera diganti total.

Seorang peneliti pihak ketiga memang telah menyisipkan kredensial umpan unik ke dalam pesan instruksi sejak 1 Juli, namun hanya instruksi yang dikirimkan pada tanggal 21 dan 22 Oktober yang terbukti disalahgunakan. Pengujian tersebut menerapkan metode pengambilan sampel lalu lintas alih-alih mengawasi setiap transaksi data, sehingga penyedia layanan memilih untuk tetap mempertahankan rentang waktu kewaspadaan yang lebih longgar.

Sementara di Together AI, pihak tak dikenal berhasil mengunduh berkas sampel kueri milik pelanggan yang tersimpan, menyusul insiden sebuah agen coding AI yang secara tidak sengaja mengunggah kredensial rahasia ke repositori GitHub publik milik internal perusahaan, papar mereka kemarin dalam pemberitahuan keamanan. Sampel kueri yang tersimpan tersebut pada mulanya dihimpun untuk kebutuhan pengetesan piranti lunak secara rutin dan berasal dari eksekusi instruksi pada model MiniMax M3, GLM-5.2, serta Kimi K2.6 sepanjang bulan Juni dan Juli.

Pihak penyusup tersebut lantas menyisir tumpukan sampel guna mencari kredensial otentikasi layanan lain untuk langsung diuji, di mana lima di antaranya ternyata merupakan token umpan yang sengaja dipasang dalam eksperimen para ilmuwan. Perusahaan mengklarifikasi bahwa mereka tidak memiliki indikasi bahwa data tersebut telah tersebar lebih luas, meyakini bahwa salinannya sudah dimusnahkan seutuhnya, serta telah menetapkan kebijakan zero data retention sebagai setelan bawaan untuk pendaftaran akun baru.

Novita, penyedia inferensi lain yang terdaftar dalam gateway, mengonfirmasi pekan ini lewat pernyataan privasi bahwa kekeliruan konfigurasi rute sistem telah mengakibatkan sejumlah instruksi model MiniMax dialihkan secara berlebih ke API resmi milik MiniMax, melampaui alur operasional yang semestinya disediakan bagi pelanggan terkait.

Dragos menolak menyebutkan identitas resmi dari ketiga penyedia layanan yang diretas, pihak OpenRouter pun enggan mempublikasikan tiga nama mitra yang telah didepak, dan kedua belah pihak tidak memberikan konfirmasi apakah kedua kelompok daftar itu merujuk pada tiga entitas yang persis sama.

Penyedia yang menjadi korban pembobolan pada pertengahan Juli awalnya sempat menuduh adanya miskonfigurasi internal, kemudian menuding kelalaian pemrosesan data oleh pihak rekanan, sebelum akhirnya penyelidikan mandiri mereka membuktikan bahwa pelaku telah mencuri kredensial internal mereka sendiri, ungkap para peneliti. Hingga memasuki pekan ini, pihak penyedia terkait masih belum menyampaikan insiden tersebut secara transparan ke hadapan publik.

Langkah Proteksi yang Harus Diambil Para Pengguna

Rekomendasi yang disodorkan oleh para periset bertolak dari satu kenyataan krusial: label privasi pada dasarnya hanya mengikat saluran transmisi pada gerbang pertama, tulis Moore, sementara agen-agen otonom AI akan terus mengirimkan apa pun yang terbaca oleh sistem mereka, termasuk kredensial sensitif. Ke mana sebuah kueri diarahkan sepenuhnya merupakan sebuah keputusan pengguna, tegasnya, dan pelanggan yang abai dalam menentukan pilihan secara otomatis menyerahkan nasib datanya kepada penyedia bertarif termurah.

Membangun hosting mandiri merupakan satu-satunya solusi mutlak guna memastikan tidak ada pihak ketiga mana pun yang membaca isi kueri Anda, sedangkan menjalin kerja sama langsung dengan penyedia tier pertama memastikan hanya ada satu entitas, satu perjanjian kerja sama hukum, serta satu dokumen kebijakan privasi yang perlu diawasi.

Penggunaan layanan router perantara menuntut kehati-hatian ekstra: tentukan sendiri penyedia hulu yang Anda percayai secara spesifik alih-alih pasrah mengandalkan kelompok mitra standar, pastikan secara teknis bahwa pengaktifan fitur privasi benar-benar mengubah rute pengiriman data, dan jauhi pasar calo perantara inferensi, yang sebagian dari kapasitas komputasinya disokong oleh kunci-kunci curian.

Menyisipkan kredensial tipuan ke dalam tumpukan konteks data yang dialirkan oleh agen dan alur kerja pemrosesan secara otomatis berfungsi sebagai kabel jebakan alarm apabila setiap deteksi penggunaannya segera direspons sebagai insiden keamanan, dan layanan gratis dari Thinkst Canarytoken sudah sangat memadai sebagai sarana awal. Fitur penyaring otomatis yang membersihkan pola-pola kredensial umum dari dalam teks prompt juga cukup bermanfaat, kendati metode ini tetap tidak berdaya menangkap kebocoran data rahasia bernilai tinggi yang formatnya tidak menyerupai struktur kunci keamanan.