Model kecerdasan buatan (AI) dan machine learning (ML) telah menjadi alat yang semakin populer untuk berbagai aplikasi, mulai dari natural language processing (NLP), hingga pengenalan gambar (image recognition). Dalam dua tahun terakhir dengan pengenalan platform seperti ChatGPT, model AI sudah tidak lagi asing bagi kita dengar.
Meskipun banyak platform AI/ML yang bersifat closed source dan dihosting di cloud, seperti ChatGPT, ada juga platform open source yang memungkinkan pengguna untuk berkolaborasi dan berbagi model AI/ML, set data, dan aplikasi. Salah satu platform tersebut adalah Hugging Face, yang menyediakan pusat bagi komunitas AI/ML untuk mengembangkan dan berbagi model yang dapat dijalankan secara lokal di mesin pengguna.
Namun, penelitian terbaru telah menimbulkan kekhawatiran tentang potensi risiko penggunaan model AI/ML yang diperoleh dari sumber yang tidak diverifikasi, termasuk yang dibagikan di platform terbuka seperti Hugging Face. Peneliti keamanan di JFrog telah menemukan setidaknya 100 model AI/ML berbahaya di platform Hugging Face, yang diunggah oleh pengguna dan memiliki fungsi berbahaya yang dapat menyebabkan pembobolan data dan serangan espionase. Model-model ini dirancang untuk dijalankan secara lokal di mesin pengguna, yang berarti bahwa mereka berpotensi menjalankan kode dan mendapatkan akses ke informasi sensitif di sistem.
Salah satu model yang diunggah oleh pengguna bernama “baller423,” misalnya, telah ditemukan berisi muatan yang memberikan kemampuan untuk membuat sebuah backdoor yang dapat disambungkan ke sebuah host tertentu.
Hal ini memungkinkan penyerang untuk mengeksekusi kode apapun pada mesin korban, sehingga berpotensi memberikan mereka akses berkelanjutan ke sistem korban. Payload atau isi dari backdoor tersebut menggunakan modul Python bernama pickle, untuk menghindari deteksi, dan menyematkan kode berbahaya di dalam proses serialisasi yang terpercaya.
JFrog menemukan muatan serupa yang terhubung ke alamat IP lain dalam kasus terpisah, yang menunjukkan bahwa operatornya bisa jadi adalah peneliti AI dan bukan peretas. Namun, tindakan mereka masih berisiko dan tidak pantas, karena model berbahaya menjadi tersedia untuk umum dan menimbulkan ancaman nyata bagi pengguna.
Penemuan model-model berbahaya ini menyoroti perlunya peningkatan kewaspadaan dan langkah-langkah proaktif untuk melindungi ekosistem AI/ML. Meskipun Hugging Face memiliki langkah-langkah keamanan, termasuk pemindaian malware, pickle, dan pemindaian rahasia, jelas masih banyak yang harus dilakukan untuk mencegah pengunggahan dan distribusi model berbahaya.
Pengguna harus menyadari potensi risiko penggunaan model AI/ML dari sumber yang tidak terverifikasi dan mengambil langkah-langkah untuk melindungi diri mereka sendiri.
Hal ini termasuk memverifikasi keaslian dan integritas model sebelum menggunakannya, serta menerapkan langkah-langkah keamanan yang kuat untuk mendeteksi dan mencegah potensi serangan. [BleepingComputer]
