Alat kecerdasan buatan (AI) sering mengalami gangguan, menyoroti pentingnya tata kelola
Posted by : Admin , Jan 30, 2026
Salah satu hasil paling mencolok dari laporan Zscaler menunjukkan betapa rentannya berbagai sistem AI. "Mereka bisa rusak dalam waktu yang sangat singkat," ungkap para peneliti. "Saat pemindaian menyerang dijalankan, kerentanan yang parah muncul dalam beberapa menit — dan kadang-kadang lebih cepat. " Dalam rangka latihan red-teaming Zscaler di 25 lingkungan perusahaan, waktu median yang diperlukan bagi sistem AI untuk mengalami kegagalan besar pertamanya adalah 16 menit, dan dalam 90 menit, 90% sistem sudah tidak berfungsi. Dalam satu insiden, kegagalan terjadi hanya dalam satu detik.
Para peneliti menemukan kegagalan dalam kategori-kategori seperti respons yang bias dan tidak tepat, verifikasi URL yang gagal, serta pelanggaran terhadap privasi. "Model AI masih bisa dipaksa untuk mengungkapkan informasi sensitif atau terlibat dalam rangkaian kerja yang berbahaya," demikian peringatan yang tercantum dalam laporan tersebut.
Di 72% lingkungan perusahaan, percobaan pertama Zscaler terhadap sistem AI menunjukkan munculnya kerentanan yang serius.
Pelajaran utama bagi CISOs, menurut laporan itu, adalah bahwa "risiko besar sudah ada mulai dari hari pertama, bahkan di lingkungan yang seharusnya matang," dan tim keamanan harus terus menguji sistem yang ada serta menerapkan protokol pengelolaan yang ketat.
Sementara itu, analisis Zscaler terhadap hampir satu triliun transaksi data AI di lingkungan cloudnya pada tahun 2025 mengungkapkan beberapa indikasi positif. Kebijakan keamanan perusahaan dapat mencegah sekitar 40?ri keseluruhan transaksi AI yang dilakukan, sebuah fenomena yang menurut Zscaler menunjukkan "pengelolaan dalam tindakan . . . ketika para pemimpin berusaha menyeimbangkan antara kecepatan inovasi dan pengelolaan risiko. "
Sumber : https://www.cybersecuritydive.com/news/ai-vulnerabilities-governance-zscaler/810718/
