A10 Networks umumkan yang mereka telah ambil alih TrojAI, sebuah syarikat pakar dalam keselamatan AI yang memfokuskan pada perlindungan model, aplikasi dan ejen AI. Langkah ini menunjukkan yang industri keselamatan siber sedang berevolusi, perlindungan bukan saja diperlukan untuk rangkaian dan aplikasi, malahan keseluruhan kerangka AI.
Lindungi AI pada peringkat build time dan runtime
Teras teknologi TrojAI terdiri daripada dua lapisan perlindungan. Lapisan pertama adalah sewaktu build time dan lapisan kedua adalah pertahanan masa nyata.
Dalam fasa build time TrojAI menganalisis kod secara “Ai red teaming” dengan cara mensimulasikan serangan untuk menduga model ataupun ejen bagi mencari sebarang kelemahan. Ia akan mencari output yang boleh dimanipulasi ataupun kebocoran data sebelum sistem AI masuki fasa runtime.
Perlindungan sewaktu runtime pula adalah secara masa nyata iaitu sewaktu sudah aktif. TrojAI akan memantau secara berterusan sebarang serangan dan menghalang sebarang input ataupun proses mencurigakan atau cubaan untuk eksploitasi sistem.
Gandingan kedua-dua lapisan keselamatan ini memastikan AI yang dibangunkan selamat bermula sebelum pelancaran lagi.
Kenapa AI perlukan perlindungan jenis baharu
Kaedah tradisional tidak boleh digunakan oleh sebab model AI tergolong dalam kategori tak terduga. Maknanya, output sistem tidak semestinya sama dengan input dan sukar untuk dijangka. Lebih berbahaya adalah pada ejen AI iaitu sistem yang ada autonomi untuk berfungsi sendiri. Ia mewujudkan risiko baharu kerana tindakan boleh diambil tanpa sebarang campur tangan manusia.
Semua perkara baharu ini akan diintai oleh hacker yang sentiasa mencari lubang untuk memanipulasi sistem. Laporan McKinsey ada nyatakan yang serangan siber berasaskan AI meningkat 1,265% sejak 2023 ataupun lebih tepat selepas ChatGPT masuki arus perdana.
A10 Networks: Daripada keselamatan rangkaian ke keselamatan AI
AI Networks sebelum ini terkenal dengan solusi keselamatan fizikal untuk rangkaian. Pengambil alihan ini menandakan yang mereka memperluas kepakaran mereka ke dalam industri AI untuk melindungi model, data, dan aplikasi berasaskan AI merentasi domain iaitu di awan, di premis, dan juga secara hibrid.
Objektif mereka mudah sahaja. Mereka nak pastikan organisasi yang nak integrasikan AI ke dalam aliran kerja boleh lakukan dengan selamat. Mana taknya, laporan IBM ada kongsikan yang kesan kewangan akibat serangan siber secara puratanya adalah USD4.44 juta.