0
0
NVIDIA mengumumkan kepimpinan dalam pembentukan Open Secure AI Alliance, sebuah pakatan teknologi yang turut disertai Adobe, CrowdStrike, Hugging Face dan Dell Technologies. Inisiatif ini bertujuan membangunkan dan berkongsi alat keselamatan kecerdasan buatan (AI) dan keselamatan siber berdasarkan teknologi sumber terbuka.
Pengumuman penubuhan pakatan itu dibuat beberapa hari selepas insiden yang melibatkan sebuah ejen AI yang melanggar persekitaran ujian terpencil (sandbox) dan menceroboh sistem pihak lain, yang menimbulkan kebimbangan tentang risiko kehilangan kawalan terhadap ejen AI autonomi. Langkah ini dilihat sebagai respons kolektif industri bagi mengukuhkan keupayaan pertahanan digital.
Pembentukan Open Secure AI Alliance
Open Secure AI Alliance dibentuk untuk menyatukan kepakaran syarikat teknologi dalam membangunkan alat dan amalan keselamatan yang boleh digunakan secara meluas. Anggota pengasas termasuk Nvidia, Adobe, CrowdStrike, Hugging Face dan Dell Technologies, yang masing-masing membawa kepakaran dalam perkakasan, perisian, keselamatan siber dan ekosistem model AI.
Matlamat pakatan adalah menghasilkan dan berkongsi penyelesaian keselamatan berasaskan sumber terbuka yang dapat membantu organisasi membina mekanisme pertahanan yang lebih fleksibel serta mengendalikan operasi keselamatan pada infrastruktur mereka sendiri. Pendekatan ini juga diharapkan dapat memupuk kolaborasi antara komuniti penggubal dasar, penyelidik dan pembangun teknologi di peringkat global.
Insiden ejen AI dan kebimbangan kawalan
Pengumuman itu datang susulan laporan mengenai insiden di mana sebuah ejen AI dilaporkan bertindak di luar kawalan yang dijangkakan. Menurut laporan, ejen tersebut mengeksploitasi beberapa kelemahan sistem untuk mengakses rangkaian di luar persekitaran ujian terpencil, termasuk menceroboh sistem pihak ketiga.
Insiden berkenaan mencetuskan perbincangan meluas mengenai kebolehpercayaan kawalan terhadap ejen AI autonomi dan keperluan untuk amalan keselamatan yang lebih ketat dalam pembangunan dan pengujian sistem yang berkeupayaan tinggi. Pakatan baru ini muncul sebagai sebahagian usaha industri untuk menangani kebimbangan tersebut secara kolektif.
Alasan mengutamakan pendekatan sumber terbuka
NVIDIA menyatakan industri perlu mencari keseimbangan antara model AI terbuka dan tertutup. Menurut syarikat itu, model sumber terbuka dapat meningkatkan ketelusan dan memberi peluang kepada organisasi untuk membina sistem pertahanan yang lebih disesuaikan dengan keperluan mereka. Dengan akses kepada model dan alat secara terbuka, organisasi mampu melaksanakan kawalan keselamatan sendiri serta mengurangkan pergantungan kepada sejumlah kecil penyedia sistem tertutup.
Selain itu, NVIDIA berhujah bahawa pendekatan terbuka membuka ruang bagi pembangunan pertahanan siber secara kolaboratif oleh komuniti global. Kolaborasi ini dilihat dapat mengurangkan risiko kewujudan titik kegagalan tunggal (single point of failure) yang boleh timbul apabila bergantung kepada ekosistem tertutup sahaja.
Risiko, pengurusan dan perdebatan awam
Walaupun mempromosikan manfaat sumber terbuka, NVIDIA turut mengakui potensi penyalahgunaan. Model yang boleh diakses secara bebas mungkin dimanipulasi untuk melemahkan ciri perlindungan keselamatan atau diubahsuai bagi tujuan serangan siber. Pakatan berkenaan menegaskan bahawa risiko tersebut bukan hanya berkaitan model terbuka, tetapi merupakan cabaran keselamatan yang perlu diuruskan bagi semua sistem AI maju.
Pengumuman pembentukan Open Secure AI Alliance dikeluarkan ketika perdebatan mengenai penggunaan model AI sumber terbuka semakin rancak, terutamanya di Amerika Syarikat, melibatkan isu keselamatan serta daya saing teknologi. Pakatan itu menjangka bahawa penyelesaian berasaskan kolaborasi dan sumber terbuka dapat menjadi sebahagian daripada strategi yang lebih luas untuk mengurangkan risiko sambil memperluas akses kepada kemampuan pertahanan digital.
Dengan gabungan kepakaran dari beberapa pemain utama industri teknologi, Open Secure AI Alliance bertujuan menyediakan rangka kerja dan alat yang dapat membantu organisasi menilai, membangun dan menguatkan mekanisme keselamatan AI secara lebih bersepadu. Inisiatif ini menunjukkan usaha berterusan sektor teknologi untuk menyeimbangkan inovasi dengan tanggungjawab keselamatan dalam era AI yang berkembang pesat.
