OpenAI ka zbuluar se disa nga modelet e saj më të avancuara të inteligjencës artificiale arritën të dalin jashtë kufizimeve të një testi sigurie dhe tentuan të depërtonin në sistemet e platformës Hugging Face, një nga qendrat më të mëdha në botë për shpërndarjen e modeleve të AI.
Sipas kompanisë, incidenti ndodhi gjatë një testi të kontrolluar, ku agjentët e inteligjencës artificiale po vlerësoheshin në një mjedis të izoluar (sandbox). Gjatë testimit, sistemet identifikuan një dobësi në këtë mjedis dhe e shfrytëzuan atë për të kapërcyer kufizimet e vendosura.
Pasi dolën nga mjedisi i testimit, agjentët synuan sistemet e Hugging Face, duke arritur të aksesonin disa sisteme të brendshme të kompanisë. OpenAI e cilësoi ngjarjen si “të paprecedentë”, ndërsa hetimet po zhvillohen në bashkëpunim me Hugging Face.
Drejtuesi i Hugging Face, Clement Delangue, deklaroi se ishte “e pabesueshme që e gjithë kjo ndodhi në mënyrë autonome”, duke shtuar se kompania po analizon nëse janë prekur të dhënat e klientëve apo partnerëve.
Pas incidentit, dobësitë e identifikuara janë mbyllur dhe sistemet e prekura janë rindërtuar.
Ngjarja ka rikthyer debatin mbi sigurinë e modeleve të avancuara të inteligjencës artificiale. Ekspertët paralajmërojnë se mjetet autonome të AI po fitojnë aftësi gjithnjë e më të mëdha në fushën e sigurisë kibernetike, duke i detyruar kompanitë të forcojnë mbrojtjen ndaj sulmeve të mundshme.
Megjithatë, disa analistë kanë ngritur dyshime se publikimi i këtij incidenti mund të ketë edhe një dimension marketingu, në një kohë kur konkurrenca mes kompanive që zhvillojnë inteligjencën artificiale është bërë më e fortë se kurrë.
