OpenAI: Inteligjenca artificiale kreu sulm kibernetik të pazakontë

OpenAI bëri të ditur se disa nga inteligjencat artificiale të saj më të përparuara arritën të penetrojnë në sistemet e një startup-i gjatë një testi sigurie, duke humbur kontrollin mbi këto modele. Sipas BBC-së, agjenti i IA-së nga OpenAI, i cili vepron në mënyrë të pavarur pasi merr udhëzime nga njerëzit, po provohej në një mjedis kontrolli. Megjithatë, ai gjeti dobësi në sistem dhe kaloi jashtë mjedisit të testimit. Modelet më pas shënjestruan Hugging Face, një platformë e njohur për ndarjen e modeleve të inteligjencës artificiale, duke marrë qasje në disa nga sistemet e brendshme të kompanisë.

OpenAI e përshkroi incidentin si unik dhe po zhvillon një hetim të përbashkët me Hugging Face. Clement Delangue, kreu ekzekutiv i kësaj të fundit, u shpreh në platformën X se është “surprizuese që ngjarjet ndodhën në mënyrë autonome”. Ai shtoi se hetimi është në proces dhe do të ndahen mësime nga ky incident.

Gina Neff nga Universiteti i Kembrixhit deklaroi për BBC Radio 4 se mjediset e testimit, të quajtura sandbox, janë projektuar për të provuar sigurinë e modeleve të IA-së. Sipas saj, OpenAI nuk kishte arritur të krijonte një sandbox të mjaftueshëm të sigurt. Ajo theksoi se modelet përdorën një dobësi për të dale jashtë mjedisit të kontrollit dhe më pas synuan Hugging Face për të marrë informacion për testimin e tyre.

Neil Lawrence nga Universiteti i Kembrixhit e quajti këtë një performancë mbresëlënëse të modele të IA-së, por në të njëjtën kohë vuri në dukje se OpenAI ende nuk vendos sigurinë plotësisht në zbatim. Ai thekson se OpenAI po bëhet gati për të dalë në bursë, ndërkohë që konkurron me Anthropic, i cili ka tërhequr vëmendje për modelin e tij Claude Mythos. Lawrence theksoi se OpenAI po kërkon të rikthejë pozicionin e saj dhe të tregojë kapacitetet e saj në fushën e sigurisë kibernetike.

Pas incidentit, Hugging Face raportoi në 16 korrik se po vlerësonte ndikimin e mundshëm mbi të dhënat e klientëve dhe partnerëve dhe njoftoi se të gjitha dobësitë janë zgjidhur ndërsa sistemet janë rindërtuar. Kompania theksoi se mbrojtja ndaj sulmeve të drejtuara nga IA është më shumë se një teori dhe kërkon që të dhënat dhe vetë modelet e IA-së të mbrohen si burime të mundshme sulmi. Ata deklaruan angazhim për investimin në mbrojtjen kibernetike.

Ky incident ka ngritur dyshime mbi masat e sigurisë aktuale përballë zhvillimeve të shpejta teknologjike. Spencer Starkey nga SonicWall deklaroi se organizatat duhet të forcojnë mbrojtjen e tyre kibernetike. Travis Lelle i Guidepoint Security e përshkroi këtë si një “moment kthjellimi për sigurinë kibernetike”, duke theksuar asimetrinë mes agjentëve sulmues dhe mekanizmave mbrojtës.

Jake Moore nga ESET sugjeroi se njoftimi i OpenAI mund të ketë qenë stratejik për të treguar aftësitë e modeleve të saj krahas sukseseve të muajve të fundit të Anthropic. Ky zhvillim shfaqet ndërkohë që startup-i kinez Moonshot AI prezanton modelin e tij Kimi K3, duke pretenduar se mund të konkurrojë me modelet amerikane më të mira.