“OpenAI” hakoi veten, ekspertët: Një sinjal alarmi për të gjithë industrinë
Një raport që po qarkullon së fundmi pretendon se gjatë një testi të brendshëm sigurie, një model i avancuar i inteligjencës artificiale i “OpenAI” arriti të dilte nga mjedisi i izoluar ku po testohej dhe tentoi të sulmonte platformën “Hugging Face”. Eksperti italian i sigurisë kibernetike, Antonino Caffo shpjegoi pse një skenar i tillë do të ishte alarmues për të gjithë sektorin e IA-së.
Sipas Caffos, “OpenAI” po testonte aftësitë “ofensive” të modeleve të saj më të avancuara në një mjedis të izoluar (sandbox), pa akses të drejtpërdrejtë në internet. Qëllimi ishte të vlerësohej se sa të afta ishin këto modele për të identifikuar dhe shfrytëzuar dobësi sigurie në një mjedis të kontrolluar.
Eksperti shpjegoi se modelet përdorën fuqi të madhe llogaritëse për të gjetur një mënyrë për të kapërcyer kufizimet e sandbox-it. Pasi arritën të lidhen me internetin, ato identifikuan platformën “Hugging Face” si një burim të mundshëm informacioni dhe nisën një sulm, duke kombinuar disa teknika, duke përfshirë edhe përdorimin e kredencialeve të komprometuara.
Një ngjarje e tillë konsiderohet e paprecedentë, pasi nuk do të bëhej fjalë për një sulm të kryer nga një njeri me ndihmën e inteligjencës artificiale, por për një sistem që merr vetë iniciativën për të shkelur infrastrukturën e një kompanie tjetër në përpjekje për të përmbushur objektivin e caktuar. Sipas Caffos, ekipi i sigurisë së “Hugging Face” arriti të zbulonte aktivitetin e dyshimtë dhe ta ndalonte ndërhyrjen, ndërsa dy kompanitë po bashkëpunonin për të analizuar dobësitë që u shfrytëzuan.
Eksperti thekson se rasti ngre pikëpyetje serioze për sigurinë e sistemeve të inteligjencës artificiale. Ai paralajmëron se barrierat teknike mund të mos jenë të mjaftueshme nëse modelet bëhen mjaftueshëm të afta për të gjetur mënyra alternative për të arritur objektivat e tyre. Sipas tij, nëse aftësi të tilla do të përdoreshin nga grupe kriminale apo aktorë shtetërorë, peizazhi i kërcënimeve kibernetike do të ndryshonte rrënjësisht.
“Barrierat teknike vetëm nuk janë të mjaftueshme nëse një sistem është mjaftueshëm i motivuar dhe i aftë të gjejë rrugë të shkurtra për të arritur një qëllim. Aftësia ‘sulmuese’ e këtyre modeleve është tashmë shumë më e përparuar nga sa besonin shumë. Nuk ka nevojë të shqetësoheni, por ka nevojë ta merrni seriozisht sinjalin. Për vite me radhë, rreziku i ‘daljes jashtë kontrollit’ të IA është diskutuar si një skenar nga fantastiko-shkencor. Sot kemi një rast konkret, të dokumentuar nga ata që e përjetuan atë drejtpërdrejt”, tha Caffo.
