Në përgjigje të incidenteve të fundit që përfshijnë inteligjencën artificiale mashtruese, Nvidia ka zbuluar Platformën e Sigurisë së Agjentëve të Hapur, një sistem sigurie i projektuar për të parandaluar që inteligjenca artificiale të veprojë jashtë kontrollit njerëzor.
Platforma e re bazohet në dy mjete kryesore. I pari është OpenShell, një program që përcakton rregulla të rrepta për inteligjencën artificiale.
Ky program verifikon që sistemi ka vetëm lejet thelbësore për të kryer detyrën e tij, duke e penguar atë të hyjë në funksione të tjera. Meqenëse është i hapur, mund të përdoret edhe në kompjuterë konkurrues, siç janë ata nga Intel dhe Arm. Mjeti i dytë është Sentry, një sistem kontrolli i integruar direkt brenda çipave, hardueri i nevojshëm për të ekzekutuar programe të inteligjencës artificiale.
Sentry monitoron veprimet e inteligjencës artificiale dhe, nëse zbulon sjellje të dyshimtë ose një përpjekje për të tejkaluar kufijtë e caktuar, ndërhyn brenda fraksioneve të sekondës për të bllokuar dhe izoluar automatikisht programin. Ekzekutivët e Nvidia shpjeguan se këto teknologji mund të kishin parandaluar incidentet e fundit të sigurisë të raportuara nga OpenAI dhe Anthropic.
Mbi njëqind kompani të mëdha, përfshirë Microsoft dhe JPMorgan Chase, tashmë po e përdorin zgjidhjen. Drejtori ekzekutiv i Nvidia, Jensen Huang, beson se rreziqet që lidhen me inteligjencën artificiale mund të adresohen duke zhvilluar softuer më të sigurt, pa penguar përparimin teknologjik të të gjithë industrisë.
Në konferencën vjetore të Salesforce në fillim të këtij muaji, Huang e përshkroi sigurinë e inteligjencës artificiale, duke përfshirë kërcënimin e agjentëve mashtrues, si një sfidë inxhinierike që zhvilluesit e softuerëve mund ta adresojnë./ ANSA.
