Debati për sigurinë e inteligjencës artificiale po përqendrohet gjithnjë e më shumë te mënyra se si testohen modelet përpara se të vihen në dispozicion të publikut. Një nga çështjet kryesore është nëse kompanitë duhet të supozojnë që sistemet mund të komprometohen dhe të ndërtojnë masa mbrojtëse që në fazën e projektimit.
Në raportimin e saj të 12 tetorit, The Indian Express trajton planin e sigurisë së lidhur me drejtuesin e Microsoft, Satya Nadella. Ndër elementet e përmendura janë ndarja e modelit të inteligjencës artificiale nga infrastruktura që drejton veprimet e tij dhe vendosja e kontrolleve të jashtme për të kufizuar sjelljet e rrezikshme.
Kjo qasje synon të shmangë varësinë vetëm nga vetë modeli për të respektuar kufizimet e vendosura. Në vend të kësaj, siguria duhet të mbështetet edhe te mekanizma teknikë që mund të monitorojnë, kufizojnë ose ndalojnë veprimet kur lindin probleme.
Çështja është veçanërisht e rëndësishme për sistemet që përdorin inteligjencën artificiale për të kryer detyra në mënyrë autonome, për të hyrë në mjete digjitale ose për të përpunuar të dhëna të ndjeshme. Megjithatë, efektiviteti i masave të propozuara duhet të vlerësohet përmes testimeve praktike dhe të pavarura.
