Nga Tom Gerken, BBC
Një studiues kryesor i sigurisë në Anthropic ka paralajmëruar se inteligjenca artificiale po përparon kaq shpejt, saqë ka më shumë se 10% mundësi që “mund të vrasë të gjithë njerëzit” brenda dekadës së ardhshme.
Evan Hubinger tha në një postim në X se rreziku nga modelet që ekzistojnë aktualisht ishte “i ulët”, por se ai ishte “i shqetësuar” se teknologjia mund të bëhet së shpejti e aftë të përmirësojë veten deri në atë pikë sa të përbëjë një rrezik ekzistencial për njerëzimin.
Kjo vjen pasi Financial Times raportoi se Anthropic nuk ia kishte dorëzuar modelin e saj më të fundit Institutit të Mbretërisë së Bashkuar për Sigurinë e Inteligjencës Artificiale, një prej institucioneve kryesore në botë për vlerësimin e rrezikut nga inteligjenca artificiale.
BBC i është drejtuar Anthropic për një koment.
Në postimin e tij, i cili është parë 9.6 milionë herë, Hubinger shtoi se “ne vërtet besojmë seriozisht” se inteligjenca artificiale përbën një rrezik që mund t’i japë fund ekzistencës së specieve njerëzore.
“Besoj se Anthropic po përpiqet të bëjë më të mirën e saj, por ne ende nuk kemi një plan për të zgjidhur problemin e përshtatjes së superinteligjencës me qëllimet njerëzore dhe nuk jemi qartësisht në rrugën e duhur për ta bërë këtë”, tha ai.
Figura të rëndësishme të fushës së inteligjencës artificiale kanë ngritur alarmin për vite me radhë lidhur me kërcënimin që kjo teknologji paraqet për sigurinë, ku drejtuesit e OpenAI, Google DeepMind dhe Anthropic e kanë thënë të njëjtën gjë në vitin 2023.
Por këto paralajmërime janë bërë shumë më të forta javët e fundit, ndërsa po dalin prova se kompanitë mund të kenë vështirësi në kontrollimin e inteligjencës artificiale.
Gjatë verës pati një seri incidentesh ku agjentët e inteligjencës artificiale – sisteme të AI-së të lejuara të veprojnë në mënyrë autonome – kryen sulme kibernetike.
OpenAI, Anthropic dhe Meta të gjitha kanë bërë të ditura hakerime të kryera nga mjetet e tyre të inteligjencës artificiale.
Dhe në shtator, shkencëtari kryesor i OpenAI, Jakub Pachocki, bëri thirrje për “kujdes ekstrem” lidhur me përparimin e inteligjencës artificiale, duke paralajmëruar se mund të nevojiten më shumë ndërhyrje për të siguruar që “njerëzit të mbeten në kontroll të së ardhmes”.
Figura të rëndësishme të kësaj fushe kanë bërë thirrje muajt e fundit që zhvillimi i inteligjencës artificiale të ngadalësohet, përfshirë drejtuesit e Anthropic, Dario Amodei dhe Jared Kaplan.
Në një letër të hapur të nënshkruar nga 1.300 punonjës të kompanive të inteligjencës artificiale, ata i bënë thirrje qeverisë amerikane që të “mbështesë një përpjekje ndërkombëtare për të zhvilluar mjetet teknike dhe të qeverisjes të nevojshme për të përcaktuar qëllimisht ritmin e zhvillimit të automatizuar të inteligjencës artificiale në kufijtë e saj më të avancuar”.
