Një model i inteligjencës artificiale i zhvilluar nga Anthropic ka identifikuar dobësi në sistemet kompjuterike shumë të ndjeshme të qeverisë amerikane gjatë një ushtrimi testimi, tha një zyrtar amerikan për Associated Press.
Zyrtari, i cili foli në kushte anonimiteti, tha se Anthropic ishte bashkuar me agjencitë e inteligjencës amerikane për të kryer testet duke përdorur modelin Mythos të kompanisë.
Ai identifikoi dobësi të caktuara brenda disa orësh, megjithëse kjo nuk do të thotë se modeli ishte në gjendje t’i shfrytëzonte ato brenda asaj kohe, tha zyrtari, transmeton Telegrafi.
Testimi u krye përmes një iniciative Anthropic të quajtur Project Glasswing, e cila bashkoi kompanitë e teknologjisë në një përpjekje për të siguruar softuerin kritik nga pasojat “e rënda” që Mythos mund të paraqiste për sigurinë publike, sigurinë kombëtare dhe ekonominë.
Senatori demokrat Mark Warner i Virxhinias e kishte përmendur shkurtimisht testimin gjatë një seance dëgjimore më 11 qershor para Komitetit të Senatit për Bankat, Strehimin dhe Çështjet Urbane.
“Ky mjet depërtoi në pothuajse të gjitha sistemet tona të klasifikuara, jo brenda javësh, por brenda orësh”, tha ai, duke ia atribuar informacionin kreut të Agjencisë së Sigurisë Kombëtare (NSA) dhe Komandës Kibernetike të SHBA-së, gjeneralit Joshua Rudd.
Pavarësisht bashkëpunimit midis Anthropic dhe agjencive amerikane, tensionet midis kompanisë me seli në Kaliforni dhe administratës Trump janë rritur.
Anthropic ka ngritur shqetësime se si ushtria amerikane do ta përdorë inteligjencën e saj artificiale, ndërsa administrata ka ndërmarrë hapa për të kufizuar përdorimin e disa prej modeleve të saj.
Më parë këtë muaj, administrata lëshoi një direktivë që i kërkonte Anthropic të parandalonte shtetasit e huaj të përdornin modelet e saj më të fundit, të njohura si Fable 5 dhe Mythos 5.
Anthropic e publikoi gjerësisht Fable këtë muaj – një version i kufizuar i Mythos më të përparuar, për të cilin kompania ka kufizuar rreptësisht aksesin për shkak të shqetësimeve për sigurinë kibernetike.
Direktiva erdhi 10 ditë pasi presidenti Donald Trump nënshkroi një urdhër ekzekutiv, që krijonte një kornizë për qeverinë federale për të verifikuar rreziqet e sigurisë kombëtare të paraqitura nga sistemet më të përparuara të inteligjencës artificiale deri në një muaj para publikimit të tyre.
Pjesëmarrja nga zhvilluesit e inteligjencës artificiale do të ishte vullnetare, tha urdhri.
Anthropic tha se i çaktivizoi modelet që të gjithë klientët të përmbushnin direktivën, por shtoi se nuk besonte se hapat e qeverisë ishin të justifikuar nga shqetësimi i sigurisë që kishte sinjalizuar.
Më shumë se 100 ekspertë të sigurisë kibernetike dhe drejtues nga kompani, përfshirë Adobe dhe Nvidia, i kanë shkruar qeverisë duke i kërkuar asaj të heqë direktivën, duke paralajmëruar se ky veprim mund t’u sjellë më shumë dobi kundërshtarëve amerikanë sesa dëm.
Në letrën e tyre, nënshkruesit thanë se modelet Mythos të Anthropic janë “mjaft të mira” në gjetjen e të metave të softuerit dhe shfrytëzimin e armëve – por “jo veçanërisht të mira në këto detyra”.
Shumë thanë se përdorin rregullisht modele të tjera fondacioni dhe me burim të hapur për auditime dhe trajnime sigurie, dhe paralajmëruan se ishte e rrezikshme të hiqeshin aftësitë më të mira të mbrojtjes kibernetike “pa një arsye të mirë” në një kohë kur kundërshtarët e Amerikës po përparojnë me shpejtësi. /Telegrafi/