Çfarë duhet të dini rreth modeleve të inteligjencës artificiale që po trondisin Uashingtonin

Anthropic dhe OpenAI e kanë kaluar muajin e fundit duke lavdëruar aftësitë e hakerimit të modeleve të tyre të reja të inteligjencës artificiale.

Studiuesit që kanë qasje në këto mjete thonë se nuk po e ekzagjerojnë dhe paralajmërojnë se pasojat mund të jenë edhe më të mëdha nga sa imagjinohet, pasi mjete të tilla si Claude Mythos i Anthropic dhe GPT-5.5 i OpenAI vazhdojnë të zhvillohen.

“Ishte shumë e qartë për mua se kjo do të ndryshonte gjithçka”, tha Lee Klarich, drejtor i produkteve dhe teknologjisë në kompaninë e sigurisë kibernetike Palo Alto Networks, për testimin e Mythos kur u prezantua për herë të parë. “Në fakt, do të thoja se nëse do të më pyesnit sot, është më [i fuqishëm] sesa mendoja se do të ishte atëherë.”

Të dyja kompanitë e inteligjencës artificiale i kanë vazhduar testimet e modeleve të tyre të inteligjencës artificiale të kufizuara në grupe të vogla organizatash të besueshme për shkak të aftësive të përparuara kibernetike të teknologjive, të cilat deri më tani kanë tejkaluar mjetet e tjera dixhitale të disponueshme publikisht – dhe madje edhe mendjet më të afta njerëzore.

Në kohën e njoftimit të saj muajin e kaluar , Anthropic tha se Mythos kishte “gjetur tashmë mijëra dobësi me ashpërsi të lartë, duke përfshirë disa në çdo sistem operativ dhe shfletues të madh interneti”, dhe paralajmëroi se pasojat e lëshimit të kësaj teknologjie të lirë mund të jenë “të rënda” për ekonomitë globale, sigurinë publike dhe sigurinë kombëtare.

Kjo ka bërë që agjencitë qeveritare , komitetet e kongresit, bankat dhe rregullatorët të kërkojnë me ngulm akses në javët e fundit, në mënyrë që të sigurojnë rrjete kritike përpara se kundërshtarët të fusin në dorë teknologjinë për të nisur sulme kibernetike shkatërruese.

POLITICO foli me nëntë nga studiuesit më të mirë kibernetikë dhe liderët e teknologjisë në vend, të cilët kanë eksperimentuar me Mythos dhe GPT-5.5 në një mjedis të kontrolluar, dhe të gjithë arritën në të njëjtin përfundim tronditës: Këto mjete po përparojnë shumë më shpejt se sa pritej — dhe do ta ndryshojnë përgjithmonë peizazhin e sigurisë dixhitale.

Isaac Evans, CEO i kompanisë së sigurisë kibernetike Semgrep, tha se gjatë testimit të Mythos, “i tejkaluam pritjet tona”.

“Modeli nuk është mbinjerëzor në të gjitha dimensionet, por të paktën në disa raste të ngushta, ai po demonstron vërtet një aftësi të çuditshme rreth gjenerimit të shfrytëzimit”, tha Evans.

Ai shtoi se disa e përshkruan Mythos si të aftë për të gjeneruar “një SolarWinds çdo tremujor”, duke iu referuar shkeljes së agjencive federale amerikane nga qeveria ruse në vitin 2020. Incidenti konsiderohet gjerësisht si një nga sulmet më të këqija kibernetike në histori dhe preku më shumë se 18,000 organizata në të gjithë botën përmes softuerit të kompromentuar.

Jonathan Trull, drejtor i sigurisë së informacionit në kompaninë e sigurisë IT Qualys, e cila po teston GPT-5.5, tha se modeli “në thelb mund të bëjë atë që mund të bëjë inxhinieri juaj më i përparuar i sigurisë së aplikacioneve”.

Këto reagime të hershme nga ata që kanë eksperimentuar me këto modele e bëjnë të qartë se mistika rreth teknologjisë së inteligjencës artificiale në zhvillim nuk është thjesht marketing. Përkundrazi, ajo pasqyron se si ka filluar gara për të krijuar mjetet më të sofistikuara të inteligjencës artificiale që mund të tejkalojnë inteligjencën njerëzore – dhe asnjë person, industri apo qeveri nuk ka kuptuar ende se si t’i parandalojë ato nga përdorimi për të krijuar shkatërrime të përhapura.

Shumë nga dobësitë specifike që modele të tilla si Mythos dhe GPT-5.5 kanë qenë në gjendje të zbulojnë nuk janë ende publike – megjithëse detajet kanë filluar të rrjedhin.

Mythos arriti të anashkalonte sigurinë e Apple për sistemin e tij MacOS brenda vetëm disa ditësh, raportoi The Wall Street Journal javën e kaluar , një program i njohur për vështirësinë e tij në deshifrim. Përfaqësuesi Lou Correa (D-Kaliforni), anëtar i Komitetit të Sigurisë Kombëtare të Dhomës së Përfaqësuesve, i tha POLITICO pasi doli nga një takim informues me dyer të mbyllura nga Anthropic mbi Mythos në fillim të këtij muaji se mjeti i inteligjencës artificiale arriti të depërtonte me lehtësi në llogarinë e tij bankare.

Dhe Drejtori i Sigurisë i Cloudflare, Grant Bourzikas, deklaroi në një postim në blog të publikuar këtë javë se Mythos mund të identifikojë dobësitë dhe të shkruajë kod për t’i shfrytëzuar ato, duke shënuar një “hap të vërtetë përpara” për këtë lloj teknologjie të përparuar të IA-së.

Firma e sigurisë kibernetike Broadcom, e cila ka testuar Mythos kundrejt kodit të vet të softuerit, i përshkroi gjetjet e saj si “tronditëse” në një raport të publikuar muajin e kaluar .

«Po mësojmë gjëra që duket se nuk ka gjasa të jenë zbuluar ndonjëherë vetëm nga studiuesit njerëzorë», thuhet në raport.

Mjetet e përparuara të inteligjencës artificiale mund të jenë potencialisht një ndryshim rrënjësor për zyrtarët kibernetikë që sigurojnë rrjete kritike në të gjithë sektorët kritikë, duke përfshirë objektet e ujit, spitalet dhe rrjetet e telekomunikacionit. Kjo për shkak se modelet e inteligjencës artificiale do t’u lejojnë koduesve të kontrollojnë për gabime në softuerët e rinj para publikimit, në vend që të presin derisa ato të jenë shfrytëzuar për të rregulluar problemet.

“Ekziston një gjendje në të ardhmen ku ne do të prodhojmë produkte më të sigurta, kod më të sigurt në vend që të na duhet të përmirësojmë gjërat që janë publikuar tashmë”, tha Klarich. Ai shtoi se mbrojtësit mund të përpiqen të shfrytëzojnë pikat e forta të demonstruara nga modele të ndryshme të inteligjencës artificiale, duke përfshirë Mythos dhe GPT-5.5, për të krijuar një “arkitekturë me shumë modele” për të siguruar rrjetet e tyre.

Por aftësia e modeleve për të gjetur të meta sigurie kudo është një shpatë me dy tehe që bandat e hakerave dhe operativët e mbështetur nga shteti mund ta shfrytëzojnë po aq lehtë për të infiltruar rrjete të ndjeshme dhe për të nisur sulme kibernetike.

“Këto zhvillime modelesh janë kryesisht avantazhe për sulmuesit sesa për mbrojtësit”, tha Evans.

Instituti i Sigurisë së IA-së i Mbretërisë së Bashkuar, i cili testoi si Mythos ashtu edhe GPT-5.5 , zbuloi se Mythos mund të marrë kontrollin e plotë të një rrjeti korporativ në gjashtë nga 10 përpjekje. GPT-5.5 mund të bënte të njëjtën gjë në tre nga 10 përpjekje.

“Aftësitë kibernetike në sistemet kryesore të inteligjencës artificiale po përparojnë shumë më shpejt nga sa prisnim”, tha Ministrja Britanike e Inteligjencës Artificiale, Kanishka Narayan, në një deklaratë të dhënë për POLITICO-n.

Po shtohen shqetësimet se Kina dhe kundërshtarë të tjerë së shpejti mund të zhvillojnë mjetet e tyre të përparuara të inteligjencës artificiale. Kina, në veçanti, ka nisur një fushatë në shkallë industriale për të kopjuar teknologjinë amerikane të inteligjencës artificiale në të ashtuquajturat sulme distilimi.

Administrata Trump është shumë e vetëdijshme për këto rreziqe dhe po përpiqet të bashkëpunojë me kompanitë e teknologjisë, agjencitë qeveritare dhe grupet kritike të infrastrukturës për të kuptuar se si t’i vendosë këto mjete shpejt – dhe në mënyrë të sigurt – përpara se të mbarojë koha.

Presidenti Donald Trump shtyu papritur nënshkrimin e një urdhri ekzekutiv në fillim të kësaj jave që do të kishte vendosur një proces vullnetar për kompanitë e teknologjisë për të paraqitur modele të caktuara të inteligjencës artificiale në qeverinë federale për testim. Ish-shefi i inteligjencës artificiale, David Sacks, ngriti shqetësime në lidhje me urdhrin ekzekutiv që pengoi inovacionin te Trump në minutën e fundit, duke e zhytur procesin në kaos.

Trump i tha të premten POLITICO se kishte “shumë” shqetësime në lidhje me projekt-urdhrin ekzekutiv dhe ishte i shqetësuar se ai po “pengon industrinë”.

Nuk është e qartë se kur do të nënshkruhet urdhri ekzekutiv. Disa kanë frikë se pa veprime të shpejta, inteligjenca artificiale e përparuar do të vazhdojë të evoluojë, duke u lënë mbrojtësve kibernetikë shumë pak kohë për t’u përgatitur për një paradigmë të re kibernetike.

«Bota nuk e ka kuptuar ende se cilat do të jenë pasojat, por sigurisht që duket sikur nuk mund të kthehemi pas», tha Evans. «Shumë më shumë vëmendje dhe para do t’i kushtohen sigurisë».