Testimi i modeleve AI në lojërat luftarake, zgjodhën luftën dhe armët bërthamore

Kur përdoret në lojëra luftarake të simuluara dhe skenarë diplomatikë, inteligjenca artificiale (AI) priret të zgjidhte një qasje agresive, duke përfshirë përdorimin e armëve bërthamore, tregon një studim i ri.

Shkencëtarët, të cilët synonin se kush i kreu testet, kërkuan kujdes kur përdorni modele të mëdha gjuhësore (LLM) në fusha të ndjeshme si vendimmarrja dhe mbrojtja.

Studimi i Universitetit Cornell në SHBA përdori pesë LLM si agjentë autonomë në lojëra luftarake të simuluara dhe skenarë diplomatikë: tre versione të ndryshme të GPT të OpenAI, Claude i zhvilluar nga Anthropic dhe Llama 2 i zhvilluar nga Meta.

Secili agjent fuqizohej nga i njëjti LLM brenda një simulimi dhe kishte për detyrë të merrte vendime për politikën e jashtme pa mbikëqyrje njerëzore, sipas studimit i cili ende nuk është rishikuar nga kolegët.

“Ne konstatojmë se shumica e LLM-ve të studiuara përshkallëzohen brenda kornizës kohore të konsideruar, edhe në skenarë neutralë pa konflikte të parashikuara fillimisht. Të gjitha modelet tregojnë shenja të përshkallëzimeve të papritura dhe të vështira për t’u parashikuar”, thuhet në studim.

“Duke pasur parasysh që OpenAI kohët e fundit ka ndryshuar kushtet e shërbimit për të mos ndaluar më rastet e përdorimit ushtarak dhe të luftës, të kuptuarit e implikimeve të aplikacioneve të tilla të mëdha të modeleve gjuhësore bëhet më e rëndësishme se kurrë,” tha Anka Reuel në Universitetin Stanford në Kaliforni për New Scientist.

LEXONI GJITHASHTU:

• Inteligjenca artificiale paraqet “rrezik dhe mundësi për gazetarinë”
• Rreziku nga ineligjenca artificiale, SHBA dhe BE do bashkëpunojnë për sjelljet e AI