Inteligjenca artificiale mund të bëhet e aftë për të zhdukur njerëzimin brenda dekadës

Inteligjenca artificiale ka mbi 10% shanse që të zhdukë njerëzimin brenda dekadës së ardhshme. Evan Hubinger, studiues në Anthropic, që punon për përafrimin e sistemeve të përparuara të IA-së me interesat njerëzore, e bëri këtë vlerësim pasi kolegu i tij, Jacob Coxon, dha dorëheqjen nga frika se kompanitë kryesore të teknologjisë po shkojnë drejt sistemeve që mund të mos jenë në gjendje t'i mbajnë nën kontroll.

"Ne me të vërtetë besojmë se IA mund t’i vrasë të gjithë njerëzit," shkroi Hubinger në X. "Unë personalisht mendoj se kjo mundësi është >10% brenda dekadës së ardhshme." Ai shtoi se Anthropic "po përpiqet me të gjitha forcat", por ende nuk ka një plan për kontrollin e sigurt të superinteligjencës dhe "nuk është qartësisht në rrugën e duhur" për të gjetur një të tillë.

Hubinger vë në dukje se ndërsa modelet aktuale të IA-së paraqesin rrezik të ulët, ekziston shqetësimi se sistemet e ardhshme mund të fillojnë të përmirësohen në mënyrë rekursive, duke u bërë shpejt më të afta se njerëzit përpara se të zhvillohen masa mbrojtëse të përshtatshme.

Jacob Coxon, i cili më parë ka punuar në OpenAI, njoftoi largimin e tij nga Anthropic në fillim të shtatorit, duke akuzuar të dy kompanitë se e kanë injoruar rrezikun dhe "po garojnë drejt superinteligjencës vetëpërmirësuese, duke luajtur me jetën tonë".

"Njerëzit që ndërtojnë IA-në besojnë sinqerisht se ajo mund të na vrasë të gjithëve deri në fund të dekadës", shkroi ai, duke këmbëngulur se ky paralajmërim nuk është aspak një truk marketingu.

Coxon i tha Wall Street Journal se skenarët më agresivë parashikojnë që gjërat të dalin "jashtë kontrollit" që në fund të vitit 2027.