AI mund të prodhojë të dhëna të rreme për avionët luftarakë

Inxhinierët kinezë kanë paralajmëruar për rreziqet e përdorimit të modeleve të inteligjencës artificiale në analizën e inteligjencës ushtarake dhe projektimin e avionëve luftarakë.

Në një studim të publikuar më 20 qershor, Zhang Xianzhe, inxhinier në Institutin e Kërkimit dhe Dizajnit të Avionëve AVIC Chengdu, zhvillues i avionëve J-20 dhe J-36, zbulon se modelet e mëdha gjuhësore mund të prodhojnë të dhëna të besueshme në dukje, por të pasakta. Sipas tij, IA mund të shpikë specifikime për avionët, të gabojë në vlerësimin e radarëve dhe frekuencave, apo edhe të krijojë baza ushtarake, njësi dhe lëvizje ushtarake që nuk ekzistojnë.

Ky fenomen, i njohur si “halucinacioni” i IA-së, mund të ketë pasoja veçanërisht të rënda në fushën e mbrojtjes. Zhang paralajmëron se përdorimi i informacionit të pasaktë mund të çojë në vlerësime të gabuara të kapaciteteve ushtarake dhe, në skenarë ekstremë, edhe rrjedhimisht edhe në vendime strategjike të gabuara.

Sipas studimit, problemet lidhen edhe me faktin se modelet gjuhësore nuk trajnohen gjithmonë me burime ushtarake autoritative. Si pasojë, ato mund të propozojnë materiale që nuk përballojnë kushtet reale, manovra që bien ndesh me parimet e aerodinamikës ose plane misioni që tejkalojnë kapacitetet reale të një avioni.

Incidente të kësaj natyre kanë ndodhur tashmë. Në mars të vitit 2026, një sulm amerikan ndaj Iranit goditi një shkollë, duke vrarë më shumë se 175 fëmijë. Të dhënat e vjetruara - ndërtesa ishte ende e shënuar si një objektiv ushtarak - dhe një sistem IA që e kishte shënuar atë si me përparësi të lartë u bënë shkaku për goditjen e gabuar.

Sipas zyrtarëve, njerëzit morën vendimin përfundimtar, por shpejtësia dhe vëllimi i inteligjencës së përpunuar nga IA ngrenë dyshime serioze nëse analistët e vijës së parë mund të verifikojnë plotësisht çdo objektiv të rekomanduar nga IA në kohë.

Zhang rekomandon që përdorimi i IA-së në inteligjencën mbrojtëse të shoqërohet me baza të dhënash të besueshme, baza njohurish të verifikueshme dhe kontroll të kryqëzuar të informacionit. Sipas tij, qëllimi duhet të jetë zhvillimi i sistemeve më të sigurta, më të sakta dhe më të besueshme për përdorim në teknologjinë dhe inteligjencën ushtarake.