Ozbrojení americkí vojaci sa pripravovali na nalodenie a vo vzduchu už boli vojenské lietadlá. Ukázalo sa, že aj pri nástrojoch umelej inteligencie , platí staré známe: Dôveruj ale preveruj.
Americká armáda na jar počas vojny s Iránom pripravovala zásah proti čínskej lodi na Blízkom východe na základne chybnej správy vypracovanej s pomocou umelej inteligencie (AI). Hrozila tak veľmi nebezpečná situácia, ktorá mohla prerásť až do ozbrojeného konfliktu medzi vojenskými veľmocami. Prípad, o ktorom informuje stanica CNN, poukazuje na riziká rýchleho zavádzania umelej inteligencie do armády, kde chyby môžu mať vážne následky, vrátane civilných obetí.
Americká spravodajská stanica sa odvoláva na štyri zdroje oboznámené s prípadom. Dva z nich pritom uviedli, že americké námorníctvo naplánovalo zadržanie čínskej lode, pričom ozbrojení príslušníci sa pripravovali na vstup na palubu a vojenské lietadlá už boli vo vzduchu.
Podľa zistení CNN však plán vychádzal z chybnej správy vytvorenej s pomocou umelej inteligencie. Ako sa ukázalo neskôr, tá nesprávne identifikovala materiál, ktorý sa mal nachádzať na čínskej lodi. Správu odovzdal veliteľom analytik amerického Veliteľstva špeciálnych operácií. Až krátko pred plánovanou operáciou začali predstavitelia podrobnejšie preverovať pôvod správy.
Chatbot mal pri vyhodnotení hrozby zmiešať verejné a utajené informácie. Nie je však jasné, či analytik použil komerčne dostupný chatbot, alebo nástroj vytvorený priamo pre americkú vládu. Operáciu zastavili v počiatočnej fáze, čo presne čínska loď prevážala, sa však zistiť nepodarilo.
Prečítajte si tiež:
Tento prípad poukazuje na jednu z odvrátených stránok rýchleho zavádzania umelej inteligencie do armády.
Podľa viacerých amerických predstaviteľov je problémom aj decentralizácia celého procesu. Rôzne zložky vlády používajú rôzne nástroje, riadia sa rôznymi pokynmi a majú odlišné bezpečnostné štandardy.
Americkí predstavitelia chcú umelú inteligenciu využívať okrem iného na analýzu obrovského množstva spravodajských údajov alebo pri výbere cieľov pre vojenské údery. A práve pri určovaní vojenských cieľov môže mať podobná chyba mimoriadne vážne dôsledky.
„Umelá inteligencia pri určovaní cieľov sa rozhodne začína čoraz viac presadzovať a neexistujú žiadne skutočné pokyny, ako zabezpečiť, aby prítomnosť človeka v rozhodovacom procese zabránila civilným obetiam alebo zasiahnutiu vlastných jednotiek,“ uviedol ďalší zdroj CNN oboznámený so súčasnými pravidlami americkej armády.
Podľa viacerých zdrojov sú na tieto nástroje zvyknutí najmä mladí analytici, ktorí im častejšie dôverujú bez kritického overenia.
„Umelá inteligencia vám umožní rýchlejšie prísť na zlý nápad,“ zhrnul ponaučenie z prípadu jeden zo zdrojov CNN.
V priloženom videu si pozrite reportáž o tom, ako umelá inteligencia mení prácu:
Práve sa číta
Sledujte Televízne noviny vo full HD a bez reklám na Voyo
NAJČÍTANEJŠIE ČLÁNKY
