Umelá inteligencia nemusí postaviť armádu robotov, aby spôsobila katastrofu. Odborníci na bezpečnosť AI opisujú oveľa prozaickejšie scenáre – útoky na elektrické siete, finančný systém či kritickú infraštruktúru, zneužitie pri vývoji biologických zbraní alebo postupné odovzdávanie vojenských rozhodnutí strojom.
Ide o hypotetické scenáre, nie predpoveď budúcnosti. Debata však naberá na intenzite po tom, čo výskumník, ktorý pracoval pre OpenAI aj Anthropic, odišiel z firmy a verejne varoval pred rizikom superinteligencie.
Denník The New York Post rozdeľuje katastrofické scenáre do niekoľkých oblastí. Prvou je kritická infraštruktúra. Profesor informatiky z Kalifornskej univerzity v Berkeley Stuart Russell upozorňuje, že dostatočne schopný systém s prístupom k digitálnemu svetu by mohol útočiť na elektrické siete, dopravu či finančné trhy. V extrémnom hypotetickom scenári by výpadky elektriny mohli vyradiť komunikáciu, čerpacie stanice, bankomaty či ďalšie služby, od ktorých je moderná spoločnosť závislá.
Nejde však o tvrdenie, že dnešné chatboty niečo také dokážu alebo plánujú. Obavy sa týkajú budúcich systémov, ktoré by mohli mať oveľa väčšiu autonómiu, schopnosť plánovať a prístup k reálnym systémom.
Vírus vytvorený pomocou AI
AI sa už dnes využíva pri vývoji liekov a biologickom výskume. Rovnaké schopnosti by však podľa odborníkov mohli byť zneužité aj opačným spôsobom.
Profesor MIT Max Tegmark sa obáva budúcich systémov schopných pomáhať s návrhom nebezpečných patogénov. Katastrofický scenár by podľa expertov nemusel znamenať, že AI sama niekde v laboratóriu „vyrobí vírus“. Mohla by poskytnúť ľuďom know-how alebo v oveľa pokročilejšej podobe koordinovať jednotlivé kroky prostredníctvom internetu a ľudských sprostredkovateľov.
Aj toto je zatiaľ scenár rizika, nie schopnosť, ktorú by dnešné systémy preukázali v takejto podobe.
Čo ak jej odovzdáme zbrane?
Treťou oblasťou je armáda. AI už dnes vstupuje do vojenských systémov, napríklad pri vyhodnocovaní dát, obrazu zo satelitov a dronov či pri podpore rozhodovania. Obava expertov preto nespočíva iba v predstave, že sa jedného dňa „zlá AI“ nabúra do jadrových zbraní.
Anthony Aguirre z Future of Life Institute upozorňuje aj na postupnejší scenár: ľudia budú čoraz viac rozhodnutí delegovať na stroje, pretože budú rýchlejšie a schopnejšie. V určitom momente by tak ľudská spoločnosť mohla byť od systémov natoľko závislá, že by nad nimi bolo veľmi ťažké získať kontrolu späť.
Výskumník skončil a spustil veľkú debatu
Celá téma získala nový impulz tento týždeň po odchode Jacoba Coxona z Anthropic. Coxon strávil posledné tri roky výskumom AI v OpenAI a Anthropic. Po odchode obvinil obe spoločnosti, že smerujú k vývoju samovylepšujúcej sa superinteligencie bez dostatočného vyriešenia jej bezpečnosti.
Jeho obavy verejne podporili aj ľudia, ktorí v Anthropic naďalej pracujú. Evan Hubinger napísal, že osobne odhaduje pravdepodobnosť, že AI v priebehu nasledujúceho desaťročia zabije všetkých ľudí, na viac ako 10 percent. Zároveň uviedol, že firma zatiaľ nemá vyriešený problém bezpečného zosúladenia superinteligencie s ľudskými cieľmi.
Takéto percento však nemožno interpretovať ako výsledok vedeckého modelu. Pri udalosti, ktorá sa nikdy nestala a zahŕňa technológiu, ktorá ešte neexistuje, nepoznáme objektívnu pravdepodobnosť. Axios preto upozorňuje, že v súčasnosti neexistuje vedecký spôsob, ako vypočítať šancu, že AI vyhubí ľudstvo.
Nie všetci odborníci s katastrofickými scenármi súhlasia
Debata o existenčnom riziku AI je medzi odborníkmi veľmi sporná. Časť výskumníkov považuje stratu kontroly nad budúcou superinteligenciou za jedno z najväčších rizík, ktorým ľudstvo môže čeliť.
Iní namietajú, že takéto scenáre sú príliš špekulatívne a odvádzajú pozornosť od reálnych problémov dnešnej AI. Perry Metzger z Alliance for the Future napríklad pre Washington Post označil katastrofické scenáre za nepravdepodobné a argumentuje, že pokročilá AI môže priniesť obrovské vedecké a ekonomické výhody.
Ani samotné Anthropic netvrdí, že dnešná AI predstavuje bezprostrednú existenčnú hrozbu. Vo svojom najnovšom hodnotení firma podľa Washington Post uznala možnosť budúcich katastrofických rizík, ale súčasné nebezpečenstvo vyhodnotila ako nízke.
