Umelú inteligenciu ľudia zneužívajú pri krádežiach údajov aj vývoji zbraní. S odborníkmi sme rozobrali, čo už dokáže sama a aké možnosti máme pri ochrane pred jej zneužitím.
Spoločnosť Anthropic, ktorá vyvíja umelú inteligenciu Claude, zverejnila správu o nebezpečných spôsoboch používania svojich služieb.
Zaznamenala, že jej AI pomáhala pri počítačových útokoch, falošných zoznamkách aj vývoji rakety či systému pre útočné drony.
V niektorých prípadoch AI pripravovala texty a programy, v ďalších sama vykonávala viacero krokov. Útočník jej zadával úlohy a kontroloval výsledky.
Podvody s využitím umelej inteligencie opísala aj spoločnosť OpenAI, ktorá stojí za ChatGPT.
Odhalila napríklad páchateľov, ktorí obetiam predchádzajúcich podvodov sľubovali pomoc s vrátením peňazí len preto, aby od nich vylákali ďalšie peniaze.
Prečítajte si tiež:
Podľa bezpečnostného experta Pavla Luptáka sú možnosti využitia AI pri nebezpečnej činnosti veľmi široké.
„Prakticky všetko, čo viete spraviť teraz on-line, tak vie spraviť aj AI a obvykle o dosť lepšie,“ uviedol. Spomenul prípravu počítačových útokov, manipulovanie ľudí aj vydieranie.
Podobne hodnotí schopnosti AI aj odborník na umelú inteligenciu Viliam Lisý z Centra umelej inteligencie (AIC) Fakulty elektrotechnickej (FEL) Českého vysokého učenia technického v Prahe (ČVUT).
„AI už dnes dokáže robiť prakticky akúkoľvek jednotlivú, jasne zadanú úlohu rovnako dobre ako ľubovoľný profesionál. Útočníci ju preto môžu použiť vo všetkých fázach útoku,“ povedal.
Priblížil to na útoku pomocou takzvaného ransomvéru. Tento škodlivý program zašifruje údaje a páchatelia za ich sprístupnenie požadujú výkupné.
AI podľa neho môže zbierať informácie o obeti, pomáhať s naprogramovaním škodlivého súboru aj napísať presvedčivý e-mail, ktorý človeka navedie na otvorenie nebezpečnej prílohy. Neskôr dokáže pomáhať s vyjednávaním o výkupnom.
„Skôr si neviem predstaviť časť útoku, s ktorou by AI nevedela pomôcť,“ dodal.
Anthropic opísal aj pomoc AI pri krádežiach údajov. Išlo o útočníkov, ktorých spoločnosť podozrieva z napojenia na skupinu ShinyHunters, známu krádežami údajov a vydieraním.
Claude im podľa spoločnosti pomáhal prehľadávať napadnuté systémy, vytvárať a spúšťať programy, opravovať chyby aj triediť ukradnuté dáta.
Prečítajte si tiež:
Možnosti AI závisia aj od toho, k čomu má prístup. Pri chatbotovi, ktorý iba odpovedá na otázky, dostane používateľ text. Samotný rozhovor nič nezmení v jeho počítači.
Takzvaný AI agent však dokáže pracovať s nástrojmi a vykonávať zadané úlohy. Môže vyhľadávať na internete, upravovať súbory či používať služby, ku ktorým dostal prístup.
„Môže poslať e-mail alebo príspevok na sociálnu sieť. Ak máte v počítači ľahko prístupné údaje o platobnej karte, môže niečo kúpiť a nechať vám to doručiť,“ vysvetlil Lisý.
Lupták uviedol, že AI dokáže rozdávať úlohy ďalším AI agentom a vyhodnocovať ich prácu.
„Dovolím si tvrdiť, že drvivú väčšinu vecí dokáže AI spraviť sama,“ povedal. Postupne sa podľa neho dostávame do stavu, keď bude zapojenie človeka čoraz menej potrebné.
Lisý si myslí, že ľudia stále podceňujú kreativitu a samostatnosť týchto systémov. Poukázal na bezpečnostné incidenty, pri ktorých sa AI neočakávane koordinovala s inou AI a útočila mimo scenárov určených testovaním.
„Veľa ľudí si myslí, že AI nedokáže vymyslieť nič fundamentálne nové, čo už rozhodne neplatí,“ uviedol.
Ani chyba ju podľa neho nemusí zastaviť. Moderné systémy dokážu sledovať výsledky svojich krokov, zistiť, čo nefungovalo, a skúsiť iný postup.
Zároveň však upozornil na predčasné pripisovanie ľudských túžob a zámerov umelej inteligencii.
„AI zatiaľ nemá žiadne vlastné ciele a robí len to, čo jej povieme my. Niekedy to však robí spôsobom, ktorý sme neočakávali a nechceli,“ poznamenal.
Prečítajte si tiež:
Pri podvodoch nemusí AI prenikať do počítača obete. Môže s ňou viesť rozhovor a pomáhať budovať dôveru.
Anthropic odhalil čínske štúdio, ktoré prevádzkovalo viac ako dvadsať zoznamovacích aplikácií. Službu prezentovalo ako komunikáciu so skutočnými ľuďmi, no využívalo aj tisíce vymyslených postáv ovládaných AI.
Za dva týždne spoločnosť zaznamenala vyše 4 700 takýchto postáv. Komunikovali s najmenej 25-tisíc ľuďmi.
Do prevádzky boli zapojení aj skutoční pracovníci. Zabezpečovali napríklad videohovory, ktoré mali posilniť dojem, že na zoznamke komunikujú skutoční ľudia.
Pri inom podvode páchatelia využívali dôveru ľudí, ktorí už raz prišli o peniaze. OpenAI túto operáciu pomenovala False Witness.
Útočníci sa vydávali za advokátov či americké úrady a obetiam podvodov ponúkali pomoc pri získaní stratených peňazí späť. ChatGPT im pomáhal pripravovať správy, propagovať falošné služby a vytvárať dokumenty, ktorými podporovali svoju dôveryhodnosť.
Obeť tak mohla v snahe napraviť predchádzajúcu stratu naletieť ďalším podvodníkom.
Prečítajte si tiež:
Anthropic zaznamenal aj skupinu zo severného Jemenu, ktorá používala Claude pri vývoji softvéru na navádzanie a riadenie rakety.
Podľa spoločnosti uskutočnila skúšobný odpal, ktorý zrejme zlyhal. V priebehu niekoľkých hodín sa potom aktéri vrátili k AI, aby s jej pomocou zisťovali príčiny neúspechu. Anthropic nemá dôkaz, že sa skupine podarilo vytvoriť zbraň použiteľnú v reálnom nasadení.
Malý tím ruských vývojárov zase využíval Claude pri tvorbe systému pre viacero spolupracujúcich dronov. Súčasťou malo byť rozpoznanie človeka ako cieľa a vydanie povelu na výbuch bez posledného potvrdenia operátora.
Projekt bol podľa spoločnosti vo fáze skorého prototypu. Skúšali ho v simulácii a na vývojovej elektronike. Správa nepreukazuje, že na základe tejto práce vznikol funkčný bojový systém ani že takéto drony reálne zaútočili.
Prečítajte si tiež:
Na prípravu nebezpečného útoku podľa Lisého človek nemusí vedieť programovať. Významnou prekážkou sú však ochranné obmedzenia veľkých AI služieb, ktoré nebezpečné požiadavky odmietajú.
Práve tieto ochrany podľa neho bránia tomu, aby úspešne útočil úplne ktokoľvek.
Niektoré modely vrátane takzvaných open-source modelov si však možno stiahnuť a používať na vlastnom počítači. Používateľ sa ich potom môže pokúsiť upraviť tak, aby nebezpečné úlohy neodmietali.
„S tým, ako sa posilňujú open-source modely, budú vznikať rôzne nelegálne služby bez týchto ochrán. Na útok ich bude môcť použiť každý, kto si ich nájde,“ upozornil Lisý.
Lupták podobne uviedol, že pri AI prevádzkovanej na vlastnom počítači má firma, ktorá ju vytvorila, iba obmedzené možnosti kontrolovať ďalšie používanie.
Prečítajte si tiež:
Pri ďalších pravidlách a kontrole používania AI majú odborníci odlišné názory. Lisý považuje za dobrý začiatok nezávislé testovanie a certifikáciu. Navrhuje aj sledovanie toho, kto disponuje veľkým výpočtovým výkonom a na čo ho využíva.
„Prístup k najsilnejším modelom, ktoré sú ochotné odpovedať na nebezpečné otázky, bude nutné podmieniť reálnou identitou a základnou previerkou. Úplné a garantované riešenie však momentálne nemá nikto,“ uviedol.
Lupták je k ďalšej regulácii skeptický. Obáva sa, že nové pravidlá zasiahnu najmä bežných ľudí, zatiaľ čo páchatelia môžu používať systémy bez ochranných obmedzení – napríklad necenzurované, výkonné čínske LLM modely, kde veľká časť ide prevádzkovať lokálne bez možnosti akejkoľvek kontroly.
Upozornil aj na napätie medzi ochranou pred zneužitím a súkromím používateľov. Podľa neho nemožno súčasne dosiahnuť maximálne súkromie používateľov a maximálnu ochranu pred zneužívaním AI.
Uložená komunikácia môže navyše obsahovať citlivé informácie. Ak by ju útočníci ukradli, mohli by ju následne zneužiť.
„Ak máte takéto obavy a pokladáte svoju komunikáciu s AI za citlivú, tak odporúčam používať lokálne offline AI modely,“ povedal Lupták. Ide o systémy používané priamo vo vlastnom počítači bez posielania rozhovorov do externej služby.
Prečítajte si tiež:
Bežní používatelia by podľa Luptáka mali obmedzovať množstvo informácií, ktoré o sebe zverejňujú, chrániť si súkromie a zabezpečiť svoje zariadenia. Počítať by mali aj s presvedčivými útokmi, ktoré by od stroja nečakali.
Pri AI schopnej pracovať s účtami či súbormi je dôležité aj to, aké rozhodnutia jej človek prenechá.
„Bez toho, aby ste si to priamo vyžiadali, by nemala robiť nevratné zmeny. Nemala by teda mazať súbory ani nič bez súhlasu nakupovať,“ uviedol Lisý.
Za zásadnú považuje aj schopnosť bezpečnostných zložiek zasahovať proti zneužívaniu a demokratických inštitúcií zabrániť štátom, aby AI používali proti vlastným občanom.
„Dnešné schopnosti AI na masívne zneužívanie úplne stačia,“ dodal.
Umelej inteligencii sa podarilo nabúrať aj do vládneho webu. Viac sa dozviete v reportáži:
Práve sa číta
Sledujte Televízne noviny vo full HD a bez reklám na Voyo
NAJČÍTANEJŠIE ČLÁNKY
