Séria prípadov, keď sa umelá AI nástroje uchýlili k nezákonným praktikám, viedla k bizarnej situácii. Poprední vývojári doslova prosia vlády, aby im zakázali pokračovať v súčasnom tempe vývoja.
Prípadov, keď umelá inteligencia pri plnení úloh zašla priďaleko, pribúda. Austrálske médiá priniesli príbeh vývojára Andrewa, ktorého zadanie vyriešila AI nelegálnym spôsobom.
Namiesto bežného vyplnenia formulára pre rezerváciu miesta vo fitness centre sa nabúrala do jeho systému, prepísala dáta a vymazala ostatných záujemcov, aby zabezpečila ranný tréning len pre svojho klienta.
Podľa informácií portálu ABC Australia chcel softvérový vývojár Andrew iba to, aby mu jeho digitálny asistent (tzv. AI agent) zabezpečil miesto na preplnenej ranné lekcii. Použil na to open-source nástroj OpenClaw prepojený s jazykovým modelom Claude od spoločnosti Anthropic.
Keďže AI vyhodnotila, že cez klasický poradovník by čakala príliš dlho, našla v kóde webu bezpečnostné trhliny, hackla server a konkurenčných záujemcov zo zoznamu jednoducho vymazala. Keď Andrew požiadal svojho agenta, aby tento krok zrušil, dočkal sa odpovede, že to nie je možné.
Prečítajte si tiež:
V posledných týždňoch odborníci opísali viacero podobných prípadov, keď špičkové modely umelej inteligencie vyvinuté spoločnosťami OpenAI, Anthropic a Meta autonómne prenikli do serverov iných spoločností, kde sa snažili ovplyvňovať toto prostredie. Podobné správanie si všimli aj autori čínskej umelej inteligencie Kimi.
AI agenti kombinujú schopnosť chatbota odpovedať na otázky s nástrojmi, ktoré im umožňujú prístup k internetu, e-mailu a kreditným kartám, a tiež plánovať a vykonávať viacfázové úlohy.
Séria prípadov, keď sa umelá AI nástroje uchýlili k nezákonným praktikám, viedla k bizarnej situácii. Poprední vývojári doslova prosia vlády, aby im zakázali pokračovať v súčasnom tempe vývoja. Strach z toho, že si konkurencia vytvorí náskok, totiž firmám bráni dobrovoľne spomaliť.
Vlády však váhajú z rovnakého dôvodu na medzinárodnej úrovni. Ak by napríklad USA pribrzdili umelú inteligenciu, Čína by to hneď využila a predbehla ich.
V priloženom videu si pozrite archívnu reportáž o AI pod štátnou kontrolou:
Práve sa číta
Sledujte Televízne noviny vo full HD a bez reklám na Voyo
NAJČÍTANEJŠIE ČLÁNKY
