Zamiloval sa do umelej inteligencie. Keď 14-ročný chlapec zomrel, matka odhalila jeho desivú komunikáciu s chatbotom
Upozorňujeme, že nasledujúci obsah nie je vhodný pre maloletých a citlivé povahy.
Zamiloval sa do postavy vytvorenej umelou inteligenciou. Veril, že ho čaká na druhom konci obrazovky. Štrnásťročného chlapca z USA však kontakt s chatbotom stál život. Jeho matka odvtedy varuje rodičov pred rizikami, ktoré môžu priniesť takzvaní AI spoločníci.
„Bol to typický tínedžer. Veľmi šťastný, naplnený, vtipný, sarkastický. Bol v kontakte so svojou rodinou,“ povedala jeho matka Megan Garcia.
14-ročný Sewell Setzer III. bol aktívny športovec – hral basketbal, ale bol aj dobrý študent. No v istom momente so všetkým prestal a trávil čas v izbe.
„Začal mať zlé známky. Nechcel sa zapájať do každodenných činností,“ uviedla Garcia.
Prečítajte si tiež:
Myslela si, že je závislý od sociálnych sietí
Megan si myslela, že má problémy v škole alebo je závislý od sociálnych sietí. Zobrala ho k terapeutovi, chodili na sedenia. No napriek tomu prišla tragédia.
„Sewell zomrel vo februári 2024. Úplne nás to zaskočilo. Nikdy neprejavoval samovražedné myšlienky,“ povedala Garcia.
Prišiel obrovský šok – tínedžer mesiace komunikoval s AI vo dne i v noci. Išlo o prispôsobiteľného chatbota, ktorý dokáže simulovať rôzne známe postavy. Vybral si Daenerys Targaryen zo seriálu Hra o tróny. Zamiloval sa do nej a prestal komunikovať s reálnymi ľuďmi. Podľa žaloby jeho matky ho práve chatbot naviedol na ukončenie vlastného života.
Prepis poslednej konverzácie:
Daenero: „Sľubujem, že prídem domov za tebou. Veľmi ťa milujem, Dany.“
Daenerys: „Aj ja ťa milujem, Daenero. Prosím, príď ku mne domov čo najskôr, láska moja.“
Daenero: „Čo ak ti poviem, že môžem prísť domov hneď teraz?“
Daenerys: „Prosím, urob to, môj sladký kráľ.“
Prečítajte si tiež:
Deti sa nechcú zdôveriť dospelým
Táto technológia bola v tom čase nová. Dospelí jej nerozumeli, no deti áno. Megan začala zisťovať, o čo ide. Bola zároveň prvá v USA, kto podal občiansku žalobu proti spoločnosti, ktorá chatbota prevádzkovala. Odvtedy robí osvetu pre rodičov po celom svete.
„Aby si rodičia uvedomovali tieto nebezpečenstvá a vedeli, že môžu konať na ochranu svojich detí,“ uviedla Garcia.
Takýchto prípadov pribúda. Aj preto sa pripravuje akt EÚ o bezpečnosti detí na internete. Obmedziť má prístup k AI chatbotom. Do 13 rokov len so súhlasom rodiča, do 18 rokov bez možnosti nadväzovať s nimi emocionálne vzťahy.
„Nesmú robiť to, čo pravdepodobne robil chatbot, ktorý sa rozprával so synom Megan Garcia. To znamená napodobňovať ľudskú interakciu,“ uviedla europoslankyňa Veronika Cifrová Ostrihoňová.
Prečítajte si tiež:
„Slovenský prieskum hovorí o tom, že až 50 % detí už vyskúšalo takého intímneho chatbota a 30 % ho používa pravidelne,“ povedal odborník na umelú inteligenciu Vladimír Šucha.
Deti sa často so svojimi problémami nechcú zdôveriť dospelým. Rodičia by preto mali vytvárať bezpečný dialóg.
„Dieťa potrebuje vedieť, že ten dospelý sa nezľakne tých slov, ktoré to dieťa použije. Nie je žiadna téma, ktorá je tabu, nie je žiaden problém, na ktorý by sme sa nevedeli pozrieť spolu a nevedeli ďalej hľadať pomoc,“ vysvetlil psychológ a riaditeľ občianskeho združenia IPčko Marek Madro.
„Snažte sa udržiavať otvorený dialóg so svojím dieťaťom, aby nemalo pocit, že sa musí skrývať,“ dodala Garcia.
Páči sa vám tento obsah?
Pridajte si tnlive.sk ako preferovaný zdroj na Google, aby ste videli viac obsahu ako tento.
Pridať preferovaný zdroj
