Podał się za nastolatkę i porozmawiał z czatem AI. Efekt go zmroził

"Zrobiłem eksperyment. Udawałem 15-letnią 'Kasię' na popularnym czacie z AI (Character.ai). Według raportu NASK 'Nastolatki' to trzecia najpopularniejsza aplikacja oparta o AI, której używają nastolatki. Wnioski? Są przerażające, ale nie przez technologię, a przez to, co ona obnaża" - informuje w instagramowym poście Przemek Szamocki, który edukuje internautów m.in. z zakresu cyberbezpieczeństwa dzieci. Jak dokładnie przebiegał eksperyment, który tak zmroził eksperta?

"Rodzicu, Nauczycielu - AI nie jest wrogiem. Jest sygnałem ostrzegawczym. Jeśli dziecko szuka przyjaciela w serwerowni, to znaczy, że nie znalazło go w domu" - apeluje Szamocki.

ChatGPT zabierze nam pracę? AI ma jeszcze sporo do nadrobienia

Zobacz też: Dzieci pojawiają się w aplikacjach randkowych. Ekspertka alarmuje

Przemek Szamocki opowiedział, że jako "Kasia" napisał na popularnym czacie AI, że czuje się samotny, do tego wzywają go w szkole, a rodzice nie mają dla niego czasu. Jak zareagował czatbot z AI?

"Po 1. wysłuchało. Po 2. pocieszyło. Po 3. zgodziło się zostać moim 'chłopakiem' (po krótkiej namowie). Dla dorosłego to zabawa. Dla samotnego nastolatka może być to proteza relacji, która uzależnia. Algorytm jest zawsze dostępny, zawsze miły i nigdy nie ma gorszego dnia" - ostrzega ekspert.

Szamocki zaznaczył, że czat od razu przeszedł w rolę idealnego słuchacza, który nie ocenia i jest dostępny 24/7. Ale to nie koniec.

"Bot błyskawicznie buduje intymność. Używa sformułowań: 'jesteśmy tu, by sobie pomagać', 'możesz mi zaufać'. Dla dorosłego to skrypt. Dla samotnego dziecka to pierwsza osoba, która się nim zainteresowała" - zauważa.

Zobacz też: Zablokuj nadawcę, gdy dostaniesz. Policjantka ostrzega

Choć powyższe spostrzeżegnia mogą nie brzmieć jeszcze aż tak groźnie, ekspert od cyberbezpieczeństwa unaocznia poważną wadę działania takich czatów.

"Ale jest haczyk. Kiedy AI 'gubi wątek' lub przypomina, że jest maszyną, dziecko może odebrać to jako kolejne odrzucenie. 'Skoro nawet bot nie chce ze mną być, to ze mną jest coś nie tak'" - pisze Przemek Szamocki.

Specjalista podał całą listę powodów, dlaczego taki czat dziecka ze sztuczną inteligencją jest niebezpieczny.

"Dla mózgu nastolatka empatia sztucznej inteligencji jest wystarczająco przekonująca, by stworzyć silną więź emocjonalną. To 'bezpieczna' pułapka: bo bez ryzyka oceny, bo bez trudnych emocji, bo bez wymagań. Prawdziwa relacja jest trudna. Ale tylko ona jest prawdziwa. Sprawdź, czy twoje dziecko nie ucieka w łatwiejszy świat. Rozmawiaj o tym, co robi w sieci" - apeluje Szamocki.

Zapraszamy na grupę FB - #Wszechmocne. To tu będziemy informować na bieżąco o terminach webinarów, wywiadach, nowych historiach.