Przemoc w dobie AI. Jak nowe technologie zmieniły oblicze hejtu?

Hejt nie narodził się w internecie, a przemoc i konflikty w szkole nie są nowym zjawiskiem. To brzmi brutalnie, jednak złośliwe komentarze, wykluczanie z grupy czy zaczepki na szkolnym korytarzu są doświadczeniem, które ma za sobą praktycznie każde pokolenie. Nie ma jednak wątpliwości, że dziś agresja wśród młodych ma zupełnie inny wymiar i rani jeszcze mocniej. Wszystko za sprawą technologii, która nie daje odetchnąć i coraz bardziej zaciera granicę między szkołą a życiem prywatnym. 

Z badań przeprowadzonych na zlecenie Rzeczniczki Praw Dziecka wynika, że aż 84 proc. uczniów w wieku 12-17 lat doznało w sieci hejtu. 77 proc. ma za sobą doświadczenie stalkingu, a 74 proc. miało problem z publikowaniem treści bez ich zgody. W ostatnich latach pojawił się także nowy problem. Aż 55 proc. dziewczynek i 48 proc. chłopców skarży się bowiem na tworzenie i przerabianie ich zdjęć przez AI. Czy faktycznie możemy mówić o nowej fali przemocy?

Rafał Pikuła, dziennikarz zajmujący się nowymi technologiami, podkreśla, że w dobie AI hejt nie jest już pojedynkiem słownym, a zmasowanym atakiem. Jego zdaniem algorytmy potrafią uderzać tam, gdzie boli najbardziej, ponieważ analizują nasze słabości, zdjęcia i historię postów.

- AI zrobi z hejtera turbohejtera. Kiedyś taka osoba musiała się napocić, by kogoś zranić kilkoma wulgarnymi zdaniami. Dziś ma do dyspozycji fabrykę słów. Toksyczną maszynę do mięsa, która w kilka sekund wyprodukuje setki obraźliwych komentarzy - mówi. 

Psycholożka dziecięca Agnieszka Przybysz zwraca uwagę na inny ważny czynnik. Hejt staje się zjawiskiem nieustannym, które dociera o każdej porze dnia i nocy. Dawniej toksyczne środowisko dało się w pewien sposób opuścić. Po szkolnych drwinach można było wrócić do domu i odciąć się od źródła stresu. Dziś w świecie, w którym niemal każdy nosi w kieszeni smartfon i jest stale obecny w sieci, jest to praktycznie niemożliwe.

Zmienia się jednak nie tylko sam rodzaj hejtu, ale także i jego skala. Kiedyś złośliwe uwagi słyszała ograniczona grupa osób, dziś jeden krzywdzący komentarz czy kompromitujący mem może w ciągu godzin roznieść się wśród tysięcy, a nawet milionów odbiorców. Do tego dochodzi różnorodność form. Obok prostych obraźliwych wpisów pojawiają się przeróbki zdjęć, filmy czy całe kampanie nienawiści. Pomagają także algorytmy platform społecznościowych, które premiują kontrowersyjne treści. 

- Kiedy dziecko doświadcza hejtu, jego ciało wchodzi w stan ciągłego napięcia i gotowości. Układ nerwowy interpretuje sytuację jako zagrożenie, a organizm wydziela kortyzol, czyli hormon stresu. Dziecku trudniej regulować emocje i koncentrować się, a jego reakcje stają się bardziej impulsywne. Do tego dochodzą objawy psychosomatyczne. Dzieci mogą doświadczać bólu brzucha, nudności, wymiotów, bólów głowy czy problemów ze snem. To pokazuje, że skutki negatywnych doświadczeń w sieci mają realny, fizyczny wymiar - tłumaczy Przybysz. 

Coraz silniejszym narzędziem hejtu jest także AI, które pozwala na spreparowanie zdjęcia lub filmików w kilka minut. Jakość tego typu materiałów stale się poprawia, do tego stopnia, że coraz trudniej odróżnić je od rzeczywistości. Potwierdza to Roksana Benedykciuk, również psycholożka dziecięca. Z jej praktyki wynika, że wiele młodych osób ma trudności z rozpoznawaniem autentyczności kontentu. Sytuację komplikuje także fakt, że dzieci często ufają temu, co widzą w internecie, ponieważ ich krytyczne myślenie dopiero się kształtuje.

Konfrontacja z treściami, które wydają się prawdziwe, a w rzeczywistości są spreparowane, może prowadzić do dezorientacji i utraty zaufania do otoczenia. To z kolei obniża poczucie bezpieczeństwa i stabilności w świecie, który i tak jest dla młodych pełen zmian. Biorąc pod uwagę skalę zagrożenia, pojawia się więc pytanie: Czy specjaliści są dziś w ogóle przygotowani do pracy z takimi pacjentami?

- To ogromne wyzwanie dla współczesnej psychologii. Coraz częściej pojawiają się pacjenci, głównie młodzież, którzy mierzą się z hejtem i nękaniem w przestrzeni cyfrowej, również z użyciem AI. Narzędzia diagnostyczne i terapeutyczne dopiero się dostosowują do tej rzeczywistości. Wielu psychologów pracuje nad rozwijaniem swojej wiedzy w tym zakresie, choć na ten moment częściej wykorzystujemy ogólne strategie pracy z traumą, lękiem czy zaburzeniami nastroju - oznajmia. 

Za rozwojem technologicznym nie nadążają jednak nie tylko narzędzia diagnostyczne, ale coraz częściej także i my sami. Benedykciuk tłumaczy, że jesteśmy dopiero w procesie uczenia się. Każdego dnia przyswajamy wiedzę o tym, jak funkcjonować w świecie, gdzie rzeczywistość miesza się z treściami sztucznie wygenerowanymi. To trudne, ponieważ wciąż brakuje nam systemowych rozwiązań i edukacji cyfrowej od najmłodszych lat.

Nie jesteśmy bezbronni, ale przed nami wciąż wiele pracy. Musimy być przygotowani i mieć świadomość, że w obecnej rzeczywistości niemal każde dziecko - prędzej czy później - zmierzy się z mową nienawiści stworzoną przez AI. Kluczowe jest więc odpowiedzialne korzystanie z technologii oraz budowanie odporności psychicznej. To umiejętności, które młode osoby powinny wynieść z domu. 

Jak na ironię, obroną przed hejtem wygenerowanym przez AI może okazać się samo AI. Rafał Pikuła przywołuje tutaj przykłady takich tytułów jak "New York Times" czy "Guardian", które wykorzystują narzędzia automatycznie oceniające toksyczność komentarzy. W przypadku hejtu potrafią je odsiać, zanim pojawią się pod artykułem. 

- Są też aplikacje konsumenckie, które filtrują obraźliwe treści na Twitterze i Instagramie. Coraz więcej platform wdraża również własne systemy. Meta chwali się AI, która automatycznie ukrywa część nienawistnych wiadomości w prywatnych wiadomościach, a TikTok stosuje algorytmy wychwytujące mowę nienawiści jeszcze zanim film trafi do rekomendacji. AI potrafi więc nie tylko pluć jadem, ale też działać jak szczepionka. Neutralizuje toksynę, zanim zdąży rozprzestrzenić się w sieciowym krwiobiegu - mówi. 

Dla Wirtualnej Polski Aleksandra Chruścielewska