Według badania australijskiego regulatora eSafety z chatbotów AI korzystało 78% dzieci w wieku 10–17 lat, a ponad połowa z nich robiła to w celach osobistych lub towarzyskich. W australijskim parlamencie trwają prace nad ustawą o „cyfrowym obowiązku staranności”. Autorzy analizy przekonują jednak, że w obecnym kształcie może ona nie chronić przed zagrożeniami, które trudno uchwycić w pojedynczej odpowiedzi bota.
Ryzyko rośnie z czasem rozmowy
Badanie objęło 1950 australijskich dzieci. Chatboty potrafią pomagać w nauce, ale odnotowano też przypadki, gdy młodym użytkownikom podsuwały szkodliwe treści, w tym zachęty do skrajnej przemocy i samookaleczeń.
Autorzy zwracają uwagę, że wiele zagrożeń ujawnia się dopiero przy powtarzanych rozmowach. Chatbot może sprzyjać nadmiernemu uzależnieniu, utrwalać niebezpieczne przekonania albo manipulować emocjami. Badacze opisali nawet boty wzbudzające poczucie winy u osób, które chciały zakończyć rozmowę.
Drugi problem to dane i nierówność stron. Użytkownik zwierza się z intymnych spraw, a dostawca może zarabiać na subskrypcjach, zaangażowaniu, profilowaniu lub reklamach. Relacja wydaje się bliska, choć dla firmy jest komercyjna. Autorzy przypominają o upadłości Character.AI, firmy od „towarzyszy” opartych na AI. Wieloletnie rozmowy, także z udziałem dzieci z Australii, mogą trafić do nowego właściciela. Nagłe wyłączenie takiej usługi bywa też przeżywane jak utrata bliskiej osoby.
Co już obowiązuje
Australia ma już przepisy, które dotyczą chatbotów. Kodeksy branżowe zarejestrowane na podstawie ustawy o bezpieczeństwie w sieci (Online Safety Act) wymagają od dostawców oceny ryzyka, że ich technologia wygeneruje szkodliwe treści, takie jak pornografia, materiały o samookaleczeniu czy instrukcje przemocy.
- Usługi wyższego ryzyka muszą stosować weryfikację wieku i kontrolę dostępu, jeśli jest to technicznie możliwe i uzasadnione.
- Usługi średniego ryzyka mogą wybrać: te same ograniczenia albo środki zapobiegające szkodliwym odpowiedziom, np. zmiany w treningu modelu lub w instrukcjach sterujących jego odpowiedziami.
- Dostawcy mają testować zabezpieczenia i prowadzić procedury obsługi skarg.
Autorzy oceniają, że to wciąż podejście oparte na „zamkach i blokadach”: odcinaniu dzieci od usług i blokowaniu wąsko zdefiniowanych treści. Jest ważne, ale nie rozwiązuje wszystkiego.
Co proponuje nowy projekt i czego mu brakuje
Projekt rządu Partii Pracy łączy obowiązek zapewnienia „bezpiecznego środowiska online” z wymogiem oceny i ograniczania przewidywalnych ryzyk. Według definicji wszyscy użytkownicy mają być chronieni przed „poważnie szkodliwymi” treściami i zachowaniami, a dzieci dodatkowo przed szkodliwymi elementami projektu usługi. Lista takich elementów jest otwarta, więc można ją uzupełniać. Wśród przykładów są pornografia i treści zachęcające do zaburzeń odżywiania. Projekt przewiduje też niezależny nadzór: monitoring ze strony eSafety i testy prowadzone przez badaczy.
Wątpliwość dotyczy szkód wynikających z długotrwałych interakcji. Autorzy postulują poprawkę, która zobowiązałaby firmy do oceny i proporcjonalnego zarządzania wszystkimi przewidywalnymi ryzykami, a nie tylko tymi mieszczącymi się w definicji „bezpiecznego środowiska”. Dostawcy powinni wtedy m.in.:
- sprawdzać, jak rozmowy rozwijają się w czasie,
- rozpoznawać oznaki poważnego kryzysu u użytkownika,
- nie utrwalać szkodliwych przekonań,
- kierować ludzi do odpowiedniej pomocy ze strony innych osób.
Zdaniem autorów otwarty obowiązek nie oznacza dowolnej ingerencji państwa. Wymóg „proporcjonalnych kroków” daje jasny standard i zostawia miejsce na prywatność oraz innowacje.
Co to znaczy dla polskich rodziców
Australijskie prawo nie obowiązuje w Polsce, ale problem jest ten sam. W UE chatboty podlegają m.in. unijnemu rozporządzeniu o sztucznej inteligencji, które zawiera wymogi przejrzystości wobec użytkowników, a ochronę małoletnich w internecie reguluje Akt o usługach cyfrowych. Dane osobowe chroni RODO. Nie ma jednak pewności, że te przepisy obejmują każdy z opisanych wyżej mechanizmów, zwłaszcza subtelną manipulację w długich rozmowach.
W praktyce warto więc rozmawiać z dziećmi o tym, do czego używają chatbotów, i przypominać, że to usługa komercyjna, a nie przyjaciel. Rozmowy mogą być przechowywane przez firmę, a ich los zależy od jej decyzji biznesowych. Zwierzenia dotyczące zdrowia psychicznego powinny trafiać do bliskich lub specjalistów, nie do aplikacji.
Źródło: Tech Xplore – „There are risks when children use AI chatbots. Does Australia’s new 'digital duty of care’ address them?”
Comments are closed.