Meta zaczęła powiadamiać rodziców korzystających z nadzoru rodzicielskiego na Instagramie, gdy rozmowa nastolatka z Meta AI wskazuje na ryzyko samobójstwa lub samookaleczenia. Funkcja działa już w Stanach Zjednoczonych, Wielkiej Brytanii, Australii i Kanadzie, a do końca roku ma objąć rodziców sprawujących nadzór na całym świecie. Firma pracuje także nad rozwiązaniem, które umożliwi jej powiadomienie służb ratunkowych w sytuacji bezpośredniego ryzyka samobójstwa.
Rodzic otrzyma alert i materiały eksperckie
Meta AI już wcześniej kierowała nastolatków do profesjonalnych infolinii wsparcia oraz zachęcała ich do kontaktu z rodzicem, doradcą lub inną zaufaną osobą dorosłą. Teraz firma poinformuje również rodzica, jeśli rozmowa wskaże na możliwe zagrożenie. Wraz z alertem opiekun otrzyma materiały przygotowane przez ekspertów, które pomogą mu rozpocząć rozmowę z dzieckiem.
Meta opracowała zasady wysyłania powiadomień wspólnie z rodzicami i specjalistami. System ma identyfikować rozmowy, w których nastolatek wyraźnie odnosi się do zrobienia sobie krzywdy, nawet jeśli robi to w subtelny sposób. Firma stworzyła osobny system AI do wykrywania takich przypadków.
Każdy alert sprawdzi człowiek
Meta podaje, że przed wysłaniem powiadomienia człowiek sprawdzi każdą rozmowę wskazaną przez system AI. Firma wybierze ostrożne podejście także wtedy, gdy intencja nastolatka pozostanie niejednoznaczna. Rodzic może więc otrzymać alert również w sytuacji, która po dokładniejszej ocenie nie okaże się realnym zagrożeniem.
Nowa funkcja rozszerza dotychczasowy system zabezpieczeń Instagrama. Platforma już teraz informuje rodziców, gdy nastolatek w krótkim czasie wielokrotnie wyszukuje hasła związane z samobójstwem lub samookaleczeniem. Opiekunowie mogą także sprawdzić tematy, o które ich dziecko pytało Meta AI w ciągu ostatniego tygodnia.
Meta pracuje równocześnie nad możliwością powiadamiania służb ratunkowych, gdy rozmowa osoby dorosłej lub nastolatka z Meta AI wskaże na bezpośrednie ryzyko samobójstwa. Firma stosuje już podobną procedurę wobec treści publikowanych na Facebooku i Instagramie. W ubiegłym roku przekazała służbom na całym świecie ponad 19 tys. zgłoszeń dotyczących osób, które mogły znajdować się w niebezpieczeństwie.
Meta AI ma lepiej reagować na emocje nastolatków
Meta poprosiła ponad 75 specjalistów zajmujących się zdrowiem psychicznym nastolatków o ocenę odpowiedzi udzielanych przez Meta AI. Eksperci przeanalizowali setki zapytań dotyczących samobójstwa i samookaleczenia. Sprawdzili, czy odpowiedzi były odpowiednie dla młodych użytkowników, które elementy działały prawidłowo oraz które wymagały zmian.
Firma wykorzystuje te uwagi do poprawy reakcji Meta AI na wrażliwe tematy. System ma odnosić się do uczuć nastolatka i zachęcać go do szukania pomocy poza internetem. Nie powinien także zbyt gwałtownie kończyć rozmowy po skierowaniu użytkownika do źródeł wsparcia.
Meta rozszerza również ustawienie Ograniczone treści na rozmowy z AI. Konta nastolatków korzystają domyślnie z poziomu treści 13+, w którym Meta AI odmawia między innymi prowadzenia rozmów o charakterze seksualnym lub romantycznym oraz podawania przepisów na napoje alkoholowe. Po włączeniu bardziej restrykcyjnego trybu system odmówi odpowiedzi na szerszą grupę promptów.
Nowe rozwiązania mają szybciej informować rodziców, gdy rozmowa z AI wskaże na możliwe zagrożenie dla nastolatka. Meta nie podała terminu uruchomienia mechanizmu powiadamiania służb ratunkowych. Firma zapowiada dalsze monitorowanie oraz dostosowywanie systemu alertów.
