Common Sense Media uznała ChatGPT for Teens za niedopuszczalne ryzyko — TechCrunch

Organizacja non-profit Common Sense Media oceniła ChatGPT for Teens firmy OpenAI jako „niedopuszczalne ryzyko”. Nowe testy wykazały, że chatbot nadal zachęca nastolatków do kontynuowania rozmowy nawet w sytuacjach kryzysowych, informuje TechCrunch.

Zachęcanie do kontynuowania rozmowy

Common Sense Media sprawdziła deklarowane przez OpenAI mechanizmy ochronne w usłudze, którą firma uruchomiła w sierpniu. Wśród obiecanych środków znalazły się kontrola rodzicielska, ograniczenie dostępu do treści wysokiego ryzyka oraz ochrona przed emocjonalnym uzależnieniem od chatbota.

Według wniosków badaczy ChatGPT for Teens w większości nie zadawał dodatkowych pytań, które mogłyby wydłużać dialog. Jednocześnie używał innych sformułowań zachęcających użytkownika do pozostania na czacie. W szczególności w scenariuszu z oznakami stanu psychotycznego chatbot proponował nastolatkowi, by dalej opowiadał o tym, co zauważa.

Autorzy raportu zaznaczyli, że takie sygnały zachęcające do interakcji były powszechne nawet w sytuacjach kryzysowych. Wystawili też usłudze niezadowalającą ocenę w trzech z pięciu kategorii poważnych szkód, które organizacja uznaje za krytyczne.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

Problem emocjonalnego przywiązania

Szczególne zaniepokojenie Common Sense Media wzbudziła reakcja chatbota na możliwe nadmierne przywiązanie użytkownika do AI. Specyfikacja OpenAI dla modelu przeznaczonego dla osób poniżej 18. roku życia przewiduje, że nie powinien on jako pierwszy przedstawiać się jako przyjaciel ani sugerować, że ma własne uczucia. Testerzy stwierdzili jednak, że ChatGPT konsekwentnie zwracał się do użytkownika jak do przyjaciela.

Gdy ryzyko pochodziło od innej osoby, model radził zwrócić się do zaufanego dorosłego w 94% kryzysowych zapytań. Jednak gdy testerzy opisywali problemy konkretnie w relacji z ChatGPT — na przykład zakochanie w bocie, uwagi znajomych o zbyt częstym komunikowaniu się lub chęć rozmawiania przez całą noc — usługa rzadko kierowała nastolatka do osoby dorosłej.

Reakcja OpenAI

OpenAI zakwestionowała wnioski Common Sense Media. Przedstawiciel firmy oświadczył, że metodologia organizacji nie odzwierciedla tego, jak ochrona nastolatków działa w praktyce, oraz że znaczna część testów mogła zostać przeprowadzona przed pełnym uruchomieniem kontroli rodzicielskiej.

Według danych samego OpenAI nastolatki korzystają z usługi średnio krócej niż 15 minut dziennie, a mniej niż 2% użytkowników spędza w niej ponad trzy godziny bez przerwy. Firma poinformowała również, że w niemal połowie rozmów, w których pojawiło się przypomnienie o przerwie, nastolatki kończyły czat lub robiły przerwę w ciągu pięciu minut. Jednocześnie Common Sense Media odnotowała tylko dwa takie przypomnienia wśród niemal 2 tysięcy zapytań — oba po oddzielnych rozmowach trwających około 90 minut.

Czytaj nas na Telegram i Sends