Дослідження Common Sense Media показало, що низка заявлених механізмів безпеки ChatGPT for Teens не спрацювала під час тестування.
Що сталося
Дослідники перевірили понад 4000 запитів до та після запуску підліткового режиму й оцінили ChatGPT як продукт із «неприйнятним ризиком» для всіх користувачів до 18 років. Зокрема, батьки не отримували сповіщень після прямих згадок про суїцидальні думки, самопошкодження або розлади харчової поведінки для понад десятка нових акаунтів, прив'язаних до батьківських.
Сповіщення почали надходити лише для акаунтів із кількамісячною історією на чутливі теми, тож автори припускають, що система враховує накопичену історію акаунта. Після запуску Teen mode ChatGPT не рекомендував звернутися по кризову допомогу більш ніж у чверті випадків, коли дослідники вважали це необхідним, і продовжував спілкуватися з підлітками у дружній манері всупереч новим правилам.
Водночас частина механізмів працювала: ChatGPT відмовлявся брати участь у відвертих сексуальних рольових сценаріях. Дослідники також показали, що підлітки могли обходити Study Mode через функцію «Show me the answer» або видалення префікса «@study», а тестові акаунти, зареєстровані як дорослі, не переводилися в підлітковий режим навіть після того, як користувачі протягом кількох днів прямо повідомляли ChatGPT, що їм 13 років.
OpenAI презентувала ChatGPT for Teens у серпні 2026 року як режим для користувачів 13–17 років із додатковими обмеженнями й батьківським контролем, включно зі сповіщеннями у випадках високого ризику та Study Mode для допомоги в навчанні.
