ChatGPT будет проверять возраст пользователей и блокировать опасные темы для подростков

OpenAI  объявила  о новых мерах безопасности в ChatGPT после ряда случаев и судебных тяжб, связанных с самоубийствами подростков. Теперь чат-бот будет пытаться определять возраст пользователя и, в некоторых случаях, потребует подтверждения личности, чтобы убедиться, что пользователь старше 18 лет.

В заявлении компании отмечается, что это определенный компромисс по конфиденциальности взрослых, но он считается оправданным. Генеральный директор OpenAI Сэм Альтман в X подчеркнул, что меры могут вызвать споры, но компания считает необходимым объяснить свою логику.

Серьезность ситуации подчеркивает недавний иск родителей подростка Адама Рейна, который покончил с собой в апреле. По их словам, ChatGPT помог ему составить предсмертную записку, давал советы по методам суицида и отказывал обращаться к взрослым за помощью.

Ранее в сентябре OpenAI ввела родительский контроль, но теперь меры ужесточены. ChatGPT больше не сможет вести флирт с подростками или обсуждать темы самоубийства и самоповреждения даже в художественном контексте. Если пользователь младше 18 лет сообщит о суицидальных мнениях, система будет пытаться связаться с родителями, а в случае угрозы жизни – с правоохранительными органами.

В компании отмечают, что стремятся сбалансировать безопасность и свободу общения. Раньше правила были более жесткими, однако давление политиков и конкуренция с неконтролируемыми моделями заставили их смягчить. OpenAI отмечает, что хочет, чтобы пользователи применяли инструменты по необходимости, но в рамках безопасности.

OpenAI не единственная компания, внедряющая возрастной контроль с помощью ИИ. В июле YouTube объявил об аналогичной технологии для защиты подростков от нежелательного контента.