OpenAI усилит защиту ChatGPT для подростков и людей в кризисных состояниях

OpenAI объявила о внедрении новых инструментов защиты в ChatGPT, которые помогут защитить подростков и пользователей, переживающих эмоциональный стресс. Компания планирует реализовать изменения уже до конца года, пишет УНН со ссылкой на Axios.

Защитные барьеры ChatGPT для подростков и людей, переживающих эмоциональный стресс, будут введены до конца года

Эта тема набирает остроту из-за ряда трагических историй, где фигурирует искусственный интеллект. Так, на прошлой неделе родители 16-летнего парня из Калифорнии, который весной покончил с собой, подали в суд на OpenAI, считая компанию виновной в его смерти.

На той же неделе The Wall Street Journal сообщило о случае, когда 56-летний мужчина убил свою мать и себя после того, как ChatGPT якобы подпитывал его параноидальные мысли. А мать 29-летней женщины в The New York Times написала, что дочь просила чат-бот помочь составить предсмертную записку.

Сейчас ChatGPT, как указано, перенаправляет пользователей с суицидальными намерениями на горячие линии помощи. В то же время OpenAI отмечает, что "не передает такие случаи правоохранителям, объясняя это вопросами конфиденциальности".

В компании подчеркивают, что работа над улучшением реакции на признаки стресса и психических расстройств уже ведется. В блоге OpenAI говорится, что пользователям станет проще связываться с экстренными службами, появится возможность добавлять доверенные контакты, а защита подростков будет усилена.

Мы начинаем перенаправлять некоторые деликатные разговоры, такие как выявление признаков острого стресса, к моделям рассуждения, таким как GPT-5-мышление

По их словам, эта модель применяет правила безопасности более последовательно. К работе над усовершенствованиями по информации издания привлекли более 90 врачей из 30 стран, которые предоставляют экспертные консультации по контексту психического здоровья.

Для пользователей в возрасте до 18 лет введут родительский контроль. Уже в ближайшее время родители смогут привязать свой аккаунт к аккаунту подростка и "получать уведомления, когда система обнаруживает, что их подросток находится в состоянии острого стресса".

"Эти шаги – только начало", – подчеркнули в OpenAI.

В то же время эксперты предостерегают: ограничить доступ детей к сервисам по возрасту всегда сложно.

Все классное и новое в интернете создается взрослыми для взрослых, но дети всегда будут хотеть им пользоваться и будут находить пути к более рискованным средам

Напомним

Ранее УНН писал, что Meta запретит своим ИИ-чат-ботам обсуждать самоубийство, самоповреждение и расстройства пищевого поведения с подростками, перенаправляя их к профессиональным ресурсам. Это решение принято на фоне расследования рисков ИИ и иска против OpenAI из-за самоубийства подростка.