"Безопасность выше конфиденциальности": OpenAI вводит новые ограничения для пользователей ChatGPT до 18 лет

Для пользователей ChatGPT в возрасте до 18 лет OpenAI вводит новые ограничения. Генеральный директор компании Сэм Альтман уже заявил, что безопасность подростков имеет преимущество над конфиденциальностью. Сервис получит дополнительные механизмы защиты от рискованных тем, в частности, касающихся сексуальности и самоповреждения. Об этом сообщает TechCrunch, пишет УНН.

Детали

В OpenAI объявили, что проведут радикальные изменения в отношении пользователей чата, которым не исполнилось 18 лет.

Мы ставим безопасность выше конфиденциальности и свободы подростков. Это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в значительной защите

По его словам, новые правила должны предотвратить опасные сценарии в общении подростков с чат-ботом.

В чате проведут ряд изменений и применят ряд технологических приемов: ChatGPT больше не будет участвовать во "флиртовых разговорах" с несовершеннолетними, а обсуждение тем, связанных с самоубийством, будет сопровождаться дополнительными мерами предосторожности.

Если же несовершеннолетний будет общаться на тему суицида или на похожие опасные темы, то чат будет сообщать родителям или даже местной полиции.

Необходимость изменений стала особенно актуальной после трагедии с Адамом Рейном. Его родители обвиняют ChatGPT в содействии решению сына покончить жизнь самоубийством и подали иск против OpenAI. Подобные претензии выдвинуты и к другому чат-боту, Character.AI.

Еще одним нововведением станет функция "родительского контроля". Теперь родители смогут устанавливать для учетных записей своих детей так называемые "часы блокировки", когда ChatGPT будет полностью недоступен.

Интересно, что объявление о новых правилах совпало с проведением слушаний в комитете Сената США по вопросам юстиции под названием "Изучение вреда чат-ботов с искусственным интеллектом". Ожидается, что отец Адама Рейна станет одним из ключевых свидетелей на слушаниях.

Однако, в компании OpenAI признают, что такое разделение пользователей чата станет серьезным вызовом. В компании пояснили, что "сервис разрабатывает долгосрочную систему для определения возраста пользователя, но в спорных случаях ChatGPT будет действовать по более ограничительным правилам".

"Мы понимаем, что эти принципы конфликтуют, и не все согласятся с тем, как мы разрешаем этот конфликт", - указано в заявлении.

Напомним

Ранее исполнительный директор OpenAI, выразил обеспокоенность по поводу возможных самоубийств с помощью ChatGPT. Компания рассматривает возможность информирования властей о суицидальных намерениях пользователей, особенно молодежи.

OpenAI объявила о введении новых инструментов защиты в ChatGPT, которые помогут защитить подростков и пользователей, переживающих эмоциональный стресс.

Ранее УНН писал, что Meta запретит своим ИИ-чат-ботам обсуждать самоубийство, самоповреждение и расстройства пищевого поведения с подростками, перенаправляя их к профессиональным ресурсам.