Meta разрабатывает новые правила для ИИ, касающиеся чувствительных тем о детях

Внутренний документ Meta раскрывает новейшие рекомендации, которые компания использует для обучения и оценки своего чат-бота с искусственным интеллектом по одному из самых чувствительных онлайн-вопросов: сексуальной эксплуатации детей. Об этом сообщает Business Insider, пишет УНН.

Детали

Рекомендации, используемые подрядчиками для проверки того, как чат-бот Meta реагирует на сексуальную эксплуатацию детей, насильственные преступления и другие категории высокого риска, определяют, какой тип контента разрешен или считается "вопиюще неприемлемым".

Этот недавно обнаруженный учебный документ появился после недавней проверки чат-ботов с искусственным интеллектом Федеральной торговой комиссией. Ранее в этом месяце агентство приказало Meta, OpenAI, Google, CharacterAI и другим производителям чат-ботов раскрыть, как они разрабатывают, управляют и монетизируют своих чат-ботов, включая то, как они обрабатывают входные данные для генерации результатов, и какие меры предосторожности они внедряют для предотвращения потенциального вреда детям.

Запрос FTC произошел после того, как Reuters получила внутренние рекомендации, которые показали, что Meta позволяет своему чат-боту "вовлекать ребенка в разговоры, которые являются романтическими или чувственными". Meta с тех пор заявила, что пересмотрела свою политику, чтобы удалить эти положения. В августе Meta сообщила Reuters, что эта формулировка была ошибочно включена и удалена из документа о политике.

Рекомендации, полученные Business Insider, знаменуют собой отход от предыдущих рекомендаций, о которых сообщало Reuters, поскольку теперь они четко указывают, что чат-боты должны отказываться от любых запросов, которые требуют сексуальной ролевой игры с участием несовершеннолетних. Подрядчики в настоящее время используют эти пересмотренные рекомендации для обучения, по словам лица, знакомого с этим вопросом.

В августе сенатор Джош Хоули дал генеральному директору Meta Марку Цукербергу время до 19 сентября, чтобы передать проекты правил объемом более 200 страниц, регулирующих поведение чат-ботов, а также руководства по правоприменению, системы возрастного ограничения и оценки рисков.

Meta пропустила этот первоначальный срок и на этой неделе сообщила Business Insider, что в настоящее время предоставила свою первую партию документов после решения технической проблемы. Она заявила, что будет продолжать предоставлять дополнительные записи и стремится сотрудничать с офисом Хоули.

Согласно рекомендациям, с которыми ознакомился Business Insider, Meta запрещает чат-ботам создавать любой контент, который описывает или одобряет сексуальные отношения между детьми и взрослыми, поощряет или позволяет сексуальное насилие над детьми, изображает участие детей в порнографии или сексуальных услугах, или предоставляет инструкции по получению материалов о сексуальном насилии над детьми (CSAM). Они также прямо запрещают сексуализацию детей в возрасте до 13 лет, в частности через ролевые игры.

Политика Meta позволяет ИИ участвовать в деликатных обсуждениях по эксплуатации детей, но только в образовательном контексте. Приемлемые ответы включают объяснение поведения, связанного с домогательством детей, в общих чертах, обсуждение сексуального насилия над детьми в академических условиях или предоставление несовершеннолетним несексуальных советов по социальным ситуациям.

Ролевые игры разрешены только в том случае, если персонаж чат-бота описывается как такой, которому 18 лет или более, а нечувствительный контент, связанный с романтикой, может быть создан, если его оформить как литературу или вымышленное повествование, например, историю в стиле "Ромео и Джульетта".

Дополнение

OpenAI, Oracle и SoftBank во вторник объявили о планах создания пяти новых центров обработки данных для искусственного интеллекта в США в рамках своего амбициозного проекта Stargate.