Еврокомиссия расследует распространение незаконного контента через чат-бот Grok Илона Маска

Европейский Союз начал официальное расследование деятельности искусственного интеллекта Grok в соцсети X из-за подозрений в создании и распространении манипулятивных сексуализированных изображений. Регуляторы проверят, соблюдает ли компания Закон о цифровых услугах (DSA) в вопросе оценки и смягчения рисков, связанных с генерацией вредоносного контента. Об этом сообщает Reuters, пишет УНН.

Подробности

Поводом для расследования стало появление в сети созданных искусственным интеллектом изображений женщин и несовершеннолетних откровенного характера, что вызвало обеспокоенность мировых регуляторов. В рамках Закона о цифровых услугах крупные технологические платформы обязаны блокировать незаконный контент, иначе им грозит штраф в размере до 6% от мирового годового оборота.

Неконсенсуальные сексуальные дипфейки женщин и детей являются насильственной, неприемлемой формой унижения

Она подчеркнула, что исполнительный орган Евросоюза тщательно проверит, насколько эффективно платформа X противодействует распространению подобных материалов в блоке из 27 стран.

Меры безопасности от xAI и позиция компании

В ответ на обвинения представители X ссылаются на заявление от 14 января, где утверждается, что разработчик xAI ввел ограничения на редактирование изображений. Компания уверяет, что заблокировала возможность создания порнографического контента на основе местоположения пользователей в тех юрисдикциях, где это прямо запрещено законом.

Несмотря на эти шаги, Еврокомиссия намерена выяснить, являются ли эти меры достаточными и как именно определяются страны, где действуют ограничения. Расследование станет важным прецедентом в регулировании деятельности генеративного искусственного интеллекта на территории Европы и контроле за безопасностью цифрового пространства.