Китай вводит строгое регулирование ИИ с эмоциональным взаимодействием

Китайский киберрегулятор обнародовал проект правил для усиления надзора за сервисами искусственного интеллекта, имитирующими человеческую личность и стимулирующими эмоциональную зависимость пользователей. Об этом сообщает Reuters, пишет УНН.

Подробности

Предлагаемые правила распространяются на ИИ-продукты, которые воспроизводят человеческие модели мышления и стили общения через текст, аудио или видео. Согласно документу, разработчики обязаны:

• Контролировать зависимость: выявлять признаки чрезмерного эмоционального вовлечения пользователей и вмешиваться в случае возникновения зависимого поведения.
• Обеспечивать безопасность: нести ответственность за безопасность на протяжении всего жизненного цикла продукта и проходить проверку алгоритмов.
• Защищать данные: создать системы защиты персональной информации и верификации безопасности данных.

Этические и безопасные "красные линии"

Регулятор запретил создавать с помощью ИИ контент, угрожающий национальной безопасности, пропагандирующий насилие, распространяющий слухи или имеющий непристойный характер. Кроме того, сервисы должны официально предупреждать пользователей о рисках чрезмерного употребления продукта.

Новые меры направлены на минимизацию психологических рисков и установление жестких этических стандартов для потребительского искусственного интеллекта в КНР.