Ученые создали соцсеть из ботов: что узнали

Исследователи из Амстердамского университета смоделировали социальную сеть, полностью заполненную чат-ботами на базе ИИ, чтобы проверить, возможно ли сделать онлайн-пространство менее токсичным. Эксперимент показал: даже с вмешательством платформ, соцсети остаются поляризованными и полными экстремального контента. Об этом сообщает Futurism, пишет УНН.

Подробности

Социальные сети давно превратились в эхо-камеры с гневным контентом, где пользователи часто попадают в ловушку возмущения. Чтобы исследовать, можно ли изменить эту динамику, ученые из Амстердамского университета создали полностью искусственную платформу, где все пользователи были чат-ботами на основе GPT-4o.

Цель эксперимента заключалась в том, чтобы проверить шесть стратегий борьбы с токсичностью: хронологическая лента новостей, усиление разнообразных точек зрения, скрытие социальной статистики и удаление биографий пользователей. Однако ни одна из них не дала существенного результата. Некоторые вмешательства даже усугубили проблему: хронологическая лента уменьшила неравенство внимания, но вынесла на первый план самый экстремальный контент.

"Токсичный контент формирует сетевые структуры, обратно влияющие на видимость постов, создавая замкнутый круг токсичности", - пояснил доцент Петтер Торнберг. Он добавил, что даже использование искусственного интеллекта не является "идеальным решением", потому что отражает человеческое поведение со всеми предубеждениями и ограничениями.

Эксперимент также показал "чрезвычайное неравенство внимания", когда небольшая часть постов получает наибольшую видимость. В сочетании с генеративным ИИ, который все чаще используется для создания контента, стремящегося максимизировать внимание, это может сделать поляризацию и дезинформацию еще более масштабными.

Торнберг подчеркивает, что нынешние модели социальных сетей могут быть обречены: даже при попытке вмешаться алгоритмически, платформы остаются рассадниками поляризации и экстремизма.

"Мне трудно представить, как традиционные соцсети выживут в таких условиях", – подытожил исследователь.