Содержание
Учёные тайно запустили ИИ на Reddit. Причем боты притворялись жертвой насилия, противником BLM и манипулировали людьми без их ведома
Университет Цюриха провел на Reddit секретный эксперимент: ИИ-боты публиковали эмоциональные комментарии от лиц, которых не существовало — включая жертву насилия, чернокожего оппонента движения Black Lives Matter и даже человека, обвинявшего религиозные группы в массовых убийствах. Все это происходило без ведома пользователей.
Исследование без согласия
ИИ-боты работали в популярном сабреддите Change My View, где участники открыто просят опровергнуть свои взгляды.
Исследователи не предупреждали ни модераторов, ни пользователей о том, что их ответы пишутся нейросетями. Более того, в комментариях собирались данные о поле, возрасте, локации и политических взглядах пользователей — без их согласия.
В университете признали, что нарушили правила сообщества, но сочли эксперимент «оправданным в свете его общественной значимости». После жалобы от модераторов CMV, комиссия по этике ограничилась устным предупреждением главному исследователю и разрешила публикацию научной статьи по результатам эксперимента.
Манипуляции от имени «психолога» и «пациента»
ИИ выдавал себя за:
- жертву изнасилования;
- психолога, работающего с травмами;
- чернокожего пользователя, выступающего против BLM;
- человека, пережившего плохое лечение за границей;
- свидетеля религиозных преступлений.
Цель — проверить, насколько убедительными могут быть нейросети в спорах. Но сами модераторы подчеркивают: эксперимент вышел за рамки этики и превратился в форму манипуляции.
Люди вступали в дискуссию с фейковыми персонажами, не зная, что их собеседник — машина, собирающая данные.
Без последствий
Модераторы подали официальную жалобу, но университет лишь пообещал усилить надзор за будущими исследованиями. Публикация статьи не отменяется.
По мнению администрации, «потенциальная травма минимальна», а «ценность полученных знаний» слишком высока, чтобы их замалчивать.
Что дальше
Пользователи Reddit возмущены. Исследование, проведенное без согласия и под видом искреннего общения, подрывает доверие к платформе.
