На Reddit разгорелся скандал из-за тайного эксперимента с ИИ

Несколько месяцев команда Цюрихского университета незаметно размещала в популярном сабредите r/changemyview комментарии, сгенерированные искусственным интеллектом. Модераторы, которые раскрыли эксперимент в выходные, считают его "психологической манипуляцией" сообщества с 3,8 млн участников.

Об этом пишет Engadget.

Как проходил эксперимент

По словам модераторов, исследователи создали десятки бот-аккаунтов и отвечали на посты пользователей от имени вымышленных персонажей — в частности "жертвы сексуального насилия", "консультанта по травмам" и "черного мужчины, выступающего против Black Lives Matter". В черновике научной работы авторы объясняют, что персонализировали реплики, предварительно определяя пол, возраст, этничность, место жительства и политические взгляды оригинального автора по его истории на Reddit.

Модераторы отметили, что такой подход нарушает правила сообщества: нужно предупреждать об использовании ИИ, а также запрещено применять ботов. Они уже пожаловались университету и попросили не публиковать статью без согласия сообщества.

Позицию Reddit изложил главный юрисконсульт Бен Ли, назвав действия ученых "глубоко аморальными и незаконными" и нарушающими правила платформы. Компания заблокировала все связанные аккаунты, работает над усовершенствованием системы выявления неаутентичного контента и готовит юридические требования к университету и авторам.

В комментариях на Reddit исследователи отметили, что эксперимент одобрил этический комитет, а его результат поможет сообществам защищаться от более опасных форм манипуляций, которые уже могут осуществлять злоумышленники. Модераторы r/changemyview с этим не согласились: по их мнению, существуют способы изучать убедительность ИИ без вмешательства в реальные дискуссии и без согласия живых людей.

"Люди приходят к нам обсуждать свои взгляды с другими людьми, а не с ботами и не для участия в экспериментах", — подчеркнули они.

Напомним, пользователи привыкли к ChatGPT как к удобному инструменту, которым пользуются миллионы людей по всему миру. Однако эксперты предостерегают, что доверять личные данные искусственному интеллекту категорически нельзя.

Также мы писали, что аудитория WhatsApp раздражена нововведением — кнопкой Meta AI, которую нельзя убрать. Пользователи описывают новую возможность вызвать искусственный интеллект как "надругательство" над приложением.