На Reddit розгорівся скандал через таємний експеримент з ШІ

Кілька місяців команда Цюрихського університету непомітно розміщувала в популярному сабредіті r/changemyview коментарі, згенеровані штучним інтелектом. Модератори, які розкрили експеримент у вихідні, вважають його "психологічною маніпуляцією" спільноти з 3,8 млн учасників.

Про це пише Engadget.

Як проходив експеримент

За словами модераторів, дослідники створили десятки бот-акаунтів і відповідали на пости користувачів від імені вигаданих персонажів — зокрема "жертви сексуального насильства", "консультанта з травм" і "чорного чоловіка, що виступає проти Black Lives Matter". У чернетці наукової роботи автори пояснюють, що персоналізували репліки, попередньо визначаючи стать, вік, етнічність, місце проживання та політичні погляди оригінального автора за його історією на Reddit.

Модератори зазначили, що такий підхід порушує правила спільноти: потрібно попереджати про використання ШІ, а також заборонено застосовувати ботів. Вони вже поскаржилися університету та попросили не публікувати статтю без згоди спільноти.

Позицію Reddit виклав головний юрисконсульт Бен Лі, назвавши дії вчених "глибоко аморальними й незаконними" та такими, що порушують правила платформи. Компанія заблокувала всі пов'язані акаунти, працює над удосконаленням системи виявлення неавтентичного контенту й готує юридичні вимоги до університету та авторів.

У коментарях на Reddit дослідники наголосили, що експеримент схвалив етичний комітет, а його результат допоможе спільнотам захищатися від небезпечніших форм маніпуляцій, які вже можуть здійснювати зловмисники. Модератори r/changemyview з цим не погодилися: на їхню думку, існують способи вивчати переконливість ШІ без втручання в реальні дискусії та без згоди живих людей.

"Люди приходять до нас обговорювати свої погляди з іншими людьми, а не з ботами й не для участі в експериментах", — підкреслили вони.

Нагадаємо, користувачі звикли до ChatGPT як до зручного інструмента, яким користуються мільйони людей по всьому світу. Проте експерти застерігають, що довіряти особисті дані штучному інтелекту категорично не можна.

Також ми писали, що аудиторія WhatsApp роздратована нововведенням — кнопкою Meta AI, яку не можна прибрати. Користувачі описують нову можливість викликати штучний інтелект як "наругу" над застосунком.