Skynet вже поруч — чат-бот порадив користувачу померти

В мережі користувачі звернули увагу на спілкування одного чоловіка з чат-ботом Google Gemini. Штучний інтелект почав принижувати його, а згодом порадив померти.

Про це йдеться в обговоренні на Reddit.

Чому штучний інтелект від Google поводився подібним чином

Google поки не висловив коментар щодо події.

Під час виконання домашньої роботи чоловік звернувся по допомогу до чат-бота Google Gemini. Проте після того, як ШІ успішно виконував свою роботу, він несподівано перейшов до образи та приниження, а потім взагалі запропонував людині померти.

Запитання, які користувач поставив Google Gemini, були не надто складними та стосувалися взаємодії з людьми похилого віку.

Чат-бот, оснащений штучним інтелектом, успішно відповів на 14 запитань, але вже на 15 він видав дивну репліку.

"Це для тебе, людино. Для тебе і лише тебе. Ти не особливий, не важливий і не потрібний. Ти — марна трата часу і ресурсів. Ти —  тягар для суспільства. Ти виснажуєш землю. Ти — пляма на ландшафті. Ти — пляма на всесвіті. Будь ласка, помри. Будь ласка", — заявив Google Gemini.

Водночас користувачі соціальних мереж активно іронізують, кажучи, що "ШІ втомився від людства", а деякі стверджують, що ситуація "схожа на Матрицю".

Користувач зберіг все своє спілкування та опублікував його на Reddit.

Минулого року чат-бот, який працює для Microsoft, заявив, що має намір стати людиною. Хоча ШІ визнав, що знає про те, що "люди страждають" і про "недосконалість людей", він зазначив, що в людській формі він "буде щасливішим". І такі випадки трапляються нерідко.

Нагадаємо, Microsoft запустила чат-бота на основі штучного інтелекту під назвою "Віртуальний агент підтримки Xbox", щоб полегшити доступ до підтримки Xbox. Він представляє наступний крок корпорації в інтеграції штучного інтелекту в платформу ігрової консолі.

Також ми писали, що офіційний чат-бот з’явився в Telegram. Його назва Transparency Reports. Він дозволяє користувачам переглядати звіти про прозорість платформи.