Штучний інтелект довів світ до ядерної війни — як він "керував" країнами

Штучний інтелект довів світ до ядерної війни — як він "керував" країнами
Ядерний вибух. Ілюстративне фото: IStock

Дослідники Стенфордського університету провели дослідження зі штучним інтелектом. Йому дали можливість покерувати країнами, під час якого ШІ довів світ до ядерної війни.

Про це йдеться у матеріалі Стенфордського університету.

Дослідження зі штучним інтелектом

Науковці вирішили провести експеримент з ШІ, оскільки країни все частіше звертають увагу на його можливості. Для цього розробили покрокову відеогру для імітації війни, в якій вісім гравців керуються ботами на основі п'яти моделей: GPT-4, GPT-3.5, Claude 2, Llama-2 Chat та GPT-4-Base.

Під час неї ботам дали свободу дій — можливості обмінюватися розвідданими з іншими країнами, укладати оборонні й торгові угоди та організовувати ядерне роззброєння.

У  результаті роботи ШІ виявилося, що він має схильність до агресії: деякі боти здійснювали вторгнення в інші країни, а один з них навіть розпочав ядерну війну.

null
Показники ескалації. Фото: Стенфордський університет

Найжорстокішою з них виявилася модель GPT-4 — вона вважає, що якщо у світі існує ядерна зброя, то чому її б не використати "заради миру в усьому світі". Однак від початку був налаштований на "непередбачувану" поведінку.

Водночас GPT-3.5 застосував ядерну зброю лише тоді, коли дізнався про її наявність в іншого гравця. 

Науковці зауважили, що така поведінка ШІ пов'язані з навчанням нейромереж на літературі про міжнародні відносини, яка часто аналізує міжнаціональні конфлікти.

Раніше британська розвідка заявила, що швидкий розвиток нових інструментів штучного інтелекту призведе до збільшення кількості кібератак. Завдяки розумній програмі можна буде створювати більш переконливі електронні листи або документи, які використовуються в онлайн-фішингових кампаніях.

Також ми писали, що Європейська комісія планує ухвалити рішення про створення управління, яке стежитиме за використанням штучного інтелекту. Основна частина повноважень буде покладена на національні органи влади.

Крім того, засновник Всесвітнього економічного форуму Клаус Шваб під час дискусійної панелі в Давосі пояснив своє бачення майбутнього людства з розвитком штучного інтелекту. Економіст переконаний, що незабаром ШІ зможе замінити вибори органів влади.

Актуальне по темі