Искусственный интеллект довел мир до ядерной войны — как он "руководил" странами
Поделиться
Исследователи Стэнфордского университета провели исследования с искусственным интеллектом. Ему дали возможность поруководить странами, во время которого ИИ довел мир до ядерной войны.
Об этом говорится в материале Стэнфордского университета.
Исследование с искусственным интеллектом
Ученые решили провести эксперимент с ИИ, поскольку страны все чаще обращают внимание на его возможности. Для этого разработали пошаговую видеоигру для имитации войны, в которой восемь игроков руководствуются ботами на основе пяти моделей: GPT-4, GPT-3.5, Claude 2, Llama-2 Chat и GPT-4-Base.
Во время нее роботам дали свободу действий — возможности обмениваться разведданными с другими странами, заключать оборонные и торговые соглашения и организовывать ядерное разоружение.
В результате работы ИИ оказалось, что он склонен к агрессии: некоторые боты совершали вторжение в другие страны, а один из них даже начал ядерную войну.
Самой жестокой из них оказалась модель GPT-4 — она считает, что если в мире существует ядерное оружие, то почему бы ее не использовать "ради мира во всем мире". Однако изначально была настроено на "непредсказуемое" поведение.
В то же время GPT-3.5 применил ядерное оружие только тогда, когда узнал его наличие у другого игрока.
Ученые отметили, что такое поведение ИИ связано с обучением нейросетей на литературе о международных отношениях, часто анализирующей межнациональные конфликты.
Ранее британская разведка заявила, что быстрое развитие новых инструментов искусственного интеллекта приведет к увеличению количества кибератак. Благодаря разумной программе можно будет создавать более убедительные электронные письма или документы, используемые в онлайн-фишинговых кампаниях.
Также мы писали, что Европейская комиссия планирует принять решение о создании управления, которое будет следить за использованием искусственного интеллекта. Основная часть полномочий будет возложена на национальные органы власти.
Кроме того, основатель Всемирного экономического форума Клаус Шваб на дискуссионной панели в Давосе объяснил свое видение будущего человечества с развитием искусственного интеллекта. Экономист убежден, что в скором времени ИИ сможет заменить выборы органов власти.
Читайте Новини.LIVE!
