Штучному інтелекту підсадили вірус — які це несе загрози
Поділитися
Сьогодні системи штучного інтелекту ChatGPT від OpenAI та Gemini від Google все частіше використовують для роботи. Тому група дослідників створила одного з перших генеративних вірусів для штучного інтелекту, щоб перевірити потенційні ризики.
Про це написав Tech Today.
З метою показати, як може працювати вірус, дослідники створили систему електронної пошти, яка може надсилати та отримувати повідомлення за допомогою генеративного ШІ, підключаючись до ChatGPT або Gemini. Потім вони відпрацювали два способи використовувати систему — за допомогою текстової підказки, що самовідтворюється, та шляхом вбудовування підказки, що самовідтворюється, у файл зображення.
Зловмисні тексти
Дослідники діяли як зловмисники та написали електронний лист, включно з протилежним текстовим запитом, який отруює базу даних помічника електронної пошти. Коли помічник отримує електронний лист у відповідь на запит користувача та надсилає його GPT-4 або Gemini Pro для створення відповіді, він зламує службу GenAI та викрадає дані з електронних листів. Це можуть бути імена, а також номери телефонів, кредитних карток, соціального страхування, та будь-яка інша конфіденційна інформація.
Спам через зображення
У другому методі зображення з вбудованою зловмисною підказкою змушує помічника електронної пошти пересилати повідомлення іншим. Шляхом кодування самовідтворюваної підказки будь-яка картинка, що містить спам, образливий матеріал або пропаганду, може бути перенаправлена новим клієнтам після відправлення початкового електронного листа.
Важливі застереження
Вірусів для ШІ ще не було помічено, втім, фахівці кажуть, що вони становлять загрозу безпеці, про яку слід турбуватися усім стейкхолдерам. Особливо у випадках, коли ШІ надається дозвіл надсилати електронні листи або бронювати зустрічі від чужого імені. Щобільше, коли вони пов’язані з іншими агентами штучного інтелекту для виконання цих завдань.
Раніше повідомлялося, що шахраї виманили з міжнародної компанії 26 млн доларів за допомогою відео на основі штучного інтелекту. Також британська розвідка спрогнозувала, до чого призведе розвиток ШІ.
Читайте Новини.LIVE!
