Шкідливі програми з’являться в ШІ-системах уже за кілька років і поступово їх псуватимуть, вважають експерти. Реальний приклад уже є.

Два студенти Корнельського технологічного інституту, Став Коен і Бен Нассі, створили програму-хробака, яка потенційно може вкрасти дані та впровадити шкідливе ПЗ із застосунків на базі штучного інтелекту (ШІ). Своє дослідження вони опублікували на Sites.google.

Став і Бен назвали свою програму Morris II. Вона призначена для того, щоб показати, наскільки незахищеними є генеративні ШІ-системи, а також щоб продемонструвати Morris II. Програмісти переконалися, що їхнє ПЗ здатне маніпулювати нейромережами.

«Хробак» обманює ШІ-системи, розсилає спам-повідомлення, поширює неправдиві дані та збирає особисту інформацію користувачів. Morris II націлений на мережі, які взаємодіють зі службами GenAI для опрацювання вхідних даних і ухвалення рішень. Також він шкодить застосункам, які використовують RAG (рекурентне агрегування генеративних моделей) для поліпшення запитів GenAI.

Комп’ютерний хробак — це тип шкідливого програмного забезпечення (ПЗ), здатного поширюватися комп’ютерними мережами, не вимагаючи будь-якої взаємодії з користувачем. Програми-хробаки використовують слабкі місця в операційних системах, мережевих протоколах або додатках, щоб копіювати самих себе і автономно поширюватися з одного комп’ютера на інший. «Хробаки» здатні атакувати різні типи машин, включно з промисловими системами, пристроями інтернету речей і персональними комп’ютерами.

«Ми вважаємо, що «хробаки GenAI» з’являться найближчими кількома роками в реальних продуктах і викличуть серйозні та небажані наслідки», — заявили дослідники.

Источник: focus.ua