Завдяки штучному інтелекту будь-хто з базовими навичками пошуку може знайти багато інформації про компанію — як відкриті дані, так і випадково оприлюднену інформацію. Проблема в тому, що співробітники самі, часто несвідомо, передають важливі дані, користуючись ШІ-інструментами.

Про це на SKELAR Security Meetup розповіла Анастасія Войтова, Head of Security Engineering компанії Cossack Labs, цитує Delo.ua.

«Ми вже живемо в реальності, де ШІ використовують для всього — від психотерапії до написання коду, зокрема й дуже чутливих модулів у продакшені. І повернути це назад неможливо. Зараз завдання кібербезпеки — не забороняти використання ШІ, а мінімізувати ризики та пояснювати співробітникам, що і як можна використовувати», — пояснює Войтова.

За її словами, все, що можна зробити — це пом’якшувати ризики: прописати політики, навчати людей, пояснювати, де і як можна використовувати штучний інтелект, а де — категорично ні. Також вона наголошує, що треба впроваджувати псевдонімізацію (заміна справжніх даних людини на умовні позначки), обмеження для чутливих проектів і регулярні інструктажі.

«Щодо кібербезпеки — зараз існує маса злитих баз і даних. На жаль, в Україні захист персональних даних майже ілюзія: практично на кожного можна скласти досьє. Тому компаніям варто мінімізувати наслідки, інвестувати в кіберзахист і обмежувати передачу даних зовнішнім AI-сервісам», — додає Анастасія Войтова.

Серед рішень вона називає використання корпоративних інструментів зі штучним інтелектом, наприклад, Microsoft Copilot, де історія запитів і безпека контролюються в межах компанії. Інші сторонні сервіси блокуються на рівні доступів. 

«Також варто бути обережними з комерційними AI-сервісами — під капотом там часто хаос. Були випадки, коли AI-асистенти отримували доступ до всього, що відбувається на екрані телефону чи комп’ютера, бо користувачі давали їм усі можливі права. Важливо налаштувати багаторівневий захист: фільтрувати вихідний трафік, контролювати використання моделей», — підкреслює Войтова.