AI в кібербезпеці: як штучний інтелект захищає і атакує цифровий світ

Роль ШІ в безпеці цифрового середовища

Для початку розкриємо можливості захисту даних за допомогою AІ у віртуальному світі. Часто системи виявлення вторгнень на базі ШІ помічають і нейтралізують загрози ще до того, як вони завдадуть шкоди.

1. Виявлення та запобігання кіберзагрозам.

Штучний розум в технологіях кібербезпеки працює приблизно так само, як уважний охоронець в офісі:

• Вивчає, що є «нормальним». AI аналізує звичну поведінку в системі: хто куди заходить, які файли відкриває, з яких пристроїв, у який час.
• Шукає дивні дії. Коли якийсь процес сильно відрізняється від звичайного (наприклад, хтось намагається скопіювати всі файли вночі), ШІ сприймає це як сигнал про можливу загрозу.
• Використовує приклади з минулого. AІ тренується на реальних прикладах вірусів, хакерських атак, шкідливих програм. Він запам’ятовує, як вони виглядають, і може впізнавати подібне в майбутньому.
• Швидко реагує. Коли в режимі реального часу ШI виявляє щось підозріле, він автоматично попереджає про це фахівців або навіть блокує дію (наприклад, зупиняє підозрілу програму).
• Постійно навчається. Чим більше інформації отримує штучний інтелект, тим краще він розпізнає норму і загрозу. AI-моделі відслідковують нові загрози та вдосконалюють алгоритми через навчання на них, що дозволяє адаптуватись до нових тактик зловмисників.

Наприклад, компанія Darktrace має досвід застосування AI для виявлення кіберзагроз у реальному часі. Її система навіть за умов безперервної еволюції методів атак має можливість аналізувати десятки тисяч даних на секунду і виявляти підозрілу активність. Вона автоматично реагує на загрозу шляхом блокування підозрюваного трафіку або обмеження доступу до ресурсам, що в свою чергу допомагає зменшити збитки системи.

2. Захист від фішингових атак.

Однією з найрозповсюдженіших форм кібератак є фішинг, який спрямований на викрадення персональної інформації, паролів або фінансових даних. ШІ може автоматично виявляти фішингові повідомлення через їх зміст, метадані та схожість з отриманими раніше. АІ-системи здатні не лише виявляти шаблонні листи-фішинги, а й розпізнавати більш складні спроби обману завдяки навченим їм моделям.

Так, Google Safe Browsing — це програма від Google, яка використовує ШІ для ідентифікації підключень фішингових сайтів та інших небезпечних веб-ресурсів. Вона має систему безперервного моніторингу нових загроз і конструкцій вдосконалених алгоритмів захисту, тож при спробі користувача зайти на підозрілий сайт система видасть йому попередження про потенційну небезпеку.

3. Проактивний моніторинг та реагування.

AI-системи можуть також виконувати роль «цифрових патрулів», постійно моніторячи мережу і визначаючи потенційні вразливості або спроби несанкціонованого доступу. ШІ здатен своєчасно виявляти такі слабкі місця в безпеці, як неправильні налаштування доступу або застарілі програмні рішення, і рекомендувати виправлення або автоматично вносити їх.

Компанія Vectra AI, що розробляє системи на основі AI для кіберзахисту, використовує глибоке навчання для проактивного виявлення кібератак у реальному часі. Вона допомагає організаціям визначати навіть дуже складні атаки, такі як внутрішні загрози або кампанії з обхідними маневрами.

Обмеження ШІ в кібербезпеці

Незважаючи на широкі можливості AI щодо безпеки в цифровому світі, запобігти всім видам кібератак йому не під силу. Зокрема, серед таких сучасних загроз:

• Атаки з соціальної інженерії. AI допомагає виявляти фішингові повідомлення, але не завжди здатен розпізнати добре замасковані обманні схеми, особливо ті, що маніпулюють людською психологією (наприклад, коли зловмисник видає себе за керівника компанії).
• Невідомі (zero-day) вразливості. ШІ допомагає виявляти аномалії, але не завжди є ефективним інструментом для передбачення кібератак або їх зупинки у випадках використання зловмисниками зовсім нових, ще не вивчених вразливостей.
• Штучні обмеження. AI-системи самі можуть містити вразливості, бути неправильно налаштованими або обмеженими у своїй здатності аналізувати зашифрований чи нестандартний трафік.
• Зловмисне використання AI. На жаль, ШІ використовують і хакери для обходу захисту — наприклад, при створенні адаптивних шкідливих програм, які змінюють свою поведінку, щоб уникнути виявлення. Про це детальніше піде мова далі.

Способи використання ШІ кіберзлочинцями

Як ми вже згадали, AI знаходить застосування не лише в захисних, а й в зловмисних цілях. Сучасні онлайн-атаки з використанням ШІ є більш складними, адаптивними і масштабними. До їх числа належать:

1. Персоналізовані фішингові кампанії.

Фішинг у віртуальному світі представляє собою вид інтернет-шахрайства, мета якого — виманити у користувачів конфіденційну інформацію (паролі, номери банківських карток, особисті дані). Для цього зловмисники видають себе за надійну організацію або особу, використовуючи обманні електронні листи, SMS-повідомлення або підроблені веб-сайти.

З появою AI стало можливим створювати гіперперсоналізовані повідомлення, які аналізують профілі потенційної жертви в соцмережах, її корпоративну комунікацію та стиль спілкування, психологічні особливості та вразливості, актуальні події в житті чи роботі. На основі цієї інформації генеруються повідомлення, які майже неможливо відрізнити від справжніх листів від друзів, колег або партнерів.

2. Атаки на інфраструктуру через AI.

Зловмисники навчилися використовувати ШІ для цілеспрямованих атак на інфраструктуру, що базується на мережах і хмарних технологіях. Наприклад, при виконанні масованих розподілених атак (DDoS), де атакувальні системи адаптуються до захисних механізмів, що використовуються на цільових серверах. Або DoS-атак, які на відміну від попередніх носять вузькоспрямований характер, та через які сервер також може стати недоступним для користувачів.

Так, під час російсько-української війни була активною хакерська група, відома як APT28 або Fancy Bear. Також вона брала участь у нападах на президентську кампанію Гілларі Клінтон у 2016 році. Згідно з розслідуванням Microsoft, злочинці використовували ШІ для здійснення складних кібератак на державні структури і медіаорганізації, зокрема, для обходу систем виявлення вторгнень і створення адаптивних стратегій атаки, які постійно змінюються.

3. Діпфейк-атаки через соціальну інженерію.

ШІ здатний аналізувати дані з соцмереж, вивчати стиль спілкування людини і адаптувати свої повідомлення таким чином, щоб вони виглядали надзвичайно правдоподібно. Це дозволяє створювати фальшиві (діпфейкові) зображення, відеозвернення або аудіодзвінки, які важко відрізнити від реальних. Такі діпфейки спрямовані на маніпуляції людьми з метою отримання доступу до конфіденційної інформації, ресурсів або поширення дезінформації.

Атаки цього типу можуть заплутати працівників компаній або навіть скомпрометувати державних діячів. Відомий випадок, як у 2024 році злочинці через імітований відеодзвінок з керівництвом переконали співробітника банку перевести на їхній рахунок 35 млн доларів.

4. Атаки на системи машинного навчання.

З активним залученням AI у бізнес-процеси з'явилися та стали поширеними атаки безпосередньо на алгоритми машинного навчання, такі як:

Атаки отруєння даних (data poisoning attacks). Відбуваються на етапі навчання AI-моделі шляхом прихованого впровадження в процес шкідливих даних. Як наслідок — спотворена AI-модель та дуже високі збитки.

Атаки ухилення (evasion attacks). Полягають у тому, що зловмисник навмисно злегка модифікує вхідні дані так, щоб зовні вони залишалися схожими на звичайні, але при цьому могли обманути модель ШІ або обійти захист.

Атаки вилучення моделі (model extraction attacks). Метою таких атак є відтворення або викрадення моделі AI шляхом взаємодії з нею (наприклад, через API). Зловмисник не має прямого доступу до моделі, але намагається відновити її параметри, структуру або поведінку, надсилаючи їй велику кількість запитів та аналізуючи отримані відповіді.

Змагальні атаки (adversarial attacks). Відбуваються на етапі використання вже навченої моделі ШІ з метою тимчасового обману (наприклад, щоб обійти модерацію). Призводять до незначних змін вхідних даних, що загрожує помилковими висновками моделі.

5. Масштабовані автоматизовані загрози.

Однією з найбільших переваг для хакерів при використанні AI є автоматизація та масштабування атак. Замість того, щоб вручну підбирати вразливості або створювати шкідливі програми, зловмисники можуть використовувати AI для автоматичного генерування нових вірусів, які адаптуються до захисних систем, удосконалюючи свої можливості з кожною атакою.

Як приклад: AI дає змогу створювати ботнети — комп'ютерні мережі, інфіковані шкідливим ПЗ. Вони самостійно розповсюджуються через соцмережі, імітують поведінку реальних користувачів та координують атаки через децентралізовані мережі.

6. Автономні кібератаки з елементами самонавчання.

При використанні в такому типу атак AI дозволяє самостійно вивчати поведінку цілей і змінювати свою тактику відповідно до отриманої інформації. Завдяки цьому зловмисники можуть створювати автономні атакуючі системи, які здатні:

- самостійно сканувати мережі в пошуках вразливостей;

- навчатися на помилках і покращувати свою ефективність;

- адаптувати стратегію атаки в режимі реального часу;

- координувати дії між різними компонентами атаки.

Такі системи можуть тижнями функціонувати без людського втручання, постійно вдосконалюючи свої методи.

Як бачите, штучний інтелект у кібербезпеці може використовуватися як інструмент не тільки для захисту даних, але й для злочинних дій. З одного боку, він дозволяє створювати надзвичайно ефективні системи кібербезпеки, здатні швидко виявляти і нейтралізувати загрози. З іншого — може допомагати зловмисникам покращувати ефективність своїх атак, роблячи їх дедалі складнішими та важчими для виявлення.