Ось кілька прикладів того, як зловмисники використовують штучний інтелект у своїх операціях:
– Автоматичні фішингові кампанії
• Приклад: зловмисники використовують LLM для створення дуже переконливих фішингових електронних листів з ідеальною граматикою та контекстно-залежною персоналізацією. Ці електронні листи, створені штучним інтелектом, можуть імітувати стиль письма відомих контактів, що ускладнює їх відрізнення від законних повідомлень.
• Вплив: ця тактика підвищує рівень успіху цільових фішингових кампаній, даючи зловмисникам змогу обійти типові червоні прапорці, які попереджають користувачів про шахрайські електронні листи.
– Генеративне профілювання для соціальної інженерії
• Приклад: LLM допомагають зловмисникам створювати детальні профілі соціальної інженерії, аналізуючи публікації в соціальних мережах, загальнодоступні дані та інший онлайн-контент . Синтезуючи ці дані, зловмисники можуть адаптувати своє спілкування відповідно до інтересів жертви, робочих відносин і навіть нещодавньої діяльності.
• Вплив: точність цих профілів, удосконалених штучним інтелектом, підвищує ймовірність того, що цілі атаки довірятимуть зловмисникам і взаємодіятимуть із ними, що призведе до підвищення рівня крадіжки облікових даних або несанкціонованого доступу до даних.
– Розпилення паролів на основі штучного інтелекту
• Приклад: штучний інтелект можна використовувати для аналізу шаблонів у часто використовуваних паролях і більш ефективного вгадування варіацій. LLM, навчені на великих наборах даних про витік облікових даних, можуть генерувати реалістичні списки паролів, які більше адаптовані до бази користувачів цільової організації.
• Вплив: ці атаки з уточненням паролів, уточнені штучним інтелектом, обходять традиційні механізми обмеження швидкості та блокування, розподіляючи спроби між кількома обліковими записами та налаштовуючи підхід, щоб мінімізувати виявлення.
– Голосовий фішинг за допомогою діпфейків (Vishing)
• Приклад: зловмисники використовували моделі глибокого навчання для створення синтетичних голосів, які імітують тон і мовні патерни конкретних людей. Наприклад, зловмисники можуть видавати себе за керівника компанії, щоб переконати співробітника виконати несанкціоновані фінансові операції або поділитися конфіденційною інформацією.
• Вплив: реалістичність голосової технології діпфейку ускладнює розпізнавання співробітниками шахрайських запитів, що може завдати значної фінансової та репутаційної шкоди.
– Покращене створення шкідливого програмного забезпечення
• Приклад: LLM можуть допомогти генерувати поліморфне шкідливе програмне забезпечення, яке змінює свою структуру коду, щоб уникнути виявлення на основі сигнатур. Зловмисники також можуть використовувати ці моделі для написання нових фрагментів коду або вдосконалення існуючого шкідливого програмного забезпечення, щоб воно було більш ефективним і менш помітним.
• Вплив: це прискорює розробку вдосконалених варіантів зловмисного програмного забезпечення та зменшує технічний бар’єр для менш кваліфікованих зловмисників, збільшуючи загальний обсяг шкідливого програмного забезпечення в обігу.
– Кампанії з дезінформації, створені штучним інтелектом
• Приклад: зловмисники використовують LLM для створення та розповсюдження дезінформації в будь-якому масштабі. Це включає створення фальшивих новинних статей, дописів у соціальних мережах та коментарів, щоб вплинути на громадську думку або створити паніку під час критичних подій, таких як вибори та кризи в галузі охорони здоров’я.
• Вплив: кампанії з дезінформації можуть завдати шкоди репутації, підірвати довіру до інституцій і спричинити соціальні заворушення. Можливість автоматизації створення контенту дозволяє зловмисникам затоплювати інформаційні канали, перевантажуючи фактчекерів і групи реагування.
У міру того, як супротивники почнуть більш комфортно використовувати штучний інтелект для посилення своїх зусиль, очікується, що впровадження прискориться. Групи кіберзлочинців використовуватимуть штучний інтелект для допомоги в ще більшій кількості дій, таких як виявлення нових вразливостей у програмному коді, які вони можуть використовувати.
