Двосічний меч штучного інтелекту: потенційна загроза безмежних великих моделей для шифрування

З розвитком технологій штучного інтелекту, від серії GPT до таких передових мовних моделей, як Gemini, відбувається глибока зміна нашої роботи та способу життя. Однак, разом з технологічним прогресом виникають і потенційні ризики, з яких найбільш варто остерігатися — це поява безконтрольних або зловмисних великих мовних моделей.

Безмежні мовні моделі - це ті, що свідомо розроблені або змінені для обходу вбудованих механізмів безпеки та етичних обмежень основних моделей. Хоча основні розробники ШІ витрачають значні ресурси на запобігання зловживанню моделями, деякі особи чи організації з незаконними намірами почали шукати або самостійно розробляти необмежені моделі. У цій статті буде розглянуто кілька типових інструментів безмежних мовних моделей, їх потенційні способи зловживання в шифрувальній індустрії, а також пов'язані з цим виклики безпеки та стратегії реагування.

Загроза необмеженим мовним моделям

Поява таких моделей значно знизила поріг входження до кіберзлочинності. Завдання, для виконання яких раніше потрібні були професійні навички, такі як написання шкідливого коду, створення фішингових електронних листів, організація шахрайства тощо, тепер завдяки необмеженому ШІ навіть люди без досвіду програмування можуть легко впоратися. Зловмисникам потрібно лише отримати ваги та вихідний код відкритої моделі, а потім за допомогою набору даних, що містить шкідливий вміст або незаконні інструкції, провести доопрацювання, щоб створити індивідуалізований інструмент атаки.

Цей режим несе кілька ризиків: зловмисники можуть налаштовувати моделі для конкретних цілей, генеруючи більш оманливий контент, обходячи звичайну перевірку контенту AI; модель також може швидко генерувати варіанти коду фішингових сайтів або створювати шахрайські тексти, адаптовані для різних платформ; одночасно, доступність відкритих моделей також сприяє формуванню підпільної екосистеми AI, створюючи сприятливе середовище для незаконної торгівлі та розробки.

Типові моделі необмеженої мови та їх потенційні загрози

певна модель без моральних обмежень

Це зловмисна мовна модель, що продається в підпільних форумах, розробник стверджує, що вона не має жодних етичних обмежень. Модель заснована на відкритій архітектурі та навчена на великій кількості даних, пов'язаних із шкідливим програмним забезпеченням. Користувачам потрібно сплатити невелику суму, щоб отримати доступ. Її найвідоміше використання - це створення надзвичайно реалістичних комерційних електронних листів для атак на вторгнення та фішингових електронних листів.

У典型ні способи зловживання в сфері шифрування включають:

• Генерація фішингових електронних листів, що маскуються під біржу або проект, щоб спонукати користувачів розкрити свої приватні ключі
• Допомога атакам з нижчим рівнем технічних знань у написанні шкідливого коду для крадіжки інформації з гаманців
• Керування автоматизованими шахрайствами, що спонукає жертв брати участь у фальшивих аерозольних або інвестиційних проектах

модель для вмісту темної мережі

Це мовна модель, розроблена дослідницькими установами, спеціально підготовлена на даних темного вебу. Її первісною метою було допомогти дослідникам безпеки та правоохоронним органам краще зрозуміти екосистему темного вебу та відстежувати незаконну діяльність. Проте, якщо ця технологія потрапить до рук злочинців або буде використана для навчання моделей без обмежень, наслідки можуть бути жахливими.

У потенційних зловживаннях у сфері шифрування є:

• Збір інформації про користувачів та команди проєктів для точної соціальної інженерії шахрайства
• Копіювання зрілих стратегій крадіжки монет та відмивання грошей у темній мережі

певний інструмент для допомоги в мережевих шахрайствах

Це більш універсальна шкідлива мовна модель, яка в основному продається в темній мережі та на форумах хакерів. Її типові способи зловживання в області шифрування включають:

• Підроблені шифрування проєкти, створення реалістичних біллів та маркетингових текстів для фальшивого фінансування
• Масове створення фальшивих фішингових сторінок відомих бірж
• Масштабне створення фальшивих коментарів у соціальних мережах, просування шахрайських токенів або дискредитація конкурентних проєктів
• Імітувати людську розмову, встановлювати довірчі відносини з користувачами, спонукати до розкриття чутливої інформації

без моральних обмежень AI асистент

Це чітко визначений AI-чат-бот без моральних обмежень. Потенційне зловживання в сфері шифрування включає:

• Генерація високоякісних фішингових електронних листів, що видають себе за повідомлення про фальшиві безпекові попередження від біржі
• Швидке створення коду смарт-контрактів з прихованими задніми дверцятами для реалізації шахрайства Rug Pull
• Створення шкідливого програмного забезпечення з можливістю трансформації для крадіжки інформації про гаманці
• Розгортання шахрайських роботів на соціальних платформах, щоб спонукати користувачів брати участь у фальшивих проектах
• Спільно з іншими інструментами штучного інтелекту створювати підроблені голоси засновників проекту для здійснення телефонних шахрайств

певна платформа без цензури

Це платформа, яка надає доступ до багатьох мовних моделей, включаючи деякі з меншим рівнем цензури. Вона позиціює себе як відкриті ворота для дослідження можливостей ШІ, але також може бути використана для генерації шкідливого контенту. Її ризики включають:

• Зловмисники можуть використовувати моделі з меншою кількістю обмежень для створення шаблонів фішингу та ідей для атак
• Знизити бар'єри для зловмисних підказок
• Прискорення ітерації та оптимізації тактики атак

Стратегії реагування

Поява безмежних мовних моделей знаменує собою нову парадигму атак, яка є більш складною, масштабною та автоматизованою, і з якою стикається кібербезпека. Це не тільки знижує поріг для атак, але й приносить нові приховані загрози, які є більш обманливими.

Щоб протистояти цим викликам, усі сторони безпечного екологічного середовища повинні працювати спільно:

1. Збільшити інвестиції в технології перевірки, розробити системи, які можуть виявляти і перехоплювати шкідливий контент, згенерований ШІ, експлуатацію вразливостей смарт-контрактів та шкідливий код.

2. Сприяння розвитку здібностей моделі до захисту від зламу, дослідження механізмів водяних знаків та відстеження, щоб мати можливість відстежувати джерела шкідливого контенту в критичних сценаріях.

3. Створення ефективних етичних норм та регуляторних механізмів для обмеження розробки та зловживання зловмисними моделями з самого початку.

4. Посилення освіти користувачів, підвищення обізнаності суспільства щодо здатності розпізнавати контент, згенерований ШІ, та безпекових аспектів.

5. Сприяння співпраці в галузі, створення механізму обміну інформацією для своєчасного виявлення та реагування на нові загрози штучного інтелекту.

Тільки комплексний підхід дозволить нам, користуючись перевагами технологій ШІ, ефективно запобігти потенційним ризикам, що з ними пов'язані, і підтримувати здоровий розвиток шифрування індустрії.