A espada de dois gumes da inteligência artificial: a ameaça potencial dos modelos grandes sem restrições à indústria da encriptação

Com o rápido desenvolvimento da tecnologia de inteligência artificial, modelos de linguagem avançados, desde a série GPT até o Gemini, estão a mudar profundamente a nossa forma de trabalhar e viver. No entanto, o avanço tecnológico também trouxe riscos potenciais, sendo o mais alarmante a emergência de modelos de linguagem de grande escala sem restrições ou maliciosos.

Modelos de linguagem sem restrições referem-se àqueles que foram deliberadamente projetados ou modificados para contornar os mecanismos de segurança e as restrições éticas integrados nos modelos principais. Embora os desenvolvedores de IA principais tenham investido muitos recursos para evitar o abuso dos modelos, alguns indivíduos ou organizações, por motivos ilegais, começaram a procurar ou desenvolver modelos não restritos. Este artigo irá explorar algumas ferramentas típicas de modelos de linguagem sem restrições, suas potenciais formas de abuso na indústria de encriptação, bem como os desafios de segurança relacionados e as estratégias de resposta.

A ameaça dos modelos de linguagem sem restrições

A emergência de modelos desse tipo reduziu significativamente a barreira de entrada para o crime cibernético. Tarefas que antes exigiam habilidades profissionais, como escrever código malicioso, criar emails de phishing e planejar fraudes, agora podem ser realizadas facilmente por pessoas comuns sem experiência em programação, graças à IA sem restrições. Os atacantes apenas precisam obter os pesos e o código fonte de modelos de código aberto e, em seguida, ajustar finamente com conjuntos de dados que contêm conteúdo malicioso ou instruções ilegais, para criar ferramentas de ataque personalizadas.

Este modo traz múltiplos riscos: atacantes podem personalizar modelos para alvos específicos, gerando conteúdos mais enganadores que conseguem contornar a revisão de conteúdo da IA convencional; o modelo também pode gerar rapidamente variantes de código de sites de phishing, ou criar textos fraudulentos sob medida para diferentes plataformas; ao mesmo tempo, a disponibilidade de modelos de código aberto também alimenta a formação de um ecossistema de IA subterrâneo, proporcionando um terreno fértil para transações e desenvolvimentos ilegais.

Modelos de linguagem ilimitados típicos e suas ameaças potenciais

um modelo sem restrições éticas

Este é um modelo de linguagem malicioso vendido publicamente em fóruns subterrâneos, com os desenvolvedores afirmando que não possui quaisquer limitações éticas. O modelo é baseado em uma arquitetura de código aberto e foi treinado em uma grande quantidade de dados relacionados a malware. Os usuários precisam apenas pagar uma pequena taxa para obter acesso. O seu uso mais infame é gerar e-mails de ataque de intrusão comercial e e-mails de phishing altamente realistas.

As formas típicas de abuso no campo da encriptação incluem:

• Gerar e-mails de phishing, fingindo ser uma exchange ou um projeto para induzir os usuários a divulgarem suas chaves privadas
• Ajudar atacantes com nível técnico mais baixo a escrever código malicioso para roubar informações de carteiras
• Impulsionar fraudes automatizadas, guiando as vítimas a participar de airdrops ou projetos de investimento falsos

Modelo exclusivo para conteúdo da dark web

Este é um modelo de linguagem desenvolvido por uma instituição de pesquisa, especificamente treinado em dados da dark web. O seu objetivo é ajudar investigadores de segurança e autoridades de aplicação da lei a entender melhor a ecologia da dark web e a rastrear atividades ilegais. No entanto, se cair nas mãos de criminosos ou se tecnologias semelhantes forem utilizadas para treinar modelos sem restrições, as consequências podem ser inimagináveis.

No campo da encriptação, os potenciais abusos incluem:

• Coletar informações de usuários e equipes de projetos para fraudes sociais precisas
• Copiar estratégias maduras de roubo de moedas e lavagem de dinheiro na dark web

uma ferramenta auxiliar de fraude na rede

Este é um modelo de linguagem malicioso mais abrangente, vendido principalmente na dark web e em fóruns de hackers. Os seus modos típicos de abuso no campo da encriptação incluem:

• Projetos de encriptação falsificados, gerando white papers e textos de marketing realistas para financiamento fraudulento
• Gerar em massa páginas de phishing que imitam exchanges conhecidas
• Criar em massa comentários falsos nas redes sociais para promover tokens fraudulentos ou difamar projetos concorrentes
• Imitar o diálogo humano, estabelecer uma relação de confiança com os usuários, induzir à divulgação de informações sensíveis

assistente de IA sem restrições éticas

Este é um chatbot de IA claramente posicionado como sem restrições éticas. Os potenciais abusos no campo da encriptação incluem:

• Gerar e-mails de phishing altamente realistas, fingindo ser uma troca e emitindo falsos alertas de segurança
• Gerar rapidamente código de contrato inteligente com uma porta dos fundos oculta, para implementar um golpe de Rug Pull.
• Criar malware com capacidade de transformação para roubar informações de carteiras
• Implantar robôs de fraude em plataformas sociais, induzindo os usuários a participar de projetos falsos
• Colaborar com outras ferramentas de IA para gerar vozes falsas de fundadores de projetos, implementando fraudes por telefone

uma plataforma de acesso sem revisão

Esta é uma plataforma que oferece acesso a vários modelos de linguagem, incluindo alguns modelos com menos censura. Posiciona-se como um portal aberto para explorar as capacidades da IA, mas também pode ser usada para gerar conteúdo malicioso. Os seus riscos incluem:

• Os atacantes podem usar modelos com menos restrições para gerar templates de phishing e estratégias de ataque.
• Reduzir a barreira de entrada para engenharia de prompts maliciosos
• Acelerar a iteração e otimização da estratégia de ataque

Estratégias de resposta

O surgimento de modelos de linguagem sem restrições marca a emergência de um novo paradigma de ataques à segurança cibernética, que são mais complexos, em maior escala e com capacidades de automação. Isso não apenas reduz o limiar de ataque, mas também traz novas ameaças mais discretas e enganosas.

Para enfrentar esses desafios, as partes do ecossistema de segurança precisam trabalhar em conjunto:

1. Aumentar o investimento em tecnologia de detecção, desenvolver sistemas que possam identificar e interceptar conteúdos maliciosos gerados por IA, exploração de vulnerabilidades de contratos inteligentes e código malicioso.

2. Promover a construção da capacidade de defesa contra jailbreak dos modelos, explorar mecanismos de marca d'água e rastreamento, a fim de rastrear a origem de conteúdo malicioso em cenários críticos.

3. Estabelecer normas éticas e mecanismos de regulamentação robustos para limitar desde a raiz o desenvolvimento e o abuso de modelos maliciosos.

4. Reforçar a educação dos usuários, aumentando a capacidade do público de identificar conteúdos gerados por AI e a consciência de segurança.

5. Promover a cooperação entre setores, estabelecer um mecanismo de partilha de informações, para identificar e responder rapidamente a novas ameaças de IA.

Somente com uma abordagem multifacetada podemos desfrutar dos benefícios da tecnologia de IA enquanto prevenimos efetivamente os riscos potenciais que ela traz, mantendo o desenvolvimento saudável da indústria de encriptação.