A Anthropic informou que bloqueou contas e operações que tentavam usar seus modelos de inteligência artificial em atividades potencialmente nocivas, incluindo ciberataques, vigilância, campanhas de influência e pesquisas biológicas de duplo uso. As ocorrências foram reunidas em um novo relatório de ameaças divulgado pela empresa e noticiado nesta quinta-feira, 10 de setembro.
Segundo a companhia, os casos representam uma parcela incomum do uso de seus serviços, mas ajudam a mostrar como sistemas de IA mais capazes podem reduzir barreiras técnicas para agentes mal-intencionados. A Anthropic afirmou ter encerrado as contas envolvidas, fortalecido mecanismos de proteção e compartilhado informações com autoridades e outras empresas do setor.
Pesquisa biológica elevou o nível de alerta
O episódio considerado mais sensível envolveu consultas relacionadas a pesquisas capazes de alterar propriedades de um vírus. O material teria sido apresentado como parte de uma proposta acadêmica, mas poderia ter aplicação tanto na criação de vacinas e tratamentos quanto no aumento do risco de um agente infeccioso.
A empresa não afirmou ter comprovado a intenção de produzir uma arma biológica. O relatório sustenta, porém, que a combinação entre capacidade científica avançada e contexto ambíguo exige controles mais rigorosos. Por essa razão, os modelos mais recentes passaram a restringir uma faixa maior de solicitações associadas a pesquisas biológicas de uso duplo.
A Associated Press relatou que a Anthropic reconhece não ser possível garantir que modelos avançados nunca causem danos. A companhia argumenta que a evolução das capacidades exige monitoramento permanente, troca de informações e respostas coordenadas entre desenvolvedores, governos e pesquisadores.
Ciberataques e operações de influência
O documento também descreve tentativas de utilizar inteligência artificial para desenvolver códigos maliciosos, apoiar vigilância e organizar redes de perfis falsos em plataformas sociais. Foram identificadas atividades associadas a diferentes regiões e interesses políticos, sem que todos os responsáveis ou países fossem nomeados.
Uma preocupação central é a possibilidade de usuários com conhecimento técnico limitado realizarem operações que, anteriormente, dependeriam de equipes especializadas. A IA não substitui toda a infraestrutura necessária para um ataque, mas pode acelerar tarefas como pesquisa, adaptação de código, tradução, produção de mensagens e coordenação de campanhas.
Pressão por regras e transparência
A divulgação reforça o debate sobre até onde as próprias empresas devem decidir quais usos são aceitáveis. Especialistas defendem que padrões de segurança, auditorias independentes e supervisão pública acompanhem a rápida expansão dos modelos de fronteira.
Ao tornar os casos conhecidos, a Anthropic busca ajudar outras plataformas a reconhecer padrões semelhantes antes que as operações alcancem escala. O desafio será equilibrar acesso legítimo à pesquisa científica e à inovação com barreiras capazes de impedir aplicações perigosas, sem depender apenas de decisões internas das empresas.
Fontes: Associated Press, The Guardian e relatório institucional da Anthropic.
