Anthropic informó que bloqueó cuentas y operaciones que intentaban usar sus modelos de inteligencia artificial en actividades potencialmente nocivas, incluyendo ciberataques, vigilancia, campañas de influencia e investigaciones biológicas de doble uso. Las incidencias fueron reunidas en un nuevo informe de amenazas divulgado por la empresa y noticiado este jueves, 10 de septiembre.
Según la compañía, los casos representan una proporción inusual del uso de sus servicios, pero ayudan a mostrar cómo sistemas de IA más capaces pueden reducir barreras técnicas para actores malintencionados. Anthropic afirmó haber cerrado las cuentas involucradas, fortalecido mecanismos de protección y compartido información con autoridades y otras empresas del sector.
La investigación biológica elevó el nivel de alerta
El episodio considerado más sensible involucró consultas relacionadas con investigaciones capaces de alterar propiedades de un virus. El material habría sido presentado como parte de una propuesta académica, pero podría tener aplicación tanto en la creación de vacunas y tratamientos como en el aumento del riesgo de un agente infeccioso.
La empresa no afirmó haber comprobado la intención de producir un arma biológica. El informe sostiene, sin embargo, que la combinación entre capacidad científica avanzada y contexto ambiguo exige controles más rigurosos. Por esa razón, los modelos más recientes comenzaron a restringir un rango mayor de solicitudes asociadas a investigaciones biológicas de doble uso.
Associated Press informó que Anthropic reconoce que no es posible garantizar que los modelos avanzados nunca causen daños. La compañía argumenta que la evolución de las capacidades exige monitoreo permanente, intercambio de información y respuestas coordinadas entre desarrolladores, gobiernos e investigadores.
Ciberataques y operaciones de influencia
El documento también describe intentos de utilizar inteligencia artificial para desarrollar código malicioso, apoyar la vigilancia y organizar redes de perfiles falsos en plataformas sociales. Se identificaron actividades asociadas a diferentes regiones e intereses políticos, sin que todos los responsables o países fueran nombrados.
Una preocupación central es la posibilidad de que usuarios con conocimientos técnicos limitados realicen operaciones que, anteriormente, dependerían de equipos especializados. La IA no sustituye toda la infraestructura necesaria para un ataque, pero puede acelerar tareas como la investigación, adaptación de código, traducción, producción de mensajes y coordinación de campañas.
Presión por normas y transparencia
La divulgación refuerza el debate sobre hasta dónde las propias empresas deben decidir qué usos son aceptables. Especialistas defienden que los estándares de seguridad, las auditorías independientes y la supervisión pública acompañen la rápida expansión de los modelos de frontera.
Al hacer públicos estos casos, Anthropic busca ayudar a otras plataformas a reconocer patrones similares antes de que las operaciones alcancen escala. El desafío será equilibrar el acceso legítimo a la investigación científica y la innovación con barreras capaces de impedir aplicaciones peligrosas, sin depender únicamente de decisiones internas de las empresas.
Fuentes: Associated Press, The Guardian e informe institucional de Anthropic.
