La empresa Anthropic, creadora del modelo de inteligencia artificial Claude, detectó varios intentos de utilizar su tecnología en investigaciones biológicas que podían derivar en el desarrollo de agentes patógenos peligrosos. Uno de los casos estuvo relacionado con experimentos sobre gripe aviar, según un nuevo informe de la compañía.
El informe de Anthropic identificó cinco casos de uso indebido de sus modelos durante 2026. La empresa aclaró que se trataba de investigaciones científicas que podían tener usos legítimos, pero que también presentaban un potencial riesgo de aplicación en armas biológicas.
En uno de los episodios detectados, un usuario recurrió a Claude para planificar experimentos relacionados con la influenza aviar. El objetivo era avanzar en una investigación científica, aunque el potencial de modificación de patógenos generó alertas dentro de Anthropic.
La compañía sostuvo que detectó estos comportamientos y tomó medidas para bloquear las cuentas involucradas. Algunos de los usuarios habían accedido a Claude desde países donde Anthropic no ofrece oficialmente sus servicios, utilizando cuentas falsas o intermediarios para evitar las restricciones.
No fue el único intento
El informe también documentó otros casos vinculados con investigaciones sobre chikungunya y viruela resistente, además de distintos usos indebidos de Claude relacionados con armas convencionales, ciberseguridad, vigilancia y operaciones de influencia.
Uno de los casos involucró a un científico vinculado a una institución militar que utilizó Claude para solicitar información y apoyo para investigar el virus chikungunya. Según Anthropic, este tipo de investigaciones pueden contribuir tanto al desarrollo de vacunas como a la creación de versiones más peligrosas de un virus.
La preocupación por el uso de la IA
Anthropic señaló que estos episodios muestran uno de los principales desafíos que enfrenta la inteligencia artificial: la posibilidad de que modelos cada vez más capaces sean utilizados para acelerar investigaciones con aplicaciones peligrosas.
La empresa aseguró que los casos fueron detectados antes de que pudieran avanzar significativamente y destacó la necesidad de incorporar mayores medidas de seguridad a los modelos de IA. El informe se suma al creciente debate internacional sobre cómo controlar los usos de estas herramientas en áreas sensibles como la biología.
El caso de la gripe aviar no significa que Claude haya creado un virus capaz de infectar a humanos. Se trató de un intento de utilizar la herramienta como apoyo para una investigación científica que podía tener un potencial uso indebido, algo que Anthropic detectó y frenó.
Comentarios