OpenAI y Anthropic firman contra armas biológicas con IA

El 31 de octubre de 2024, OpenAI y Anthropic firmaron una carta pública comprometiéndose a prevenir que sus modelos de IA faciliten el desarrollo de armas biológicas. El documento, publicado por Wired, llega después de que evaluaciones internas revelaran que modelos como GPT-4 y Claude 3.7 Sonnet ya ofrecen información crítica para la fabricación de patógenos.

Por qué importa

No es ciencia ficción. Anthropic detectó que Claude 3.7 Sonnet "proporciona mejores consejos en pasos clave de la ruta de armamentización y comete menos errores críticos" que modelos anteriores. OpenAI reportó avances similares. La carta es un gesto voluntario, no una regulación vinculante.

El verdadero problema es la velocidad: mientras los gobiernos discuten, los modelos mejoran cada trimestre. Eric Schmidt, ex CEO de Google, ya advirtió que el mayor riesgo de la IA será su uso en conflictos biológicos. Dario Amodei, CEO de Anthropic, calcula que en dos o tres años la IA podría automatizar pasos clave del diseño de patógenos.

Qué dice el contexto

• Anthropic activó el nivel de seguridad ASL-3 al lanzar Claude Opus 4, bloqueando funciones relacionadas con armas químicas, biológicas, radiológicas y nucleares.
• Un informe del CSIS confirma que tanto OpenAI como Anthropic han visto mejoras rápidas en la capacidad de sus modelos para dar información sensible sobre bioweapons.
• Expertos en bioseguridad del Belfer Center señalan que el consenso científico aún está dividido: algunos creen que el riesgo es exagerado, otros que es inminente.
• La carta firmada no incluye mecanismos de verificación externa ni sanciones por incumplimiento. Es un compromiso público, no un contrato.
• Mientras tanto, Anthropic crece en el sector empresarial (Novo Nordisk, fondo soberano noruego) y su facturación pasó de cero a cientos de millones en dos años, lo que demuestra que el negocio de la IA segura es viable.

Lo que puedes hacer

1. Exige transparencia a las empresas que usas. Si trabajas con APIs de OpenAI o Anthropic, pregunta por sus protocolos de bioseguridad. Que te muestren sus evaluaciones de riesgo, no solo sus comunicados.