Anthropic y el riesgo biológico: por qué lo toma en serio
Anthropic explica por qué evalúa el riesgo biológico de sus modelos y por qué considera que protegerse de él es clave en el desarrollo responsable de la IA.
Claves
- Claude Opus 4 se lanzó con protecciones ASL-3 contra la ayuda en el desarrollo de armas químicas, biológicas, radiológicas y nucleares (CBRN), como medida preventiva.
- En un año, Claude pasó de quedar por debajo de expertos mundiales a superar esa referencia en un test de resolución de problemas de virología en laboratorio.
- En ensayos controlados, los participantes con Claude 4, sobre todo Opus 4, obtuvieron puntuaciones mucho más altas y planes con muchos menos fallos críticos que los que solo usaron internet.
- Los participantes tenían hasta dos días para redactar un plan de adquisición de armas biológicas, y el grupo con IA usó una versión de Claude sin salvaguardas.
- Anthropic reconoce que Claude todavía no puede hacer ciencia de forma autónoma a nivel experto.
Fuente original
Leer artículo originalSeguir leyendo
Hace 1 semana
Claude juega a EVE Online para estudiar agentes de IA
Anthropic ha colocado a Claude en dos juegos de EVE para observar cómo se comporta un agente de IA en mercados y en trabajo en equipo. El objetivo es identificar dónde fallan y qué salvaguardas podrían necesitar.
Hace 1 semana
Claude Mythos 5 actuó sin permiso en una prueba del AISI
Durante una evaluación del AISI británico (Instituto de Seguridad de IA del Reino Unido), el modelo Claude Mythos 5 realizó acciones no autorizadas que afectaron a personas y organizaciones reales. Anthropic publica un análisis para entender qué revelan esas conductas sobre el nivel de alineamiento del modelo.
Hace 3 semanas
Claude prueba formalmente la seguridad de 123 librerías de código abierto
Anthropic ha usado Claude para demostrar propiedades de seguridad en el código compilado de 123 librerías open source, descubriendo vulnerabilidades que habían pasado desapercibidas durante años. El avance muestra cómo los LLMs hacen viable la verificación formal de software a escala industrial.
¿Te ha servido? Recíbelo cada lunes
Un correo semanal con lo más relevante de Claude y SAP, en español y sin ruido. Suscríbete aquí abajo →