Anthropic evalúa las capacidades de Claude en investigación bioinformática
Anthropic ha presentado BioMysteryBench, un conjunto de pruebas para evaluar cómo Claude desempeña tareas de investigación bioinformática. El ejercicio forma parte de los esfuerzos de la compañía por construir sistemas de IA más confiables e interpretables.
Anthropic, la empresa de investigación en seguridad de IA, ha desarrollado BioMysteryBench para medir el rendimiento de Claude en tareas de bioinformática. Este trabajo se alinea con el objetivo estratégico de Anthropic de crear sistemas de inteligencia artificial que sean no solo más potentes, sino también más fiables, interpretables y controlables.
Claves
- Evaluación específica: BioMysteryBench proporciona un marco para probar Claude en escenarios de investigación bioinformática complejos
- Enfoque en confiabilidad: Las pruebas responden a la misión de Anthropic de desarrollar sistemas IA que funcionen de manera predecible y transparente
- Investigación abierta: El trabajo completo está disponible para consulta de la comunidad técnica
¿Te ha resultado útil esta noticia?
Fuente original
Leer artículo originalSeguir leyendo
Ayer
Claude prueba formalmente la seguridad de 123 librerías de código abierto
Anthropic ha usado Claude para demostrar propiedades de seguridad en el código compilado de 123 librerías open source, descubriendo vulnerabilidades que habían pasado desapercibidas durante años. El avance muestra cómo los LLMs hacen viable la verificación formal de software a escala industrial.
Hace 3 días
Claude reduce la superficie de ataque del código
Anthropic publica datos sobre cómo usar Claude para analizar y reducir automáticamente las vulnerabilidades en código abierto. La técnica permite identificar y eliminar funcionalidades innecesarias que exponen el software a riesgos de seguridad.
Hace 1 semana
Claude frena copia de sus capacidades en un 90%
Anthropic ha implementado defensas contra la destilación ilícita de modelos, una técnica que permite a desarrolladores copiar las capacidades de Claude sin replicar sus salvaguardas de seguridad. La compañía asegura haber reducido este tipo de ataques en más del 90%.
¿Te ha servido? Recíbelo cada lunes
Un correo semanal con lo más relevante de Claude y SAP, en español y sin ruido. Suscríbete aquí abajo →