Anthropic refuerza los controles de seguridad en Claude
Anthropic ha publicado nuevas medidas de protección para Claude, su modelo de IA. La compañía enfatiza su enfoque en construir sistemas de inteligencia artificial confiables, interpretables y controlables.
Anthropic, la empresa de investigación en seguridad de IA, ha anunciado nuevos mecanismos de salvaguarda para Claude, su modelo de lenguaje. Las medidas responden al objetivo declarado de Anthropic de desarrollar sistemas de inteligencia artificial que sean confiables, interpretables y gobernables por los usuarios.
Claves
- Enfoque de seguridad: Anthropic prioriza la confiabilidad y la interpretabilidad en el diseño de Claude
- Control del usuario: Las nuevas salvaguardas buscan que los sistemas sean más esteerables, es decir, que respondan mejor a las intenciones del usuario
- Investigación continua: La compañía mantiene un focus en la investigación para mejorar cómo funcionan y se comportan los modelos de IA
¿Te ha resultado útil esta noticia?
Fuente original
Leer artículo originalSeguir leyendo
Hace 5 días
Anthropic actualiza reglas para Claude: más control sobre desinformación
Anthropic ha publicado una nueva versión de su política de uso de Claude que entra en vigor el 12 de noviembre. Los cambios buscan frenar campañas de desinformación, armas autónomas y sistemas de vigilancia, reflejando cómo ha evolucionado el modelo y los abusos observados en el último año.
Hace 1 semana
Claude abre acceso avanzado a expertos en ciberseguridad
Anthropic amplía su Cyber Verification Program con tres niveles de acceso a modelos de IA para profesionales de seguridad. El programa permite que defensores accedan a capacidades de Claude sin los bloqueos que aplica al público general, manteniendo controles contra usos maliciosos.
Hace 3 semanas
Anthropic lanza programa de verificación para ciencias de la vida
Anthropic presenta un nuevo programa de verificación diseñado específicamente para aplicaciones de IA en el sector de ciencias de la vida y farmacéutica. La iniciativa busca garantizar que los modelos de IA cumplan con estándares de confiabilidad e interpretabilidad críticos en un sector altamente regulado.
¿Te ha servido? Recíbelo cada lunes
Un correo semanal con lo más relevante de Claude y SAP, en español y sin ruido. Suscríbete aquí abajo →