Anthropic refuerza los controles de seguridad en Claude
Anthropic ha publicado nuevas medidas de protección para Claude, su modelo de IA. La compañía enfatiza su enfoque en construir sistemas de inteligencia artificial confiables, interpretables y controlables.
Anthropic, la empresa de investigación en seguridad de IA, ha anunciado nuevos mecanismos de salvaguarda para Claude, su modelo de lenguaje. Las medidas responden al objetivo declarado de Anthropic de desarrollar sistemas de inteligencia artificial que sean confiables, interpretables y gobernables por los usuarios.
Claves
- Enfoque de seguridad: Anthropic prioriza la confiabilidad y la interpretabilidad en el diseño de Claude
- Control del usuario: Las nuevas salvaguardas buscan que los sistemas sean más esteerables, es decir, que respondan mejor a las intenciones del usuario
- Investigación continua: La compañía mantiene un focus en la investigación para mejorar cómo funcionan y se comportan los modelos de IA
¿Te ha resultado útil esta noticia?
Fuente original
Leer artículo originalSeguir leyendo
Hace 1 semana
Claude refuerza controles para elecciones EEUU 2026
Anthropic ha fortalecido los mecanismos de seguridad de Claude para evitar abusos electorales y sesgo político. El modelo ahora integrará información oficial de votación en tiempo real y datos verificados de fuentes como Democracy Works durante los comicios.
Hace 1 semana
Anthropic abre oficina en Singapur y pacta con el Gobierno
Anthropic inaugura su quinta oficina en Asia-Pacífico en Singapur y firma un memorándum con el ministerio de transformación digital para colaborar en seguridad de IA, evaluación de modelos y adopción responsable. Claude ya potencia servicios públicos y empresariales usados por millones de personas en el país.
Hace 2 semanas
Anthropic actualiza reglas para Claude: más control sobre desinformación
Anthropic ha publicado una nueva versión de su política de uso de Claude que entra en vigor el 12 de noviembre. Los cambios buscan frenar campañas de desinformación, armas autónomas y sistemas de vigilancia, reflejando cómo ha evolucionado el modelo y los abusos observados en el último año.
¿Te ha servido? Recíbelo cada lunes
Un correo semanal con lo más relevante de Claude y SAP, en español y sin ruido. Suscríbete aquí abajo →