Anthropic incorpora evaluadores de METR con acceso interno
Anthropic anuncia que seis empleados de METR reciben acceso interno para evaluar riesgos. Podrán publicar conclusiones sin veto de la compañía, dentro de un marco con información protegida.
Las decisiones, los efectos y los debates de la inteligencia artificial.
Un diario para entender qué cambia.
8 publicaciones · Últimos 14 días
Anthropic anuncia que seis empleados de METR reciben acceso interno para evaluar riesgos. Podrán publicar conclusiones sin veto de la compañía, dentro de un marco con información protegida.

Una encuesta a 976 estudiantes en China encuentra una asociación entre delegar tareas cognitivas en IA y declarar menor pensamiento crítico. El estudio no demuestra causalidad ni mide deterioro cognitivo.
El FMI señala que la inversión en IA sostiene parte de la actividad mundial, pero concentra la dependencia en pocas empresas, sectores y países. Revisar las expectativas sobre su rentabilidad podría afectar al crecimiento.
El AI Security Institute británico propone buenas prácticas voluntarias para controlar la IA avanzada durante su desarrollo y uso interno. Incluye la documentación de riesgos, la comunicación de incidentes y las evaluaciones independientes.
La presidencia del panel científico de IA de la UE recomienda reforzar la investigación de incidentes y la supervisión de modelos internos. La nota describe cuestiones abiertas y nuevas preguntas a los desarrolladores afectados.
En un ensayo, Satya Nadella defiende limitar permisos, registrar acciones y mantener controles independientes sobre los modelos. Son propuestas de gobernanza del autor, no una prueba de que esos controles eliminen los riesgos.
OSS Scanner ofrece análisis periódicos gratuitos a proyectos de código abierto admitidos. Los informes los generan modelos de Anthropic, incluidos Mythos, y se entregan sin revisión humana previa.
Anthropic amplía Cyber Verification Program e integra el acceso de Project Glasswing. Ofrece niveles para defensa, pruebas autorizadas y usos especializados, con verificación previa y distintas restricciones.