ViaMind RadarIA · Verificado por ViaMind
Anthropic propone a METR como auditor externo para supervisar la IA
Dario Amodei, CEO de Anthropic, abogó por dar acceso permanente a auditores externos e independientes y propuso a METR, organización sin ánimo de lucro que evalúa riesgos catastróficos de la IA. Sus críticos cuestionan su independencia.
Fuente: Xataka · Ver original ↗
Lo reportado
La propuesta de Amodei
Según Xataka, en una carta reciente Dario Amodei abogó por detener el avance de la IA y propuso dar acceso permanente a auditores externos e independientes, señalando a METR como candidato concreto.
Qué es METR
METR (Model Evaluation and Threat Research) se define como organización sin ánimo de lucro que evalúa científicamente si los sistemas de IA podrían suponer un peligro catastrófico. También investiga incidentes y diseña propuestas de gobernanza.
Independencia cuestionada
METR se presenta como independiente, pero sus críticos no lo ven así y tienen razones para dudar, según Xataka. La organización nació de ARC Evals, equipo del Alignment Research Center dirigido por Paul Christiano.
XatakaAmodei abogó por frenar la IA con un árbitro externo e independiente
Estado de evidencia: Las afirmaciones materiales incluidas fueron contrastadas con la evidencia enlazada.
Qué seguir
La reacción de otros laboratorios de IA y de los reguladores ante la propuesta de Amodei, y si METR publica sus fuentes de financiamiento.
Compartir esta historia
RECIBE VIAMIND RADAR
Lo que importa,
directo en tu correo.
Un resumen diario con una historia clave de cada sección.
Fuentes
Más en Inteligencia Artificial
