Anthropic formaliza evaluaciones independientes para sus modelos de frontera

Anthropic anunció medidas para dar a evaluadores independientes acceso más temprano y estable a modelos relevantes, además de apoyo financiero para ampliar la capacidad de pruebas. El objetivo es que terceros puedan investigar seguridad, sesgos y capacidades sin depender exclusivamente de resultados internos.

La empresa también promete documentar mejor las restricciones del acceso, los cambios aplicados al modelo evaluado y las diferencias entre una versión de prueba y la que finalmente llega a usuarios.

Financiar evaluadores puede aumentar cobertura, pero no garantiza independencia por sí solo. Importan la libertad para publicar resultados adversos, la selección de equipos, el tiempo disponible y el acceso a herramientas y registros.

Para compradores y reguladores, los informes externos deben leerse junto con tarjetas de sistema, incidentes posteriores al despliegue y evidencia reproducible. Una evaluación puntual no sustituye el monitoreo continuo de modelos y agentes.