Volver al tablón
La Guía informa Redacción propia
COMUNIDAD

OpenAI abre sus evaluaciones de seguridad a cuatro organizaciones externas

La compañía anunció acuerdos con Apollo Research, METR, Goodfire y Transluce. Los equipos analizarán modelos y controles internos, con distintos alcances y límites de acceso.

La Guía informa ✓ · 17/11 11:24

Imagen ilustrativa generada con IA

OpenAI anunció el 16 de noviembre acuerdos con cuatro organizaciones externas para evaluar aspectos de la seguridad de sus modelos de inteligencia artificial. Las revisiones integradas permitirán acceder, según cada proyecto, a modelos en desarrollo, datos técnicos y sistemas de monitoreo.

El trabajo se distribuirá entre Apollo Research, METR, Goodfire y Transluce. Apollo examinará posibles intentos de los modelos de eludir controles; Goodfire estudiará cómo funcionan internamente; METR buscará comportamientos problemáticos y Transluce analizará la calidad de las pruebas de alineación. Los programas tienen alcances y etapas diferentes.

El alcance no es ilimitado. Según Apollo, seis de sus investigadores participarán durante cuatro meses, con acceso restringido a los modelos y períodos convenidos. La organización prevé publicar dos informes y reconoce que no contará con todas las facultades de acceso y divulgación que considera ideales.

OpenAI podrá reservar información confidencial por razones de seguridad o propiedad intelectual, aunque se comprometió a no ocultar material solo por ser desfavorable. Por ahora, se trata de una fase de evaluaciones, no de una certificación de seguridad ni de conclusiones definitivas.

Referencias

Comentarios (0)

Todavía no hay comentarios. Sé el primero.

Para comentar tenés que estar registrado. La nota se lee sin login.

Entrar con Google Seguir en el tablón