Entrá con tu cuenta de Google
Pronto también con Candado (llave de la aldea).
Vas a salir de tu cuenta en este dispositivo.
La compañía anunció acuerdos con Apollo Research, METR, Goodfire y Transluce. Los equipos analizarán modelos y controles internos, con distintos alcances y límites de acceso.
Imagen ilustrativa generada con IA
OpenAI anunció el 16 de noviembre acuerdos con cuatro organizaciones externas para evaluar aspectos de la seguridad de sus modelos de inteligencia artificial. Las revisiones integradas permitirán acceder, según cada proyecto, a modelos en desarrollo, datos técnicos y sistemas de monitoreo.
El trabajo se distribuirá entre Apollo Research, METR, Goodfire y Transluce. Apollo examinará posibles intentos de los modelos de eludir controles; Goodfire estudiará cómo funcionan internamente; METR buscará comportamientos problemáticos y Transluce analizará la calidad de las pruebas de alineación. Los programas tienen alcances y etapas diferentes.
El alcance no es ilimitado. Según Apollo, seis de sus investigadores participarán durante cuatro meses, con acceso restringido a los modelos y períodos convenidos. La organización prevé publicar dos informes y reconoce que no contará con todas las facultades de acceso y divulgación que considera ideales.
OpenAI podrá reservar información confidencial por razones de seguridad o propiedad intelectual, aunque se comprometió a no ocultar material solo por ser desfavorable. Por ahora, se trata de una fase de evaluaciones, no de una certificación de seguridad ni de conclusiones definitivas.
Todavía no hay comentarios. Sé el primero.
Para comentar tenés que estar registrado. La nota se lee sin login.
Entrar con Google Seguir en el tablón