OpenAI presentó Control Room para detener tareas de investigación con IA

OpenAI describió Control Room, un mecanismo central para impedir que tareas de investigación de sus modelos sigan generando respuestas después de recibir una orden de detención. Según la compañía, el corte se aplica en un máximo de 35 segundos desde que el servicio recibe esa instrucción.

El sistema identifica cada tarea con un código y exige que el motor del modelo consulte si está autorizada antes de responder. Si se revoca el permiso, el motor rechaza las solicitudes siguientes. El programa de investigación puede continuar abierto, pero deja de recibir nuevas salidas del modelo.

• [[recuadro]]
• Una barrera central para la investigación con IA

Control Room es un servicio de OpenAI destinado a detener la producción de respuestas de modelos usados en tareas internas de investigación y evaluación. Cada trabajo recibe una identificación y debe obtener autorización antes de solicitar contenido al modelo. Si una persona o un monitor ordena detenerlo, el permiso se revoca. La empresa afirma que el corte ocurre dentro de 35 segundos desde esa orden, no desde el comienzo del incidente. [[/recuadro]]

La protección funciona en la llamada capa de inferencia, separada de los programas de prueba, para no depender de que estos ejecuten correctamente una orden de apagado. OpenAI señaló que, si Control Room deja de funcionar, se bloquean las nuevas solicitudes.

El límite de 35 segundos no mide el tiempo necesario para descubrir un riesgo: comienza cuando llega la decisión de intervenir. La compañía atribuye la demora a un sistema temporal de autorizaciones y plantea reducirla.

Control Room está dirigido a infraestructura de investigación; no debe confundirse con el mecanismo de atención de ChatGPT y otros productos públicos.

Referencias

• OpenAI — Control Room: sistema central para detener tareas de modelos en investigación
• The Register — Análisis del mecanismo de detención de modelos de OpenAI