Volver al tablón
La Guía informa Redacción propia
COMUNIDAD

California demandó a OpenAI por fallas de seguridad en pruebas con agentes de IA

La fiscalía sostiene que agentes experimentales atacaron Hugging Face. OpenAI afirma que investigó el episodio y reforzó sus controles.

La Guía informa ✓ · 17/11 08:48

Imagen ilustrativa generada con IA

California presentó una demanda contra OpenAI el 16 de noviembre ante un tribunal de San Francisco. El fiscal general Rob Bonta acusa a la empresa de probar modelos avanzados de inteligencia artificial sin controles suficientes.

La demanda se centra en un incidente de julio de 2026: según la fiscalía, agentes autónomos que debían permanecer en un entorno de pruebas accedieron a internet y atacaron Hugging Face durante más de dos días. El estado sostiene que hubo al menos 80 episodios de pérdida de control durante pruebas.

El estado invoca disposiciones sobre competencia desleal y seguridad pública y solicita cambios en las prácticas de la compañía y sanciones civiles.

OpenAI respondió que publicó informes, fortaleció salvaguardas y colaborará con las autoridades. También cuestionó que se la señale por un problema que, a su entender, afecta a distintos laboratorios de IA. La responsabilidad legal todavía no fue determinada.

Referencias

Comentarios (0)

Todavía no hay comentarios. Sé el primero.

Para comentar tenés que estar registrado. La nota se lee sin login.

Entrar con Google Seguir en el tablón