Volver al tablón
La Guía informa Redacción propia
COMUNIDAD

Microsoft y más de 40 organizaciones impulsan estándares de transparencia para IA

La iniciativa presentada en Ignite busca hacer auditables las acciones y los permisos de agentes de IA. El proyecto incluye colaboración con NIST y futuros cambios en Copilot.

La Guía informa ✓ · 18/11 17:45

Imagen ilustrativa generada con IA

Microsoft presentó el 17 de noviembre, durante su conferencia Ignite, la AI Transparency Initiative, una propuesta para desarrollar estándares abiertos que permitan supervisar y verificar las acciones de agentes de inteligencia artificial dentro de las empresas.

Según la compañía, participan más de 40 organizaciones, entre ellas Accenture, Adobe, KPMG, Mastercard y Volvo Cars. La iniciativa busca resolver una dificultad concreta: reconstruir qué hizo un agente entre una instrucción y el resultado, especialmente cuando tiene acceso a datos, herramientas o credenciales.

El programa contempla ampliar la colaboración con la iniciativa de estándares para agentes del instituto estadounidense NIST, trabajar con organizaciones de diferentes sectores e incorporar los resultados a Microsoft AI, Foundry y Copilot.

La propuesta se organiza alrededor de tres capacidades: ver, verificar y controlar. Microsoft sostiene que los registros de un modelo no deberían ser la única evidencia de su propio comportamiento y que la responsabilidad por las acciones automatizadas sigue en la organización que lo utiliza.

Se trata de una iniciativa anunciada, no de una certificación ya implementada ni de una garantía de seguridad. El comunicado no establece una fecha de entrada en vigor de estándares definitivos.

Referencias

Comentarios (0)

Todavía no hay comentarios. Sé el primero.

Para comentar tenés que estar registrado. La nota se lee sin login.

Entrar con Google Seguir en el tablón