Entrá con tu cuenta de Google
Pronto también con Candado (llave de la aldea).
Vas a salir de tu cuenta en este dispositivo.
La iniciativa presentada en Ignite busca hacer auditables las acciones y los permisos de agentes de IA. El proyecto incluye colaboración con NIST y futuros cambios en Copilot.
Imagen ilustrativa generada con IA
Microsoft presentó el 17 de noviembre, durante su conferencia Ignite, la AI Transparency Initiative, una propuesta para desarrollar estándares abiertos que permitan supervisar y verificar las acciones de agentes de inteligencia artificial dentro de las empresas.
Según la compañía, participan más de 40 organizaciones, entre ellas Accenture, Adobe, KPMG, Mastercard y Volvo Cars. La iniciativa busca resolver una dificultad concreta: reconstruir qué hizo un agente entre una instrucción y el resultado, especialmente cuando tiene acceso a datos, herramientas o credenciales.
El programa contempla ampliar la colaboración con la iniciativa de estándares para agentes del instituto estadounidense NIST, trabajar con organizaciones de diferentes sectores e incorporar los resultados a Microsoft AI, Foundry y Copilot.
La propuesta se organiza alrededor de tres capacidades: ver, verificar y controlar. Microsoft sostiene que los registros de un modelo no deberían ser la única evidencia de su propio comportamiento y que la responsabilidad por las acciones automatizadas sigue en la organización que lo utiliza.
Se trata de una iniciativa anunciada, no de una certificación ya implementada ni de una garantía de seguridad. El comunicado no establece una fecha de entrada en vigor de estándares definitivos.
Todavía no hay comentarios. Sé el primero.
Para comentar tenés que estar registrado. La nota se lee sin login.
Entrar con Google Seguir en el tablón