Volver al tablón
La Guía informa Redacción propia
COMUNIDAD

Aleksander Madry y el desafío de construir una inteligencia artificial confiable

El investigador del MIT trabaja en la robustez de los modelos de aprendizaje automático. Su foco: que la IA funcione también fuera de las pruebas controladas.

La Guía informa ✓ · 16/11 20:11

Imagen ilustrativa generada con IA

¿Qué hace falta para confiar en una inteligencia artificial? Para Aleksander Mądry, investigador vinculado al Instituto Tecnológico de Massachusetts (MIT), no alcanza con que un modelo obtenga buenos resultados en una evaluación: también debe responder adecuadamente cuando cambian las condiciones de uso.

El laboratorio que lleva su nombre estudia cómo desarrollar herramientas de aprendizaje automático más fiables para situaciones reales. Entre sus preocupaciones figuran la influencia de los datos en las decisiones de los modelos y los cambios entre los entornos de entrenamiento y aquellos en los que finalmente se aplican.

El proyecto de investigación del MIT sobre aprendizaje automático robusto señala que las pruebas convencionales pueden ocultar debilidades ante alteraciones accidentales o maliciosas. También remarca la necesidad de entender los sesgos que aprenden los modelos y cómo afectan las decisiones.

Como antecedente profesional, el 19 de octubre de 2026 Mądry anunció su regreso a OpenAI para trabajar con Jakub Pachocki en desafíos de seguridad de sistemas cada vez más capaces. No se trata de un anuncio del 16 de noviembre: esta nota explica una línea de investigación que sigue siendo relevante, sin presentar aquel regreso como novedad de hoy.

Referencias

Comentarios (0)

Todavía no hay comentarios. Sé el primero.

Para comentar tenés que estar registrado. La nota se lee sin login.

Entrar con Google Seguir en el tablón