Entrá con tu cuenta de Google
Pronto también con Candado (llave de la aldea).
Vas a salir de tu cuenta en este dispositivo.
El investigador del MIT trabaja en la robustez de los modelos de aprendizaje automático. Su foco: que la IA funcione también fuera de las pruebas controladas.
Imagen ilustrativa generada con IA
¿Qué hace falta para confiar en una inteligencia artificial? Para Aleksander Mądry, investigador vinculado al Instituto Tecnológico de Massachusetts (MIT), no alcanza con que un modelo obtenga buenos resultados en una evaluación: también debe responder adecuadamente cuando cambian las condiciones de uso.
El laboratorio que lleva su nombre estudia cómo desarrollar herramientas de aprendizaje automático más fiables para situaciones reales. Entre sus preocupaciones figuran la influencia de los datos en las decisiones de los modelos y los cambios entre los entornos de entrenamiento y aquellos en los que finalmente se aplican.
El proyecto de investigación del MIT sobre aprendizaje automático robusto señala que las pruebas convencionales pueden ocultar debilidades ante alteraciones accidentales o maliciosas. También remarca la necesidad de entender los sesgos que aprenden los modelos y cómo afectan las decisiones.
Como antecedente profesional, el 19 de octubre de 2026 Mądry anunció su regreso a OpenAI para trabajar con Jakub Pachocki en desafíos de seguridad de sistemas cada vez más capaces. No se trata de un anuncio del 16 de noviembre: esta nota explica una línea de investigación que sigue siendo relevante, sin presentar aquel regreso como novedad de hoy.
Todavía no hay comentarios. Sé el primero.
Para comentar tenés que estar registrado. La nota se lee sin login.
Entrar con Google Seguir en el tablón