Google prueba robots en Mercedes-Benz y presenta un test de seguridad para IA

Google DeepMind anunció el 10 de noviembre avances de Gemini Robotics 2.5, su sistema de inteligencia artificial destinado a controlar robots en entornos físicos. Entre las experiencias presentadas figura una prueba con el humanoide Apollo, de Apptronik, en instalaciones de Mercedes-Benz.

Según la compañía, el robot obtuvo un 96% de aciertos en la clasificación de piezas. Ese porcentaje corresponde a una tarea evaluada, no a una medida general del desempeño industrial ni a una certificación de seguridad para todas las situaciones.

[[recuadro]]Robots capaces, pero bajo evaluación

Google DeepMind presentó Gemini Robotics 2.5 con pruebas en entornos industriales de Mercedes-Benz y difundió resultados de clasificación de piezas realizados con un robot humanoide. La empresa informó un 96% de aciertos en esa actividad concreta. Además, liberó ASIMOV-Jailbreak, un conjunto de pruebas para comprobar cómo reaccionan los sistemas robóticos ante instrucciones peligrosas disfrazadas. Las cifras y conclusiones proceden de evaluaciones comunicadas por la propia compañía, no de una auditoría industrial independiente.[[/recuadro]]

La novedad incluye ASIMOV-Jailbreak, un banco abierto de pruebas con cientos de instrucciones diseñadas para disimular pedidos inseguros en distintas escenas. Su finalidad es medir si los modelos obedecen órdenes que podrían provocar acciones peligrosas.

DeepMind también comunicó mejoras en el razonamiento sobre obstáculos y proximidad de personas. Se trata de resultados experimentales presentados por la empresa: la adopción masiva de estos sistemas dependerá de nuevas pruebas y controles en condiciones reales.

Referencias

• Google DeepMind: Gemini Robotics 2.5 y pruebas ASIMOV-Jailbreak
• Infobae: prueba de robots en fábricas de Mercedes-Benz