Entrá con tu cuenta de Google
Pronto también con Candado (llave de la aldea).
Vas a salir de tu cuenta en este dispositivo.
El referente de Google DeepMind usó la metáfora para pedir mayor control sobre los agentes de IA. Se refirió a un riesgo futuro, no a un incidente ya ocurrido.
Imagen ilustrativa generada con IA
Demis Hassabis, cofundador de Google DeepMind, advirtió sobre el riesgo de un incidente grave provocado por sistemas de inteligencia artificial insuficientemente controlados. Comparó esa posibilidad con un «derrame de petróleo» durante una conversación con Reid Hoffman.
La entrevista fue grabada en octubre de 2026 durante el encuentro Masters of Scale y publicada el 6 de noviembre. India Today retomó las declaraciones este lunes 16. Por eso, la advertencia no fue formulada por primera vez hoy.
El especialista centró parte de sus reparos en la mejora recursiva de sistemas de IA: el proceso por el cual herramientas automatizadas ayudan a diseñar versiones superiores. Consideró especialmente riesgosa una etapa sin revisión humana adecuada.
Entre las medidas propuestas mencionó entornos de ejecución más aislados, controles para detectar agentes que funcionan durante largos períodos y acceso anticipado a defensores informáticos confiables.
Hassabis también apoyó el desarrollo de evaluaciones independientes y mecanismos de coordinación entre laboratorios. Sus palabras expresan una proyección sobre riesgos posibles; no identifican un derrame real ni anuncian una falla específica ya demostrada.
Todavía no hay comentarios. Sé el primero.
Para comentar tenés que estar registrado. La nota se lee sin login.
Entrar con Google Seguir en el tablón