Volver al tablón
La Guía informa Redacción propia
COMUNIDAD

La ONU alerta por el poder concentrado en la IA y reclama mayores controles

Volker Türk cuestionó en Ginebra la gobernanza «casi medieval» de la tecnología. Advirtió sobre la concentración del cómputo y la falta de contrapesos.

La Guía informa ✓ · 19/11 22:07

Imagen ilustrativa generada con IA

El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, cuestionó este jueves 19 de noviembre la concentración de poder en torno a la inteligencia artificial. Durante la cumbre RightsX, celebrada en Ginebra, sostuvo que una tecnología asociada al futuro se está gestionando con formas de poder que comparó con las de tiempos medievales, en manos de un número reducido de actores y con controles insuficientes, a su juicio.

La crítica no estuvo dirigida a una aplicación aislada ni a una falla específica de un chatbot. Se concentró en quién controla la capacidad de cómputo, los datos y la infraestructura necesarios para desarrollar los sistemas más avanzados. Türk planteó que esa concentración exige mecanismos de supervisión pública y una regulación enfocada en la protección de derechos, según las declaraciones difundidas por la agencia AFP y reproducidas en medios internacionales.

En su exposición, el funcionario afirmó que cinco empresas tecnológicas reúnen más del 70% de la capacidad informática mundial utilizada en inteligencia artificial. Es una cifra que atribuyó el propio alto comisionado durante su intervención. Las coberturas consultadas no aportan en ese punto un inventario independiente de las compañías y sus capacidades que permita tratar la proporción como una medición auditada por esta redacción.

Türk utilizó la comparación histórica para describir un problema de participación y responsabilidad. Según su planteo, el desarrollo de una tecnología con capacidad de influir sobre decisiones públicas y privadas no debería depender solo de quienes controlan las instalaciones, los datos y el financiamiento. Su denuncia describe un déficit democrático en la manera de organizar la gobernanza de la IA; no equivale a afirmar que todos los sistemas funcionan fuera de cualquier normativa vigente.

El escenario fue la cumbre RightsX, dedicada a los derechos humanos en la era digital. El sitio oficial de Naciones Unidas identifica el encuentro, denominado Rights 2.0 Summit, como una actividad realizada los días 18 y 19 de noviembre en el Palacio de las Naciones de Ginebra, con participación presencial y virtual. Sus ejes incluyen tecnología, información, innovación y posibles respuestas de instituciones públicas, empresas y sociedad civil.

El discurso, por lo tanto, se inscribe en una conversación institucional más amplia que el uso cotidiano de asistentes inteligentes. Türk advirtió que la IA puede influir en la vida de las personas sin que siempre conozcan cómo se utilizan los sistemas o qué decisiones intervienen. Entre los riesgos que mencionó estuvieron las formas de alterar el debate público y el uso de algoritmos que reproduzcan sesgos y desigualdades.

En ese punto hizo una advertencia sobre la escala. Un procedimiento automatizado que toma decisiones o recomienda acciones puede operar sobre grandes cantidades de casos; por eso, según su argumento, un sesgo no corregido tendría la capacidad de extenderse con rapidez. La afirmación expresa una preocupación del alto comisionado sobre posibles consecuencias, no la constatación de que todas las herramientas de IA estén produciendo el mismo daño.

El funcionario también habló de infraestructura crítica. Mencionó servicios cada vez más digitalizados, como los relacionados con transporte, alimentación y salud, y describió el peligro de que sistemas de inteligencia artificial puedan llegar a interrumpir prestaciones esenciales, por fallas o usos maliciosos. Presentó esa posibilidad como una advertencia prospectiva; no comunicó durante ese tramo del discurso un corte concreto ocurrido en un país determinado.

La preocupación combina dos niveles distintos. Uno es la seguridad técnica: cómo se prueban los sistemas, cómo se detectan errores y quién responde cuando una herramienta falla. El otro es institucional: quién decide qué riesgos son aceptables, qué información debe hacerse pública y qué recursos tienen los afectados para reclamar o impugnar decisiones automatizadas. Türk vinculó ambos planos al concepto de rendición de cuentas.

Las coberturas de su intervención recogen que el alto comisionado envió comunicaciones a compañías líderes del sector para pedir salvaguardas eficaces. El pedido apunta a que las empresas establezcan protecciones antes de que los riesgos se materialicen. El funcionario también sostuvo que los beneficios de la inteligencia artificial deben distribuirse de modo más equitativo, en lugar de quedar limitados a quienes desarrollan o controlan la tecnología.

Regular no es lo mismo que prohibir la inteligencia artificial. El reclamo informado se dirige a establecer reglas y controles adecuados a sus posibles efectos sobre derechos. De esas declaraciones no surge que la ONU haya decretado una prohibición general de modelos, servicios o productos de IA. Tampoco significa que las decisiones del alto comisionado constituyan por sí solas una ley obligatoria para todos los países.

La comparación con la regulación de productos cotidianos fue una de las imágenes elegidas en su intervención: otros bienes pasan por pruebas, estándares y controles antes de llegar al público. Türk usó esa referencia para sostener que las herramientas con potencial de producir daños importantes también necesitan alguna forma de evaluación. Esa analogía forma parte de su argumentación política y jurídica, no de un nuevo estándar técnico anunciado en el encuentro.

La discusión tiene una dimensión económica que el discurso deja planteada. La capacidad de cómputo, las instalaciones y los datos son recursos necesarios para entrenar y operar determinados sistemas. Cuando el acceso a esos recursos se concentra, otras empresas, organizaciones o países pueden encontrar barreras para participar en igualdad de condiciones. Ese posible desequilibrio es uno de los motivos por los cuales el alto comisionado pidió más controles y participación.

También existe una tensión legítima entre fomentar la innovación y fijar obligaciones que reduzcan riesgos. Diferentes modelos regulatorios pueden asignar responsabilidades distintas a desarrolladores, proveedores y usuarios, y las consecuencias prácticas dependen de cada normativa. La intervención de Türk no resuelve por sí sola esos debates: propone que los derechos humanos sean el principio central a la hora de diseñar las reglas y evaluar resultados.

En los medios, su referencia a una gobernanza casi medieval llamó la atención por el contraste entre un desarrollo técnico de última generación y estructuras de poder muy concentradas. Es una metáfora atribuida al funcionario, no una descripción literal de sistemas feudales. Su idea central es que el avance de la tecnología no garantiza automáticamente una distribución democrática del control sobre sus capacidades y efectos.

Como antecedente institucional inmediato, la cumbre RightsX presentó un espacio de diálogo entre gobiernos, sistema de Naciones Unidas, sector privado, innovadores y organizaciones de derechos humanos. Esa composición permite entender que el problema de la supervisión no se agota en una relación entre una sola empresa y sus clientes. La discusión incluye a los Estados, a los organismos internacionales y a la sociedad civil.

Al cierre de la jornada, el hecho verificable es la advertencia pública de Volker Türk y su pedido de una regulación orientada a derechos y responsabilidad. La cifra sobre concentración de capacidad informática y los escenarios de interrupción de servicios deben mantenerse correctamente atribuidos a su discurso. El desafío abierto es cómo traducir esas demandas en instrumentos concretos, sin confundir un diagnóstico institucional con una regulación ya aprobada.

Referencias

Comentarios (0)

Todavía no hay comentarios. Sé el primero.

Para comentar tenés que estar registrado. La nota se lee sin login.

Entrar con Google Seguir en el tablón