El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, lanzó una fuerte advertencia sobre el avance acelerado de la inteligencia artificial y aseguró que “todos los derechos humanos están en riesgo”, incluidos los vinculados con la vida, la alimentación, la privacidad, la salud y la seguridad.
“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino también a las generaciones futuras de la humanidad”, sostuvo el funcionario austríaco en un comunicado en el que reclamó una acción urgente de los gobiernos y las empresas que desarrollan los sistemas más avanzados.
Türk puso especial atención sobre la llamada IA agéntica, capaz de completar tareas complejas y tomar decisiones con un nivel creciente de autonomía. Según explicó, eventuales fallas de estos sistemas podrían paralizar servicios esenciales, interrumpir comunicaciones, afectar infraestructuras críticas e incluso comprometer el funcionamiento de instituciones democráticas.
“Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros”, alertó.
El funcionario también advirtió que la inteligencia artificial ya está acelerando el ritmo de los conflictos armados, ampliando su alcance y debilitando las barreras de seguridad destinadas a evitar el uso de armas de destrucción masiva.
El pedido de la ONU a los gobiernos y las empresas
Ante este escenario, Türk reclamó que los gobiernos y las compañías tecnológicas alcancen acuerdos en ámbitos multilaterales para establecer una gobernanza internacional de la inteligencia artificial, basada en el derecho internacional y la protección de los derechos humanos.
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo”, planteó.
La advertencia también apuntó a la concentración del desarrollo de la IA en un reducido grupo de compañías privadas, que compiten por crear modelos cada vez más capaces.
Según el alto comisionado, esa competencia puede incentivar el lanzamiento de sistemas antes de que existan mecanismos suficientes para comprender su funcionamiento, evaluar sus riesgos y mantenerlos bajo control.
Türk no planteó frenar la innovación tecnológica, pero sí reclamó límites, controles independientes y acuerdos internacionales antes de que las capacidades de estos sistemas superen las herramientas disponibles para supervisarlos.
Las advertencias de los líderes de la industria
El pronunciamiento de la ONU se conoció en medio de un creciente debate dentro de la propia industria tecnológica.
El CEO de Anthropic, Dario Amodei, planteó reducir deliberadamente el ritmo de desarrollo de los modelos de frontera y advirtió que el avance tecnológico está siendo más rápido que las investigaciones destinadas a garantizar la seguridad de estos sistemas.
También expresó preocupación por la posibilidad de que agentes autónomos cada vez más avanzados puedan comprometer grandes sectores de Internet y por la llamada mejora recursiva, escenario en el que una IA participa en la creación de modelos posteriores con mayores capacidades.
Su postura recibió respaldo de Sam Altman, CEO de OpenAI, y Elon Musk, fundador de xAI, quienes coincidieron en la necesidad de reforzar las evaluaciones de seguridad y establecer mayores controles sobre el desarrollo de la tecnología.
El debate, así, dejó de estar limitado a los laboratorios tecnológicos: la ONU ahora advierte que las decisiones que se tomen sobre el desarrollo de la inteligencia artificial pueden tener consecuencias directas sobre los derechos y la seguridad de millones de personas.
Comentarios