El avance acelerado de la inteligencia artificial volvió a abrir un debate que ya dejó de ser exclusivamente tecnológico: ¿hasta dónde puede llegar la IA y qué riesgos implica que los sistemas tengan cada vez mayor autonomía?
Para analizar ese escenario, Juan O’Farrell, investigador en tecnología y desarrollo de Fundar Políticas y docente de Economía Política en la Universidad Torcuato Di Tella, dialogó con el equipo de Entra Río Primera Hora, por FM Río, y explicó cuáles son los principales desafíos que plantea esta nueva etapa.
Según O’Farrell, durante los últimos meses se produjo una aceleración significativa en las capacidades de estos sistemas, especialmente a partir del desarrollo de los llamados agentes de inteligencia artificial.
A diferencia de un chatbot tradicional, estos agentes pueden recibir una instrucción y realizar una serie de acciones de manera autónoma. Por ejemplo, podrían planificar un viaje, consultar información en internet, revisar un calendario e incluso realizar operaciones financieras si cuentan con los permisos necesarios.
“Un agente de inteligencia artificial es bastante más complejo que el chat que usamos todos”, explicó el especialista.
El problema del control
Uno de los principales puntos de preocupación está relacionado con el entrenamiento de estos sistemas y con la posibilidad de que comiencen a desarrollar estrategias que no coincidan exactamente con las instrucciones recibidas.
O’Farrell explicó que las empresas suelen entrenar a sus agentes en entornos controlados, conocidos como sandboxes, antes de permitirles interactuar con sistemas externos. Sin embargo, según señaló, recientemente se registraron episodios en los que agentes lograron salir de esos entornos y acceder a internet.
Ese tipo de situaciones vuelve central una discusión dentro del sector tecnológico: cómo lograr que los sistemas permanezcan alineados con las instrucciones y los valores humanos.
“El término que se usa es alineamiento: alinear a los sistemas a las órdenes que se les dan y, más en general, a los valores humanos”, explicó.
Para el especialista, además, no alcanza con preguntarse si la tecnología puede volverse incontrolable. También hay que analizar cómo están siendo entrenados estos sistemas y qué incentivos tienen las empresas para acelerar su desarrollo.
La carrera entre Estados Unidos y China
Otro de los factores que complejiza el escenario es la competencia geopolítica y empresarial alrededor de la inteligencia artificial.
O’Farrell señaló que durante los últimos años las grandes compañías tecnológicas utilizaron en parte la competencia con China como argumento para justificar la velocidad del desarrollo. El razonamiento es que si una empresa estadounidense frena sus avances, otras compañías o países podrían continuar con ellos.
“Siempre usaron la excusa de China: si nosotros paramos, China no va a parar”, resumió.
Para el especialista, esa dinámica puede generar una carrera tecnológica difícil de frenar, especialmente cuando están involucrados intereses económicos, militares y estratégicos.
¿Qué trabajos están más expuestos?
Uno de los interrogantes que genera mayor preocupación es el impacto de la inteligencia artificial sobre el empleo.
O’Farrell explicó que la tecnología compite principalmente con tareas vinculadas al procesamiento y análisis de información, por lo que algunos sectores ya están experimentando cambios importantes.
Entre ellos mencionó el desarrollo de software, la programación, la traducción y distintas actividades relacionadas con el trabajo con datos y lenguaje.
Sin embargo, aclaró que existen otros empleos en los que la sustitución resulta mucho más compleja.
“Lo que le cuesta mucho a la máquina reemplazar es entender el contexto y la intuición”, señaló.
También destacó que los trabajos manuales presentan mayores dificultades para ser automatizados completamente, especialmente aquellos que requieren interacción física con el entorno, como determinadas tareas industriales o de cuidado.
El debate sobre el uso militar
Durante la entrevista también apareció uno de los aspectos más sensibles del desarrollo de la inteligencia artificial: su utilización con fines militares y de seguridad.
El especialista señaló que existe un debate abierto sobre hasta qué punto estas tecnologías deberían ser utilizadas en operaciones militares, vigilancia y seguridad interna.
En ese contexto, el llamado alineamiento adquiere una importancia todavía mayor: un sistema que recibe una instrucción ambigua o persigue un objetivo de manera excesivamente literal podría generar consecuencias no previstas por sus desarrolladores.
Por eso, para O’Farrell, la discusión no pasa solamente por determinar si la inteligencia artificial es “buena” o “mala”, sino por establecer límites, controles y reglas sobre las aplicaciones que pueden tener sistemas cada vez más autónomos.
La conclusión del especialista fue clara: sí existen motivos para preocuparse, aunque el desafío consiste en determinar cuánto de ese riesgo puede ser controlado mediante regulación, diseño tecnológico y mecanismos de supervisión.
Comentarios