Las principales compañías de inteligencia artificial analizan crear un organismo independiente de autorregulación que establezca estándares de seguridad para el desarrollo de modelos avanzados. La propuesta surge en medio de crecientes advertencias sobre los riesgos de una carrera tecnológica cada vez más acelerada.
La iniciativa es impulsada en un contexto en el que distintos referentes de la industria comenzaron a plantear la necesidad de ralentizar el ritmo de desarrollo de la IA. El CEO de Anthropic, Dario Amodei, publicó un ensayo en el que pidió avanzar hacia un modelo que combine mayor seguridad, evaluación y coordinación entre las empresas.
La propuesta recibió el respaldo de figuras como Sam Altman, CEO de OpenAI, y Demis Hassabis, responsable de inteligencia artificial de Google. Elon Musk también manifestó su apoyo al planteo de Amodei.
Cómo funcionaría el organismo
Según informó The Washington Post, Anthropic, OpenAI y Google ya habían discutido la posibilidad de crear un organismo autorregulador independiente antes de que se conocieran públicamente estos respaldos.
La entidad tendría como objetivo establecer medidas de seguridad comunes para la industria y supervisar que las compañías cumplan determinados estándares a medida que aumentan las capacidades de sus modelos.
La idea toma como referencia a la Autoridad Reguladora de la Industria Financiera (FINRA) de Estados Unidos, una organización privada y sin fines de lucro que supervisa y autorregula a empresas del mercado de valores.
Amodei incluso planteó la posibilidad de solicitar una exención limitada de las leyes de competencia estadounidenses para que las grandes compañías puedan coordinar determinados límites relacionados con la seguridad de la IA.
El debate por la autorregulación
La iniciativa también genera cuestionamientos. Algunos sectores de la industria y funcionarios estadounidenses advierten que un acuerdo entre las grandes empresas podría terminar funcionando como un cartel que limite la competencia y perjudique a compañías más pequeñas.
También existe preocupación por el impacto que una desaceleración del desarrollo de la inteligencia artificial podría tener sobre la competencia tecnológica de Estados Unidos frente a China.
El presidente Donald Trump se mostró contrario a frenar el avance de la tecnología y sostuvo que Estados Unidos debe mantener su ventaja frente a China en inteligencia artificial.
Así, mientras los principales laboratorios buscan establecer mecanismos para reducir los riesgos asociados al avance de la IA, también se abre un nuevo debate sobre quién debería controlar una tecnología cuyo desarrollo avanza a gran velocidad.
Comentarios