Alerta mundial por avance de la inteligencia artificial: gigantes de la IA piden supervisión internacional ante la ONU
El director ejecutivo de Anthropic calificó los riesgos de los modelos más avanzados como “el problema de seguridad global más importante”.
Getty Images / Anadolu
La gobernanza de la inteligencia artificial (IA) llegó al Consejo de Seguridad de la ONU, donde los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, plantearon la necesidad de establecer mecanismos internacionales para supervisar el desarrollo de esta tecnología.
Amodei calificó los riesgos de los modelos más avanzados como “el problema de seguridad global más importante al que se enfrenta el mundo hoy”. Altman, en tanto, advirtió que la industria atraviesa una encrucijada y que no debe asumir “demasiado riesgo tecnológico solo porque los beneficios sean demasiado grandes e importantes como para frenarlos”.
Más información
Ambos ejecutivos habían llamado recientemente a ralentizar el desarrollo de los llamados modelos de frontera, pero en la sesión no propusieron detener la investigación.
“Nos comprometemos a trabajar con los gobiernos”
En cambio, pidieron una intervención internacional que “oriente” al resto de operadores sobre lo que se debería o no poder hacer. Altman sostuvo que las empresas necesitan la guía de los líderes mundiales para “definir marcos técnicos rigurosos”.
La dimensión geopolítica también estuvo presente. “A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos”, dijo Altman, en una referencia implícita a China.
El director ejecutivo de Anthropic también pidió medidas concretas: “Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los gobiernos en esta sala en este objetivo crucial”.
Ruth Cárcamo
Periodista redactor de contenidos digitales de ADN.cl desde 2022, especializada en contingencia nacional,...
