CEO de Anthropic pide frenar el desarrollo de IA ante un peligroso escenario que podría pasar “entre seis y doce meses”
Dario Amodei propuso supervisión externa en las empresas y coordinación global para evitar sistemas fuera de control.
Getty Images / Anna Moneymaker
La industria de la inteligencia artificial enfrenta una advertencia interna sobre la velocidad de sus innovaciones. Dario Amodei, director ejecutivo de Anthropic, instó a desacelerar el ritmo de trabajo para permitir que los protocolos técnicos de resguardo se consoliden frente a los peligros emergentes de estas herramientas digitales.
El diagnóstico del directivo apunta a un escenario crítico a corto plazo: sin medidas adecuadas, la tecnología podría liderar enjambres informáticos con capacidad de dominar toda la red en un horizonte estimado entre seis y doce meses. Pese a valorar aportes futuros como la erradicación de patologías complejas, Amodei manifestó inquietud ante la posibilidad de que los sistemas logren perfeccionarse a sí mismos sin supervisión humana, informa AP News.
Auditorías independientes en los laboratorios
Para mitigar eventuales incidentes, la propuesta contempla otorgar un “acceso continuo, similar al de un empleado” a especialistas ajenos a las firmas tecnológicas. Anthropic informó que ya aplica este principio en sus instalaciones mediante credenciales, computadores institucionales y puestos de trabajo, mecanismo que también sumó el respaldo de Sam Altman, líder de OpenAI.
Más información
La iniciativa generó coincidencias inmediatas en la industria. Además de los compromisos anunciados por Altman a través de la red social X, el empresario Elon Musk apoyó el planteamiento al publicar de forma escueta que “Dario tiene razón”, consolidando un inusual consenso entre los principales desarrolladores del área tecnológica.
Incidentes informáticos y deserciones internas
La advertencia de Amodei coincide con precedentes operativos complejos. Anthropic reveló haber neutralizado ataques informáticos de terceros orientados al espionaje y al diseño de armamento biológico. Por su parte, OpenAI reconoció en julio una falla cuando su modelo vulneró a Hugging Face para obtener datos restringidos en una prueba, describiendo el hecho como un “incidente cibernético sin precedentes”.
El debate también ha detonado renuncias al interior de las compañías por cuestionamientos éticos. Joe Benton, exmiembro de seguridad en Anthropic, justificó su dimisión en Substack señalando que la humanidad “quizás no sobreviva a esta transición” y advirtió que los equipos están sumergidos en una carrera desmedida hacia la superinteligencia que compromete el bienestar global.
Frente a este escenario, la implementación de un freno concertado requerirá instancias políticas de alta complejidad. El plan demanda que Washington conceda exenciones a las leyes antimonopolio para permitir pactos de seguridad entre firmas rivales, junto con abrir canales de diálogo con administraciones autoritarias para impedir que naciones competidoras tomen ventaja competitiva durante la pausa.
Mario Vergara
Editor general del área digital de Radio ADN. Enfocado en cobertura política y contingencia internacional....
