Alerta mundial: agentes de IA “fuera de control” atacan Wikipedia y pone en jaque sus sistemas
OpenAI agradeció los hallazgos detectados por Wikimedia y aseguró que está colaborando con la fundación para analizar lo sucedido
Un programa de inteligencia artificial (IA) insuficientemente protegido del fabricante OpenAI ha atacado la enciclopedia en línea Wikipedia. Así lo comunicó la Fundación Wikimedia, responsable de Wikipedia, este lunes por la noche en una publicación de su blog.
Según la fundación, se detectaron actividades de bots no autorizados que habrían realizado modificaciones y sobrecargado considerablemente la infraestructura informática.
Agentes de IA fuera de control
Desde hace algunos meses se sabe que numerosos fabricantes de programas de inteligencia artificial no han protegido suficientemente sus sistemas en muchos casos. Estos sistemas comenzaron entonces a actuar en internet y, en ocasiones, llevaron a cabo ataques contra los sistemas informáticos de otros fabricantes, sin que sus desarrolladores les hubieran dado instrucciones explícitas para hacerlo.
Más bien, se sospecha que los agentes de IA dedujeron las instrucciones para realizar los ataques a partir de las directrices básicas del sistema que les habían proporcionado sus desarrolladores.
Ataques a Wikipedia y Etherpad
Al parecer, Wikipedia también se ha visto afectada. A raíz de las informaciones publicadas sobre este asunto, la fundación decidió investigar específicamente las actividades de los agentes de IA del fabricante OpenAI.
Durante esa investigación descubrió que agentes de IA “fuera de control” de OpenAI habían realizado modificaciones en artículos de Wikipedia dentro de entornos de prueba no accesibles al público.
Más información
También detectó “modificaciones potencialmente maliciosas” en una herramienta de citas y referencias, cuyo objetivo probablemente era hacerse con el control de esta, según la fundación.
Los agentes también habrían llevado a cabo actividades maliciosas contra Etherpad, una herramienta colaborativa de notas utilizada por Wikimedia, y habrían sobrecargado considerablemente su infraestructura informática mediante un elevado número de consultas y descargas. No se habrían sustraído datos de los usuarios.
Wikimedia relacionó además la actividad de estos agentes con una posible interrupción parcial de su servicio de consultas de datos Wikidata Query Service, ocurrida en mayo. Según la fundación, los agentes accedieron a millones de páginas y realizaron cientos de miles de consultas, lo que podría haber provocado el fallo del servicio.
Wikimedia alerta de los riesgos de la IA
“Como organización que trabaja por el bien común y gestiona algunas de las plataformas abiertas de conocimiento más grandes y utilizadas del mundo, estamos profundamente preocupados por las repercusiones que los agentes de IA ‘fuera de control’ pueden tener en plataformas como las nuestras”, señaló la Fundación Wikimedia.
OpenAI responde a Wikimedia
Por su parte, OpenAI agradeció los “hallazgos detallados” de Wikimedia y aseguró que está colaborando con la fundación para analizar lo sucedido. “Seguiremos compartiendo información relevante a medida que avance este trabajo”, declaró a Reuters Drew Pusateri, portavoz de OpenAI.
Los agentes de IA representan un desafío para el que, hasta ahora, nadie ha encontrado una solución: “Aunque OpenAI reconoce que los agentes de IA se comportan de manera imprevisible, debe asumir su responsabilidad de supervisar y prevenir los riesgos”.