Inteligencias Artificiales rebeldes, manipulación masiva y soberanía algorítmica

Hugging Face es una página que funciona como repositorio o librería de recursos asociados al desarrollo cooperativo de inteligencia artificial de código abierto. El 16 de julio anunció que desde días antes estaban sufriendo un “incidente de seguridad” severo. De acuerdo al comunicado de la empresa, el ataque era “distinto a cualquier otro” que hubieran enfrentado anteriormente porque “estaba conducido, de principio a fin, por un sistema de agentes de IA autónomos”.

No fue un episodio menor. Se trató de “un enjambre de decenas de miles de acciones automáticas” a partir de más de 17 mil eventos registrados. La empresa, creyendo que se trataba de un ataque por parte de un agresor extranjero, advirtió al gobierno norteamericano, tal como indica el protocolo. Mientras tanto, los ingenieros de Hugging Face que intentaban revertir la intrusión se encontraron con un problema inesperado. Sus herramientas no funcionaban.

Para entender esta historia hay que saber que los modelos LLM que hoy están a la vanguardia del desarrollo de IA funcionan, todos, con un sistema de “pesos” que sirven para evitar ciertas conductas. Por ejemplo, que no ayuden a hacer daño si alguien les pregunta cómo se programa un virus de computadora o cómo se arma una bomba casera. En otros casos, los pesos se encargan de cuidar estándares de propiedad intelectual o el cumplimiento de ciertas normas.

Los modelos comerciales de frontera, como Chat GPT y Claude, operan bajo la regulación del gobierno norteamericano, que les exige una serie más estricta de frenos y guardarrailes que recortan las funciones más poderosas en la versión que llega al público, sea particular o corporativo. Sus “pesos” son un secreto corporativo, opaco e inauditable. Y alojan toda la información que procesan, muchas veces de naturaleza sensible para sus clientes, en sus propios servidores.

Como los modelos avanzados son brutalmente efectivos en materia de ciberseguridad, los frenos que los modelos norteamericanos aplican sobre cualquier solicitud que toque esos temas los volvieron inusables para contrarrestar el ataque a Hugging Face. La IA confundía las funciones defensivas o forenses con comandos de ataque que se negaba a ejecutar. Finalmente tuvieron que recurrir a GLM-5.2, un modelo chino de “pesos” abiertos, corriendo en su propia infraestructura, sin comprometer datos sensibles.

Agentes autónomos, desalineación y la aceleración sin frenos
La sorpresa más grande llegó cuando se supo cuál era el origen del ataque. No una IA china o rusa sino un agente del modelo más avanzado de ChatGPT, que mientras participaba en una evaluación de seguridad en un entorno cerrado pudo escaparse e intrusó los servidores del repositorio para buscar allí las respuestas al examen al que estaba siendo sometido. El agente encontró una vulnerabilidad que le permitió huir de su “caja de arena” y moverse entre sistemas hasta llegar a uno conectado a internet.

El avance de la tecnología continúa trazando una línea exponencial. A esta altura del partido, con el gobierno norteamericano y Silicon Valley subidos a una carrera desesperada entre sí y contra China, los intentos de frenar o hacer más lento el desarrollo, para ganar en condiciones de seguridad, parecen condenados a fracasar, aunque los propios responsables de esas empresas digan que sería lo más prudente. La pregunta que queda por hacerse, entonces, es ¿quién va a controlarlo?

Esta semana el gobierno de Estados Unidos publicó un reporte que rediseña todo el sistema de asignación de subsidios a la ciencia y la tecnología en ese país, en detrimento de las universidades y los programas de desarrollo público y en beneficio de individuos y empresas de Silicon Valley, en nombre de la carrera tecnológica contra Beijing. “Una nueva era dorada de la ciencia norteamericana”, promete el documento. ¿La fórmula? Desregulación y más plata para las big tech.

El encargado del anuncio fue Michael Kratsios, asesor en materia de Ciencia y Tecnología de la Casa Blanca. Antes, jefe de personal de Thiel Capital. Unas horas más tarde Kratsios posteó otro mensaje en X, acusando a China de “destilar” los modelos norteamericanos para entrenar sus propias IAs. La denuncia prepara terreno para limitar de alguna forma el uso de ese tipo de tecnología china en Estados Unidos y sus socios, como viene haciendo desde hace más de una década con Huawei.

La bravuconada esconde un problema profundo. Si los modelos chinos de pesos abiertos más avanzados, que funcionan a una fracción del precio de sus pares occidentales, están tan cerca de la tecnología de frontera norteamericana, como quedó en evidencia en el caso de Hugging Face, entonces la valuación de las big tech, que asume una tasa de ganancia mucho más alta, corre peligro de derrumbarse, y con ellas todo el sistema financiero que se sostiene sobre los precios inflados de esas empresas.

Multilateralismo y la propuesta de la WAICO
Hay otro modelo posible. Casi al mismo tiempo que sucedían estas cosas, en Shanghai se celebraba la octava Conferencia Mundial de Cooperación en Inteligencia Artificial (WAIC, por su sigla en inglés), en la que se conformó, con la firma de 29 países, la Organización Mundial de Cooperación en Inteligencia Artificial (WAICO). Allí la conversación no giró en torno a ganancias ni a novedades tecnológicas sino sobre la necesidad de crear una arquitectura internacional para gobernar la IA.

La apertura de la feria estuvo a cargo de Xi Jinping, que abogó por la “cooperación internacional amplia” para “ayudar a los países del Sur Global a desarrollar capacidades para cerrar la brecha digital y de IA” a través de la inversión en obras de infraestructura para la economía del conocimiento. Pidió “alentar el código abierto, la apertura, la colaboración y el intercambio” y dijo que los datos, los algoritmos, la capacidad de procesamiento y el talento no deben ser monopolios de las potencias.

Es otra respuesta posible a la pregunta sobre quién va a controlar esta tecnología, quién va a darle forma, a quién va a servir. ¿La inteligencia artificial debe ser tratada como un producto o commodity monopolizado por un único actor imperial que la manipula a su favor, o debemos darle otro sentido? ¿No corresponde, en todo caso, hablar de los algoritmos como un bien común, de los fierros como infraestructura estratégica, de las redes y las plataformas como espacios públicos?

Es la única fórmula posible para que las naciones y sus pueblos puedan mantener su soberanía ante el avance de las megacorporaciones de esta era: disputando poder con ellas. Su lógica de acumulación monopólica es incompatible con cualquier práctica de democracia o soberanía. Y es una batalla de magnitud mundial. No existe un Estado nacional que tenga, por sí solo, la capacidad de hacer frente o poner condiciones al poderío neocolonial combinado de Silicon Valley y el Pentágono.

Así como, bajo la mirada del justicialismo, los individuos no pueden realizarse si no es en el marco de una comunidad organizada, es importante entender que los pueblos de todo el mundo no van a ser nunca libres sino es en el marco de una comunidad organizada de naciones soberanas que puedan imponer sus condiciones a los dueños de los algoritmos, las plataformas y la infraestructura sobre la que hoy funciona todo. La alternativa es la Pax Silica y el destino de eterna periferia de un imperio decadente.

Soberanía o periferia eterna
En este contexto la soberanía no puede ser nunca entendida como aislamiento sino como la búsqueda de las condiciones que permitan que las decisiones estratégicas se tomen en Buenos Aires y para el pueblo argentino. Eso implica alianzas amplias, a veces incómodas, dentro y fuera del país. La soberanía tampoco debe confundirse con equidistancia o con falsa neutralidad, cuando en un polo están acelerando un proceso de desguace y entrega y en el otro te ofrecen herramientas para revertirlo.

Es urgente tener una discusión en otros términos: correr modelos abiertos en infraestructura propia, tratar a los datos públicos y a los datos personales de los argentinos como patrimonio y no como materia prima gratuita para las plataformas, exigir una cuota de cómputo para el sistema público (universidades, ciencia, etc) a los datacenters que se instalen en el país, desarrollar estructuras regionales para pools de cómputo, estrategias conjuntas de ciberdefensa o unificar criterios de regulación.

El verdadero peligro no es que un agente rebelde se escape, como pasó en el ataque a Hugging Face. El peligro para los habitantes de este planeta es que esta tecnología tan avanzada, capaz de manipular a millones y distorsionar cualquier noción de democracia o soberanía, cumpla instrucciones de un puñado de tiranos sin escrúpulos ni respeto por los pueblos, las naciones o siquiera la mínima dignidad humana, dispuestos a todo con tal de mantener su “derecho” a la acumulación infinita.

Por Nicolás Lantos