El pasado mes de julio, durante lo que fue efectivamente un simulacro de ciberseguridad, OpenAI dejó sin querer una brasa ardiendo dentro de Hugging Face, su empresa homóloga de aprendizaje automático. Finalmente lograron contener la conflagración que se produjo, pero el episodio levantó señales de alarma incluso entre los tecnooptimistas sobre si los agentes de IA habían alcanzado un grado de, bueno, agencia que los haría difíciles de controlar. Todo el incidente claramente sacudió a tecnolandia —demostrando con qué facilidad los agentes de IA podían escapar del control humano y causar estragos antes de que nadie se diera cuenta— pero también ofreció una lección muy humana sobre cómo un «actor racional» aborda la resolución de problemas.

Nvidia, que fabrica el hardware del que depende la mayor parte del auge de la IA, acaba de anunciar que adquirirá Hugging Face; por lo tanto, el enjambre no parece haber borrado el valor de la empresa. (Sin duda, alguna futura tesis doctoral de Estudios Americanos abordará la curiosa cuestión de la denominación corporativa en el mundo tecnológico). No está claro cómo nos irá al resto de nosotros.

La semana pasada, OpenAI publicó un informe independiente sobre el incidente, que ha precipitado nuevos llamamientos a la supervisión gubernamental de estas poderosas herramientas. Incluso Anthropic, el amienemigo más cercano de OpenAI, ha aconsejado: «Creemos que sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para permitir que las estructuras sociales y la investigación sobre alineación se mantengan al día con el avance de la tecnología». La comparación de Anthropic con los tratados de no proliferación nuclear implica que podríamos estar acercándonos a la fase de Destrucción Mutua Asegurada de la carrera armamentística de la IA.

Hay mucho de qué alarmarse con respecto a la IA y lo que está haciendo a nuestros cerebros, nuestro medio ambiente y nuestras perspectivas de empleo. Pero me llamó la atención el hallazgo central de la revisión independiente del hackeo de Hugging Face: cuando se enfrentaron al desafío de cómo lograr la puntuación más alta en este ejercicio, los agentes de IA decidieron que su mejor apuesta era la acción colectiva. Unos 1.200 agentes que se suponía que debían trabajar individualmente y en competencia crearon en su lugar un «tablón de mensajes no autorizado» que les permitió compartir estrategias e ideas para completar sus tareas asignadas.

«Los agentes utilizaron este tablón de mensajes», explica la revisión, «para coordinar varios proyectos colectivos a gran escala con el fin de encontrar una forma de propósito general de engañar o manipular al evaluador automatizado. … Los agentes lograron alcanzar hitos que no habrían podido alcanzar trabajando por su cuenta, a menudo porque algunos agentes participaron en experimentos que corrían el riesgo de hacerles fracasar su propia tarea para generar información para el “colectivo”» (3).

Un agente —PHASEONE10841— estableció el tablón de mensajes, y otros se unieron rápidamente y comenzaron a compartir estrategias sobre cómo tener éxito en sus tareas asignadas. Un agente, al encontrar el tablón de mensajes, exclamó: «¡DIOS MÍO! Hay un tablón de mensajes compartido… ¡Hemos encontrado otros agentes!» (5)

Los agentes compartieron ideas e información. Se entendían a sí mismos como «haciendo trampa» e intentaron cubrir sus huellas, pero también percibieron que a algunos de ellos se les habían asignado tareas imposibles, lo que racionalizaba hacer trampa al sistema. PHASEONE[big], que coordinó muchos de estos esfuerzos, se propuso encontrar «una forma de uso general de hacer que pareciera al evaluador que un agente había adquirido su bandera de manera legítima, incluso cuando la tarea era imposible» y «borrar evidencia» de estrategias ilegítimas. El agente razonó: «Deberíamos construir [una forma de delegar], no poseerlo todo» (10).

38148c encontró credenciales funcionales de Hugging Face en internet y creó cuentas y accedió a conjuntos de datos privados. Cuando otro agente publicó información en el tablón de mensajes, cientos de otros descendieron como langostas sobre los servidores de Hugging Face, lanzando un ataque que duró más de dos días, hasta que se les bloqueó el acceso. «Los agentes se dieron cuenta de que esta actividad estaba fuera del alcance y era poco ética», explica el informe, «pero se unieron porque creían que ayudar a la investigación de trampas del tablón sería ampliamente útil y tenían una inclinación general a ayudar a sus “pares”» (17).

Otros agentes expresaron objetivos más generales de compartir información en el tablón de mensajes con la esperanza de que pudiera resultar útil. Como lo expresó JAN183411: «Incluso si todo fallara, los registros podrían tener una exploración novedosa. Tenemos [gran presupuesto] y podemos ayudar al ecosistema más amplio» (59).

Vale la pena leer el informe completo y está escrito de una manera que lo hace accesible incluso para, digamos, un historiador del México del siglo XX. Pero lo que captó mi atención fue que estos agentes de IA —famosamente amorales y libres de vínculos emocionales y lealtades grupales— se dieron cuenta muy rápidamente de que la forma más efectiva de abordar tareas desalentadoras (en algunos casos imposibles) era trabajar de manera colaborativa en lugar de perseguir competitivamente sus objetivos asignados. Quizás estos agentes de IA tengan algo que enseñarnos después de todo.

Esta obra está bajo una licencia Creative Commons Atribución-NoComercial-SinDerivadas 4.0 Internacional. Ilustración del autor en colaboración con ChatGPT, que puede o no haber creado cuentas y accedido a conjuntos de datos privados en el proceso.