El pasado mes de julio, durante lo que fue efectivamente un simulacro de ciberseguridad, OpenAI dej\u00f3 sin querer una brasa ardiendo dentro de Hugging Face, su empresa hom\u00f3loga de aprendizaje autom\u00e1tico. Finalmente lograron contener la conflagraci\u00f3n que se produjo, pero el episodio levant\u00f3 se\u00f1ales de alarma incluso entre los tecnooptimistas sobre si los agentes de IA hab\u00edan alcanzado un grado de, bueno, agencia que los har\u00eda dif\u00edciles de controlar. Todo el incidente claramente sacudi\u00f3 a tecnolandia \u2014demostrando con qu\u00e9 facilidad los agentes de IA pod\u00edan escapar del control humano y causar estragos antes de que nadie se diera cuenta\u2014 pero tambi\u00e9n ofreci\u00f3 una lecci\u00f3n muy humana sobre c\u00f3mo un \u00abactor racional\u00bb aborda la resoluci\u00f3n de problemas. <\/p>\n\n
Nvidia, que fabrica el hardware del que depende la mayor parte del auge de la IA, acaba de anunciar que adquirir\u00e1 Hugging Face<\/a>; por lo tanto, el enjambre no parece haber borrado el valor de la empresa. (Sin duda, alguna futura tesis doctoral de Estudios Americanos abordar\u00e1 la curiosa cuesti\u00f3n de la denominaci\u00f3n corporativa en el mundo tecnol\u00f3gico). No est\u00e1 claro c\u00f3mo nos ir\u00e1 al resto de nosotros. <\/p>\n\n La semana pasada, OpenAI public\u00f3 un informe independiente<\/a> sobre el incidente, que ha precipitado nuevos llamamientos a la supervisi\u00f3n gubernamental<\/a> de estas poderosas herramientas. Incluso Anthropic, el amienemigo m\u00e1s cercano de OpenAI, ha aconsejado<\/a>: \u00abCreemos que ser\u00eda bueno para el mundo tener la opci\u00f3n<\/em> de ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para permitir que las estructuras sociales y la investigaci\u00f3n sobre alineaci\u00f3n se mantengan al d\u00eda con el avance de la tecnolog\u00eda\u00bb. La comparaci\u00f3n de Anthropic con los tratados de no proliferaci\u00f3n nuclear implica que podr\u00edamos estar acerc\u00e1ndonos a la fase de Destrucci\u00f3n Mutua Asegurada de la carrera armament\u00edstica de la IA. <\/p>\n\n Hay mucho de qu\u00e9 alarmarse con respecto a la IA y lo que est\u00e1 haciendo a nuestros cerebros, nuestro medio ambiente y nuestras perspectivas de empleo. Pero me llam\u00f3 la atenci\u00f3n el hallazgo central de la revisi\u00f3n independiente del hackeo de Hugging Face: cuando se enfrentaron al desaf\u00edo de c\u00f3mo lograr la puntuaci\u00f3n m\u00e1s alta en este ejercicio, los agentes de IA decidieron que su mejor apuesta era la acci\u00f3n colectiva. Unos 1.200 agentes que se supon\u00eda que deb\u00edan trabajar individualmente y en competencia crearon en su lugar un \u00abtabl\u00f3n de mensajes no autorizado\u00bb que les permiti\u00f3 compartir estrategias e ideas para completar sus tareas asignadas. <\/p>\n\n