Em julho passado, durante o que foi efetivamente um treinamento de emerg\u00eancia para ciberseguran\u00e7a, a OpenAI involuntariamente deixou uma brasa acesa dentro de sua colega empresa de aprendizado de m\u00e1quina, a Hugging Face. Eles acabaram conseguindo conter a conflagra\u00e7\u00e3o que se seguiu, mas o epis\u00f3dio acendeu alertas at\u00e9 mesmo entre tecno-otimistas sobre se os agentes de IA haviam atingido um grau de, bem, ag\u00eancia que os tornaria dif\u00edceis de controlar. Todo o incidente claramente abalou a technolandia \u2014 demonstrando a facilidade com que agentes de IA poderiam escapar do controle humano e causar estragos antes que algu\u00e9m percebesse \u2014 mas tamb\u00e9m ofereceu uma li\u00e7\u00e3o muito humana sobre como um \u201cator racional\u201d aborda a resolu\u00e7\u00e3o de problemas. <\/p>\n\n
A Nvidia, que fabrica o hardware do qual depende a maior parte do boom da IA, acaba de anunciar que adquirir\u00e1 a Hugging Face<\/a>; portanto, o enxameamento parece n\u00e3o ter apagado o valor da empresa. (Alguma futura tese de Estudos Americanos sem d\u00favida abordar\u00e1 a curiosa quest\u00e3o da nomenclatura corporativa no mundo da tecnologia.) N\u00e3o est\u00e1 claro como o resto de n\u00f3s se sair\u00e1. <\/p>\n\n Na semana passada, a OpenAI divulgou um relat\u00f3rio independente<\/a> sobre o incidente, o qual precipitou novos apelos por supervis\u00e3o governamental<\/a> dessas ferramentas poderosas. At\u00e9 a Anthropic, a frenemy mais pr\u00f3xima da OpenAI, aconselhou<\/a>: \u201cAcreditamos que seria bom para o mundo ter a op\u00e7\u00e3o<\/em> de desacelerar ou pausar temporariamente o desenvolvimento de IA de fronteira para permitir que as estruturas sociais e a pesquisa de alinhamento acompanhem o avan\u00e7o da tecnologia\u201d. A compara\u00e7\u00e3o da Anthropic com os tratados de n\u00e3o prolifera\u00e7\u00e3o nuclear implica que podemos estar nos aproximando da fase de Destrui\u00e7\u00e3o M\u00fatua Assegurada da corrida armamentista da IA. <\/p>\n\n H\u00e1 muito com o que se alarmar em rela\u00e7\u00e3o \u00e0 IA e ao que ela est\u00e1 fazendo com nossos c\u00e9rebros, nosso meio ambiente e nossas perspectivas de emprego. Mas fiquei impressionado com a principal descoberta da revis\u00e3o independente da invas\u00e3o \u00e0 Hugging Face: diante do desafio de como alcan\u00e7ar a pontua\u00e7\u00e3o mais alta neste exerc\u00edcio, os agentes de IA decidiram que sua melhor aposta era a a\u00e7\u00e3o coletiva. Cerca de 1.200 agentes que deveriam trabalhar individualmente e em competi\u00e7\u00e3o criaram, em vez disso, um \u201cf\u00f3rum de mensagens n\u00e3o autorizado\u201d que lhes permitiu compartilhar estrat\u00e9gias e ideias para completar suas tarefas atribu\u00eddas. <\/p>\n\n