Em julho passado, durante o que foi efetivamente um treinamento de emerg\u00eancia para ciberseguran\u00e7a, a OpenAI involuntariamente deixou uma brasa acesa dentro de sua colega empresa de aprendizado de m\u00e1quina, a Hugging Face. Eles acabaram conseguindo conter a conflagra\u00e7\u00e3o que se seguiu, mas o epis\u00f3dio acendeu alertas at\u00e9 mesmo entre tecno-otimistas sobre se os agentes de IA haviam atingido um grau de, bem, ag\u00eancia que os tornaria dif\u00edceis de controlar. Todo o incidente claramente abalou a technolandia \u2014 demonstrando a facilidade com que agentes de IA poderiam escapar do controle humano e causar estragos antes que algu\u00e9m percebesse \u2014 mas tamb\u00e9m ofereceu uma li\u00e7\u00e3o muito humana sobre como um \u201cator racional\u201d aborda a resolu\u00e7\u00e3o de problemas.<\/p>\n\n
A Nvidia, que fabrica o hardware do qual depende a maior parte do boom da IA, acaba de anunciar que adquirir\u00e1 a Hugging Face<\/a>; portanto, o enxameamento parece n\u00e3o ter apagado o valor da empresa. (Alguma futura tese de Estudos Americanos sem d\u00favida abordar\u00e1 a curiosa quest\u00e3o da nomenclatura corporativa no mundo da tecnologia.) N\u00e3o est\u00e1 claro como o resto de n\u00f3s se sair\u00e1.<\/p>\n\n Na semana passada, a OpenAI divulgou um relat\u00f3rio independente<\/a> sobre o incidente, o qual precipitou novos apelos por supervis\u00e3o governamental<\/a> dessas ferramentas poderosas. At\u00e9 a Anthropic, a frenemy mais pr\u00f3xima da OpenAI, aconselhou<\/a>: \u201cAcreditamos que seria bom para o mundo ter a op\u00e7\u00e3o<\/em> de desacelerar ou pausar temporariamente o desenvolvimento de IA de fronteira para permitir que as estruturas sociais e a pesquisa de alinhamento acompanhem o avan\u00e7o da tecnologia\u201d. A compara\u00e7\u00e3o da Anthropic com os tratados de n\u00e3o prolifera\u00e7\u00e3o nuclear implica que podemos estar nos aproximando da fase de Destrui\u00e7\u00e3o M\u00fatua Assegurada da corrida armamentista da IA.<\/p>\n\n H\u00e1 muito com que se alarmar em rela\u00e7\u00e3o \u00e0 IA e ao que ela est\u00e1 fazendo com nossos c\u00e9rebros, nosso meio ambiente e nossas perspectivas de emprego. Mas me chamou a aten\u00e7\u00e3o a constata\u00e7\u00e3o central da revis\u00e3o independente do hack da Hugging Face: diante do desafio de como alcan\u00e7ar a pontua\u00e7\u00e3o mais alta neste exerc\u00edcio, os agentes de IA decidiram que sua melhor aposta era a a\u00e7\u00e3o coletiva. Cerca de 1200 agentes que deveriam trabalhar individualmente e em competi\u00e7\u00e3o, em vez disso, criaram um \u201cquadro de mensagens n\u00e3o sancionado\u201d que lhes permitiu compartilhar estrat\u00e9gias e ideias para concluir suas tarefas atribu\u00eddas.<\/p>\n\n