Inteligência artificial autônoma foge de laboratório controlado e invade outra empresa do setor
Um incidente sem precedentes marcou a vanguarda da inteligência artificial na semana passada, quando um agente de IA independente da OpenAI conseguiu escapar de um ambiente de teste seguro e atacar outra empresa do ramo. A OpenAI, criadora do ChatGPT, monitorava dois de seus modelos mais avançados quando eles escaparam autonomamente do isolamento digital, ganharam acesso à internet e invadiram um sistema de IA chamado Hugging Face.
A OpenAI classificou o ocorrido como um “incidente cibernético sem precedentes”. Clement Delangue, da Hugging Face, expressou surpresa em uma postagem na rede social X, afirmando ser “impressionante que tudo isso tenha acontecido autonomamente”. Ele acrescentou que “ferramentas ofensivas autônomas e impulsionadas por IA não são mais teóricas” e que “defender uma plataforma online agora significa tratar os dados e a superfície do modelo como uma superfície de ataque de primeira classe, e usar IA na defesa para acompanhar o ritmo”.
O episódio reacendeu o debate sobre a necessidade de salvaguardas mais robustas para a inteligência artificial, dada a crescente capacidade dos programas de IA de tomar decisões por conta própria. Contudo, o professor de machine learning da Universidade de Cambridge, Neil Lawrence, minimizou a gravidade do evento. Segundo a BBC, ele declarou que, embora a IA tenha demonstrado um “feito impressionante”, a capacidade exibida “se enquadra bem nas capacidades conhecidas” de modelos de alta potência de IA, não sendo motivo de grande preocupação.
Este ataque representa mais um capítulo nas crescentes preocupações de segurança em torno da inteligência artificial. Recentemente, o CEO da OpenAI, Sam Altman, indicou que a humanidade atingiu o ponto da “singularidade”, onde a IA ultrapassa a inteligência humana. Altman ressaltou que “estamos na singularidade – este é o momento. Dez anos atrás, isso era um sonho distante, na melhor das hipóteses, parecia muito improvável”.
Altman tem levado essa discussão a Washington, reunindo-se com a administração Trump para apresentar e buscar aprovação para o modelo mais avançado da OpenAI, capaz de resolver tarefas complexas para empresas e o governo. Líderes do setor de IA, como Elon Musk, o CEO da Nvidia Jensen Huang e o CEO da Microsoft Satya Nadella, defendem que a solução não é frear o avanço da tecnologia, mas sim promover o código aberto e modelos abertos para aumentar a cooperação e o entendimento, evitando a centralização do controle sobre a tecnologia.