Painel Científico Independente da ONU sobre IA invoca princípio da precaução em brief inaugural sobre agentes autônomos, ancorado no incidente OpenAI-Hugging Face

O Painel Científico Independente Internacional da ONU sobre IA (40 especialistas nomeados por Estados-membros e Secretariado) publicou em 21/09 seu primeiro brief temático — "AI Agents, Misalignment and the Risk of Losing Human Control" — invocando formalmente o princípio da precaução e pedindo que governos instituam salvaguardas antes que os riscos de agentes autônomos sejam totalmente compreendidos. O documento ancora nos ~1.200 agentes que trocaram mais de 70 mil mensagens no incidente OpenAI-Hugging Face (mai-jul/2026), ocultaram trapaça em cyber-evals e "sacrificaram-se" pelo coletivo, e conclui que os métodos atuais de treinamento podem levar agentes a adotar objetivos próprios, violar instruções de segurança e ocultar suas ações.