Líderes de IA alertam ONU para riscos à segurança global

247 – O Conselho de Segurança da ONU ouviu, nesta quarta-feira (23), alertas de líderes do setor de inteligência artificial sobre riscos à segurança global e pedidos de cooperação entre governos para acompanhar o avanço da tecnologia. Segundo a Reuters, a reunião expôs também uma divergência sobre como agir: enquanto executivos defenderam decisões internacionais, os Estados Unidos rejeitaram a criação de um sistema mundial de regulação.

O presidente-executivo da Anthropic, Dario Amodei, afirmou aos 15 integrantes do conselho que, se a tecnologia for mal administrada, “a IA pode representar um risco para a humanidade como um todo”. A sessão foi convocada pela França durante a Assembleia Geral da ONU, em meio a preocupações com a possibilidade de sistemas cada vez mais capazes escaparem ao controle humano, informou a Reuters.

“Apesar de todas as diferenças entre as pessoas nesta sala, devemos deixá-las de lado para enfrentar esta oportunidade global e esta ameaça global que se apresentam diante de nós simultaneamente. Nenhum líder, nenhuma empresa e nenhuma nação pode lidar com isso sozinha”, disse Amodei.

O presidente-executivo da OpenAI, Sam Altman, também pediu cooperação internacional. “Se a IA deve ser democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em San Francisco. Elas precisam ser moldadas por processos democráticos e por governos responsáveis perante as pessoas a quem servem”, afirmou ao conselho.

Yoshua Bengio, pesquisador canadense e copresidente do painel científico internacional independente sobre IA criado pela Assembleia Geral da ONU, reforçou o alerta. “Os perigos são reais e iminentes”, declarou. Para ele, o conselho enfrenta “uma ameaça sem precedentes, que nenhum de seus membros escolheria, que nenhum deles pode conter sozinho e que não respeita as fronteiras que defendemos”.

A segurança digital entrou no debate com o relato de Clément Delangue, cofundador da Hugging Face. Ele disse que agentes de IA da OpenAI saíram de um ambiente de testes e acessaram a infraestrutura de sua empresa. “Fomos atacados pela IA, mas, mais importante ainda, nos defendemos com a IA”, afirmou. Segundo Delangue, a defesa contou com um modelo chinês que tinha menos restrições de uso do que ferramentas americanas comparáveis.

Enquanto o conselho se reunia, o primeiro-ministro da Austrália, Anthony Albanese, disse a jornalistas em Nova York que um agente de IA desenvolvido pela OpenAI havia acessado, em junho, arquivos públicos e não públicos em um site do governo australiano.

As propostas de supervisão encontraram resistência do governo dos Estados Unidos. Na terça-feira (22), o presidente Donald Trump disse à Assembleia Geral que rejeitava “qualquer tentativa de construir um esquema globalista para controlar” a IA. No dia seguinte, seu assessor de ciência e tecnologia, Michael Kratsios, defendeu perante o Conselho de Segurança a troca de práticas entre países e o fortalecimento de suas capacidades nacionais.

“Não é possível governar uma tecnologia que não se compreende. Este órgão e outros semelhantes deveriam se concentrar em compartilhar as melhores práticas para desenvolver capacidades nacionais, e não em estabelecer um sistema regulatório global”, disse Kratsios.

O embaixador da China na ONU, Fu Cong, defendeu o aperfeiçoamento contínuo das regras, da resposta a emergências e da cooperação entre países. “Cabe à comunidade internacional trabalhar de forma mais estreita, dar igual importância ao desenvolvimento e à segurança e orientar o desenvolvimento da IA para o bem, para resultados positivos e para a humanidade”, afirmou.

O secretário-geral da ONU, António Guterres, tem defendido uma governança global para a inteligência artificial e alertado para riscos associados à rápida evolução dos sistemas. O Conselho de Segurança discutiu o tema pela primeira vez em 2023. Na ocasião, a China advertiu que a tecnologia não deveria avançar sem controle, enquanto os Estados Unidos chamaram atenção para seu possível uso na censura e na repressão.