Em meio à intensificação do debate global sobre os riscos de segurança envolvendo a inteligência artificial (IA) e aos crescentes apelos por regulamentações para a tecnologia, o tema ganhou espaço na 81ª Assembleia Geral das Nações Unidas e deve continuar em destaque nos próximos dias. Além do encontro da ONU, acontece também a reunião entre os presidentes dos EUA, Donald Trump, e da China, Xi Jinping, que terá a inteligência artificial como uma das principais pautas.

Nesta terça-feira, o secretário-geral da ONU, António Guterres, usou seu último discurso como líder da organização para incentivar os líderes a promover “condições para o desenvolvimento responsável da IA e as salvaguardas adicionais necessárias para lidar com os riscos” e a “trabalhar em prol de um quadro multilateral de gestão de riscos da IA, apoiado por uma supervisão credível e independente”.

A fala aconteceu às vésperas do Conselho de Segurança da ONU receber os principais líderes de empresas que estão na corrida da IA para uma reunião sobre a tecnologia.

Na quarta-feira, o CEO da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, farão um pronunciamento ao Conselho de Segurança durante uma reunião dedicada ao futuro da inteligência artificial, informou a Bloomberg. Outros palestrantes serão Yoshua Bengio, que copreside o painel da ONU sobre IA, e Clement Delangue, CEO da Hugging Face.

De acordo com a Reuters, a startup chinesa de IA DeepSeek também estará entre as empresas que apresentarão um relatório ao Conselho. Apesar disso, seu fundador, Liang Wenfeng, não planeja comparecer.

Em 2023, a ONU criou um órgão consultivo sobre IA com 39 membros, incluindo executivos de empresas de tecnologia, funcionários do governo e acadêmicos de países como EUA, Rússia e Japão.

A crescente preocupação de que a rápida evolução da IA possa representar riscos à segurança nacional também já se faz presente nas negociações entre EUA e China.

A criação de um sistema de notificação que permitiria aos dois países alertar um ao outro sobre questões de segurança nacional relacionadas à IA foi discutida no domingo, durante um dia de negociações que contou com a participação do secretário do Tesouro americano, Scott Bessent; do representante comercial dos Estados Unidos, Jamieson Greer; e do vice-primeiro-ministro chinês, He Lifeng.

As reuniões ocorreram em Nova York, antes da visita de Estado do presidente chinês, Xi Jinping, a Washington, que estará com Trump na quinta-feira. Nesse dia, Trump vai oferecer um jantar que contará com a presença de vários convidados, incluindo executivos dos setores de tecnologia.

A IA deve ocupar um lugar de destaque nas conversas entre os dois presidentes. Apesar dos crescentes apelos para moderar o ritmo de desenvolvimento da IA diante do risco de perda de controle, o governo americano considera que os principais atores do setor, como OpenAI, Anthropic, Google e Meta, não podem se dar ao luxo de desacelerar, por temer que a China assuma a dianteira.

Pequim vem reduzindo rapidamente a distância que a separa dos EUA no campo da IA avançada. Washington tenta conter esses avanços limitando as exportações para a China de chips avançados, em particular os semicondutores da Nvidia.

Apesar dessa rivalidade, ainda há esperança de que as duas superpotências possam chegar a um acordo durante o encontro. No entanto, não parece provável que cheguem a um consenso para desacelerar o desenvolvimento da IA ou implementar salvaguardas em escala mundial.