O rei Charles III fez um alerta nesta quinta-feira (17) contra os riscos associados ao rápido desenvolvimento da inteligência artificial (IA) e pediu aos líderes do setor garantias de que a tecnologia permanecerá sob controle humano e será utilizada em benefício da humanidade.

O monarca fez as declarações durante um fórum sobre IA realizado na Dumfries House, na Escócia, sede de sua fundação, a King's Foundation.

O encontro reuniu representantes de grandes empresas de tecnologia dos Estados Unidos, entre elas Nvidia, Google DeepMind, OpenAI e Anthropic, além de autoridades do governo britânico e representantes religiosos.

Segundo o discurso divulgado pelo Palácio de Buckingham, Charles III classificou a evolução da IA como uma revolução tecnológica "intrigante e, ao mesmo tempo, profundamente preocupante devido à sua natureza e velocidade".

Para o rei, as decisões tomadas atualmente sobre o desenvolvimento da tecnologia terão consequências duradouras.

"Aqueles em nosso mundo que valorizam nossa humanidade e seu componente moral vital buscam ansiosamente a garantia de vocês de que não perderemos o controle do nosso destino", afirmou.

Charles também defendeu que o avanço tecnológico seja acompanhado pela criação de mecanismos de segurança e supervisão. "A tarefa que temos pela frente não é, portanto, apenas fazer a tecnologia avançar, mas garantir que ela permaneça firmemente a serviço da humanidade, das comunidades e da natureza", declarou.

O monarca mencionou ainda os chamados riscos existenciais associados à IA e alertou para a possibilidade de sistemas avançados serem utilizados de forma catastrófica caso caiam "em mãos erradas".

Por isso, segundo Charles, é necessário estabelecer controles adequados "antes que seja tarde demais".

Ao abordar os possíveis impactos da tecnologia, Charles destacou a necessidade de preservar aquilo que chamou de "valor sagrado" da humanidade.

Entre os participantes do fórum estava o padre Paolo Benanti, teólogo franciscano e especialista em ética da tecnologia que atua como assessor do Vaticano para questões relacionadas à inteligência artificial, além de Kanishka Narayan, autoridade do governo britânico designada para a recém-criada função de liderança em IA.