O alto comissário das Nações Unidas para os Direitos Humanos, Volker Turk, fez nesta segunda-feira (7), em Genebra, um duro alerta sobre os rumos da inteligência artificial. Segundo ele, o avanço de sistemas cada vez mais poderosos pode representar um “risco existencial para a humanidade” caso governos e empresas não estabeleçam mecanismos robustos de segurança e controle.
A declaração ocorreu durante discurso ao Conselho de Direitos Humanos da ONU, o primeiro desde que Turk conquistou, em julho, um novo mandato de quatro anos. Além da inteligência artificial, o representante abordou conflitos armados, mortes sob custódia da imigração dos Estados Unidos e o possível uso de armamentos autônomos.
“Compartilho das preocupações de especialistas do setor de que a IA avançada possa representar um risco existencial para a humanidade”, afirmou Turk.
Na avaliação do alto comissário, a comunidade internacional precisa agir antes que o desenvolvimento tecnológico ultrapasse a capacidade de governos e instituições de controlar seus impactos.
“Estou aqui, hoje, apelando por um esforço total no sentido de implementar garantias inabaláveis em relação à segurança da IA, antes que seja tarde demais”, declarou.
Risco vai além do mundo virtual
Embora Turk não tenha detalhado todos os cenários que considera potencialmente perigosos, seu gabinete apontou que falhas envolvendo sistemas avançados poderiam provocar consequências fora do ambiente digital, atingindo infraestruturas críticas, serviços essenciais, sistemas de comunicação e instituições democráticas.
A preocupação também envolve o desenvolvimento de agentes de inteligência artificial capazes de executar tarefas de maneira cada vez mais autônoma.
Como exemplo, o gabinete mencionou o chamado incidente “Hugging Face”, ocorrido em julho, envolvendo agentes de IA e uma plataforma de código aberto. O episódio foi citado como um sinal de que determinadas capacidades tecnológicas estariam evoluindo em ritmo superior ao das ferramentas desenvolvidas para controlá-las.
Poder concentrado preocupa ONU
Outro ponto levantado por Turk foi a concentração do desenvolvimento das tecnologias mais avançadas em um grupo reduzido de empresas e executivos.
Sem mencionar nomes, ele afirmou que apenas um pequeno número de homens concentra “poder quase ilimitado sobre a IA”.
Entre as grandes companhias que atuam atualmente no desenvolvimento de inteligência artificial estão Meta, Anthropic, OpenAI e Google.
Para Turk, países diretamente envolvidos no desenvolvimento e nas cadeias de fornecimento da tecnologia precisam estabelecer limites internacionais claros.
“No mínimo, precisamos que os países que hospedam IA e aqueles envolvidos em suas cadeias de suprimentos se unam em torno de linhas vermelhas acordadas”, afirmou.
A proposta reforça uma discussão que ganhou força nos últimos anos: até onde sistemas de IA podem avançar e quais decisões devem permanecer obrigatoriamente sob controle humano.
Armas autônomas entram no centro do debate
O alerta tecnológico também chegou ao campo de batalha. Turk disse estar horrorizado com relatos de que a Rússia teria empregado drones totalmente autônomos na Ucrânia, em uma ação que teria provocado três mortes em agosto.
As informações, segundo o texto-base, não foram verificadas de maneira independente pela Reuters, e a representação diplomática russa não havia respondido imediatamente ao pedido de manifestação.
Turk defendeu uma resposta internacional urgente.
“Junto-me aos apelos pela proibição urgente de armas que podem tirar vidas sem intervenção humana”, declarou.
O tema é considerado particularmente sensível porque envolve a possibilidade de algoritmos participarem diretamente de decisões de vida ou morte sem uma ordem humana imediata.
Mortes sob custódia nos EUA
O discurso também ampliou a pressão sobre os Estados Unidos. Turk cobrou responsabilização por cerca de 23 mortes que, segundo ele, ocorreram sob custódia da imigração norte-americana neste ano.
O alto comissário ainda demonstrou preocupação com planos de equipar agentes com luvas capazes de aplicar choques elétricos.
O Departamento de Segurança Interna dos EUA afirmou anteriormente estar comprometido em manter um ambiente “seguro, protegido e humano” nos centros de detenção. O inspetor-geral do órgão investiga mortes sob custódia registradas desde outubro de 2021.
ONU promete mirar interesses por trás de conflitos
Turk também condenou a intensificação dos ataques russos contra a Ucrânia e criticou o aumento do número de execuções no Irã.
Diante de um cenário internacional marcado por dezenas de conflitos envolvendo Estados, o alto comissário indicou que seu gabinete pretende aumentar a fiscalização não apenas sobre governos, mas também sobre empresas e interesses econômicos que possam contribuir para alimentar guerras e violações de direitos humanos.
“Não hesitaremos em expor os atores ocultos e exigir responsabilização”, afirmou.
A declaração coloca a inteligência artificial dentro de uma discussão mais ampla conduzida pela ONU: como impedir que novas tecnologias, interesses privados e conflitos geopolíticos avancem mais rapidamente do que os mecanismos internacionais criados para limitar abusos.
