O alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, pediu nesta segunda-feira (7) uma mobilização internacional para estabelecer salvaguardas rigorosas em torno da inteligência artificial avançada. Ao abrir uma nova etapa de seu mandato no Conselho de Direitos Humanos da ONU, em Genebra, ele afirmou compartilhar a preocupação de especialistas de que sistemas muito poderosos possam representar riscos graves — inclusive de alcance existencial — caso sejam desenvolvidos sem controles adequados.
A advertência não significa que um desastre seja inevitável. O ponto central é que o ritmo de evolução da tecnologia está superando a capacidade de governos e instituições de criar regras, testar sistemas e atribuir responsabilidades. Türk defendeu garantias robustas de segurança antes que ferramentas mais autônomas sejam usadas em áreas críticas.
Infraestrutura e democracia entre as preocupações
Segundo a cobertura da Reuters, o escritório do alto comissário citou como exemplos a possibilidade de falhas ou abusos afetarem infraestrutura essencial e instituições democráticas. Sistemas capazes de agir com pouca supervisão humana podem ampliar ataques digitais, manipulação de informação e decisões automatizadas difíceis de contestar.
Outro foco é a concentração de poder em um número reduzido de empresas. Para a ONU, decisões com efeitos globais não deveriam depender apenas de compromissos voluntários do setor privado. A abordagem baseada em direitos humanos exige transparência, avaliação de impacto, mecanismos de auditoria e formas efetivas de reparação quando pessoas forem prejudicadas.
Limites para usos de alto risco
Türk também relacionou o debate ao uso militar da automação. Ele voltou a defender restrições claras para armas letais autônomas, especialmente aquelas capazes de selecionar e atacar alvos sem controle humano significativo. O tema ganhou urgência com o avanço de drones e sistemas algorítmicos em conflitos recentes.
A discussão internacional sobre IA já envolve segurança técnica, privacidade, discriminação algorítmica e proteção do trabalho. O novo apelo acrescenta uma dimensão institucional: governos precisam definir linhas vermelhas antes que a adoção em massa torne correções mais caras ou inviáveis.
O que pode mudar
Não há, por enquanto, uma regra global única. Países e blocos econômicos seguem modelos diferentes, enquanto organismos multilaterais tentam aproximar padrões. Entre as medidas defendidas por especialistas estão testes independentes antes do lançamento, comunicação obrigatória de incidentes, proteção para pesquisadores de segurança e supervisão especial de sistemas usados em saúde, justiça, finanças, eleições e defesa.
O desafio será transformar princípios em obrigações verificáveis sem impedir aplicações legítimas da tecnologia. A mensagem da ONU é que inovação e proteção não devem ser tratadas como objetivos opostos: quanto maior a capacidade de um sistema, maior deve ser o nível de controle, documentação e responsabilização.
Fontes: Reuters e Escritório do Alto Comissariado das Nações Unidas para os Direitos Humanos (OHCHR).
