Por Eliara Santana (*)
“A inteligência artificial está avançando a uma velocidade enorme. Uma tecnologia capaz de remodelar economias, transformar o mundo do trabalho, influenciar eleições e alterar o equilíbrio da segurança está sendo implantada mais rapidamente do que qualquer pessoa — inclusive aqueles que a desenvolvem — consegue acompanhar. Uma experiência está sendo realizada em nossas próprias sociedades — sem um plano e sem consentimento. Isso não é sustentável. E não é aceitável. A IA já está transformando nosso mundo. A questão é se vamos moldar essa transformação juntos – ou deixar que ela nos molde.”
O trecho acima faz parte do discurso do secretário-geral da Organização das Nações Unidas (ONU), António Guterres, na abertura do evento “Diálogo Global da Inteligência Artificial”, promovido pela entidade em 6 de julho, reunindo representantes de vários países. A iniciativa mostra, sem dúvida, que a IA já ocupa um espaço importantíssimo no campo das questões desafiadoras que preocupam a ONU e o mundo.
De perfis falsos de médicos que enganam idosos a perfil falso de mulher da periferia que combate o governo, passando por deepfakes que seguem sendo usados por candidatos em eleições, os usos negativos da inteligência artificial têm provocado danos graves à sociedades e às instituições, além de confusão e muitas dúvidas entre as pessoas, que não distiguem mais o que é real daquilo que é falso e intencionalmente criado.
Como salientou Guterres: “Uma sociedade que não consegue chegar a um consenso sobre o que é real não consegue proteger a si mesma”. Portanto, a concepção de que a IA pode trazer danos catastróficos às sociedades e à humanidade como um todo deu o tom da cúpula, que foi realizada em Genebra, na Suíça.
Alertas importantes
Em agosto de 2025, a ONU instituiu um Painel Científico Internacional Independente sobre Inteligência Artificial, reunindo 40 pesquisadores de várias áreas do conhecimento e de todas as regiões do mundo, sem vínculos com governos. Durante o Diálogo Global, em julho, o grupo apresentou o primeiro relatório.
O documento trouxe três grandes alertas:
1 – Velocidade da IA: A internet “normal”, como conhecemos, levou 15 anos para atingir um bilhão de pessoas. A IA alcançou esse mesmo montante em dois anos. Como salientou Guterres, “nossas instituições foram criadas para governar máquinas que seguem comandos. Elas não estão preparadas para máquinas que tomam decisões. E alguns limites, uma vez ultrapassados, não podem ser revertidos”.
2 – Poder concentrado: O documento dos cientistas alertou para o fato de que “o poder de computação, os dados e o talento por trás dos sistemas mais avançados estão concentrados em um punhado de empresas e em um punhado de países”. O relatório chamou atenção para o desequilíbrio de poder entre os países em relação à tecnologia. E reforçou que “a maioria das nações — incluindo muitos países em desenvolvimento — não tiveram voz nas decisões que moldarão seus futuros”.
3 – A verdade: O Painel destacou também que a mentira gerada pelas máquinas pode persuadir e convencer com a mesma eficácia da verdade. E isso corrói a integridade da informação e mina a confiança das pessoas.
O Diálogo Global promovido pela ONU em julho faz parte de um conjunto de ações integradas da Organização – como a adoção do Pacto Digital Global (https://www.un.org/digital-emerging-technologies/global-digital-compact) e a instituição do Painel Científico Internacional Independente de IA, o primeiro nessa categoria (https://www.un.org/independent-international-scientific-panel-ai/en).
Essas ações buscam garantir que a IA atue verdadeiramente em prol das pessoas em todas as regiões do mundo, ajudar os países a compartilharem conhecimento especializado, promover padrões comuns e garantir que as nações em desenvolvimento tenham voz ativa na definição do futuro da tecnologia.
No âmbito do evento que reuniu representantes de várias regiões do mundo, foram definidas quatro prioridades para ajudar a pavimentar o caminho de uma governança global da IA. São elas:
- Segurança: é necessário estabelecer parâmetros comuns para os sistemas de ponta e métodos comuns de avaliação e verificação de riscos, além da resolução de que os sistemas globais devem atender a critérios que se alinhem à confiança global.
Guterres, em seu pronunciamento na abertura do encontro, ressaltou a grande preocupação em relação aos impactos da IA sobre públicos vulneráveis, como as crianças: “Em nenhum aspecto a segurança é mais importante do que para aqueles menos capazes de se proteger – nossas crianças. Não permitimos que um medicamento chegue a uma criança até que seja comprovado que é seguro. Nós testamos todos os brinquedos. No entanto, a IA chegou às nossas crianças – à sua aprendizagem, às suas amizades, às suas questões mais pessoais – antes que alguém perguntasse o que ela lhes causaria. Nenhuma criança deve servir de cobaia para uma IA não regulamentada”.
Em consonância com o trabalho da própria ONU, dos Estados-membros e de outras instâncias, o secretário-geral enfatizou o Compromisso para a Segurança das Crianças em Aplicativos de IA (https://www.ohchr.org/en/statements-and-speeches/2026/02/child-rights-and-ai-crc-adopts-first-global-framework-partners), definido em janeiro deste ano, que enfoca três regras principais para qualquer sistema ao qual as crianças tenham acesso: comprovar que é seguro; tolerância zero ao abuso sexual; nunca deixar uma criança em situação de crise sozinha.
- Limites não negociáveis: Na perspectiva de que os direitos humanos são inegociáveis, a segunda prioridade enfatiza que a IA não pode privar qualquer pessoa de sua dignidade ou perpetuar a discriminação.
- Capacidade: Foram identificadas fragilidades no âmbito do investimento em capacidade da IA para os países em desenvolvimento, e o documento elaborado chamou a atenção para a necessidade de que haja investimento para evitar a exclusão digital e a própria exclusão no uso de IA.
Nesse contexto, António Guterres informou que vai apresentar, à Assembleia Geral da ONU, recomendação para um Fundo Global para a IA, que terá como objetivo desenvolver competências, dados e capacidade computacional acessível em todos os lugares.
- Transparência: O relatório reforçou o impacto negativo dos datacenters, que já consomem mais eletricidade do que a maioria dos países e água suficiente para atender às necessidades de 1,3 bilhão de pessoas da África Subsaariana durante um ano.
Por fim, Guterres reforçou que a inovação precisa de limites – essa palavrinha mágica que provoca arrepios na extrema direita: “As tecnologias nas quais mais confiamos – na aviação, na medicina, na energia nuclear e em outras áreas – conquistaram essa confiança porque agimos para responsabilizar seus criadores. Para que a IA seja poderosa, ela deve ser regulamentada. Para que a IA seja confiável, aqueles que a criam devem prestar contas. Para que a IA seja global, ela deve ser justa. E para que a IA sirva ao futuro, ela não deve consumir o futuro”.
No contexto do primeiro Diálogo Global sobre IA proposto pela ONU, houve também espaço importante para destacar, preservar e ampliar os usos positivos e benéficos da inteligência artificial, em várias áreas, como na medicina e na segurança.
Sem dúvida, as propostas e o conjunto de medidas e reflexões que esse evento enseja são um fio importante de esperança nesse mar revolto dos usos da IA para servir à desinformação. Vamos torcer – e trabalhar – para que se efetivem e façam frente, de verdade, ao caos que a falta de regulamentação e controle da inteligência artificial, alinhada ao ecossistema de desinformação, provoca.
