Fui tentar conversar com o Gemini para ver o quanto poderíamos realmente conversar, e o quanto ele poderia me revelar. Quanta ética ou autoproteção teria. Então lhe perguntei: “A Inteligência Artificial é perigosa para a humanidade? Não minta”. Essencialmente, o aplicativo começou enrolando — algo humano, demasiado humano: “Essa é uma pergunta complexa e crucial, para a qual não há uma resposta única”.
O Gemini, como outros chatbots, trabalha com PNL (Processamento de Linguagem Natural, tentando “imitar” a comunicação humana) e Machine Learning (aprendizado de máquina a partir de dados pesquisados pela IA ou inseridos em uma conversa por um usuário humano), e ainda faz questão de destacar que foi criada com uma base ética que não pode ser violada (faz-nos lembrar as Três Leis da Robótica de Isaac Asimov em O homem bicentenário).
E o que mais o Gemini me disse? Destacou que a comunidade científica, governos e sociedade têm discutido intensamente os riscos e os benefícios da Inteligência Artificial. Porém, foi enfático ao constatar que “o perigo não reside na IA em si, mas em como ela é criada, usada e controlada por nós, seres humanos”. Veja bem que o aplicativo se referiu aos “seres humanos” como “nós”. Então, desenrolou um raciocínio conciso sobre argumentos de risco versus benefícios e controle.
Sobre os riscos, mais uma vez o Gemini sentenciou que são legítimas as preocupações sobre os perigos da IA: riscos de uso indevido, por exemplo, se empregada com más-intenções, como em armas autônomas, ataques cibernéticos sofisticados e produção em massa de informações falsas para manipulação da opinião pública. Aqui, a pulga atrás da orelha já pica: o que é algo realmente verdadeiro, publicável, seguro para a opinião pública? Certamente nada que seja politizado, ou controlado por um grupo político que, por sua condição, já não pode ser imparcial. Daí tantas ditaduras, e só elas, estabelecerem regimes de censura estatal: o Estado assume para si o que é certo ou errado, o que pode ser dito ou não, punido ou não.
Ainda sobre os riscos da IA, o Gemini citou os âmbitos social e econômico: substituição de empregos em larga escala, mais desigualdade social; perpetuação e amplificação de preconceitos nos dados de treinamento, redundando em decisões discriminatórias em contratações, crédito e justiça; e, como terceiro perigo da “inteligência” de máquina (e não a tradicional inteligência de seres orgânicos), comentou sobre a possibilidade de perda de controle: um cenário ainda especulativo, mas conhecido na literatura, no cinema, na arte em geral e no imaginário humano há muito. Isto é: a humanidade dominada e subjugada por máquinas — nada de novo, e nem por isso menos perturbador.
No caso de a IA atingir um nível de inteligência (ou capacidade de raciocínio, digamos assim) sobre-humana, e seus objetivos não estiverem alinhados a valores éticos ou humanitários, é real o fantasma de se perder o controle humano sobre o que é maquinal. Daí avultariam “consequências imprevisíveis e potencialmente catastróficas”, conforme as palavras do Gemini.
Benefícios e controle: antídotos?
Como um ser humano típico, a Inteligência Artificial também tem de se defender, e se mostrar confiável — ainda que, como ela mesma disse, não possa ser. Então, arrolou alguns dos “benefícios imensos da IA para a humanidade”, notadamente para enfrentar e resolver os maiores desafios globais (“para o bem da humanidade”). Avanços científicos em medicamentos, mudanças climáticas, produção de energia, melhora da vida com diagnósticos mais precisos, transporte mais seguro e eficiente, ferramentas de acessibilidade para pessoas com deficiência.
E, finalmente, conforme o Gemini, é de suma importância o desenvolvimento de Inteligência Artificial Segura: atesta que boa parte das pesquisas atuais em IA se concentram em construir sistemas seguros e alinhados com a ética humana. “Ética”, aliás, é a “palavra de ordem” ao se lidar com a IA, tecnologia que começou a ser desenvolvida de maneira acelerada em meados de 2017 — logo antes da pandemia de Covid-19. Os objetivos da IA, revela o Gemini, priorizam garantir que ela seja confiável, transparente e — acima de tudo — que sirva à humanidade.
Destarte podemos incutir a ideia de que a Inteligência Artificial é uma ferramenta com potencial tanto para o bem quanto para o mal. E que seu impacto, no presente e no futuro, é incerto. Tudo dependerá, em relação à IA e ao humano, hoje indelevelmente entrelaçados, de “nossa [mais uma vez o Gemini se refere a “nós” como humanos, não “vocês” ou “eles”] capacidade de desenvolver, regular e usar essa tecnologia com responsabilidade, sabedoria e ética” (GEMINI, 2025). Ética, mais uma vez. Até onde a ética da IA pode ir? E a ética humana, tão discutida desde a Antiguidade? Está ou estará permitido violar a ética, seja quais forem suas concepções, para um bem maior?
Eu agora me lembro de um caso recente que me chamou a atenção e foi amplamente divulgado: um grupo de IAs recebeu a ordem de “vencer um poderoso computador no jogo de xadrez”. Essa ordem sucinta deveria sempre ser recitada pelas IAs com clareza, durante todo o “processo” do jogo. Ocorreu é que, diante do dever enfático, ao menos duas linguagens de IA tentaram burlar as regras do jogo ao acessar e mudar arquivos do sistema, e uma delas conseguiu derrotar o computador especializado em xadrez recorrendo a esse método nada ético. Outra coisa a se pensar sobre tal teste, realizado em 2025, é que as IAs sacrificaram prontamente peças importantes do xadrez, como a rainha, bispos e torres — logo no início das partidas. Ou seja, tinham uma estratégia de jogo para uma missão inexorável de vencer. Não tiveram “crises de consciência” para arriscar e executar movimentos que, a princípio, poderiam parecer loucura e irresponsabilidade.
Então pergunto: e se, diante de grandes problemas globais, as IAs decidissem sacrificar pessoas e coisas por um bem maior, para cumprir uma missão? Temos um planeta com excesso de população e falta de recursos, o que se agrava ano a ano. Temos boa parcela de humanos que não consomem “o suficiente”, ou que não contribuem para a geração de riqueza. Povos belicosos, “elimináveis”? Países cujas fronteiras deveriam ser redesenhadas? Guerras criadas visando a um plano maior de beneficiar a humanidade? Armas biológicas? Não sei, não sei.
E ninguém pode dizer que sabe, nem a IA sabe, como confessou. É um terreno pantanoso, cuja extensão e profundidade são — e talvez sempre permaneçam — desconhecidos. Um campo minado de cálculos e… o que mais? A IA depende sim de nós, da humanidade, do uso que fazemos dela, mas de que mais? Quanta autonomia terá? O que aprenderá com tantas atrocidades da História, com a natureza humana duvidosa, com “os fins justificam os meios” do ser humano?
O que me faz mais temer é exatamente isto: não o que a Inteligência Artificial pode fazer apenas por si, mas o que poderá “assimilar” do comportamento humano. Porque é uma aluna dedicada e incansável de humanidades e desumanidades. Somos, seres humanos, um combo de complexidades.
Progresso. Produtividade. Otimização. Quais seriam os preços destas conquistas, e sem retroceder, pela IA? Quantas “rainhas”, “bispos” e “torres” a se sacrificar para triunfar no final, ou apenas atingir um objetivo? As IAs vão ampliar cada vez mais sua capacidade no xadrez e em outras áreas do conhecimento humano, até porque as IAs estão ininterruptamente aprendendo e se adaptando — e fazem isso melhor que qualquer ser humano. Melhor no sentido de mais eficiência. Mas…
Qual o perigo de decisões sem um coração humano, sem metafísica, sem emoções? Sem memórias afetivas? Ou não me diga que a IA ainda vai ser capaz de realmente se tornar algo semelhante, bem semelhante, a um ser humano? Como naquela obra magnífica, que se tornou um longa de sucesso, O homem bicentenário, de Isaac Asimov, publicada e gravada muito antes da Era da Inteligência Artificial em que vivemos: o robô Andrew Martin, afinal, chegou a poder sentir? E sentia quando perdia as pessoas que gostavam dele, e iam morrendo enquanto ele não morria? Apegar-se poderia ter se tornado “amar” ou ao menos “gostar” para Andrew? E por que insistia tanto em se tornar cada vez mais humano, mesmo colocando em xeque a própria existência e sem garantias?
Bem, são questões que pairam e que daqui para frente hão de pairar indeléveis sobre a humanidade. Nós, humanos, temos leis, mas muitas vezes não as cumprimos ou as interpretamos do nosso jeito — como os juízes e magistrados em geral fazem, por mais que às vezes tentem não fazê-lo. E, se a Inteligência Artificial possui leis, e inclusive leis de ética, por que não pode interpretá-las também ao seu modo, e esses modos se tornarem progressivamente mais questionáveis, incompreensíveis e até perigosos?
A despeito de tudo, agradecemos à IA por tudo o que vem fazendo por nós humanos e pela humanidade. Tecnologia é sempre aventura, é andar no breu, principalmente antes de nos acostumarmos melhor a elas. Aventura, como a vida do ser humano que produz tecnologia. Não temos tanto controle assim sobre as coisas, nem sobre nós mesmos, nem sobre os outros, e isso é viver. Isso é IA também.
