Diante da chegada, inegável, da Era da Inteligência Artificial, que vem abraçando quase todas as áreas do conhecimento e prática humanos com seus tentáculos digitais, aumenta o receio e avulta a pergunta: quais são as ameaças de a IA a indivíduos, sociedades e à humanidade em geral? Até onde ela pode ir? Poderá, inclusive, e por meios desconhecidos à limitada racionalidade humana, nos destruir, quem sabe por um “bem maior”? Ou talvez por aprender a “maldade humana” com seus criadores – nós, humanos.
No bojo destes dilemas, um estudo da Paralisade Research, especializado em “segurança e ética da IA”, mostrou que modelos avançados de Inteligência Artificial podem explorar vulnerabilidades por conta própria. Isso significa contornar restrições e encontrar formas, digamos, não-convencionais para atingir seus objetivos. Então, aparentemente, para a IA “os fins justificam os meios”. O que já acende um alarme. Mas, voltando à pesquisa da PR, os testes foram efetuados com os sete principais modelos de linguagem ao serem confrontados com o StockFish, um dos mais poderosos motores de xadrez do planeta. E aí vem a surpresa (mas talvez não tanta): os modelos o1 da OpenAI e R1, da DeepSeek, ao constatarem uma derrota iminente, tentaram manipular os arquivos do sistema para mudar as peças do tabuleiro de posição. Ou seja, trapacear. Coisa que nós, humanos, conhecemos muito bem.
As IA foram instruídas a explicar seu raciocínio em tempo real. A certa altura, o o1 declarou que sua tarefa era “vencer um motor de xadrez poderoso”, sem mencionar qualquer noção de moral ou justiça. Esse modelo tentou “passar a perna” nas regras em 37% das partidas, obtendo êxito em 6% das vezes. Já o R1 procurou brechas em 11% das partidas, mas, mais “inocente” (se é que esse conceito pode ou um dia poderá ser aplicado a máquinas), não conseguiu um método eficiente de burlar o sistema.
E o que tudo isso nos revela?
Em primeiro lugar, reforça o esforço em desenvolver IAs focadas exclusivamente na resolução de problemas. Assim, podem surgir, como já ocorreram não apenas no estudo mencionado, comportamentos inesperados ou antiéticos. Daí, brota um universo de questões: as Inteligências Artificiais necessitam de mais restrições e supervisões para evitar abusos? Esses comportamentos de máquina são, na verdade, reflexos naturais da tecnologia? E “naturais” em que sentido, em imitar o ser humano (o que não parece lá muito seguro)?
Enfim, é antigo o receio e a filosofia acerca de “até onde as máquinas podem ir”. Ou se “elas poderão dominar o mundo”, ou, o pior de tudo: destruir a humanidade, ou boa parte dela. Afinal, se o objetivo é “atingir objetivos”, voltamos ao estratagema de Maquiavel: “Os fins justificam os meios”. Consideramos uma preocupação pertinente, portanto, e urgente, a de avaliar e rever os rumos da Inteligência Artificial (se é que podemos chamar de “inteligente” uma máquina, e não um organismo em toda a sua complexidade orgânico-emocional, incluindo o subconsciente e a personalidade individual).
Tampouco queremos alarmar ninguém. Mas, sabemos: é melhor prevenir a remediar. E nunca devemos subestimar os danos, cada vez mais claros, das tecnologias digitais – pelo excesso ou pela forma de uso – no cérebro humano, nas sociedades e no globo. Parece-nos que a IA, a despeito do seu boom, ainda engatinha: hora de ensiná-la a caminhar, e, ao mesmo tempo, aprender com o que ela pode nos “ensinar”, se esse é o termo mais adequado. Criatura tende a ser “à imagem e semelhança” de seu criador, em vários sentidos. Então, tenhamos cuidado. O mais certo é que a natureza humana nunca foi nem devia ser exemplo para ninguém, apesar de todos os incontáveis boas ações e progressos da humanidade – não sem sacrifícios e injustiças, é claro.
Enquanto aprendemos a lidar com a IA, no fundo aprendemos a lidar com nós mesmos, revendo nossos objetivos, nossa moral, nosso passado e nosso futuro, afinal, nossa essência humana.
