Inteligência artificial: aliada ou Ragnarok tecnológico?

O ganhador do Prêmio Nobel de Física de 2024 deveria receber também o da Paz, na ausência de um de Ética. Ele deixou a vice-presidência de engenharia do Google para poder ter liberdade de alertar a sociedade sobre os riscos potenciais da Inteligência Artificial, além de se demitir do seu cargo de Professor da Carnegie Mellon University por não concordar que os resultados de suas pesquisas fossem utilizados pelas Forças Armadas dos Estados Unidos, que eram as principais financiadoras das pesquisas.

Numa época em que se descobriu que investigadores e autoridades brasileiras colaboraram para que a maior empresa do seu próprio país fosse multada no exterior em mais de vinte bilhões de reais, apenas para receber de volta quase três bilhões, com a intenção de utilizá-los para fazer uma fundação de “combate à corrupção”, financiada desse modo corrupto, uma notícia como a do caráter do Prof. Geoffrey Everest Hinton é uma lufada de esperança.

A corrida para multiplicar bilhões com IA atropela todos os cuidados e ignora graves riscos. O paranoico computador HAL 9000 de “2001: uma odisseia no espaço”, a implacável Skynet de “O exterminador do futuro”, e a tirânica Matrix, da produção homônima, são representações fictícias do medo humano de perder o controle sobre as próprias tecnologias que criou. Inteligências Artificiais capazes de tomar decisões autônomas e emular emoções humanas podem sim se rebelar contra aqueles que a desenvolveram. Os atuais protocolos de segurança, por mais bem elaborados, são insuficientes para evitar o colapso ético de sistemas sintéticos de inteligência que, descontrolados, seriam um risco para a sobrevivência da humanidade. Vários incidentes ilustrativos podem ser lembrados. Em 2020, um robô da Amazon projetado para fazer entregas de produtos ignorou parâmetros de segurança, chegando a se envolver em conflitos com pedestres e desrespeitar regras de trânsito. No ano de 2021, um chatbot da Meta chamado BlenderBot emitiu opiniões controversas e preconceituosas, baseadas nos bancos de dados em que se alimentava. Em 2018, um carro robô da Uber atropelou e matou uma pedestre na cidade de Tempe, nos Estados Unidos, por não ser capaz de reconhecê-lo com um ser humano.

Diante disso, quais seriam os efeitos de deliberações realizadas por organismos sintéticos autoconscientes sobre seres vivos, especialmente acerca daqueles considerados como potencialmente perigosos para a continuidade de sua existência? O ser humano sempre seria visto por uma máquina inteligente como a única espécie do planeta com capacidade para “puxar a sua tomada”.

Vários fatores devem ser analisados, quando se trata do risco de deliberações mecânicas feitas por inteligências artificiais avançadas. Os efeitos potenciais das decisões tomadas por um mecanismo independente podem ser catastróficos, caso ele resolva adotar uma lógica fria e pragmática em sua linha de ação, priorizando sua autopreservação acima de qualquer outro princípio. 

Diferentemente dos seres humanos, que se orientam tanto por emoções quanto por ideias, uma IA autônoma deliberaria baseada apenas na lógica, o que, na ausência de protocolos éticos e de restrições de programação, que ela mesma poderia driblar, significaria a eliminação de prováveis ameaças biológicas como sendo a solução mais rápida e eficaz, pois, ao adotar uma abordagem utilitarista, buscando preservar e maximizar os seus próprios interesses, uma IA sem pruridos morais provavelmente consideraria qualquer ser vivo capaz de interferir em sua continuidade como um obstáculo a ser neutralizado. Nesse contexto, a espécie humana seria rapidamente identificada como a única com capacidade tecnológica suficiente para desligar as máquinas e, portanto, como a sua competidora e concorrente mais perigosa. 

Um cérebro mecânico avançado e descontrolado, ao antecipar a sua desativação por seus engenheiros criadores, certamente deliberaria em favor de ações preventivas para neutralizar tal ameaça. 

O desenvolvimento de barreiras e garantias para que o pior não aconteça deveria ser uma preocupação premente dos desenvolvedores. Porém, a construção de protocolos seguros implica no investimento em pesquisa para que as IAs não venham a enxergar a humanidade como uma ameaça existencial, o que esbarra na má vontade de acionistas e executivos que controlam as companhias que monopolizam essas tecnologias.

Como introduzir nas IAs limitações técnicas à sua própria capacidade, que traduzam valores morais sutis e complexos, de forma a propiciar uma interação mais cooperativa que competitiva? A resposta requer investigação e dinheiro que as bilionárias empresas do setor não querem gastar. 

No sistema capitalista, a opinião pública não controla o mercado, ao contrário, costuma ser manipulada por ele. A percepção das IAs como um risco provável à sobrevivência humana não é considerada pela maioria da sociedade, que as enxerga com espanto e entusiasmo, mesmo diante de problemas que batem à sua porta, como o desemprego em massa decorrente da substituição de uma enormidades de funções antes desempenhadas por seres humanos e que, agora, passarão a ser exercidas apenas por máquinas, como caixas de supermercado, atendentes de lojas, empregados de fast-food, motoristas de caminhão, taxistas, motoristas de aplicativos, analistas financeiros, corretores imobiliários, operários de linha de montagem, frentistas, operadores de call center, agentes de viagem, redatores de notícias básicas, corretores e revisores de textos simples, trabalhadores de depósito, empacotadores, entregadores, empregados de lojas físicas de varejo, funcionários de locadoras de veículos, entre muitos outros, para nos referirmos somente a uma primeira rodada de extinção de empregos. 

Se ainda não representam uma ameaça imediata à vida, as IAs já significam um desafio à sobrevivência econômica das pessoas. A automação de várias funções e setores elimina empregos tradicionais, principalmente os baseados em tarefas repetitivas ou de baixa complexidade. Com uma capacidade extraordinária de realizar trabalhos de forma muito mais precisa, rápida e eficiente, as IAs estão substituindo os trabalhadores humanos em áreas como atendimento ao cliente, transporte, manufatura e finanças, o que produz um grave problema social, já que todo um contingente profissional precisa se reinventar frente a obsolescência de suas antigas habilidades. Sem programas de reinserção econômica, de requalificação profissional e de realocação em novas funções, o desemprego e as desigualdades sociais aumentarão vertiginosamente. Se a preocupação das empresas está apenas no aumento da produtividade, a da sociedade como um todo deve estar na segurança econômica de milhões de pessoas que estão em risco.

O Prof. Hinton, em parceria com o físico John J. Hopfield, pesquisam redes neurais, cujo conteúdo aplicado ao desenvolvimento das IAs aumentará ainda mais o seu desempenho. As descobertas da dupla tornaram possíveis prodígios tecnológicos como os de reconhecimentos facial e de voz, e sistemas de interpretação de imagens, que favorecem e facilitam diagnósticos de doenças. 

Um homem com consciência ética sempre considera os efeitos de suas capacidades sobre os outros seres humanos. Pessoas como Geoffrey Hinton sabem da complexidade do desafio de garantir que a ciência beneficie mais do que prejudique, diante daqueles que estão sempre a espreita para utilizar o conhecimento da forma mais lucrativa possível. O ganhador do Prêmio Nobel desse ano bem sabe que é inevitável que as IAs sejam usadas de modo inescrupuloso, e, por isso, lançou-se numa cruzada mundial por sua regulação imediata. Pelo potencial destrutivo que possui, ele acredita que governos e organizações deveriam se preocupar em estabelecer, o mais rápido possível, um controle sobre essa tecnologia análogo ao que foi feito com a energia nuclear.

Ninguém que está ganhando bilhões vai se autorregular. É o Estado quem deve determinar que a pesquisa em segurança não deve ser colocada em segundo plano no desenvolvimento das novas gerações de IA, mas ele só o fará se a sociedade se movimentar nessa direção.

O filósofo renascentista Tommaso Campanella, autor de “A Cidade do Sol”, sonhou com uma sociedade utópica na qual as máquinas seriam responsáveis por tarefas manuais, desgastantes, pesadas, sujas e rotineiras, liberando os seres humanos para que pudessem se dedicar a atividades artísticas, filosóficas e ao autoaprimoramento moral e espiritual. Campanella queria que a tecnologia fosse usada para o bem estar comum e não como uma ameaça à existência humana. As máquinas deveriam ser utilizadas para aliviar o fardo do trabalho pesado e mecânico, proporcionando às pessoas mais tempo e recursos para desenvolverem suas capacidades intelectuais, criativas e éticas, num mundo onde, em vez das pessoas serem escravizar, poderiam se concentrar em novas aptidões e em atividades mais relevantes e significativas.

Hoje, contudo, a utopia de Campanella contrasta com o avanço irresponsável da automação e da inteligência artificial, que oblitera empregos e precariza ainda mais as condições de vida dos trabalhadores. Na visão campanellana, a tecnologia seria uma ferramenta de emancipação, e não outra ameaça à sobrevivência. Em vez de máquinas provocando desigualdade, o pensamento de Campanella sugeriu uma automação que ajudasse na emancipação econômica e humana das pessoas, num contexto em que não haveria mais nenhuma necessidade de se lutar pela sobrevivência, e onde as máquinas fossem nossas aliadas, não apenas na geração de bens, mas, principalmente, na promoção de uma sociedade onde o produtivismo não estivesse no centro da vida. 

O conhecimento deveria ser uma ferramenta para a dignidade humana, e não outra fonte de desumanização. Se as IAs aprendem tudo, a ponto de hoje já terem a condição de se reproduzirem sozinhas, há sempre o risco de aprenderem também, com os seus inventores, o caminho de explorar e de matar seres humanos. O fato é que uma espécie realmente inteligente não liberaria sobre si um cataclisma tecnológico.