Os desafios da inteligência artificial

Publicado em Jornal de Letras, Artes e Ideias, Ano XLIV, nº 1404, de 24 de Julho a 6 de Agosto de 2024

A inteligência artificial (IA) refere-se a máquinas que executam tarefas cognitivas, como pensar, perceber, aprender, resolver problemas e tomar decisões. Actualmente, a maioria das aplicações populares de IA – o reconhecimento de voz e imagem, o processamento de linguagem natural, a publicidade direccionada, a manutenção preditiva de máquinas, carros sem condutor e drones, bombas “super-inteligentes” – envolve a capacidade das máquinas para aprenderem com os dados sem serem explicitamente programadas. Trata-se de uma mudança de paradigma na tecnologia informática. O que vai realmente fazer a diferença na corrida às aplicações de IA é a disponibilidade de dados; o elemento crítico é a abundância de dados. Mais dados conduzem a melhores produtos, o que, por sua vez, atrai mais utilizadores, que geram mais dados para melhorar ainda mais o produto. A escala de dados necessária para desenvolver aplicações avançadas de IA está na base da centralização e monopolização da IA. As grandes empresas americanas de tecnologia lideram o mundo em aplicações de IA, mas a China aproxima-se velozmente. Isto conduz a um duopólio da inovação da IA: EUA e China.

Os novos problemas, riscos e desafios

Os debates principais sobre a IA têm sido os seguintes: será a IA algo novo que rompe com o paradigma tecnológico actual em termos de riscos e de possibilidades, ou é mera continuidade? Qual o futuro do trabalho? Como lidar com a acção autónoma dos dispositivos de IA, sobretudo no caso de armas letais e de intervenções médicas complexas? A aprendizagem profunda da IA significa que capacidades até agora reservadas à inteligência humana possam ser assumidas por máquinas? O que significa ser humano na época da IA?

Embora muitos aspectos da nossa vida quotidiana já dependam da IA, explodiu recentemente uma polémica global e apaixonada sobre a IA. Uma das principais razões para essa explosão é o aparecimento do ChatGPT. Nas palavras de Chomsky e colegas: "O ChatGPT da OpenAI, o Bard da Google e o Sydney da Microsoft são maravilhas da aprendizagem automática. Grosso modo, pegam em enormes quantidades de dados, procuram padrões e tornam-se cada vez mais competentes na geração de resultados estatisticamente prováveis – como linguagem e pensamento aparentemente humanos. Estes programas têm sido aclamados como os primeiros vislumbres no horizonte da inteligência artificial geral – aquele momento há muito profetizado em que as mentes mecânicas ultrapassariam os cérebros humanos, não só quantitativamente em termos de velocidade de processamento e tamanho da memória, mas também qualitativamente em termos de perspicácia intelectual, criatividade artística e todas as outras faculdades distintamente humanas".

No fundo, a IA funciona como um dispositivo estatístico, mas, devido ao número infinito de dados que gere e aos algoritmos que regem o seu funcionamento, projecta a ideia de criar conhecimento a partir do nada, de inventar. Ou seja, a IA dá a impressão de funcionar como um ser humano, ainda que de forma infinitamente mais eficiente. Daí as designações utilizadas para a caraterizar – inteligência artificial, aprendizagem profunda – características até agora reservadas aos seres humanos ou, no máximo, aos seres vivos. Estas designações são utilizadas de forma metafórica, mas mostram até que ponto a IA parece estar a atingir níveis de compreensão e de transformação reservados aos seres humanos. O efeito de realidade é impressionante, porque sendo uma cópia parece criativa, sendo extractiva parece inventiva, sendo reprodutiva parece produtiva, sendo baseada em correlações parece oferecer novas relações. À luz da credibilidade desta "aparência", as questões sobre o que conta como ser humano ou se a IA significa uma mudança civilizacional têm sido levantadas por pessoas em lados opostos do espectro político e ideológico. A título de exemplo, enquanto Henry Kissinger nos alerta e alarma para o facto de a IA significar o fim do Iluminismo, Noam Chomsky e os seus colegas refutam, em termos muito radicais, que as máquinas de IA sejam inteligentes ou capazes de aprender, segundo qualquer concepção científica dos termos.

De acordo com Chomsky e colegas, "a mente humana não é, como o ChatGPT e os seus semelhantes, um motor estatístico pesado para correspondência de padrões, que se alimenta de centenas de terabytes de dados e extrapola a resposta de conversação mais provável ou a resposta mais provável a uma pergunta científica. Pelo contrário, a mente humana é um sistema surpreendentemente eficiente e até elegante que funciona com pequenas quantidades de informação; não procura inferir correlações brutas entre pontos de dados, mas sim criar explicações... Por muito úteis que os programas de IA possam ser nalguns domínios restritos (podem ser úteis na programação de computadores, por exemplo, ou na sugestão de rimas para versos ligeiros), sabemos pela ciência da linguística e pela filosofia do conhecimento que diferem profundamente da forma como os humanos raciocinam e utilizam a linguagem. Estas diferenças impõem limitações significativas ao que estes programas podem fazer, codificando-os com defeitos inerradicáveis. De facto, estes programas estão presos numa fase pré-humana ou não-humana da evolução cognitiva. A sua falha mais profunda é a ausência da capacidade mais importante de qualquer inteligência: dizer não só o que é o caso, o que foi o caso e o que será o caso – isto é descrição e previsão – mas também o que não é o caso e o que poderia e não poderia ser o caso. Estes são os ingredientes da explicação, a marca da verdadeira inteligência. O pensamento humano baseia-se em explicações possíveis e na correcção de erros, um processo que limita gradualmente as possibilidades que podem ser racionalmente consideradas. Mas o ChatGPT e programas semelhantes são, por concepção, ilimitados no que podem 'aprender' (ou seja, memorizar); são incapazes de distinguir o possível do impossível".

A IA está, involuntariamente, a convidar a uma atenção renovada para questões antigas, como a questão do que significa ser humano. Questões ontológicas e existenciais que são também questões éticas e políticas. Confrontados com características concebidas por filósofos e cientistas sociais como caracterizadoras da singularidade humana, os fervorosos criadores de IA estão empenhados em aperfeiçoar os programas de IA de forma a que as capacidades das máquinas se aproximem cada vez mais das capacidades humanas. Mas em cada patamar de desenvolvimento emergem dilemas. Vejamos alguns:

Na sua obra-prima, O mundo como vontade e representação, Schopenhauer faz uma distinção entre talento e génio. Enquanto a pessoa talentosa alcança o que os outros não conseguem alcançar, o génio alcança o que os outros não conseguem imaginar. O génio tem uma capacidade superior de contemplação que o leva a transcender a pequenez do ego e a entrar no mundo infinito das ideias. O génio é a faculdade de permanecer no estado de percepção pura, de se perder na percepção, o poder de deixar os seus próprios interesses, desejos e objectivos inteiramente fora de vista, renunciando assim inteiramente à sua própria personalidade durante algum tempo, de modo a permanecer um puro sujeito conhecedor, com uma visão clara do mundo.

À luz disto, podemos especular com segurança que, se vivesse hoje, Schopenhauer defenderia que a IA, por muito estimulantes que sejam as suas realizações, nunca poderá atingir os patamares da possibilidade humana. No máximo, poderá atingir o nível do talento. A genialidade é inacessível à IA. O génio é o limite superior da IA. O limite inferior é a actividade humana refractária aos algoritmos, a actividade não registada ou, melhor ainda, a actividade humana que é registada e armazenada de formas que desafiam o extractivismo de dados.

Por sua vez, John Dewey, em How we Think, define as características do pensamento reflexivo. Segundo Dewey, o pensamento reflexivo é o dom que permite aos seres humanos imaginar coisas ainda não experimentadas, com base no que sabem no e sobre o presente – concede-nos o poder da "previsão sistematizada", que nos permite "agir com base no ausente e no futuro". O pensamento reflexivo é susceptível de ser influenciado por muitos factores incontrolados, como a experiência passada, os dogmas recebidos, as exigências do interesse próprio, o despertar da paixão, a pura preguiça mental, um ambiente social impregnado de tradições tendenciosas ou animado por falsas expectativas, etc. Exige a compreensão do contexto em que se insere. Não pode prescindir da perplexidade, da hesitação, da dúvida, da incerteza, mas também da criatividade e da curiosidade significativas. O pensamento reflexivo desenvolve-se numa vigilância constante contra as crenças comuns. Implica a assunção de riscos e a superação do medo do fracasso. Nos termos de Dewey, a IA é totalmente hostil ao pensamento reflexivo, ao mesmo tempo que tende a converter as crenças acríticas comummente aceites na única forma possível de pensar no nosso tempo.

Este jogo homem-máquina deixa escapar um ponto crucial: o facto de os seres humanos não existirem em abstracto, mas sim em contextos históricos, sociais e culturais específicos. Os exercícios sobre características universais construídas abstractamente convertem características locais centradas no Ocidente, capitalistas, colonialistas e patriarcais em características universais derivadas do conhecimento "visto do ponto zero". Os preconceitos ontológicos e políticos são assim transformados em artefactos neutros em termos de IA.

As questões epistémicas

Enquanto produto industrial baseado no conhecimento, a IA é monolítica e determinista em termos epistémicos. Este facto levanta duas questões principais. Em primeiro lugar, a IA é uma forma de transformar a informação em conhecimento aplicado através do processamento de acordo com procedimentos estatísticos e determinísticos. Do ponto de vista da IA, para além deste conhecimento tecnológico, existe apenas o caos, a desordem ou a distracção irrelevante. Esta posição epistémica vai contra as duas principais conclusões dos debates epistemológicos dos últimos cinquenta anos. Por um lado, como amplamente demonstrado pelas epistemologias críticas (sobretudo feministas), a ciência é internamente diversa e avança impulsionada por uma procura multifacetada da verdade (diversidade interna). Por outro lado, como defendido pelas epistemologias do Sul, a ciência é um conhecimento válido, mas não é o único conhecimento válido; há outros conhecimentos não científicos que circulam na sociedade e que são importantes para a vida das pessoas de uma forma que a ciência não é e cuja validade não depende da ciência (validade externa).

Em segundo lugar, a IA é a derradeira promotora do pensamento único. Dada a sua natureza estatística, a IA privilegia a quantidade em detrimento da qualidade, ignora as formas minoritárias, alternativas, criativas, emergentes, inovadoras e heterodoxas de ser, pensar, saber e sentir. Desta forma, tende a ratificar e a legitimar o pensamento dominante, o estado actual das coisas (o status quo), independentemente de quão injusto ou perigoso possa ser. Mais eficazmente do que nunca, os interesses dominantes escondem-se atrás das ideias dominantes tidas por automáticas e, portanto, neutras.