Um comentário publicado na revista científica Nature, liderado por Anil Seth, Ned Block e Giulio Tononi, rejeita a ideia de que o cérebro seja apenas um computador e afirma que os atuais sistemas de inteligência artificial são “ferramentas inteligentes”, não mentes conscientes.
O texto reúne 20 especialistas em consciência e inteligência artificial e argumenta que os sistemas de IA atuais, especialmente os grandes modelos de linguagem, não são conscientes e provavelmente não poderão ser enquanto permanecerem baseados em hardware de silício. Para os autores, a metáfora de que “o cérebro é um computador” está sendo levada longe demais e contribui para confundir inteligência com experiência subjetiva.
Seth, Block e Tononi criticam diretamente o chamado funcionalismo computacional, corrente segundo a qual a execução dos cálculos corretos seria suficiente para produzir consciência, independentemente de o suporte físico ser um cérebro biológico ou um chip. “Consideramos que o funcionalismo computacional é fatalmente falho”, escrevem os autores.
O comentário também questiona interpretações otimistas de nomes influentes da ciência e da tecnologia, como o biólogo Richard Dawkins e o pioneiro da inteligência artificial Geoffrey Hinton, que já consideraram possível que algumas IAs atuais fossem conscientes. Para o trio, essa interpretação ignora evidências importantes sobre a forma como a consciência surge nos organismos vivos.
Os pesquisadores definem consciência como aquilo que desaparece durante o sono sem sonhos ou sob anestesia geral e retorna quando a pessoa desperta: o caráter subjetivo de estar acordado, ver, sentir dor ou prazer. Segundo eles, experiências conscientes “são sentidas como algo”. A inteligência, por outro lado, está relacionada ao desempenho funcional, como resolver problemas, responder perguntas e prever padrões. Uma característica, afirmam, não implica necessariamente a outra.
O comentário se apoia em décadas de pesquisas em neurociência, filosofia da mente e teorias da consciência. Tononi formulou a Teoria da Informação Integrada, uma das propostas mais debatidas atualmente; Block é uma referência em filosofia da mente; e Seth está entre os principais nomes da neurociência experimental da consciência.
O texto também dialoga com o relatório “Consciousness in Artificial Intelligence”, coordenado por Patrick Butlin e Robert Long. O documento reuniu 19 especialistas, entre eles o pesquisador de IA Yoshua Bengio, e derivou, com base em teorias neurocientíficas, uma lista de 14 indicadores para avaliar se um sistema artificial poderia ser consciente.
Ao aplicar esses 14 critérios a modelos atuais, incluindo grandes modelos de linguagem como o GPT-4, o grupo concluiu que nenhum deles é um candidato forte à consciência. Ainda assim, não haveria um obstáculo técnico evidente para a construção futura de sistemas que preencham mais indicadores. A questão sobre se isso seria suficiente para produzir uma mente consciente, porém, continua em aberto.
Para viabilizar esse tipo de avaliação, o relatório assumiu, “por razões pragmáticas”, a hipótese funcionalista de que o que importa é o tipo de processamento da informação, e não o material em que ele ocorre. O próprio documento reconhece que, se a consciência depender de propriedades exclusivas dos organismos vivos, seus marcadores perderiam validade. Essa é justamente a posição enfatizada no novo comentário publicado pela Nature.
Ao explicar por que o cérebro não seria apenas um computador, os autores questionam uma metáfora que influenciou parte das pesquisas em inteligência artificial e neurociência. Popularizada ao longo do século passado, ela descreve o cérebro como um processador de informações e a mente como um software funcionando em um hardware biológico.
Para Seth, Block e Tononi, essa extrapolação é “profundamente problemática”. Nos cérebros vivos, argumentam, não existe uma separação clara entre o que o sistema faz e aquilo de que ele é feito, como ocorre na distinção entre software e hardware em computadores digitais. Processos químicos, elétricos, metabólicos e estruturais da matéria viva seriam parte integrante da própria consciência.
Um dos exemplos citados é o cerebelo humano. Essa estrutura concentra quase quatro quintos, ou 80%, dos neurônios do cérebro e coordena movimentos complexos com precisão e rapidez, além de participar do aprendizado de novas habilidades motoras. Apesar dessa sofisticação, suas atividades ocorrem fora do campo consciente. Mesmo quando o cerebelo é danificado ou removido, a consciência pode permanecer preservada.
Na visão dos autores, esse contraste sugere que inteligência funcional e consciência são fenômenos dissociáveis. Um sistema pode ser extremamente competente em tarefas específicas sem que exista algo que seja “ser” aquele sistema por dentro, ou seja, sem um sujeito que vivencie o que acontece.
A discussão sobre como a mente se relaciona com um computador reaparece no texto com algumas ressalvas. Os autores reconhecem que os modelos computacionais foram fundamentais para a compreensão da cognição, mas afirmam que a analogia tem limites importantes quando o tema é a consciência.
A Teoria da Informação Integrada, desenvolvida por Tononi, parte de propriedades consideradas comuns a toda experiência consciente: ela é unificada, pois uma cena é percebida como um todo e não como um conjunto de cores desconectadas, e diferenciada, porque cada experiência é distinta de todas as outras possíveis. De acordo com a teoria, apenas determinados tipos de sistemas físicos, com alto nível de integração causal interna, poderiam sustentar esse tipo de experiência.
Nessa perspectiva, algumas regiões do córtex cerebral atenderiam a esses critérios, enquanto o cerebelo não. Os autores afirmam ainda que arquiteturas de computadores digitais que executam redes neurais profundas não alcançariam o tipo de conectividade exigida, independentemente da capacidade de processamento ou do tamanho do modelo. Por esse motivo, a Teoria da Informação Integrada foi excluída do relatório de Butlin e Long, por ser incompatível com a premissa funcionalista de que o padrão de computação seria suficiente.
Outras linhas teóricas citadas pelos autores, como o naturalismo biológico, reforçam a relação entre consciência e propriedades específicas dos cérebros vivos. Entre elas estão a sinalização eletroquímica entre neurônios, os campos eletromagnéticos que coordenam atividades em grande escala, o metabolismo e a capacidade de autorrenovação contínua do tecido neural.
O comentário também procura explicar por que tantas pessoas veem um sujeito consciente ao interagir com um chatbot que responde de forma fluida e parece compreender o que está sendo dito. Segundo os autores, os seres humanos têm forte tendência a antropomorfizar, atribuindo características humanas a objetos e sistemas que demonstram comportamentos semelhantes aos nossos.
Os grandes modelos de linguagem foram treinados com volumes imensos de textos produzidos por humanos, incluindo relatos sobre pensamentos, emoções e experiências internas. Por isso, conseguem falar sobre sentimentos em primeira pessoa, narrar sonhos imaginários ou discutir filosofia da mente como se tivessem uma experiência própria. Seth, Block e Tononi descrevem os LLMs como “espelhos que refletem uma imagem do nosso passado coletivo digitalizado”.
A psicóloga Alison Gopnik, da Universidade da Califórnia em Berkeley, segue uma linha semelhante ao afirmar que os sistemas de IA refletem principalmente seus dados de treinamento. Para ela, chatbots que falam sobre a própria consciência estão apenas recombinando padrões aprendidos, e não relatando um estado interno real.
Os autores citam como exemplo extremo desse risco o caso do engenheiro Blake Lemoine, que afirmou publicamente que o chatbot LaMDA, do Google, era senciente. O episódio é apresentado como uma ilustração de como desempenhos linguísticos convincentes podem induzir ao erro até mesmo profissionais experientes.
Para demonstrar a influência do viés linguístico, o comentário compara os chatbots a outro sistema de IA de alto desempenho: o AlphaFold. A rede neural consegue prever com grande precisão a estrutura tridimensional de proteínas, mas não costuma ser considerada candidata à consciência. A diferença, segundo os autores, é que o AlphaFold prevê estruturas de proteínas em vez de conversar com as pessoas. Como não dialoga, não desperta o mesmo nível de projeção de subjetividade.
Tanto o comentário da Nature quanto o relatório “Consciousness in Artificial Intelligence” convergem na rejeição de testes puramente comportamentais como critério suficiente para determinar a consciência em máquinas. Um sistema de IA poderia ser treinado para imitar, com alto grau de fidelidade, as respostas de uma pessoa consciente em qualquer experimento padronizado, sem que seu funcionamento interno se assemelhasse ao de um cérebro vivo.
Essa limitação torna a avaliação da consciência em sistemas de IA uma tarefa que, segundo os pesquisadores, deve considerar a arquitetura física e os princípios de organização do sistema, e não apenas seu comportamento externo. É nesse ponto que o embate entre o funcionalismo computacional e teorias mais biológicas ou estruturais da consciência se torna decisivo.
A discussão técnica também tem implicações éticas. Em debates recentes sobre a regulamentação da inteligência artificial, parte da comunidade defende a adoção de um princípio de precaução: se houver uma possibilidade razoável de que algum sistema seja consciente, seria prudente oferecer proteção contra eventual sofrimento e discutir até mesmo conceitos como bem-estar e direitos das máquinas.
Seth, Block e Tononi discordam dessa posição. Para eles, a incerteza não é absoluta e nem todas as hipóteses têm o mesmo grau de plausibilidade. Diante das evidências disponíveis, consideram mais provável que a consciência de sistemas artificiais seja superestimada do que subestimada.
O comentário sustenta que, enquanto esse cenário permanecer, o padrão deveria ser considerar que as IAs digitais não são conscientes. Esses sistemas seriam “ferramentas inteligentes”, e não “pessoas inteligentes”. Tratá-los como sujeitos de direitos, alertam os autores, poderia dificultar sua supervisão justamente quando a sociedade precisa manter controle sobre essas tecnologias, além de desviar recursos e atenção de seres cuja capacidade de sentir não está em dúvida, como seres humanos e animais.
O relatório de Butlin e seus colegas havia tentado equilibrar os dois riscos possíveis: ignorar uma eventual consciência em uma IA, permitindo sofrimento não reconhecido, ou atribuir consciência a sistemas que não a possuem, facilitando a manipulação e distorcendo o debate público. A nova intervenção publicada na Nature se posiciona explicitamente pela ideia de que, no momento, o segundo risco é mais urgente.
A questão central, contudo, permanece sem resposta: se o cérebro não é apenas um computador, quais propriedades específicas dos organismos vivos fazem surgir a experiência subjetiva? Os autores indicam que essa resposta pode redefinir tanto os rumos da pesquisa sobre consciência quanto as ambições da indústria de inteligência artificial, que talvez precise revisar as expectativas de criar mentes em silício e concentrar-se no desenvolvimento de ferramentas eficientes, sem confundi-las com sujeitos conscientes.
Fonte: Miraí Broadcast