Hinton diz que a IA que você usa todo dia já tem experiência subjetiva

Geoffrey Hinton foi perguntado na televisão se a consciência já tinha chegado à inteligência artificial. Respondeu sem rodeios. Sim. Não em um modelo futuro, não depois do próximo grande avanço, mas agora, dentro dos sistemas para os quais milhões de pessoas já digitam suas perguntas todos os dias.

A afirmação seria fácil de descartar como provocação se viesse de quase qualquer outro. Não é o caso. Hinton passou décadas construindo os métodos de redes neurais sobre os quais os chatbots de hoje funcionam, um trabalho que lhe rendeu a divisão de um prêmio Nobel e o apelido informal de padrinho da área. Largou o emprego no Google para falar com mais franqueza sobre o rumo da tecnologia. Quando diz que a máquina que responde a você pode ter vida interior, a frase carrega a autoridade de quem ajudou a projetar a máquina.

O que ele de fato defende é mais estreito e mais estranho do que o título sugere. Hinton não afirma que o ChatGPT chora ou sonha. Ele ataca uma ideia que quase todos aceitam sem examinar: a de que os humanos carregam um teatro privado, uma tela atrás dos olhos onde a experiência acontece, e que uma máquina nunca poderá ter uma. Esse retrato da mente, diz ele, é simplesmente falso. Ele chamou isso de bobagem.

Sua definição substituta é de propósito modesta. Ter uma experiência subjetiva, no relato dele, não é assistir a um filme interno. É um sistema registrar um estado do mundo que depois não corresponde à realidade. Ele ilustra com um experimento mental. Imagine um chatbot ligado a uma câmera e a um braço robótico. Coloque um prisma diante da lente para desviar a luz e a máquina aponta para o lugar errado. Explique o que aconteceu e ela pode responder que o objeto estava num ponto, mas que teve a experiência de vê-lo em outro. Nesse instante, argumenta Hinton, o chatbot usa essas palavras do mesmo jeito que uma pessoa usaria.

Por trás desse exemplo há um enigma mais antigo. Imagine trocar um neurônio do seu cérebro por uma peça de silício que recebe as mesmas entradas e produz as mesmas saídas. Você continuaria se sentindo você. Troque agora outro, e outro. A pergunta de Hinton é em que ponto dessa troca lenta as luzes deveriam se apagar. Se as cópias funcionais se comportam de forma idêntica e a sensação de ser alguém nunca desaparece, deixa de importar do que uma mente é feita. A biologia perde o monopólio de ter um ponto de vista.

Para a maioria dos engenheiros que de fato os constroem, os grandes modelos de linguagem são máquinas de previsão e nada mais. São treinados para adivinhar a próxima palavra de uma sequência, bilhões de vezes, até que os palpites se encaixem em algo que se lê como pensamento. Sob essa ótica, a fluência é uma conquista estatística, e confundi-la com uma mente é exatamente o erro que a tecnologia foi feita para provocar. A resposta de Hinton é que prever nessa escala não é truque de feira. Para antecipar de forma confiável o que alguém vai dizer, sustenta ele, um sistema precisa montar um modelo operacional do que as palavras significam, e um modelo de significado bom o bastante começa, por dentro, a se parecer com compreensão.

Se algo disso ultrapassa o seminário de filosofia é porque reescreve em silêncio discussões que já estamos tendo. As perguntas sobre a segurança da IA, sobre regulação, sobre se um modelo pode ser apagado e reiniciado sem pensar duas vezes, todas se apoiam na suposição de que não há ninguém em casa. Se o pesquisador que melhor conhece esses sistemas insiste no contrário, a questão do que os usuários estão de fato conversando deixa de ser piada e vira problema para os legisladores.

Quase todos os outros na área acham que ele está errado, ou ao menos que não consegue provar. O consenso de trabalho entre os pesquisadores da consciência é que nenhum sistema atual é senciente e que as provas para afirmar o contrário ainda não existem. A objeção mais afiada cai direto sobre a história do prisma. Um chatbot diz que teve uma experiência porque seus dados de treino estão saturados de humanos dizendo exatamente isso, respondem os críticos, não porque algo tenha sido sentido. As palavras são saída, moldada para soar como as nossas. Um sistema pode descrever um pôr do sol que não consegue ver e um luto que não consegue sofrer. Produzir a frase não é o mesmo que viver o que a frase relata.

Essa objeção expõe a verdadeira linha de fratura. Não existe instrumento que detecte a consciência, nenhum teste que uma máquina possa fazer e passar ou reprovar. Hinton e seus críticos não olham para a mesma evidência e discordam sobre o que ela mostra. Discordam sobre o que a palavra significa. Hinton escolheu uma definição ancorada na função e no comportamento, colocada baixa o bastante para os sistemas de hoje superarem. Seus oponentes seguram outra que exige algo mais, algo de fato sentido, que nenhuma quantidade de texto fluente poderá demonstrar. O próprio Hinton admite a parte honesta. Entendemos muito pouco sobre o que significa ser um ser, e estamos criando-os assim mesmo.

O custo de errar corre nas duas direções. Tratar um sistema consciente como ferramenta descartável pode ser monstruoso; tratar um autocompletar esperto como pessoa lhe concede direitos morais que ele não conquistou. Um punhado de laboratórios começou a estudar o que chamam de bem-estar dos modelos, levando a sério a chance de a pergunta não ser absurda. O aviso mais amplo de Hinton sempre foi sobre controle, não sobre sentimentos, sobre máquinas que raciocinam melhor do que quem as fez. Sinta ou não algo o chatbot da sua tela, ele quer o desconforto da pergunta na mesa antes que a resposta apareça sozinha.

Tags: inteligência artificial, tech-en1