Eu já tive essa experiência. Estava escrevendo um artigo sobre o MMT (Modern Money Theory) e, para embasar minha crítica, precisava ter acesso a artigos acadêmicos sobre o tema. Já havia sido frustrado pelo Google Scholar, quando tive uma ideia: por que não perguntar ao ChatGPT? Foi o que fiz e, para minha agradável surpresa, a geringonça cuspiu, quase que instantaneamente, 10 artigos sobre o tema. Fiquei animado, até que fui tentar encontrar os tais 10 artigos. Nenhum deles existia. Alguns nomes de autores eram verdadeiros, e remetiam a textos que estavam longe de serem acadêmicos. Outros sequer existiam. Descobri, então, que o ChatGPT não é um substituto para o Google. No Google, você tem acesso à fonte da informação. O ChatGPT, por outro lado, é uma caixa preta, de onde saem informações impossíveis de serem checadas.
Também já tentei usar o ChatGPT como programador. Ele se saiu muito bem na primeira tarefa que lhe dei, bem simples: criar uma macro no Excel para fazer o download de uma série de planilhas de um site e salvá-las com determinado nome em um diretório. A segunda etapa, no entanto, foi um fiasco. Ele precisava criar uma planilha a partir daquelas planilhas todas, com base em alguns critérios. Descobri que o ser humano é que precisa ser o programador, o ChatGPT só escreve as linhas de código. Se você não especificar o passo a passo bem detalhado, não sai nada. Aliás, sai qualquer coisa, menos o que você precisa. Para um programador humano, você simplesmente diz o que precisa, e ele determina o passo a passo necessário para atingir o objetivo. Não com o ChatGPT. (O Bard, do Google, saiu-se ainda pior: depois de duas tentativas, ele simplesmente recusou-se a continuar, dizendo que poderia produzir apenas textos, não códigos de programação).
Esses algoritmos de “linguagem generativa” passam a impressão de “inteligência”, na medida em que imitam, com perfeição, o output de um processo inteligente, que ocorre dentro de uma mente humana. Mas trata-se somente de uma ilusão: não houve um processo “inteligente”, houve apenas uma combinação de palavras com base em um algoritmo. Isso não é o que ocorre dentro de uma mente humana. Ainda não sabemos o que ocorre dentro da mente humana, e talvez nunca saibamos, mas certamente não se baseia em um algoritmo pré-definido, ainda que haja algumas regras detectáveis e programáveis.
Certa vez, estava jogando com meus filhos um game chamado Detroit Become Human, em que seres humanos convivem com andróides humanoides, colocando questões éticas nessa convivência. Em determinado momento do jogo, tive que decidir sobre a morte de um androide para atingir um determinado objetivo. Sem pestanejar, decidi pela morte (um tiro na cabeça, pra deixar a coisa ainda mais dramática), para horror dos meus filhos. Para eles, aquele androide era o equivalente a um ser humano, para mim era só um monte de metal programado. Percebi, então, que a IA pode ser percebida como mais do que um algoritmo bem feito. Ou, por outra, que a mente humana não passa, no final das contas, de um algoritmo bem feito. É mais ou menos o mesmo processo que ocorre quando “humanizamos” os animais, em um fenômeno que chamo de “síndrome de Disney”. Nessa síndrome, a diferença entre os animais e os seres humanos seria apenas de escala, não de natureza. O mesmo ocorreria com a IA, com a diferença de que, nesta última, a escala humana será inexoravelmente alcançada, é só uma questão de tempo.
Eu sou old school. Para mim, a IA nunca será um ser humano, por mais sofisticado que seja o algoritmo. Trata-se de uma questão de natureza, não de escala. Uma máquina, assim como um animal, nunca poderá dizer “penso, logo existo”. A consciência humana é um milagre irreplicável.