Terence Tao sobre os limites da inteligência artificial

O Terence Tao é um dos maiores matemáticos vivos e deu uma entrevista para o Big Think, onde faz analogias que eu achei muito pertinentes e também coloca sobre os limites da inteligência artificial.

A primeira analogia é sobre como funciona o trabalho científico, que é como se você fosse fazer uma trilha e quisesse chegar numa determinada cachoeira. Então você precisa encontrar seus caminhos e atravessar partes difíceis. Só que às vezes no meio do caminho você vê uma outra cachoeira ou algo interessante. Tira conclusões e chega em lugares que nem planejava antes.

Com a inteligência artificial é como se você agora tivesse um helicóptero. Se tivesse visto a primeira cachoeira, iria para lá direto, sem entender muito bem o caminho percorrido, os obstáculos e quais teriam sido os desafios para chegar até lá. Você cai direto na conclusão, o que é ótimo, mas acaba gerando outros problemas.

E ele cita também toda a teoria do geocentrismo e como Copérnico e Kepler insistiram: no começo, o modelo do heliocentrismo não funcionava tão bem quanto o geocentrismo numericamente, mas eles insistiram tanto, até testar diversas variações, para cair no modelo da elipse. Ele disse que, se fosse a inteligência artificial tentando diretamente, ela pararia rapidamente, porque veria que aquele modelo heliocêntrico gerava números piores e não era a direção correta.

Claro, ele é sempre cauteloso, dizendo que os modelos podem mudar. Assim como ele disse que, mesmo para trabalhar como um colaborador de inteligência artificial, ainda não há uma fluência boa de troca, onde você conhece aquele seu parceiro de trabalho e basta meia palavra para ele captar o que você está querendo falar e vice-versa.

E ele coloca, obviamente, os desafios que aparecem para os jovens cientistas. Antes a gente dava problemas fáceis para um aluno de mestrado resolver, para ganhar reputação, espaço, entender o trabalho. Hoje em dia, esses problemas fáceis que ainda estão em aberto, muitas vezes a inteligência artificial vai resolver. Então o trabalho de pesquisa inicial para um jovem cientista está cada vez mais escasso.

Achei interessante a forma que ele pensa, como ele se coloca e como ele comunica. Ele certamente é um entusiasta, mas reconhece que hoje há limites e que também pode trazer prejuízos para a comunidade científica, inclusive, de alguma forma, uma estagnação.

Um adendo. Conversando com meu irmão Guilherme, ele traz também um problema possível: com o avanço dos modelos, vai ficar mais difícil uma verificação das descobertas. É o caso do Millennium Problem que o time da OpenAI resolveu, que comentei na note sobre AGI. Por mais que se use Lean e afins, vai ser mais difícil encontrarmos falhas não matemáticas formais… afinal, os modelos erravam quantos erres tinha na palavra morango. E mais: meu amigo Angelim diz que os modelos vão sim encontrar cachoeiras no decorrer do processo de descoberta, basta pedirmos para ele ficar atento ao próprio reasoning. Não sei. Não vi ainda modelo colocando boas perguntas, apenas boas respostas.