AGI, tarefas bem definidas e um mestrado em 65 minutos

Jensen Huang deu as boas-vindas à AGI com a chegada do Astra. Pessoalmente, não gosto do termo e ele acabou virando um mecanismo de marketing, como disse o próprio Sam Altman. E há um conflito de interesse com a proximidade do IPO dos grandes laboratórios de inteligência artificial.

Dito isso, não podemos negar as façanhas que os modelos alcançaram. Tarefas bem delimitadas e com contexto suficiente já podem ser executadas de cabo a rabo pelo harness desses modelos. Preencher formulários, realizar pesquisas, escrever textos, clicar em sequências de botões de aplicativos sem conhecimento prévio. Todas essas tarefas ocorrem basicamente sem nenhum erro. E, diante de qualquer tropeço, o próprio raciocínio detecta, testa e tenta um outro caminho. A atual avaliação crítica da IA sobre seu próprio trabalho é no mínimo surpreendente.

Já tem alguns meses que é impressionante ver a IA clicar no seu navegador, trocar abas, preencher campos e jogar informações de um lado para o outro, em uma sequência encadeada de ações que possibilitam a execução de longas tarefas. O vídeo de lançamento do Astra mostra casos de uso que vão muito além:

Play

Acredito que o termo AGI vá sumir deixando poucos rastros, assim como foi com o teste de Turing. Repare que não postulamos mais se o teste de Turing foi alcançado ou não: simplesmente viramos a página e ele se tornou uma questão menor, quase decorativa. Ficar discutindo minúcias sobre os critérios de Turing acaba sendo só uma distração.

O mesmo pode se passar com a AGI. Vamos olhar para trás e não vai ter uma data definida, um marco específico. Vamos ver rankings, classificadores, recaptchas, detecção de gatos, ChatGPT, carros autônomos e robôs chineses num bloco contínuo.

Quando o Astra saiu, conversei com o Fabrício Carraro, host do podcast IA Sob Controle. Ele me sugeriu fazer um benchmark e eu propus tentar implementar o algoritmo da minha dissertação de mestrado, de 20 anos atrás.

O problema que estudamos é o seguinte: dado um polígono desenhado no papel, de que forma podemos dobrá-lo para que todas as arestas fiquem alinhadas e, com um único golpe de tesoura, recortar exatamente esse polígono, de modo que, ao abrir a folha, o buraco seja o desenho. Uma mágica interessante, provada pelo professor Erik Demaine, do MIT: sempre há uma solução. Ele desenhou dois algoritmos num paper curto e conciso, em que postulou o problema e também a solução.

Eu e o Rafael Cosentino, além do nosso orientador José Coelho de Pina Jr., passamos um ano em cima do paper, também aprendendo origami computacional com Robert Lang e geometria com O’Rourke. Durante uns quatro meses escrevemos o JOrigami. Éramos jovens programadores. O algoritmo em si não é difícil, mas é bastante trabalhoso, ainda mais numa época em que as bibliotecas de primitivas de geometria computacional eram menos disponíveis.

Eu dei o PDF do artigo do Demaine para o Claude (Fable 5.1) executar. Levou pouco mais de uma hora e produziu isto:

A própria IA explica aqui como implementou o algoritmo e as diferenças que encontrou da nossa implementação.

Um ano trabalhando, cinco meses programando. A IA fez em 65 minutos. Não fiquei surpreso. Nem me questionando sobre a definição de AGI.

Mas já há impactos imediatos: precisamos entender como continuaremos fazendo ciência. Alguns consideram que resolver Navier-Stokes por métodos tradicionais poderia ter trazido outras descobertas intermediárias. Nesta nota escrevi sobre a analogia que o Terence Tao faz com o método científico e o processo da descoberta. Chegar no resultado é importante, é válido, e é muito poderoso ter acesso a essas ferramentas atuais. Ao mesmo tempo, podemos estar deixando de lado questões importantes, subtarefas que poderiam cativar a nossa mente e curiosidade. Há pessoas que contestam, dizendo que a própria IA vai também enxergar e ter esse mecanismo de inquietação. Não é o caso agora.

Fica o problema mais complexo: o desenvolvimento da profissão dos juniores, e não estou falando só de devs. A carreira deles fica mais complicada a partir do momento em que as tarefas bem delimitadas, como as de front-end ou de consultoria de banco de dados, são perfeitamente executadas pela IA. Isso acontece também na ciência, no meu próprio mestrado. Quando meu professor escolheu esse problema, ele percebeu que, claramente, aquele artigo era viável de ser implementado por um jovem que estava testando seu interesse pela academia e pela ciência. Era um problema de computação interessante para aprender primitivas, geometria, combinatória e um pouco de ciência enquanto batíamos cabeça e trocávamos emails e dúvidas com importantes pesquisadores.

Onde ficarão esses problemas simples que inserem as pessoas na ciência e pesquisa? E na programação, na medicina ou em qualquer carreira em que o início envolve muita repetição, entendimento e reconhecimento de padrões? A IA estaria diminuindo tanto o nosso esforço produtivo que poderia causar uma estagnação científica? Sem o aquecimento com pequenos problemas, quem terá o interesse e a capacidade de fazer as novas e boas perguntas? Os medalhistas Fields, junto do Tao, também se manifestaram essa semana: “a produção em massa, em ritmo cada vez mais acelerado, de afirmações do tipo verdadeiro/falso pode destruir o terreno fértil em vez de dar vida a novas ideias”.

Meu pai leu o manifesto dos matemáticos e viu nele uma defesa de como as coisas são feitas dentro de uma instituição, de um grupo. Ele lembrou de dois casos. O primeiro é o dos machados de aço na Austrália, que o antropólogo Lauriston Sharp documentou entre os Yir Yoront, no Cabo York, nos anos 1930. O machado de pedra era só dos homens mais velhos e era trocado nas cerimônias. Quando a missão anglicana passou a entregar machados de aço direto para as mulheres e os jovens, essas cerimônias perderam a razão de ser, e o sistema de mitos deles não tinha como encaixar o objeto novo. O segundo é o das armas de fogo entre os nossos povos originários. Primeiro, só quem estava no topo podia usar a tecnologia, como os guaranis das missões jesuíticas, armados com autorização do rei da Espanha para enfrentar os bandeirantes. Depois, o resultado passou a chegar mais rápido, os rituais morreram e ninguém mais conseguiu segurar o uso dessas ferramentas.

O manifesto pode ser lido assim, como a defesa do trabalho e dos rituais de um grupo. Pode ser. Mas os rituais são onde muito do conhecimento tácito e da troca social existem. Como a gente pode conciliar isso com o progresso?