AGI, tarefas bem definidas e um mestrado em 65 minutos

Daniel R. em um mundo onde essas coisas começam a virar o 'moat' que antes era o código faz sentido.

Em 2023 falei que o século XX foi marcado por quem tinha boas respostas. O século XXI ficará marcado por aqueles que fazem as melhores perguntas. Excelente post, Paulo.

Concordo totalmente. Ao terceirizarmos o nosso próprio pensamento, corremos o risco de atrofiar, pouco a pouco, nossa capacidade de pensar, tanto individualmente quanto como sociedade. Com o avanço desse processo, em algumas poucas gerações as máquinas se tornarão, na melhor das hipóteses, oráculos da realidade: fontes de respostas corretas cujos fundamentos já não seremos mais capazes de compreender.

Esse post toca num problema que me parece ainda maior do que a substituição de tarefas: o desaparecimento dos percursos de formação. Durante muito tempo, uma parte importante da competência foi construída fazendo aquilo que, depois de experientes, passamos a chamar de “trabalho simples”. O problema pequeno não servia apenas para produzir uma solução. Servia para formar quem solucionava. Se uma IA transforma em 65 minutos aquilo que exigiu de alguém meses de programação e um ano de investigação, o ganho de produtividade é extraordinário, mas aparece uma pergunta difícil: como produziremos a pessoa que saberá reconhecer quando esses 65 minutos produziram algo extraordinário, algo trivialmente errado ou algo novo?

Paulo Silveira, a reflexão é profunda. Na engenharia de dados, o que antes levava meses de codificação para estruturar pipelines complexos, hoje a IA gera o esqueleto em minutos. A questão não é apenas a velocidade, de 1 ano para 65 minutos, mas a terceirização do "trabalho sujo" que forjava a senioridade. Se a base repetitiva for delegada inteiramente à máquina, a construção do raciocínio analítico estrutural ficará comprometida.

Você realmente tocou no ponto mais importante. É como se a necessidade de uma tonelada de conhecimento prévio deixasse de ser necessária em qualquer profissão, para se exerce-la. Mas não está claro quanta falta todo esse conhecimento de base irá fazer para profissionais performarem usando IA. É paradoxal.

Muito bom Paulo Silveira você trazer esse conteúdo e essa reflexão. Quando eu estava na universidade ainda nos primeiros anos de Ciência da Computação, haviam muitas disciplinas voltadas ao cálculo. No momento não entendia, depois amadurecendo o conhecimento e a parcepção, compreendi como estudar cálculo, geometria analítica, algebra linear, dentre outras, colaboravam com a construção da abstração e do poder da imaginação, ao mentalizar, por exemplo, um sólido de revolução, que é uma figura 3D obtida a partir da rotação de uma figura 2D em torno de um eixo. Calcular isso tudo, mas, principalmente imaginar uma figura 2D rotacionando um eixo e se tornando um sólido 3D, ao meu ver tem seu poder de construção mental e imaginação. Eu empregava um bom tempo imaginando no canto das paredes de casa os eixos X, Y e Z e como as figuras 3D se formavam no meu quarto, as dimensões, etc. Depois vieram os softwares como o MatLab e Matemática que tiraram um pouco da graça desses constructos. A questão que estou trazendo não é sobre o resultado que a IA produz. A questão é o quanto estamos perdendo mentalmente em termos de processos cognitivos e conhecimentos construidos ao deixar que a IA faça nosso trabalho mental.

Essa parte dos “problemas simples” me pegou bastante. À primeira vista parece ótimo poder pular meses de implementação, mas depois fica a pergunta: se você pula justamente essa etapa, de onde vem o repertório para reconhecer um problema realmente difícil quando ele aparece?

Acho que tem muita empolgação sobre os resultados das LLMs. Eu que não sou da área vejo isso diariamente nos meus testes. Você consegue resultados ótimos quando toda a informação fornecida é lógica, mas quando apresenta enunciados ambíguos, as LLMs dão resultados absurdos. Em um teste recente que fiz sobre uma estrutura mecânica Isostática, a LLM entregou um mecanismo e outras 3 validaram. O resultado só mudou quando eu destaquei o risco humano. As LLMs tendem a resolver e não a analisar. O calculo estava correto, mas o resultado era uma estrutura que colapsava. Uso esses testes para definir as contenções no meu agente.

Esse pra mim é o maior problema da IA em grande escala da forma que estamos vendo hoje.. mas a pergunta que fica é : será que os ganhos não superam as perdas?

Otimo questionamento. A IA assumiu as tarefas de muitos estagiários ou juniores e isso está causando uma escassez de vagas de entrada no mercado de trabalho, que estao basicamente sumindo aos poucos. O primeiro problema é: se eu não tenho analistas juniores, como eu vou ter seniores? E pior, até quando vamos precisar dos seniores como nos precisamos hoje? Até que nível a IA vai conseguir assumir as tarefas de todo um departamentos de uma empresa? Isso tem cheiro de crise a longo prazo

Tem uma pesquisa que a autora inventou uma doença que não existia, subiu o paper, disse explicitamente no paper que era tudo inventado e, mesmo assim, alguns meses depois, LLMs começaram a citar a doença descrita no paper quando alguém pesquisava os sintomas. Tem muita gente achando ainda que a IA está raciocinando melhor, quando grande parte dessas informações são resultados knowledge destilation, modelos menores e melhores para determinadas tarefas sendo utilizados, e perda da cadeia de custódia dos dados utilizados. Em resumo, o seu trabalho ou trabalhos similares possivelmente foram usados pra treinar a IA e você está invertendo a causalidade.

Com licença, posso dar meu 'palpite'? 'Onde ficarão esses problemas simples que inserem as pessoas na ciência e pesquisa?' Respondendo à sua pergunta: talvez a própria IA nos forneça problemas simples novos. Como eu tenho afirmado em algumas postagens pessoais também: a IA é uma ferramenta de consulta. Não é a panacéia que acreditamos que seria no começo. Novamente, "reinventamos a roda", ou melhor, aperfeiçoamos ela, pois, novamente, criamos outra ferramenta de organização da informação, assim como o mecanismo de busca, os computadores, os livros, etc. E, como ferramenta de consulta, é necessário saber perguntar, saber questionar. Saber como questionar é o conhecimento derradeiro! Isso sim é o diferencial e é algo que eu defendo há anos, desde a minha época de cursinho. Se antes a educação primária ensinava os estudantes a responder, agora ela precisa ensinar a como questionar. É fundamental. Entende? Agora, sua vez: concorda, discorda ou muito pelo contrário?

O problema não é achar problemas - até porque eles existem por todos os lados. O problema é encontrar problemas inéditos, pequenos, para que gerem publicações. Isso é um problema com o "sistema de méritos" e não da AI. O problema do Tao é que pela primeira vez ele, que é um cientista de renome, está assustado que alguma coisa pode ameaçar as pesquisas dele e talvez publicar antes, dando poder para outros cientistas - um problema que eles vivem justamente com a capacidade que o Tao tem, tanto intelectual como financeiro. É um rompimento de como as coisas funcionaram até aqui, o medo do novo. E não dá pra segurar pq se travarem isso nos USA, China ou outro lugar vai avançar, portanto, só vai mover pra frente e a mudança será assimilada de alguma maneira.

Acredito que a programação como fazemos hoje será algo que poucos farão. Serão poucos como são poucos os que programam linguagens de baixo nível ou de máquina principalmente. Mas acredito que seremos os responsáveis pela sensibilidade pelo menos por um tempo indeterminado. Depois nos preocuparemos com questões humanas específicas. Há quem acredita que será o fim da raça humana ou haverá evolução genética acelerada. Quem sabe veremos.

Perfeito esse final. Com a ajuda das IAs, os alunos não vão quebrar a cabeça com listas de exercícios. Vamos querer subir escadas sem passar pelos primeiros degraus.

Vejo um ponto. boas perguntas podem vir, mas ficaremos limitados em analisar se a resposta gerada será válida.

Gostei da resposta do Fable 5.1, mas é claro que a pergunta certa e cientifica foi responsável pelo o resultado, o que sabemos e provamos que temos que ter grandes pensadores para questionar o mundo em nossa volta.

O futuro da IA é incrível e assustador ao mesmo tempo, principalmente quando pensamos nos jovens e no desenvolvimento intelectual dessa turma. Animado e assustado, mas confesso que mais assustado do que animado Excelente post!

Eu não achei nada impressionante e muito menos útil, mas enfim.

caramba, que post legal! parabéns :)

Eu tenho uma tese sobre isso. O fosso entre os polos vai aumentar. E a afirmação é genérica mesmo. Burro X Inteligente. Pobre x Rico. Etc.. os modelos de LLM premiam nossos vícios e não as nossas virtudes.

Eu respondo: só quem entender que a infância de hoje precisa ser desenvolvida com tarefas complexas, vai ser capaz de formar "juniores". Na minha visão haverá um hiato, algumas pessoas não serão capaz de aguçar suas próprias "criatividades" para encontrar problemas

E no mesmo sentido, como os Jr serão transformados em sêniors..?!

Sobre desenvolver quem está começando, cabe a nós, mais experientes, perpetuar a curiosidade e amarrando algumas coisas ao cotidiano atual e que ainda irá mudar. Não canso de repetir: conceitos > ferramentas, esse é meu lema que levo aos meus alunos

Bom texto e reflexão. Mas deixa eu ver se entendi algo direito: então você acha razoável alguém dizer que atingimos a AGI? Sei que não gosta do termo, mas muita gente pensa algo como "wake me up when we have agi", então essa pergunta é importante.

Assustador e incrível ao mesmo tempo. Se um humano explorar o chain of thought não seria um jeito de participar do processo de descoberta? Eu acredito que ainda há espaço para AIs que sejam mais colaborativas.

Falo como um estudante prestes a iniciar SE: é completamente desanimador investir numa profissão cujo futuro você sequer sabe se existirá. Da vontade de abandonar tudo e ir instalar ar condicionado mesmo. rs

65 minutos para escrever é a parte visível. O difícil foi você trazer 20 anos de contexto para saber o que pedir e como conferir. O benchmark mede velocidade, mas não mede esse repertório.

E nao acho que a academia vai perder importância, grandes estudos que treinam IAs vão valer cada vez mais! Mas como em todas as profissões, a IA vai limar a mediocridade, exigindo mais qualidade de quem quiser se destacar.

é exatamente este o ponto que eu percebo como o maior desafio atualmente.

Eu tenho me feito essa pergunta sempre também: de onde virão os seniors se não houver mercado para juniores, em qualquer profissão?

Vamos precisar separar bem o desenvolvimento acadêmico e científico do desenvolvimento cotidiano. Didaticamente, eu já desenvolvi uma aplicacao visual inteiramente em linha de comando, satisfatório, mas improdutivo. Porém, o que aprendi nesta tarefa me ajuda até hoje mesmo com IA

que POST incrível ... ele fala sobre o SUBJACENTE... de certa forma, aquilo q nos faz humanos ... enfim, somos nosso próprio virus

Minha teoria: a IA vai fazer tanta coisa que a nós humanos só restará visitar outros planetas e capturar vacas, por isso que os ETs fazem isso, eles não tem mais nada melhor pra fazer

Mas pra IA fazer em 60 minutos, N pessoas passaram meses estudando e validando. Ela é uma revolução "industrial" 3.0

Meu TCC hj ñ seria aceito 😅. C/ a "facilidade" d codificar talvez ñ teria limitado as ideias, subiria o nível sem limitar por código. Em problemas como o seu, penso na revisão, vcs chegaram resolução igual, teremos como avaliar se está certo ou errado qnd forem diferentes?

Ok. Mas isso serve para que?

é util. e é objetivo. pq uma grande parte essa é a diferença. a IA te faz em 2 horas, mas vc nao entende o que está por tras e nao pode mudar. Esse é o problema que vemos atualmente.

Os matemáticos ficaram menos capazes depois que foi inventada a calculadora?

Boa reflexão, Paulo. Para mim, a questão há tempos deixou de ser sobre tecnologia e capacidade dos modelos, é muito mais sobre que rumo daremos a sociedade para os próximos anos.

para os juniors, os problemas serão maiores e as exigências serão maiores, por enquanto ainda não estamos sentindo nem 1% dos efeitos que a IA vai causar na nossa sociedade

Uma dúvida: qual é a probabilidade de a IA ter simplesmente sido treinada com o SEU algoritmo?

Baita post, mas vou tentar responder a questão: os problemas "simples" subiram um degrau. O que era simples 20 anos atrás, agora ficou pra trás e teremos que adaptar pra problemas maiores (e talvez mais reais), mas que ficam simples com as novas ferramentas.

A inteligência artificial iniciou com Warren McCulloch e Walter Pitts, em 1943. Ela usa álgebra linear, cálculo, estatística/probabilidade e métodos de otimização para replicar a solução do seu problema.