Humano Fora do Loop, Asimov e o Desempoderamento Gradual

Miguel Senra esse é um dos problemas que tenho falado que surge com essa nova era, se não tomar cuidado. Acaba sendo muito fácil pra maioria só aceitar o que a IA manda sem pensar a respeito

Ainda estamos só no começo ! Como qualquer ferramenta tem partes boas e ruins, a mesma IA que gera muita facilidade, vai ajudar a esconder muito processo. E pior muito processo ruim, muito ser humano que não sabe o que esta sendo feito. Assim como existia "erro do sistema" usado para justificar muitas coisas, agora vai ser "foi o agente que fez" ? Minha geração ainda teve que aprender a fazer , e a geração que esta vindo agora que ja nasce com a IA como ferramenta ? Vai precisar aprender ?

Jeito horrível de enxergar a realidade... Um copo meio vazio. Os últimos 12 meses foram os mais gratificantes, profissionalmente falando, da minha vida. A IA está me permitindo fazer tudo o que eu sempre quis, mas ficava na imaginação. Seja porque não dava para priorizar, porque dependia de terceiros ou porque eu não sabia como... A sensação de realização é muito maior que antes, pois, de fato, realizo muito mais.

O detalhe do conto do Chiang que mais pesa é esse: a habilidade fica, a motivação vai embora. Hackman e Oldham mostraram em 1976 que motivação interna nasce de autonomia e de ver o resultado da própria decisão. O loop agêntico não tira a capacidade de decidir. Tira o retorno de ter decidido. Quando a escolha de um dev nunca volta para ele como consequência, a competência continua no currículo e some da prática. Fingir livre-arbítrio funciona no conto. Na empresa, alguém precisa desenhar o ponto onde decidir ainda custa alguma coisa. Na abertura de hoje, apareceu alguma forma concreta de devolver esse custo para dentro do fluxo?

Não é possível que o pessoal ainda não entendeu. Ainda estão pensando que a IA programa sozinha? A qualidade geral do software vai piorar muito nos próximos anos. A habilidade de "desenvolver direito" com IA e usá-la para resgatar software atolado em débito técnico será fundamental. Por "direito" quero dizer não terceirizar o pensamento e sim usar a IA como complemento. O dev ainda é responsável pela qualidade geral do código, pela arquitetura, pela segurança, etc.

A gente só está dando enter, para quando o problema aparecer, a gente ser culpado [por gestão de algum nível] por tomar a decisão de integrar o código. Desenvolver com specs aumenta o diff, e realmente ninguém vai ler. Aposto que em várias empresas, devs ainda ficam no preciosismo de bloquear PRs esperando uma aprovação, fingindo que tem a opção de revisar (pelo menos ainda estamos fingindo). Mas vamos nessa, entregar, ser marqueteiro nas avaliações de desempenho e pagar boletos (esse é o loop).

Eu passo mais da metade do tempo tentando melhorar esse processo. Fazer a IA pesquisar, explorar, debater, decidir melhor, e depois me devolver isso traduzido de um jeito que um humano consiga acompanhar. Pra mim isso mostra o problema real. A produção aumentou tanto que está ficando inviável saber tudo e ficar a par de tudo que o Claude faz na minha máquina, nos meus PRs, e pior ainda nos PRs dos meus colegas. Acho que a gente ainda vai viver um processo de traduzir de volta pro humano o que a IA fez. Isso vai virar tendência.

Sou aluno da Alura, participo de vários eventos tbm e é só pra dar contexto de que não tenho absolutamente nada contra a empresa... MAS... Esse post mesmo, foi sinceramente escrito puramente dos seus devaneios com base no tweet lido? Ou foi feito a partir de um agente? Ou talvez ainda, se escrito, deve ter sido repassado para melhorar a escrita, contexto ou correções? Se sim, o objetivo tbm é só entregar, vai até contra o intuito do post e aí é foda defender a tese... rsrs... Se não, é uma tese bem estranha que parece não representar um grande grupo de empresas, pq o que eu ouço, leio e vejo é algo diferente da maioria, acaba sendo um desabafo isolado de alguém de uma grande empresa (e nem dá pra ter certeza), frustrado com as próprias entregas e vivendo um pouco fora da realidade... enfim... esse tema daria muita conversa boa...

E não só isso, ainda temos a monitoração diária do que você faz, quando sai da frente da tela, o celular começa a te notificar coisas. Induzindo você a pegá-lo novamente e voltar ao loop!

"Cultura ultraprocessada" traduz perfeitamente essa sensação: consumimos respostas instantâneas enquanto atrofiamos a capacidade de fazer perguntas.

O sonho de um sistema com capacidade preditiva a ponto que não precisa dar um enter, ele já entrega o que você precisa. Pena que nossos sistemas econômicos precisam da imprevisibilidade para se movimentar.

Não estamos tendo um avanço filosófico do que as LLMs estão fazendo por nós e agora vem o JEV que avança a velocidade de entrega por json. O que tem que se repensar é que agora a tecnologia da informação é um leque de todas as áreas , você é hoje um estrategista em negócios com inteligência artificial um engenherio de contexto tem que ter essa mentalidade.

Não é sobre aprender e crescer na carreira, em empresas assim. Aí, é só entregar o projeto, concluir e até a próxima.

Acelera de um lado, oprime de outro. Será um processo natural de aprender > desaprender > reaprender.

Na época da máquina de escrever, muitos datilografos reclamaram do computador também

Criaram uma satisfação artificial de 'resolver bugs' e agora reclamam que ela deixou de existir?

Mas fora do trabalho, com projetos pessoais, ele pode continuar fazendo tudo aquilo que ele gosta, tudo que completa a alma dele, ou o ser dele precisa de um terceiro, neste caso, uma empresa, pra ser validada? Entendo a critica, mas acho estão se perdendo nisso também ...

Paulo Silveira Eu já acho que muitas vezes não é preciso saber o "como". É preciso estabelecer e garantir que o "como" não quebre guidelines pre-definidos e que ele atinja o resultado desejado. Você não precisa entender como funciona um motor a combustão para dirigir seu carro do ponto A ou B. Precisa saber como dirigir, colocar gasolina e fazer a manutenção básica do seu carro. O maior problema na minha visão é que o autor do post, e vários desenvolvedores, enxergam o seu trabalho de desenvolvimento com um viés de artesão. Onde a aplicação prática da tarefa de desenvolvimento gera um produto final que ele possa se orgulhar, pelo conhecimento das suas engrenagens e pelo trabalho em si. Só que esse trabalho vai ter que ser se ressignificado. E isso é muito duro. Ainda mais em uma tarefa que exige anos para se aperfeiçoar. Como se orgulhar de uma obra que "não é sua"?

Tom Cerginer aqui existe uma perspectiva a considerar: Você especificamente não precisa saber o como, mas alguém teve. Portanto, devemos ter cuidado com esse racional. Se ninguém mais estudar e entender os "comos", a IA caminha para a singularidade. É o paradoxo do open-source: ele só existe enquanto existirem pessoas dispostas a contribuir, portanto as empresas só podem se beneficiar da licença free enquanto existe alguém que acredita na ideia e no artesanato. Se isso desmorona, tudo que está acima vai para o chão também.

Paulo Silveira o problema é sempre o mesmo: ilusão de poder.

Relato do funcionário que entrou na empresa que pede 30 requisitos pra vaga de júnior, e ainda só contrata quem foi indicado pelo chefe ou amante dele. E na prática ninguém sabe ou é cobrado de ser melhor que medíocre.

Nesse cenário a cultura da empresa ta falando mais alto que o avanço tecnologico, não existe chefe no mundo que me faça subir um código antes de testar, e meu cliente tem a mesma noção e cuidado que eu na entrega.

Acho que esse é o novo modelo agora, desde o Júnior ao Sênior, a IA acelerou o trabalho de todos e seria incoerente passar horas revisando um código que pode ser revisado em poucos minutos. Isso de longe substitui a validação humana pois a mesma é muito importante, mas esse é o novo padrão agora. Na real o problema não é usar IA, é mais sobre aceitar um codigo sem ninguém entender o que foi produzido.

Confesso que a sua palestra e do Matt me deixou levemente depressivo ontem mas, de um outro lado, qd cheguei em casa, conversando aqui com a Raja , entendi que são nossas pequenas escolhas que podem nos tirar do loop e nos restabelecer essa "agência pessoal", mais humana.valeu

E você foi palestrar num evento de IA? Como protesto ou pra dizer que não há saída?

deixa eu explicar aqui um problema da IA, mas claro, usando ia!

Toda empresa tem seus objetivos e metas. Nesse caso, esta claro que é "entregar, aconteça o que acontecer". Você é pago para trabalhar para que a empresa atinja os seus objetivos e metas. Esse texto parece uma inversão, onde é a empresa tem que trabalhar pelas vitorias da pessoa.

Fã de Asimov aqui. O alvo das máquinas eram membros da Sociedade pela Humanidade em posições de poder. A desobediência já estava nos cálculos. E cara, sobre regulação, falo com experiência. Sou signatário do EU AI Pact, com compromissos formais e interlocução direta com a Comissão e o AI Office. Também sou criador do primeiro protocolo aberto que transforma requisitos regulatórios em primitivas de agentes, chamado Arsia Protocol. Digo com todo o cuidado e respeito: regulação é uma faca de dois gumes. Quando a sua implementação se resume a rótulos, avisos e opt-outs sem efeito real os incentivos podem continuar intactos. Ganha-se a aparência de controle enquanto o sistema continua te mantendo preso. O outro gume é mais difícil: exigir limites operacionais verificáveis que produzam consequências reais. Mas aqui tem uma linha bem tênue: os incumbentes. Estes possuem recursos, infraestrutura e $$$ de sobra para cumprir e lidar com as consequências. Já os novos entrantes acabam desistindo porque a exigência e o custo de não-conformidade se tornam uma barreira praticamente intransponível. E, não menos importante, ainda existe o risco de captura regulatória. A regulação precisa ser examinada por diversos ângulos e construída com muito cuidado. Sempre haverá trade-offs. Sempre! Não existe caminho fácil.

Se apenas apertam Enter sem ler, pq ainda trabalham 13h por dia? Basta ativar o modo auto e ir dormir 🤔

Esse cara da imagem está com um problema interessante. A satisfação dele vem de escrever código. E eu entendo isso. Mas pra mim, escrever código foi sempre um meio, e não um fim. O fim era resolver o problema. Eu me sentia satisfeito resolvendo o problema no fim do dia, pouco me importava como. Por isso nunca fui preso a framework, linguagem, plataforma de cloud, etc. Então nesse mundo de desenvolvimento com IA, a minha satisfação no fim do dia fica igual, porque eu me sentei aqui com o claude code e resolvi o problema e entreguei. Eu sei que é foda, a área de programação está passando por essa transformação da IA umas 10 vezes mais rápido do que as outras áreas. Em questão de meses tudo mudou. Mas precisamos nos acostumar, e organizar as coisas nessa nova realidade. Vai levar um tempo, até lá o fluxo de trabalho vai ficar estranho, umas coisas podem não fazer sentido, mas com o tempo vai se encaixando. Mas vai exigir flexibilidade e mudança de pensamento e em como vc encara essa profissão. OBS: Já trabalho na área a quase 20 anos.

Paulo Silveira minha metáfora para a IA continua intacta: "É cercar o frango". O frango é maluco as vezes.

Henrique Lobo Weissmann (Kico) então, isso acontece comigo, eu uso o plano básico também, e nunca tive que interromper meu trabalho porque estourei o limite de Tokens

Henrique Lobo Weissmann (Kico) perfeito, a tecnologia deve ser nossa aliada, não inimiga- e muito menos nossa substituta! Como um estagiário, que precisamos orientar e supervisionar, e se feito corretamente vai nos ajudar a entregar resultados.

Entendo a frustração do post, e ela tem fundamento. Mas por aqui o movimento tem sido outro. Com a ajuda da IA, a gente vem criando coisas bem legais, principalmente conceito: dar nome às coisas, construir um vocabulário próprio pro problema que a gente resolve. Isso ninguém recebe pronto apertando enter. Tem que mergulhar em um papo profundo com o claudio, codex... O código não perdeu valor. Ele só deixou de ser o protagonista. O protagonismo agora está no que você consegue criar quando a capacidade de escrever código foi transferida. Nem to falando da qualidade desse código ou dos gates de proteção.. Criem coisas úteis. Resolvam problemas.

A quantidade de amigos sentindo o mesmo, é triste. Falamos sobre isso num painel essa semana , eu, Andréa Paiva, PhD e o Guilherme Luiz Pereira!

Importante é o salario continuar caindo, povo reclama de tudo

Paulo Silveira Sim, os melhores pilotos sabem do funcionamento de motor. Mas, de uma maneira menos aprofundada que o engenheiro que projeta motores. Ele tem uma visão sistemática do funcionamento, e isso é o suficiente para atividade que ele quer realizar. Se saber montar o motor do carro fizesse tanta diferença, todos os pilotos seriam engenheiros. O meu ponto não é que ninguém precisa mais saber o detalhe do funcionamento das coisas. O meu ponto é que as pessoas vão ter que cada vez mais delegar e avaliar a qualidade do que foi entregue, ao invés do como foi entregue. Pois, se não, você vai ser o gargalo. Não se espera que um CTO vá avaliar cada PR de todos os desenvolvedores abaixo dele, correto? É a mesma lógica. Cada desenvolvedor não tem que ficar revisando o código dos seus agentes. O trabalho mudou. Ele vai ter que aprender a ser o "CTO" de suas próprias tarefas.

Triste isso....mas mal a IA entrou em nossas vidas ja vejo uma revolução humana despontar no Horizonte! Tomara! Precisamos impor limites no uso da IA no nosso dia a dia ou muito em breve ninguém saberá fazer mais nada de básico sem ela....a super limitação e dependência humana e também nos isolando um dos outros.....

acho que ninguém escolhe esse ritmo: a meta de entrega foi recalculada como se o agente fizesse tudo sozinho, e quem para pra revisar fica parecendo lento.

Muito boa reflexão. Pra mim a chave é se manter no controle das decisões, mas depois de ler o seu texto, já não sei se estou no controle ou se é só uma falsa sensação. 😅

Esse é um lembrete prático de que nem toda automação faz sentido quando o custo é a perda de qualidade e segurança. É impossível não lembrar daquele episódio em que uma "big tech" reduziu drasticamente seu time de QA e, meses depois, lançou uma atualização de SO que resultou em perda de dados de milhares de usuários. ​A verdade é que a inteligência humana possui nuances, senso de contexto e uma capacidade de julgamento que a IA ainda não consegue replicar. Podemos estar muito próximos de automatizar a execução técnica de quase tudo, mas ainda estamos muito longe de automatizar o discernimento: saber o que deve ser feito, o que é seguro fazer e como adaptar a rota para garantir o sucesso real.

Trabalhei numa empresa assim durante três meses. Só não fazíamos horas extra. Demiti-me.

Quantas pessoas escolheram programação porque realmente gostavam de programar? Quantas a trocariam facilmente por outro trabalho por mais dinheiro? Quantos deixariam uma empresa com desafios incríveis ainda por resolver sem pensar duas vezes? Talvez a IA esteja simplesmente a expor quanto da profissão nasceu de paixão e quanto resultou de uma troca de tempo por dinheiro. Ninguém está errado no caminho que escolheu. A IA está apenas a tornar essa escolha mais visível.

A Matrix não precisou mais nos prender em cápsulas; agora basta nos manter no loop. Sou totalmente a favor da IA, mas como ferramenta para aprimorar uma base construída por nós — um rascunho, uma ideia, uma decisão. Quando entregamos até o ponto de partida para a máquina, ela deixa de ser ferramenta e começa a escolher o caminho. E nós apertamos “enter”, felizes por acreditar que ainda estamos no comando.

É exatamente por conta deste contexto colocado aqui no post que as figuras que representam a gestão de produtos tem estado em alta. São cadeiras que centralizam o pensamento em torno na máquina rápida de cuspir código. Achei interessante a colocação do tweet que diz "Ninguém resolve Bugs". Isso não quer dizer que o sistema não corrige e, sim, que não há mais cérebro pensando em torno das possibilidades para essa correção em um espectro mais amplo e detalhado. Sim, hoje eu mesmo faço minhas aplicações para tocar minhas operações mas, nem de perto, o resultado é parecido com o de alguém que ainda pensa antes de acionar o Claude.

E como era antes? Porque esta pressão é basicamente uma extrapolação de um sentimento de entrega contínua corporativa que parece que sempre esteve presente desde que as máquinas a vapor surgiram.

Até esse post parece ser escrito por LLM :p Para um developer talvez seja mau, mas para 99% do mundo que não quer falar línguas egpicias somente para ter uma app, nao ha nada melhor que AI.

É viajar demais pensar que essa dependência de LLMs para quaisquer atividades pode em um futuro próximo gerar custos até mais altos do que os próprios funcionários? Na ausência de mão de obra qualificada (causada justamente pela dependência desses modelos), restaria para as empresas apenas pagar o valor que as fornecedoras desejarem...

Paulo Silveira faz todo sentido! A maior catastrofe que a IA pode causar, não é uma guerra nuclear, ou um bloqueio global d etodos os sistemas! Muito pelo contrário a catastrofe seria nos tornar totalmente apáticos, continuamente apertando enter até que isso seja a única coisa que saibamos fazer...

Coisas piores estão acontecendo em todos os níveis de inumeros negocios. Aquilo que pode ser nossa escada para construir coisas nunca antes vistas, esta se tornando literalmente nossa central de controles, tem gente tomando tudo que a IA fala como verdade, factivel e infalivel. Qual % dos usuários são escravos e nais usam a IA para aprender mais e avançar mais longe? Um estudo imporntate a ser feito.