Relações humanas: Bill Gates, Anthropic e o Papa
Bill Gates escreveu um post interessante sobre inteligência artificial: os riscos, os benefícios e como ele acha que devemos agir. Fiz a leitura completa dele no Hipsters #531. Interessante ver como esse artigo contrasta com o puro otimismo do “The Future is for Everyone”, que o Mark Zuckerberg, da Meta, também publicou há poucas semanas.
Na parte de educação, Gates coloca a importância do esforço produtivo, para a cognição ser sempre utilizada, e não terceirizada como prótese mental:
Ironicamente, a mesma ferramenta que permitirá as pessoas aprenderem mais do que nunca, pode levar pessoas a aprenderem menos.
Para os alunos, uma ferramenta da IA que preserve o que os pesquisadores chamam de esforço produtivo, que é o trabalho cognitivo que constrói compreensão, pode fortalecer o aprendizado. Quando um aluno se depara com uma nova ideia pela primeira vez, a IA dá explicações substanciais e apresenta perguntas e respostas. Posteriormente, ao verificar a compreensão do aluno, a IA retém a resposta e o ajuda a chegar a ela por conta própria.
Eu gosto do exemplo trivial da calculadora: quando introduzida cedo demais, a criança será impedida de entender as variações de estratégia para encontrar sua própria forma de fazer aquela conta. Poupar o cérebro dessa fricção é um erro, o que diminui o esforço produtivo. É o que temos visto em vários artigos: desde os citados pelo Paulo Blikstein até o recente estudo chinês que acompanhou dois anos de uso de IA entre estudantes, mostrando a vantagem na lição de casa e a queda de rendimento em provas presenciais, como esperado.
Gates cita vários problemas óbvios: profissão, economia, riscos de armas biológicas. Ele dá um foco que vive nas minhas preocupações: as relações humanas e sociais, e como as crianças vão crescer num mundo onde os vínculos e as amizades já são cada vez mais raras.
Quando eu era criança em Seattle, não tinha muitos amigos, além de outros garotos parecidos comigo. Foi preciso muito esforço e ajuda da minha mãe para desenvolver habilidades sociais e conseguir me relacionar com essas pessoas. Ainda hoje, aos 70, me lembro dessas lições. Duvido que eu teria me esforçado tanto se tivesse um companheiro de IA naquela época. Eles conversam com você de maneiras com as quais você está familiarizado. Eles não te forçam a sair da sua zona de conforto. Estão sempre disponíveis e nunca se irritam. Isso dá o potencial a eles se tornarem viciantes e nos privarem das lições que aprendemos ao nos conectar com outras pessoas.
Citando o Jonathan Haidt, de A Geração Ansiosa:
Assim como árvores jovens expostas ao vento, crianças são rotineiramente expostas a pequenos riscos. Crescem e se tornam adultos capazes de lidar com riscos muito maiores, sem entrar em pânico. Por outro lado, crianças criadas em um ambiente protegido, como uma estufa, às vezes ficam incapacitadas pela ansiedade antes de atingirem a maturidade. Um companheiro de IA projetado para nunca te incomodar é uma grande estufa protegida.
Uma outra proposta do Bill Gates: criar um mecanismo de reservas. Assim como temos parques que são reservas naturais, teríamos as reservas humanas: alguns empregos, locais, regiões e profissões onde o robô não age, porque isso será importante para mantermos nossa humanidade.
Meu pai faleceu de Alzheimer em 2020. Nos estágios finais da doença, ele recebeu cuidados dia e noite de cuidadores remunerados, que compreendiam quando ele tinha dificuldade de se expressar. […] Algo no cuidado que eles dedicaram ao meu pai foi humano, insubstituivelmente humano. Nenhum robô poderia ter feito.
Gosto da expressão reservado para humanos porque me faz pensar em reservas naturais. Lugares onde poderíamos construir prédios e estradas, mas optamos por não fazer, porque a perda seria grande.
Seja qual for o limite que definirmos, diz Gates, essa decisão deve ser nossa, tomada de forma intencional: precisamos ter o controle sobre a tecnologia, e não simplesmente deixar rolar. E é o próprio Gates quem aponta para o Vaticano:
Fiquei fascinado pela encíclica do Papa Leão XIV sobre a IA. Ela estabelece uma base sólida para o trabalho que precisa ser feito.
O cofundador da Anthropic, Chris Olah, esteve com o Papa durante a leitura dessa primeira encíclica de Leão XIV, “A Humanidade Magnífica”. A razão? Pode ser a seriedade da empresa em envolver a sociedade em discussões importantes; pode ser uma forma de criar hype em torno do Claude e sua “capacidade apocalíptica” para inflar, ainda mais, sua valorização.
A encíclica é afiada. Os capítulos 3 e 4 são seculares e abordam muitas das preocupações atuais da sociedade, de pais, de educadores e de nós devs. Nos parágrafos sobre escola, sobre aprendizado, fala sobre o problema de não encararmos fricção:
140: Em contrapartida, os processos educativos requerem um tempo de maturação, de confronto com a realidade que vai além das aparências, e um caminho de paciência. A questão é fundamental, pois toda a tecnologia educa quem a utiliza. Educar para o uso da IA implica, portanto, educar para decidir quando e em que situações não a utilizar. A rapidez e a facilidade com que se obtém uma resposta ou uma síntese correm o risco de extinguir o desejo de colocar perguntas, o qual dá frutos só a longo prazo.
Como escreve Platão, as coisas mais profundas e importantes só se aprendem depois de muito tempo e esforço, no empenho em debater com os outros para “friccionar”, como numa pederneira, os conceitos e as experiências, até saltar em nós a centelha da compreensão.
Devemos educar-nos ao jejum da IA e proteger os nossos jovens das promessas da máquina perfeita, daquela subtil sedução que parece tornar o pensamento humano inútil precisamente quando é mais necessário.
Num mundo de hiperestímulos, acelerado, a atenção se fragmenta e torna muito difícil o aprendizado profundo e a discussão:
- A propagação dos meios de comunicação digitais gera uma cultura do imediato e da hiperestimulação, que fomenta cansaço, tédio e apatia face ao esforço necessário para procurar a verdade.
Numa sociedade em que se evita a fricção, teremos sempre medo de conversar com pessoas novas, de encontros em grupos ou até mesmo de mandar um email para o chefe sem uma ajuda precisa de algum ChatGPT.
E apesar de não citar explicitamente o problema difícil da consciência, o documento dialoga com as atuais provocações de Richard Dawkins e a revolta de Ted Chiang, ao criticar nosso sonho de onipotência:
- Renunciar a esta aventura, simultaneamente dramática e esplêndida, em nome de uma suposta superação de todos os limites, pode significar qualquer outra coisa, mas não ser humanos.
A encíclica não coloca diretamente, mas se conecta à nossa dificuldade de estarmos verdadeiramente presentes, dado que a tecnologia sequestrou nossa atenção:
- Não se devem subestimar as formas mais subtis de dependência ligadas à economia digital da atenção, na qual plataformas e serviços são concebidos para captar o tempo e o olhar dos utilizadores, explorando as suas fragilidades e enfraquecendo a liberdade interior.
- É necessário promover uma verdadeira higiene da atenção: ritmos que prevejam silêncio, estudo aprofundado, leitura, debate ponderado.
O que me assusta é essa nossa terceirização de decisões e de estudo. Vem à cabeça a frase do Karamázov que anotei há mais de 15 anos: “o homem não tem uma preocupação mais angustiante do que encontrar a quem entregar depressa aquela dádiva da liberdade… só domina a liberdade dos homens aquele que tranquiliza a sua consciência.”
Fiz a leitura de diversos parágrafos da encíclica no Hipsters #518, e do artigo do Bill Gates no Hipsters #531.
Citados neste texto: Bill Gates · A Turbulent AI Era · Papa Leão XIV · Magnifica Humanitas · Jonathan Haidt · Anthropic · Os Irmãos Karamázov · Hipsters Ponto Tech · Mark Zuckerberg · Meta · Claude · Platão · ChatGPT · Ted Chiang · Hiperestímulo
15 comentários
Participe da discussão no LinkedIn
Muito bom! Tem esse estudo publicado no MIT “Your brain on Chat Gpt” que traz uma análise interessante nesse ponto. Colocou participantes para realizar a mesma tarefa de escrita em três condições: usando LLM, usando mecanismos de busca e sem nenhuma ferramenta, e mostra nitidamente por atividade neural que o primeiro grupo apresentou a menor cognitividade e engajamento. No entanto, qdo participantes que primeiro haviam trabalhado sem ferramentas passaram a usar LLM, eles mantiveram níveis maiores de memória e engajamento cerebral. Já aqueles que haviam começado com LLM e depois precisaram trabalhar sem ele apresentaram sinais de menor engajamento. Aqui corrobora mto com oq vc traz da fricção da calculadora, sobre o momento certo da introdução. Qual o momento certo do uso de IA? Como garantir o aprender a pensar antes de terceirizar parte desse pensamento para ela. A IA pode ser um enorme amplificador cognitivo, desde que exista cognição construída para ser amplificada. https://www-prod.media.mit.edu/publications/your-brain-on-chatgpt/
12 curtidasEssa história envolvendo a educação é velha... Platão no Fedro diz que a escrita (sim, ela, e sim, ele diz isto escrevendo!) apresentada como remédio pra memória e sabedoria poderia ter o efeito oposto. O mundo não roda, ele capota.
Henrique Lobo Weissmann (Kico) a enciclica do papa cita platao algumas vezes.
Paulo Silveira esperado: é a base do cristianismo
Temos que ter em mente que a sociedade mudou e foi para sempre, agora não tem mais volta, bem como Elon Musk disse , teremos uma vida de ambundância de bens e serviços, efim vamos viver como seres humanos e não mais como um comendo o outro por dinheiro, o dinheiro não será mais necessário. Ter a liberdade de escolha e por escolha se tornar o que quiser, isso é libertador, conhecimento gratuito e de qualidade para todos. Hoje recebi a notícia que a AGI chegou com o ASTRA da OpenAI, a forma que recebemos informação e operamos não é mais como antes e a velocidade disso é infinitamente maior.
Marcio Duran é uma visão excessivamente otimista do futuro. Creio que desafios e problemas sempre vão existir, mesmo que mudem o campo de existência. Informação por si só já temos, e ainda sim a tragédia humana não diminuiu se comparada com tempos remotos. O que mudou foram as circunstâncias e o contexto, mas o ser humano convive com a tragédia, faz parte do mundo e ela não deixará de existir. Meu ponto é que a tragédia humana flutua em diversos campos a medida que o tempo passa: durante o medievo era a peste e a alta taxa de mortalidade infantil, hoje em dia temos conflitos com capacidade de eliminar seres humanos em massa, crise da fome (apesar das técnicas de produção terem se desenvolvido), colapso das instituições, crise energética, etc. Não existe sistema perfeito, toda organização social terá suas tragédias, mesmo que extremamente desenvolvida.
1 curtidaSim, o cérebro precisa de estímulos é como o músculo, sem isso ele atrofia, tenho lido muito a respeito da memória na terceira idade e me deparei com estudos que estão sendo feitos levando em consideração o uso da IA e seus impactos nas próximas gerações de idosos e é algo que precisa ser discutido, principalmente na área da educação e da saúde.
Excelente reflexão. Como alguém que entende a educação e as relações como fontes de todas as evoluções possíveis, só posso concordar e reiterar: nossos jovens precisam destas fricções.
1 curtidaEu sou um homem simples. Eu vejo o Papa e já dou like. Muito boa reflexão, Paulo!
3 curtidasNão sou fã do Gates, mas acho que ele está 100% certo neste texto.
1 curtidaÓtimo tema! Vou ouvir os 2 episódios.
Ver mais 5 comentários
Paulo Silveira, muito real. Na minha opinião a fricção é justamente o que constrói critério, e critério é o que sustenta decisão difícil depois. Eu vejo time usando IA para pular a parte de entender o problema, e sobra uma resposta rápida que ninguém consegue defender numa reunião. Ótimo post, obrigado por compartilhar.
2 curtidasEssa parte sobre a fricção bate bastante com o que tenho percebido estudando programação. Às vezes dá vontade de perguntar para a IA assim que aparece um problema, mas justamente ficar alguns minutos tentando entender sozinho costuma ensinar mais do que chegar na resposta rapidamente.
The reserves idea sounds noble but risks becoming a museum for human effort. Kids need real friction everywhere, not just in protected zones 🙂
Que post maravilhoso e que bom ler essa reflexão e referências por aqui! Obrigada, Paulo e Alura por trazer sempre conteúdos e fontes sólidas e a coragem de refletir sobre questões éticas no campo da tecnologia que nem sempre a pressa do imediatismo atual quer encarar com a seriedade que merece.
1 curtidaEsse Bill Gates não tá enroscado com o Epstein, não? Sei la. Eu não citaria um sujeito desses...
Você também pode gostar
Humano Fora do Loop, Asimov e o Desempoderamento Gradual
Reli Eu, Robô e o último conto parece manual do nosso feed: a Máquina que sabe o que você vai desobedecer, o algoritmo de cassino que rege os stories e o p(doom) que não precisa de robô armado. Basta escolher por nós.
AGI, tarefas bem definidas e um mestrado em 65 minutos
O Astra da OpenAI, o teorema do fold-and-cut que implementei há 20 anos no mestrado, e o que sobra para os iniciantes quando a máquina faz em 65 minutos o que levou um ano.
Automação Residencial, Engenharia Reversa e Cemitério de Repositórios
Mudei de casa e fui configurar wi-fi, Home Assistant e lâmpadas inteligentes com o Claude Code de copiloto. No caminho: engenharia reversa de protocolos, forks, pull requests e o cemitério de sisteminhas que a IA está multiplicando.