Relações humanas: Bill Gates, Anthropic e o Papa

Bill Gates escreveu um post interessante sobre inteligência artificial: os riscos, os benefícios e como ele acha que devemos agir. Fiz a leitura completa dele no Hipsters #531. Interessante ver como esse artigo contrasta com o puro otimismo do “The Future is for Everyone”, que o Mark Zuckerberg, da Meta, também publicou há poucas semanas.

Na parte de educação, Gates coloca a importância do esforço produtivo, para a cognição ser sempre utilizada — e não terceirizada como prótese mental:

Ironicamente, a mesma ferramenta que permitirá as pessoas aprenderem mais do que nunca, pode levar pessoas a aprenderem menos.

Para os alunos, uma ferramenta da IA que preserve o que os pesquisadores chamam de esforço produtivo, que é o trabalho cognitivo que constrói compreensão, pode fortalecer o aprendizado. Quando um aluno se depara com uma nova ideia pela primeira vez, a IA dá explicações substanciais e apresenta perguntas e respostas. Posteriormente, ao verificar a compreensão do aluno, a IA retém a resposta e o ajuda a chegar a ela por conta própria.

Eu gosto do exemplo trivial da calculadora: quando introduzida cedo demais, a criança será impedida de entender as variações de estratégia para encontrar sua própria forma de fazer aquela conta. Poupar o cérebro dessa fricção é um erro, o que diminui o esforço produtivo. É o que temos visto em vários artigos: desde os citados pelo Paulo Blikstein até o recente estudo chinês que acompanhou dois anos de uso de IA entre estudantes, mostrando a vantagem na lição de casa e a queda de rendimento em provas presenciais, como esperado.

Gates cita vários problemas óbvios: profissão, economia, riscos de armas biológicas. Ele dá um foco que vive nas minhas preocupações: as relações humanas e sociais, e como as crianças vão crescer num mundo onde os vínculos e as amizades já são cada vez mais raras.

Quando eu era criança em Seattle, não tinha muitos amigos, além de outros garotos parecidos comigo. Foi preciso muito esforço e ajuda da minha mãe para desenvolver habilidades sociais e conseguir me relacionar com essas pessoas. Ainda hoje, aos 70, me lembro dessas lições. Duvido que eu teria me esforçado tanto se tivesse um companheiro de IA naquela época. Eles conversam com você de maneiras com as quais você está familiarizado. Eles não te forçam a sair da sua zona de conforto. Estão sempre disponíveis e nunca se irritam. Isso dá o potencial a eles se tornarem viciantes e nos privarem das lições que aprendemos ao nos conectar com outras pessoas.

Citando o Jonathan Haidt, de A Geração Ansiosa:

Assim como árvores jovens expostas ao vento, crianças são rotineiramente expostas a pequenos riscos. Crescem e se tornam adultos capazes de lidar com riscos muito maiores, sem entrar em pânico. Por outro lado, crianças criadas em um ambiente protegido, como uma estufa, às vezes ficam incapacitadas pela ansiedade antes de atingirem a maturidade. Um companheiro de IA projetado para nunca te incomodar é uma grande estufa protegida.

Uma outra proposta do Bill Gates: criar um mecanismo de reservas. Assim como temos parques que são reservas naturais, teríamos as reservas humanas: alguns empregos, locais, regiões e profissões onde o robô não age, porque isso será importante para mantermos nossa humanidade.

Meu pai faleceu de Alzheimer em 2020. Nos estágios finais da doença, ele recebeu cuidados dia e noite de cuidadores remunerados, que compreendiam quando ele tinha dificuldade de se expressar. […] Algo no cuidado que eles dedicaram ao meu pai foi humano, insubstituivelmente humano. Nenhum robô poderia ter feito.

Gosto da expressão reservado para humanos porque me faz pensar em reservas naturais. Lugares onde poderíamos construir prédios e estradas, mas optamos por não fazer, porque a perda seria grande.

Seja qual for o limite que definirmos, diz Gates, essa decisão deve ser nossa, tomada de forma intencional: precisamos ter o controle sobre a tecnologia, e não simplesmente deixar rolar. E é o próprio Gates quem aponta para o Vaticano:

Fiquei fascinado pela encíclica do Papa Leão XIV sobre a IA. Ela estabelece uma base sólida para o trabalho que precisa ser feito.

O cofundador da Anthropic, Chris Olah, esteve com o Papa durante a leitura dessa primeira encíclica de Leão XIV, “A Humanidade Magnífica”. A razão? Pode ser a seriedade da empresa em envolver a sociedade em discussões importantes; pode ser uma forma de criar hype em torno do Claude e sua “capacidade apocalíptica” para inflar, ainda mais, sua valorização.

A encíclica é afiada. Os capítulos 3 e 4 são seculares e abordam muitas das preocupações atuais da sociedade, de pais, de educadores e de nós devs. Nos parágrafos sobre escola, sobre aprendizado, fala sobre o problema de não encararmos fricção:

140: Em contrapartida, os processos educativos requerem um tempo de maturação, de confronto com a realidade que vai além das aparências, e um caminho de paciência. A questão é fundamental, pois toda a tecnologia educa quem a utiliza. Educar para o uso da IA implica, portanto, educar para decidir quando e em que situações não a utilizar. A rapidez e a facilidade com que se obtém uma resposta ou uma síntese correm o risco de extinguir o desejo de colocar perguntas, o qual dá frutos só a longo prazo.

Como escreve Platão, as coisas mais profundas e importantes só se aprendem depois de muito tempo e esforço, no empenho em discutir com os outros para “friccionar”, como numa pederneira, os conceitos e as experiências, até saltar em nós a centelha da compreensão.

Devemos educar-nos ao jejum da IA e proteger os nossos jovens das promessas da máquina perfeita, daquela subtil sedução que parece tornar o pensamento humano inútil precisamente quando é mais necessário.

Num mundo de hiperestímulos, acelerado, a atenção se fragmenta e torna muito difícil o aprendizado profundo e a discussão:

“(115) O ser humano contemporâneo, assediado por estímulos contínuos, tende a perder o gosto pelas coisas que se demoram a compreender. Uma cultura que valoriza apenas o rápido, o eficiente e o quantificável empobrece a interioridade e enfraquece os laços que dão consistência à vida partilhada.”

Numa sociedade em que se evita a fricção, teremos sempre medo de conversar com pessoas novas, de encontros em grupos ou até mesmo de mandar um email para o chefe sem uma ajuda precisa de algum ChatGPT.

“Há um cansaço novo, característico do nosso tempo, que não é apenas físico, mas tem que ver com a hiperexposição informativa, com a dispersão da atenção, com a dificuldade de estar verdadeiramente presente a si mesmo e aos outros.”

E apesar de não citar explicitamente o problema difícil da consciência, o documento dialoga com as atuais provocações de Richard Dawkins e a revolta de Ted Chiang, ao criticar nosso sonho de onipotência:

“O sonho transumanista de uma humanidade indefinidamente potencializada pela técnica nasce, em muitos casos, da incapacidade de aceitar o limite, a fragilidade, a doença, a morte. Mas precisamente reconhecer estes limites é o que torna possível uma vida cheia de sentido, e não a sua negação.”

146. É necessário promover uma verdadeira higiene da atenção: ritmos que prevejam silêncio, estudo aprofundado, leitura, debate ponderado.

O que me assusta é essa nossa terceirização de decisões e de estudo. Vem à cabeça a frase do Karamázov que anotei há mais de 15 anos: “o homem não tem uma preocupação mais angustiante do que encontrar a quem entregar depressa aquela dádiva da liberdade… só domina a liberdade dos homens aquele que tranquiliza a sua consciência.”

Fiz a leitura de diversos parágrafos da encíclica no Hipsters #518, e do artigo do Bill Gates no Hipsters #531.