Anthropic, Fricção e o Papa

O cofundador da Anthropic, Chris Olah, esteve com o Papa durante a leitura da primeira encíclica de Leão XIV, “A Humanidade Magnífica”. A razão? Pode ser a seriedade da empresa em envolver a sociedade em discussões importantes; pode ser uma forma de criar hype em torno do Claude e sua “capacidade apocalíptica” para inflar, ainda mais, sua valorização.

A encíclica é afiada. Os capítulos 3 e 4 são seculares e abordam muitas das preocupações atuais da sociedade, de pais, de educadores e de nós devs. Nos parágrafos sobre escola, sobre aprendizado, fala sobre o problema de não encararmos fricção:

140: Em contrapartida, os processos educativos requerem um tempo de maturação, de confronto com a realidade que vai além das aparências, e um caminho de paciência. A questão é fundamental, pois toda a tecnologia educa quem a utiliza. Educar para o uso da IA implica, portanto, educar para decidir quando e em que situações não a utilizar. A rapidez e a facilidade com que se obtém uma resposta ou uma síntese correm o risco de extinguir o desejo de colocar perguntas, o qual dá frutos só a longo prazo.

Como escreve Platão, as coisas mais profundas e importantes só se aprendem depois de muito tempo e esforço, no empenho em discutir com os outros para “friccionar”, como numa pederneira, os conceitos e as experiências, até saltar em nós a centelha da compreensão.

Devemos educar-nos ao jejum da IA e proteger os nossos jovens das promessas da máquina perfeita, daquela subtil sedução que parece tornar o pensamento humano inútil precisamente quando é mais necessário.

Num mundo de hiperestímulos, acelerado, a atenção se fragmenta e torna muito difícil o aprendizado profundo e a discussão:

“(115) O ser humano contemporâneo, assediado por estímulos contínuos, tende a perder o gosto pelas coisas que se demoram a compreender. Uma cultura que valoriza apenas o rápido, o eficiente e o quantificável empobrece a interioridade e enfraquece os laços que dão consistência à vida partilhada.”

Uma sociedade em que se evita a fricção, teremos sempre medo de conversar com pessoas novas, de encontros em grupos ou até mesmo de mandar um email para o chefe sem ajuda do ChatGPT.

“Há um cansaço novo, característico do nosso tempo, que não é apenas físico, mas tem que ver com a hiperexposição informativa, com a dispersão da atenção, com a dificuldade de estar verdadeiramente presente a si mesmo e aos outros.”

E apesar de não citar explicitamente o problema difícil da consciencia, o documento dialoga com as atuais [provocações de Richard Dawkins] e a [revolta de Ted Chiang], ao criticar nosso sonho de onipotência:

“O sonho transumanista de uma humanidade indefinidamente potencializada pela técnica nasce, em muitos casos, da incapacidade de aceitar o limite, a fragilidade, a doença, a morte. Mas precisamente reconhecer estes limites é o que torna possível uma vida cheia de sentido, e não a sua negação.”

[aqui ir fechando?]:

146. É necessário promover uma verdadeira higiene da atenção: ritmos que prevejam silêncio, estudo aprofundado, leitura, debate ponderado.

Fiz a leitura de diversos parágrafos da encíclina [nesse episódio do Hipsters].