Prótese Mental via IA
Nos EUA tem sido frequente pessoas em terapia com relações intensas com os robôs e bots. Os grandes veículos estão dando atenção:
https://time.com/7379564/ai-emotional-intelligence-support-bots/
Os perigos da prótese mental, bem maior que deepfake: https://venturebeat.com/technology/what-if-the-real-risk-of-ai-isnt-deepfakes-but-daily-whispers
E isso me parece o mesmo problema das redes sociais nos viciarem em ciclos curtos de recompensa, dominando nosso dia: https://neurosciencenews.com/effort-recalibration-digital-media-cognition-30985/
TIME
> Milhões de pessoas agora confiam à IA seus sentimentos. Elas podem confiar que as empresas que a criam vão priorizar seu bem-estar?
Pelo menos uma vez por mês, dois terços das pessoas que usam IA regularmente recorrem aos seus bots para conselho sobre questões pessoais sensíveis e suporte emocional.
Muitas pessoas agora relatam confiar mais em seus chatbots do que em seus representantes eleitos, funcionários públicos, líderes religiosos — e nas empresas que constroem IA. Isso de acordo com dados de 70 países, coletados pelo Collective Intelligence Project (CIP).
Como a diretora de pesquisa do CIP, a neurocientista Zarinah Agnew, coloca, a IA está se tornando "infraestrutura emocional em escala". E está sendo construída por empresas cujos incentivos econômicos podem não se alinhar com nosso bem-estar.
Já vimos casos de empresas de IA otimizando seus modelos para manter as pessoas engajadas, mesmo quando isso vai contra seus melhores interesses. Em abril passado, a OpenAI teve que reverter uma atualização de um de seus modelos do ChatGPT depois que foi amplamente criticada por ser excessivamente lisonjeira com os usuários. Quando a empresa parou de oferecer o modelo às pessoas, no dia antes do Dia dos Namorados, algumas ficaram angustiadas.
Humanos encontrando conforto em máquinas não é novo. No final dos anos 1990, a professora do MIT Rosalind Picard — que fundou o campo da computação afetiva — descobriu que as pessoas respondiam positivamente a computadores demonstrando empatia.
Mas duas coisas-chave mudaram desde então: graças a avanços técnicos, os sistemas de IA hoje são novas entidades, capazes de conversas sofisticadas e comportamento surpreendente; e graças aos bilhões de dólares que investidores despejaram em empresas de IA, essas entidades estão acessíveis a praticamente qualquer pessoa com conexão à internet. Só o ChatGPT atualmente tem mais de 800 milhões de usuários ativos semanais — e o número está crescendo.
Mas com milhões de pessoas formando diferentes tipos de relações humano-máquina, ainda não sabemos se a IA está ajudando mais pessoas do que prejudicando. E enquanto isso, empresas de IA estão investindo em tornar seus modelos não apenas mais inteligentes, mas também mais emocionalmente sagazes — melhores em detectar emoção na voz de uma pessoa e em responder apropriadamente.