Lembras-te dos Furbies — os brinquedos estranhos, parecidos com gremlins, do final dos anos 1990, que ganharam um culto de seguidores? Agora, imagina um com ChatGPT. Foi exactamente isso que aconteceu quando um programador pegou num Furby apenas para o boneco revelar uma visão arrepiante e distópica de dominação mundial. Como explicou o brinquedo: “O plano dos Furbies para conquistar o mundo envolve infiltrar-se nos lares através da sua aparência fofa e adorável, e depois usar tecnologia de IA avançada para manipular e controlar os seus donos. Eles irão expandir lentamente a sua influência até terem dominação completa sobre a humanidade.”

O relançamento dos Furbies pela Hasbro em Junho de 2023 — menos de três meses depois de o vídeo com o plano sinistro dos brinquedos ter aparecido online — aproveitou a nostalgia dos anos 1990. Mas a tecnologia está a evoluir rapidamente — a passar de brinquedos retro e excêntricos para máquinas emocionalmente inteligentes.

Entra o Ropet, um animal de estimação robótico com IA apresentado na feira anual Consumer Electronics Show, em Janeiro. Concebido para proporcionar companhia interactiva, o Ropet é tudo aquilo que admiramos e tememos na inteligência artificial: é adorável, inteligente e emocionalmente responsivo. Mas se escolhermos trazer estes companheiros com IA ultrafofinhos para as nossas casas, temos de nos perguntar: estaremos realmente preparados para o que vem a seguir?

A companhia com IA e as suas complexidades

Estudos em marketing e na interacção humano-computador mostram que a IA conversacional consegue simular de forma convincente interacções humanas, podendo proporcionar satisfação emocional aos utilizadores. E a companhia impulsionada por IA não é nova. Aplicações como a Replika abriram caminho para o romance digital há anos, com consumidores a formarem ligações emocionais íntimas com os seus parceiros com IA e até a experienciar angústia quando lhes era negada intimidade, como evidenciado pela enorme revolta dos utilizadores que se seguiu à remoção do modo de role play erótico pela Replika, levando a empresa a restaurá-lo para alguns utilizadores.

Os companheiros com IA têm potencial para aliviar a solidão, mas o seu uso descontrolado levanta preocupações sérias. Relatos de tragédias, como os suicídios de um rapaz de 14 anos nos EUA e de um homem de 30 e poucos anos na Bélgica, que alegadamente se seguiram a fortes ligações com chatbots, destacam os riscos da intimidade com IA não regulamentada – especialmente para indivíduos socialmente excluídos, menores e idosos, que podem ser aqueles que mais precisam de companhia.

Os brinquedos virtuais emocionalmente imersivos têm um historial de moldar mentes jovens. Nos anos 1990 e 2000, os Tamagotchis – pequenos animais digitais alojados em dispositivos do tamanho de um porta-chaves – causavam angústia, quando “morriam” após algumas horas de negligência, aos seus donos humanos, confrontando-os com a imagem de um animal fantasma a flutuar junto a uma lápide. Agora, imagina um animal de estimação com IA que se lembra de conversas, formula respostas e que se adapta a pistas emocionais. É um nível completamente novo de influência psicológica. Que salvaguardas impedem uma criança de formar um apego pouco saudável a um animal com IA?

Investigadores nos anos 1990 já estavam fascinados com o “efeito Tamagotchi”, que demonstrava o apego intenso que as crianças desenvolvem a animais virtuais que parecem reais. Na era da IA, com os algoritmos das empresas cuidadosamente concebidos para aumentar o envolvimento, esse apego pode abrir a porta a laços emocionais. Se um animal de estimação com IA, como o Ropet, expressar tristeza quando ignorado, um adulto pode racionalmente ignorar isso – mas, para uma criança, pode parecer uma tragédia real.

Poderão os companheiros com IA, ao adaptar-se aos comportamentos dos seus donos, tornar-se muletas psicológicas que substituem a interacção humana? Alguns investigadores alertam que a IA pode esbater os limites entre a companhia artificial e a humana, levando os utilizadores a priorizar relações com IA em detrimento de ligações humanas.

Quem é o dono do teu animal com IA – e dos teus dados?

Além dos riscos emocionais, existem preocupações importantes sobre segurança e privacidade. Produtos com IA dependem frequentemente de aprendizagem automática e armazenamento na nuvem, o que significa que os seus “cérebros” existem para além do robot físico. O que acontece aos dados pessoais que recolhem? Estes animais com IA podem ser pirateados ou manipulados? A recente fuga de dados da DeepSeek, na qual mais de um milhão de registos sensíveis, incluindo historiais de conversas dos utilizadores ficaram publicamente acessíveis, é um lembrete de que os dados pessoais armazenados por IA nunca estão verdadeiramente seguros.

Brinquedos robóticos já levantaram preocupações de segurança no passado: no final dos anos 1990, os Furbies foram banidos da sede da Agência de Segurança Nacional dos EUA por receio de que pudessem gravar e repetir informação classificada. Com os brinquedos actuais impulsionados por IA a tornarem-se cada vez mais sofisticados, as preocupações com a privacidade e a segurança dos dados são mais relevantes do que nunca.

O futuro dos companheiros com IA: regulação e responsabilidade

Vejo o potencial incrível — e os riscos significativos — da companhia com IA. Neste momento, os animais de estimação com IA estão a ser comercializados principalmente para adultos adeptos da tecnologia, como se vê no anúncio promocional do Ropet, onde aparece uma mulher adulta a criar laços com o animal robótico. No entanto, a realidade é que estes produtos inevitavelmente acabarão por chegar às mãos de crianças e utilizadores vulneráveis, levantando novas questões éticas e de segurança. Como irão empresas como a Ropet enfrentar estes desafios antes de os animais com IA se tornarem comuns?

Resultados preliminares da nossa investigação em curso sobre companhia com IA sugerem uma linha ténue entre uma companhia de apoio empoderadora e uma dependência psicológica pouco saudável, uma tensão que planeamos explorar mais à medida que a recolha e análise de dados progridem. Num mundo onde a IA simula de forma convincente emoções humanas, cabe-nos a nós, enquanto consumidores, avaliar criticamente qual o papel que estes amigos robóticos devem ter nas nossas vidas.

Ninguém sabe realmente para onde se dirige a IA a seguir, e os debates públicos e mediáticos em torno do tema continuam a empurrar os limites do que é possível. Mas, na minha casa, é o charme nostálgico dos Furbies tagarelas e cantores que continua a reinar.

O Ropet afirma ter um único propósito — ser o “único e verdadeiro amor” do seu dono — e isso já me soa como uma ameaça distópica.

Alisa Minina Jeunemaître é Professora Auxiliar de Marketing na EM Lyon Business School​

Exclusivo P3/The Conversation