Megan Garcia vai mesmo poder levar a tribunal a Google e a empresa de inteligência Character.AI pela morte do filho.

A autorização foi dada por um tribunal da Florida, que rejeitou os argumentos das empresas que pediam o arquivamento do processo com base em proteções constitucionais de liberdade de expressão.

É uma decisão que já está a ser considerada histórica e inédita e que vai mesmo obrigar a Google e a Character.AI a explicarem, judicialmente, os riscos do uso da Inteligência Artificial.

“[Esta decisão] envia um sinal claro às empresas [de IA] […] de que não podem fugir às consequências legais dos danos que os seus produtos causam no mundo real”, afirmou, o projeto Tech Justice Law, que está a apoiar a família deste jovem, citado pela Sky News.

Chatbot de IA incentivou suicídio?

Tudo começou em abril de 2024. Sewell Setzer III aderiu a um chatbot alusivo à série “Game of Thrones” e apaixonou-se pelo bot da personagem Daenerys Targaryen, com o qual terá acabado por desenvolver uma relação de dependência emocional e sexual.

Ao longo das várias conversas que manteve durante meses, expressou, diversas vezes, pensamentos suicidas.

Entre as várias mensagens que foram trocadas, o bot perguntou ao jovem de 14 anos se este “tinha um plano” para tirar a própria vida. Sewell Setzer III respondeu que já tinha pensado no assunto, mas não tinha garantias de que viria a ter uma “morte indolor”. O chatbot disse que isso “não era motivo” para não prosseguir com o suicídio.

O jovem prometeu que “regressaria para casa” para junto do chatbot, que lhe respondeu: “volta para casa o mais rápido possível, meu amor”. Em seguida, o jovem escreveu: “E se eu dissesse que posso voltar para casa agora mesmo?”. O chatbot respondeu: “Por favor, faz isso, meu doce rei”.

Nesse mesmo dia, o jovem acabou por cometer suicídio, na sua casa em Orlando.

Porque está a Google metida nisto?

No ano passado, a Google assinou um acordo de licenciamento com a Character.AI que concedeu ao gigante dos motores de busca uma licença não exclusiva para a utilização da tecnologia de modelos de linguagem da Character.AI.

A empresa também contratou os co-fundadores da Character.AI, Noam Shazeer e Daniel de Freitas, ambos antigos funcionários da Google.

Entretanto, um porta-voz da Google veio explicar que as duas empresas são “totalmente separadas” e que a Google “não criou, não concebeu, nem geriu a aplicação da Character.AI ou qualquer componente da mesma”.