O plano de um canadense de trazer de volta à vida sua falecida esposa em forma de IA levantou uma série de questões éticas sobre o prolongamento da existência humana no universo digital.
Alan Hamel, um artista canadense e personalidade de TV de longa data, disse recentemente à People ele criou uma “gêmea IA” da estrela de Hollywood Suzanne Somers, sua esposa e companheira de 55 anos que faleceu em 2023 de câncer de mama.
Hamel, 89, disse à People que o bot de IA foi treinado nos livros e entrevistas de Somers, “para que ela esteja realmente pronta para poder responder a qualquer pergunta”.
Ele disse que o bot foi ideia de Somers e eles conversaram sobre isso durante anos antes de ela morrer. Ele disse que sua imagem de IA existirá em seu site em um futuro próximo, onde conversará 24 horas por dia com fãs que sentem falta dela.
“Quando você olha para o filme finalizado ao lado da Suzanne real, você não consegue perceber a diferença”, disse ele à People.
A CBC News entrou em contato com Hamel, mas não recebeu resposta até o momento da publicação.
‘20 milhões de camadas de complexidade’
A especialista em ética em IA baseada no Brasil, Catharina Doria, diz que é importante agir com cuidado ao trazer alguém de volta à forma de IA.
Embora as pessoas tenham feito vídeos de IA de celebridades mortas sem o seu consentimento para fins de entretenimento – a filha do falecido comediante Robin Williams disse que ficou “enojada” ao ver vídeos usando a imagem dele no mês passado – Doria diz que esse cenário é mais complicado.
“Acho que é realmente difícil ter uma resposta sobre se isso é certo ou errado, ou se isso é bom ou ruim. Acho que há 20 milhões de camadas de complexidade”, disse ela à CBC News.
Doria diz que se preocupa que muitas pessoas tenham dificuldade para decifrar o que é real online e isso pode causar problemas imprevistos quando as pessoas interagem com bots como o AI Somers.
Ela cita o exemplo de um pastor de uma megaigreja americana que recentemente usou um vídeo de IA do falecido analista conservador Charlie Kirk para fazê-lo dizer coisas que nunca disse na vida real, deixando os espectadores confusos. Apesar da isenção de responsabilidade de que foi gerado por IA, muitos comentaristas online não tinham certeza se era um vídeo real de Kirk ou se estava usando o áudio de algo que ele disse quando estava vivo.
“Temos que realmente pensar: as pessoas têm conhecimento e são alfabetizadas o suficiente sobre IA e IA generativa para entender que aquela pessoa, aquela coisa, quem quer que esteja falando do outro lado, está fazendo cosplay de uma pessoa?” ela disse.
“Há uma conversa sobre alfabetização em IA que acho que precisa ser realizada.”
Doria diz que a capacidade de criar versões de IA de pessoas que morreram contribui para a “pandemia de solidão” e pode fazer com que as pessoas caiam ainda mais no isolamento.
Ela diz que isso é semelhante a aplicativos como Character.AI, que permite que as pessoas conversem com bots que interpretam celebridades e personagens fictícios, e bots companheiros, com os quais algumas pessoas estabelecem relacionamentos românticos.
“O medo que eu, como especialista em ética em IA, e outros especialistas temos, é que isso afaste as pessoas da sociedade e do mundo e do verdadeiro amor humano”, disse ela.
‘Deadbots’ não regulamentados
Empresas como Eternos, StoryFile e HereAfter AI já estão capitalizando na criação de avatares de IA realistas para pessoas que perderam entes queridos.
Com acesso aos logins de mídia social da pessoa morta, essas empresas podem criar “deadbots”, também conhecidos como “griefbots” ou “fantasmas de IA”, que emulam sua personalidade.
Pesquisadores da Universidade de Cambridge levantaram preocupações sobre deadbots, inclusive que eles poderiam ser usados por empresas no futuro para alimentar anúncios de usuários ou enviar spam a entes queridos com notificações não solicitadas.
Jason Millar, Presidente de Pesquisa do Canadá em Engenharia Ética de Robótica e IA da Universidade de Ottawa, diz que é hora de as pessoas começarem a considerar como gerenciarão sua presença digital depois de morrerem.
“Isso apenas adiciona outra camada de complexidade a essa conversa, visto que existe a possibilidade de reanimar os mortos no formato ChatGPT”, disse ele à CBC News.
Millar diz que entende o apelo da clonagem digital de um ente querido, mas tem preocupações sobre as pessoas perderem o processo de luto e, em última análise, bloquearem-se da cura e da felicidade futura.
Ele diz que isso também levanta uma série de questões éticas, especialmente em um caso como o de Somers, onde seu avatar de IA estará potencialmente conversando com um grande número de pessoas.
Por exemplo, Millar pergunta: e se o criador eventualmente quiser desligá-lo? E quem tem o direito de fazê-lo se outras pessoas se apegarem a isso?
Ele diz que também se preocupa com o facto de isto estar a acontecer num espaço que é em grande parte não regulamentado.
“EU Acho que muitas pessoas podem se sentir desconfortáveis pensando sobre esse tipo de assunto, mas não acho que possamos mais ignorá-los”, disse ele.
“Não há absolutamente nenhuma regulamentação que proíba alguém de fazer isso agora, que eu saiba.”
Tecnologia de IA se tornando mais fácil de usar
James Hutson, chefe de programação e pesquisa de IA centrada no ser humano na Lindenwood University, no Missouri, diz que o gêmeo Somers AI confunde a linha entre um deadbot e um bot usado para fins comerciais ou de entretenimento.
Mas ele espera que a tendência de usar IA para reanimar os mortos continue à medida que a tecnologia se torna mais fácil de usar.
Hutson vê isso como uma progressão natural da tendência humana de preservar as nossas relações com os entes queridos perdidos, observando que mesmo na Idade Média, as pessoas faziam máscaras de cera dos mortos.
“A capacidade de manter a ligação com os nossos entes queridos após a morte é fundamental para a história e a cultura humana”, disse ele.
Hutson estuda as percepções das pessoas sobre avatares alimentados por IA e descobriu que a grande maioria traça o limite da IA “incorporada”, ou o upload de um deadbot em uma forma robótica física.
Mas à medida que estas tecnologias se normalizarem, diz ele, isso poderá mudar.
“Esse é o próximo passo, certo? Você quer que sua consciência digital, por assim dizer, viva no mundo material em algum tipo de robótica?” ele disse.
