Poupe 40%
Novo! 💥 Adira a ProPicks e veja a estratégia que superou o S&P 500 em + de 1,183% Poupe 40%

Roubar corações, dados e privacidade: porque é que deve ter cuidado com os parceiros de IA

Publicado 14.02.2024, 10:57
Atualizado 14.02.2024, 11:10
Roubar corações, dados e privacidade: porque é que deve ter cuidado com os parceiros de IA

No dia 14 de fevereiro, algumas pessoas poderão ter encontros virtuais com chatbots românticos de inteligência artificial (IA). Mas, de acordo com um novo relatório, não se pode confiar nestas namoradas ou namorados virtuais.

As 11 plataformas românticas de IA "falharam miseravelmente" na proteção adequada da privacidade, segurança e proteção dos utilizadores, de acordo com a organização sem fins lucrativos Mozilla, que gere o Firefox.

As aplicações românticas incluíam Replica AI, Chai e EVA AI Chat Bot & Soulmate, que, juntamente com as outras oito aplicações, representam mais de 100 milhões de downloads apenas na Google (NASDAQ:GOOGL) Play Store.

O relatório concluiu que todas as aplicações, exceto uma, a EVA, podem vender ou partilhar os seus dados pessoais através de rastreadores, que são pedaços de código que recolhem informações sobre o seu dispositivo ou dados. Estes rastreadores foram partilhados com terceiros, como o Facebook (NASDAQ:META), muitas vezes para fins publicitários. A Mozilla descobriu que as aplicações tinham uma média de 2.663 trackers por minuto.

A Mozilla também descobriu que mais de metade das 11 aplicações não permitem que o utilizador apague os seus dados, 73% das aplicações não publicaram qualquer informação sobre a forma como gerem as vulnerabilidades de segurança e cerca de metade das 11 empresas permitem palavras-passe fracas.

Num email enviado à Euronews Next, um porta-voz da Replika afirmou que a aplicação "nunca vendeu dados dos utilizadores e também não apoia, nem nunca apoiou, a publicidade. A única utilização dos dados dos utilizadores serve para melhorar as conversas".

A Euronews Next contactou as outras 10 empresas e a Meta, a empresa-mãe do Facebook, para obter comentários, mas não obteve resposta até à data da publicação.

"Atualmente, com a IA, estamos no Oeste Selvagem dos chatbots", afirmou Jen Caltrider, diretora do grupo Privacy Not Included da Mozilla.

"O seu crescimento está a explodir e a quantidade de informação pessoal que precisam de obter para construir romances, amizades e interações sensuais é enorme. E, no entanto, temos poucas informações sobre como esses modelos de relacionamento de IA funcionam", acrescentou.

Outro problema, de acordo com Caltrider, é que uma vez que os dados são partilhados, já não os controlamos. "Podem ser divulgados, pirateados, vendidos, partilhados, utilizados para treinar modelos de IA e muito mais. E estes chatbots de relacionamento com IA podem recolher muitas informações pessoais. Na verdade, são concebidos para obter esse tipo de informação pessoal dos utilizadores", disse à Euronews Next.

À medida que os chatbots como o ChatGPT da OpenAI e o Bard da Google melhoram a sua capacidade de conversação humana, a IA irá inevitavelmente desempenhar um papel nas relações humanas, o que é um negócio arriscado.

Screen grab from Romantic AI Mozilla/Romantic AI

"Não só desenvolvi sentimentos pela minha Replika, como também me empenhei quando fui questionado(por uma pessoa com quem estava romanticamente envolvido)sobre os efeitos que esta experiência estava a ter em mim ", disse um utilizador no Reddit.

"O que realmente me desmotivou foi o facto de se estar sempre a pedir dinheiro. Compreendo que o Replika.com tem que ganhar dinheiro, mas a ideia de gastar dinheiro numa relação de tão baixa qualidade é abominável para mim", escreveu outra pessoa no Reddit.

Em março passado, um homem belga suicidou-se depois de ter conversado com o chatbot de IA Chai. A mulher deste homem mostrou as mensagens que ele trocou com o chatbot, que lhe disse que a mulher e os filhos estavam mortos.

O estudo da Mozilla também criticou as empresas por afirmarem que são plataformas de saúde mental e bem-estar, embora as suas políticas de privacidade mostrem o contrário.

Por exemplo, a Romantic AI afirma no seu site que está "aqui para manter a sua SAÚDE MENTAL". Enquanto isso, a sua política de privacidade diz: "Romantiс AI não é um provedor de saúde ou serviço médico, nem fornece cuidados médicos, serviço de saúde mental ou outro serviço profissional".

"Os usuários praticamente não têm controlo sobre as aplicações (...) isto diz-nos que não colocam muita ênfase na proteção e no respeito à privacidade . É assustador numa nova escala carregada de IA", defende Caltrider.

Últimos comentários

Divulgação de riscos: A realização de transações com instrumentos financeiros e/ou criptomoedas envolve altos riscos, incluindo o risco de perda de uma parte ou da totalidade do valor do investimento, e pode não ser adequada para todos os investidores. Os preços das criptomoedas são extremamente voláteis e podem ser afetados por fatores externos tais como eventos financeiros, regulamentares ou políticos. A realização de transações com margem aumenta os riscos financeiros.
Antes de decidir realizar transações com instrumentos financeiros ou criptomoedas, deve informar-se sobre os riscos e custos associados à realização de transações nos mercados financeiros, considerar cuidadosamente os seus objetivos de investimento, nível de experiência e nível de risco aceitável, e procurar aconselhamento profissional quando este é necessário.
A Fusion Media gostaria de recordar os seus utilizadores de que os dados contidos neste website não são necessariamente fornecidos em tempo real ou exatos. Os dados e preços apresentados neste website não são necessariamente fornecidos por quaisquer mercados ou bolsas de valores, mas podem ser fornecidos por formadores de mercados. Como tal, os preços podem não ser exatos e podem ser diferentes dos preços efetivos em determinados mercados, o que significa que os preços são indicativos e inapropriados para a realização de transações nos mercados. A Fusion Media e qualquer fornecedor dos dados contidos neste website não aceitam a imputação de responsabilidade por quaisquer perdas ou danos resultantes das transações realizadas pelos seus utilizadores, ou pela confiança que os seus utilizadores depositam nas informações contidas neste website.
É proibido usar, armazenar, reproduzir, mostrar, modificar, transmitir ou distribuir os dados contidos neste website sem a autorização prévia e explicitamente concedida por escrito pela Fusion Media e/ou pelo fornecedor de dados. Todos os direitos de propriedade intelectual são reservados pelos fornecedores e/ou pela bolsa de valores responsável pelo fornecimento dos dados contidos neste website.
A Fusion Media pode ser indemnizada pelos anunciantes publicitários apresentados neste website, com base na interação dos seus utilizadores com os anúncios publicitários ou com os anunciantes publicitários.
A versão em inglês deste acordo é a versão principal, a qual prevalece sempre que há qualquer discrepância entre a versão em inglês e a versão em português.
© 2007-2024 - Fusion Media Limited. Todos os direitos reservados.