Porque é que o "padrinho da IA" Geoffrey Hinton está preocupado?

© Reuters Porque é que o "padrinho da IA" Geoffrey Hinton está preocupado?

Especialistas proeminentes em inteligência artificial (IA) têm dado o alarme sobre o ritmo e a magnitude dos recentes avanços neste domínio, alertando para o facto de representarem nada menos do que uma ameaça para a humanidade.

Entre eles, Geoffrey Hinton, um cientista informático premiado conhecido como o "padrinho da IA", que se demitiu do seu emprego na Google (NASDAQ:GOOGL) no mês passado para partilhar as suas preocupações sobre o desenvolvimento descontrolado de novas ferramentas de IA.

"Mudei subitamente de opinião sobre se estas coisas vão ser mais inteligentes do que nós", disse Hinton, de 75 anos, numa entrevista à MIT Technology Review esta semana.

"Penso que estão muito perto disso agora e que serão muito mais inteligentes do que nós no futuro. Como é que vamos sobreviver a isso?"

Hinton não está sozinho nas suas preocupações. Em Fevereiro, até Sam Altman, director executivo da OpenAI, empresa que desenvolve o ChatGPT, afirmou que o mundo pode não estar "assim tão longe de ferramentas de IA potencialmente assustadoras" e que a regulamentação será fundamental, mas levará tempo a ser descoberta.

Pouco depois de a start-up apoiada pela Microsoft (NASDAQ:MSFT) ter lançado o seu mais recente modelo de IA, denominado GPT-4, em Março, mais de 1000 investigadores e tecnólogos assinaram uma carta apelando a uma pausa de seis meses no desenvolvimento da IA porque, segundo eles, esta representa "riscos profundos para a sociedade e a humanidade".

Eis as principais preocupações expressas por Hinton e outros especialistas:

1. A IA pode já ser mais inteligente do que nós

Os nossos cérebros humanos conseguem resolver equações, conduzir automóveis e acompanhar as séries da Netflix (NASDAQ:NFLX) graças ao seu talento inato para organizar e armazenar informações e encontrar soluções para problemas espinhosos.

Os cerca de 86 mil milhões de neurónios que temos no crânio - e, mais importante, os 100 triliões de ligações que esses neurónios estabelecem entre si - tornam isso possível.

Em contrapartida, a tecnologia subjacente ao ChatGPT tem entre 500 mil milhões e um trilião de ligações, disse Hinton. Embora isso pareça colocá-la em grande desvantagem em relação a nós, Hinton observa que o GPT-4, o mais recente modelo de IA da OpenAI, sabe "centenas de vezes mais" do que qualquer ser humano. Talvez, sugere, tenha um "algoritmo de aprendizagem muito melhor" do que o nosso, tornando-o mais eficiente nas tarefas cognitivas.

Há muito tempo que os investigadores notam que as redes neuronais artificiais demoram muito mais tempo a absorver e a aplicar novos conhecimentos do que as pessoas, uma vez que o seu treino requer enormes quantidades de energia e de dados.

Já não é esse o caso, argumenta Hinton, referindo que sistemas como o GPT-4 podem aprender coisas novas muito rapidamente, depois de devidamente treinados pelos investigadores. Isto não é muito diferente da forma como um físico profissional treinado consegue envolver o seu cérebro em novas descobertas experimentais muito mais rapidamente do que um típico estudante de ciências do liceu.

Isto leva Hinton a concluir que os sistemas de IA podem já estar a ser mais inteligentes do que nós: não só conseguem aprender coisas mais rapidamente, como também podem partilhar cópias dos seus conhecimentos entre si quase instantaneamente.

"É uma forma de inteligência completamente diferente", afirmou à MIT Technology Review. "Uma nova e melhor forma de inteligência".

2. A IA pode "potenciar" a propagação da desinformação

O que fariam os sistemas de IA mais inteligentes do que os humanos? Uma possibilidade inquietante é que indivíduos, grupos ou Estados-nação mal-intencionados possam simplesmente cooptá-los para promover os seus próprios objectivos.

Dezenas de sítios Web de notícias falsas já se espalharam pela Web em várias línguas, alguns publicando centenas de artigos gerados por IA por dia, de acordo com um novo relatório da NewsGuard, que classifica a credibilidade dos sítios Web e rastreia a desinformação na internet.

Hinton está particularmente preocupado com o facto de as ferramentas de IA poderem ser treinadas para influenciar eleições e até travar guerras.

A desinformação eleitoral difundida através de chatbots de IA, por exemplo, poderá ser a versão futura da desinformação eleitoral difundida através do Facebook (NASDAQ:META) e de outras plataformas de redes sociais.

E isso pode ser apenas o começo.

"Não pensem por um momento que Putin não criaria robôs hiperinteligentes com o objectivo de matar ucranianos", disse Hinton no artigo. "Ele não hesitaria".

3. A IA vai tornar-nos redundantes?

A OpenAI estima que 80% dos trabalhadores nos Estados Unidos poderão ver os seus empregos afectados pela IA, e um relatório da Goldman Sachs (NYSE:GS) afirma que a tecnologia poderá pôr em risco 300 milhões de empregos a tempo inteiro em todo o mundo.

A sobrevivência da humanidade está ameaçada quando "as coisas inteligentes conseguem ser mais inteligentes do que nós", segundo Hinton.

"É possível que nos mantenham por cá durante algum tempo para manter as centrais eléctricas a funcionar", disse Hinton à conferência EmTech Digital da MIT Technology Review, na quarta-feira, a partir de sua casa, através de vídeo. "Mas depois disso, talvez não".

"Estas coisas terão aprendido connosco, através da leitura de todos os romances que já existiram e de tudo o que Maquiavel já escreveu, como manipular as pessoas", disse Hinton. "Mesmo que não consigam puxar directamente as alavancas, podem certamente fazer com que nós puxemos as alavancas".

4. Não sabemos muito bem como a parar

"Gostava de ter uma solução simples e agradável que pudesse apresentar, mas não tenho", acrescentou Hinton. "Não tenho a certeza de que exista uma solução".

Os governos estão, no entanto, a prestar muita atenção ao crescimento da IA. A Casa Branca convocou os CEOs da Google, Microsoft e OpenAI, fabricante do ChatGPT, para se reunirem na quinta-feira com a vice-presidente Kamala Harris, no que está a ser descrito pelas autoridades como uma discussão franca sobre como mitigar os riscos a curto e longo prazo da sua tecnologia.

Os legisladores europeus também estão a acelerar as negociações para aprovar novas regras de IA, e o regulador da concorrência do Reino Unido planeia examinar o impacto da IA nos consumidores, nas empresas e na economia e se são necessários novos controlos em tecnologias como o ChatGPT.

O que não é claro é como alguém poderia impedir uma potência como a Rússia de utilizar a tecnologia de IA para dominar os seus vizinhos ou os seus próprios cidadãos.

Hinton sugere que um acordo global semelhante à Convenção sobre Armas Químicas de 1997 pode ser um bom primeiro passo para estabelecer regras internacionais contra uma IA armada.

Embora também valha a pena notar que o pacto sobre armas químicas não impediu o que os investigadores descobriram serem prováveis ataques sírios usando gás cloro e o agente nervoso sarin contra civis em 2017 e 2018 durante a sangrenta guerra civil do país.