A Inteligência Artificial (IA) já faz parte da nossa vida quotidiana, mas estamos apenas a começar. Para compreender todo o seu potencial, Loubna Bouarfa, cientista, pioneira da tecnologia e diretora-executiva, está a levar mais além os limites do nosso conhecimento, num percurso que tem por certo que a IA é um ponto de viragem, quando aplicada a questões de saúde, podendo não só poupar tempo e dinheiro, como também salvar vidas.
As restrições às viagens por causa da covid-19 impediram que esta entrevista fosse feita presencialmente, mas a tecnologia e a criatividade vieram em nosso auxílio.
Isabelle Kumar, Euronews: Em termos muito simples, o que é inteligência artificial?
Loubna Bouarfa: A inteligência artificial são sistemas que podem aprender com as observações
e armazenar essas observações na memória, aproveitando-a para nos ajudar a criar uma maior consciencialização nos ambientes. Mimetiza a forma como aprendemos enquanto seres humanos, observando, adaptando e aprendendo com o ambiente que nos rodeia.
Loubna Bouarfa numa entrevista à distância com Isabelle Kumar DISRUPTED/EURONEWS
I.K.: A inteligência artificial aprende com o nosso ambiente e por isso, em alguns aspetos, é bastante pessoal, apesar de muitas pessoas acreditarem que a inteligência artificial é o oposto. No seu caso, o que é que a liga à IA?
L.B.: Diversos aspetos ligam-me à IA. Mas a ligação mais pessoal, para mim, está a crescer no seio familiar. Um dos meus irmãos é severamente autista. Ao crescer com ele, aprendi desde tenra idade que as regras e as normas que a sociedade nos impõe são apenas perceções genéricas, não representam o espectro completo da vida e o meu fascínio pela IA vem daí.
Não há regras, ou normas. Aprendi que se pode ser muitas coisas e ser autista é uma delas. A existência de sistemas que podem impor regras, seja em engenharia, ou noutros campos, quase coloca pessoas e diferenças numa caixa. No entanto, ter esta tecnologia, que pode aprender e adaptar-se, ajuda-nos, enquanto seres humanos, a ser mais abertos ea aprender com o ambiente e a abraçar muito mais a incerteza.
Para mim, essa é uma forma de vida muito honesta e uma boa filosofia.
I.K.: É algo que partilhamos, porque, como sabe, o meu filho também tem autismo. Mas como é que entrou nessa viagem? Como é que se decidiu dedicar à inteligência artificial?
L.B.: Começou há 20 anos, quando comecei a minha licenciatura em engenharia. Eu adorava ciência e matemática. Mas o que eu não gostava, na altura, na engenharia, era do seu lado fixo, baseado em regras. Era tudo programação baseada em regras, tínhamos de definir as regras de qualquer projeto que estivéssemos a fazer, até me deparar com a IA e a aprendizagem mecânica, onde não estamos a impor novas regras, mas vamos aprender com padrões e treinar máquinas para aprender e adaptarem-se.
Depois embarquei num projeto de doutoramento há 13 anos para construir um cockpit para os blocos operatórios. Ou seja, um sistema de IA que possa observar o cirurgião, aprender com diferentes sinais no bloco operatório, inferir o que ele está a fazer e se há algum desvio do protocolo.
Estes algoritmos não param. Continuam a processar dados e a sugerir o que se pode fazer. Por isso, é quase desnecessário esperar que as pessoas adoeçam. Os nossos sistemas de saúde com Inteligência Artifical poderiam tornar-se mais proativos
Loubna Bouarfa Especialista em inteligência artificial
I.K.: É fascinante o que está a dizer. Mas o que é que isso significa na prática? Porque parece bastante teórico. Se estiver doente e for ao médico, como é que a IA pode mudar a minha experiência?
L.B.: De diferentes maneiras. Imagine que, num cenário ideal, os dados desde o nascimento estão a ser recolhidos, bem como os dados de muitos outros pacientes. A IA pode comparar semelhanças, observando muitos pacientes, semelhantes a si, ou a outras pessoas.
Pense nisto como um semáforo. Se pudermos, em tempo real, ser capazes de medir os diferentes riscos para todos os doentes, quando houver um sinal vermelho, o sistema de IA pode desencadear uma resposta e enviar-lhe uma carta para fazer mais testes.
Desta forma, aproveitamos os seus dados e de pacientes semelhantes a si para lhe poder dizer qual é o melhor procedimento. E mais, para lhe dizer quais são os melhores tratamentos que funcionarão para si, como uma pessoa única, aprendendo com todos os pacientes semelhantes a si.
Estes algoritmos não param. Continuam a processar dados e a sugerir o que se pode fazer. Por isso, é quase desnecessário esperar que as pessoas adoeçam. Os nossos sistemas de saúde com Inteligência Artificial poderiam tornar-se mais proativos e aproveitar estes dados para aconselhar os pacientes e mantê-los saudáveis.
I.K.: Um médico que usasse a IA seria capaz, ao olhar para esses dados, de prever os potenciais resultados e tratá-los, antes de se desenvolverem. Era isso que ia acontecer?
L.B.: Sim, o papel do médico iria consistir em receber todas as informações e não apenas basear a sua decisão nos 15 minutos que tem para vê-la, quando vai a uma consulta. Teria todos os dados a seu respeito, a sua história familiar e de pacientes semelhantes. Seria uma vantagem para calcular os riscos de diferentes doenças.
Não vamos fazer máquinas para substituir os médicos, vamos fazer máquinas para lhes dar poder. Penso que essa é também a revolução que está a acontecer nos cuidados de saúde, o papel do médico vai mudar, [passando] do trabalho num todo para o foco na parte importante no paciente.
É preciso um ser humano para transferir [os] valores morais
Loubna Bouarfa Especialista em inteligência artificial
I.K.: Houve alguma mudança de mentalidade na comunidade médica para aceitar isso? Ou existe um sentimento de desconfiança quando se trata de aliar a inteligência artificial ao seu trabalho?
L.B.: Estou muito otimista. Nos últimos 10 anos, vi muitas mudanças na adoção [da inteligência artificial]. Há barreiras, sem dúvida. Entre elas, resumidamente, a primeira é a falta de dados para podemos treinar esses algoritmos de IA.
Os dados que temos no espaço da saúde, especialmente na Europa, não são recolhidos para construir sistemas de IA, ou para trazer provas. São recolhidos para fins transacionais, como reclamações, ou pagamentos de medicamentos.
A segunda é a visão em túnel. Os doentes querem melhorar, os médicos querem tratar os doentes, quem paga quer reembolsar os medicamentos que são rentáveis e os reguladores querem fazer as regras que assegurem a sua consistência.
Mas depois todos se esquecem que o objetivo é um só. O objetivo é tratar estes pacientes o mais rapidamente possível.
É uma injustiça, quando, como paciente, existe um medicamento e não tem acesso a ele,
porque pode não estar aprovado no seu país, ou porque o seu médico talvez não saiba que esse medicamento será o melhor para si. E acaba por se perder nesta confusão.
Loubna Bouarfa é entrevistada por Isabelle Kumar DISRUPTED/EURONEWS
I.K: Vou pedir-lhe que avance no tempo, digamos, 30, 40 anos. Descreva brevemente e em termos muito simples como a experiência de um paciente quando vai ao médico. Será que ainda vamos ver um médico cara a cara? Ou isso terá mudado completamente?
L.B.: Imaginemos que estamos em 2050 e nasce alguém. Assim que este bebé nascer, serão realizadas análises de rotina. Faz-se um rastreio genético e imagine que há uma mutação em genes importantes. Assim que isso é detetado, os alarmes disparam. Os pais são informados sobre o processo a seguir e os cuidados que terão de providenciar ao seu filho. Imagine que esta criança cresce bem e o algoritmo de IA, que tem estado a monitorizar os seus estados, [assinala] tudo verde, verde, verde, não havendo um risco para muitas doenças.
Mas, a certa altura, aparece um laranja, ou uma luz, ou uma luz vermelha a indicar que há um risco de cancro do pulmão. A pessoa vai receber uma carta a dizer que precisa de ir fazer um rastreamento LDCT. E assim que o exame LDCT for realizado, outros algoritmos de IA irão analisar se é positivo, ou negativo.
Se o teste der positivo, então entra em cena o humano, o médico, porque não vamos querer um algoritmo a dizer aos doentes que têm cancro. É preciso um ser humano para transferir esses valores morais.
Enquanto os médicos realizam este trabalho, os algoritmos de IA vão paralelamente estar a calcular qual é o melhor tratamento para estes pacientes. Após os tratamentos, ainda vamos ter algoritmos em execução para prever alguma recaída e automatizar todo o processo.
I.K.: Mas isso não levanta toda uma série de questões éticas, especialmente quando se está a falar sobre dados e a saúde das pessoas, da previsão de doenças? O que é que tem de ser posto em prática para garantir que não haja abusos?
L.B.: Há diferentes formas de nos certificarmos de que os dados não são usados de forma abusiva.
Uma maneira é não utilizar dados pessoais na formação de algoritmos de IA. Para excluir todos os dados pessoais, os sistemas de IA são, na sua maioria, treinados com um dado não identificável, anónimo.
Através do Grupo de Peritos de Alto Nível, onde estive como uma dos 52 peritos para aconselhar a Comissão Europeia sobre as Diretrizes Éticas para a IA, garantimos que a privacidade dos dados é salvaguardada, está em torno da robustez do sistema de IA, que tem de ser preciso, antes de o instalarmos num ambiente, especialmente na área da saúde.
Isso é fundamental para garantir a sua imparcialidade em relação a diferentes grupos de doentes, a diferentes géneros, ou áreas de doenças específicas, certificando-se de que a IA é explicável, especialmente nos cuidados de saúde. Isso é importante.
O preconceito faz parte das nossas vidas e a parcialidade acontece todos os dias, nos cuidados de saúde, quando se vai ao médico. (...) Portanto, isso não é algo que possamos excluir completamente.
Loubna Bouarfa Especialista em inteligência artificial
I.K.: Relativamente à inteligência artificial na Europa, quão desenvolvido está esse espaço de dados e em que medida está a dificultar a inovação?
L.B.: É verdade que os dados na Europa representam uma das grandes limitações. Faltam-nos dados.
O Espaço Europeu de Dados de Saúde é uma iniciativa em que um alguns Estados-membros estão a trabalhar para mapear estes dados em conjunto.
Mas estamos numa fase muito precoce e, em comparação a outros países onde os dados estão mais disponíveis, como nos EUA, podemos ver que muitas decisões, a tomada de decisão está a acontecer, mas porque estamos a utilizar dados dos EUA.
Não dispomos de muitos dados europeus, adaptados à nossa população de doentes, que nos possam ajudar a individualizar a medicina aqui na Europa. E penso que esse é o próximo passo importante que precisa de acontecer, antes de podermos dimensionar o uso de IA nos sistemas de saúde na Europa.
I.K.: Ouvimos falar frequentemente de preconceitos, quando se trata de algoritmos, de enviesamento de dados. Como é que isso afeta a inteligência artificial, no campo da saúde?
L.B.: O preconceito faz parte das nossas vidas e a parcialidade acontece todos os dias, nos cuidados de saúde, quando se vai ao médico, ele é um ser humano, por mais que tente ser o mais objetivo possível, ele também julga o doente que está à sua frente.
Portanto, isso não é algo que possamos excluir completamente. Como os sistemas de IA não são baseados em regras, eles aprendem a partir das observações. Se forem treinados com dados históricos, eles vão receber o enviesamento do passado.
Mas a vantagem é que agora podemos ver esse preconceito. Com a IA podemos agora detetar este preconceito e adaptar os sistemas para excluí-lo.
I.K.: Disse que a IA pode retificar problemas de diversidade, em termos de algoritmos. Olhando para a sua empresa, a Okra, parece ser muito importante para si ter uma equipa muito diversificada de colegas a trabalhar consigo. Porque é que isso é importante?
L.B.: Ao ter uma equipa diversificada a construir um sistema de IA, já se reduz o enviesamento na conceção. Portanto, a forma como vemos o que é preciso ser articulado ao utilizador, como os dados precisam de ser processados, mas a partir de ângulos diferentes, não ter apenas engenheiros, mas também desenhadores e especialistas em ética, a desenvolver esse enquadramento, leva o sistema a ser menos tendencioso.
Outro elemento importante é conceber um sistema inclusivo para todos. A experiência do utilizador ser agradável, tanto para homens como para mulheres, para as pessoas com mais conhecimentos técnicos e as pessoas com menos.
Ter uma equipa diversificada torna o sistema de IA mais inclusivo para todos.
I.K.: O seu percurso na IA começou com uma história muito pessoal, a do seu irmão. O que diria a um jovem que quisesse trabalhar em inteligência artificial?
L.B.: Penso uma pessoa que queira embarcar na IA não se deve focar num aspeto da IA, como a programação, ou a engenharia. A IA é um espectro de coisas. Há muitos aspetos da IA além da parte da programação. Há o design, a criatividade. Há também a ética na conceção desses sistemas, a interface do utilizador. Por isso, é um domínio multicultural.
Por onde quer que comece, se seguir a sua paixão, pode ter um percurso profissional na área da IA, porque precisamos de todo o génio e dos peritos para acrescentar valor e tornar a IA mais inclusiva e mais bela.
