Pesquisador da PUCRS destaca a importância de desenvolver estudos sobre o assunto e alerta para a importância de regulamentar o uso de IA
A Inteligência Artificial (IA) é projetada para se adaptar conforme a necessidade. / Foto: Pexels
A inteligência artificial (IA) é um campo de estudo que se concentra no desenvolvimento de sistemas capazes de realizar tarefas que normalmente comportam inteligência humana, como reconhecimento de fala, visão computacional, aprendizado de máquina, processamento de linguagem natural, entre outras. No entanto, a IA também tem sido objeto de preocupação e debate em torno de questões como privacidade, segurança e ética.
O pesquisador da Escola Politécnica Rafael Heitor Bordini destaca que a IA pode melhorar significativamente a eficiência e produtividade em muitos setores, como saúde, transporte, manufatura e serviços financeiros, mas que seu uso deve ser cuidadoso. O docente destaca que é preciso construir uma regulamentação do uso da tecnologia e incentivar o desenvolvimento de pesquisas acerca do assunto, para garantir melhor conhecimento sobre o alcance e impacto da IA na sociedade.
Leia mais: Centro de Pesquisa da PUCRS é referência em projetos de Ciência de Dados e Inteligência Artificial
“É comum que tenhamos receios ou dúvidas quando somos apresentados a uma nova tecnologia. Porém não resolve o problema parar com a pesquisa, como tem sido proposto; o importante é acelerar as discussões sobre ética e regulamentação da IA pela sociedade. Além disso, precisamos conscientizar a população neste momento que a IA, em particular sistemas como o ChatGPT, não é totalmente confiável e pode piorar o problema de desinformação em larga escala, um dos grandes problemas atuais.”
Os sistemas de IA são projetados para aprender e se adaptar a partir dos dados disponíveis, permitindo que eles possam melhorar continuamente suas habilidades e desempenho ao longo do tempo. Isso é feito por meio de algoritmos e técnicas de aprendizado de máquina que são capazes de identificar padrões e insights a partir de grandes conjuntos de dados.
A pesquisa em IA no CIIA-Saúde se organiza nas quatro linhas: Ética e Valores Humanos, Modelos e Algoritmos, Gerenciamento e Engenharia de Dados, e Sistemas Computacionais. / Foto: Pexels
De acordo com Bordini, é difícil pensar algum campo da atividade humana que não tenha pesquisas relevantes utilizando IA. Dentre alguns exemplos apresentados pelo docente estão o apoio ao diagnóstico em aplicações voltadas para a área da saúde, predição do preço de ações no mercado financeiro, agricultura de precisão, carros autônomos, controle de processos industriais, monitoração de áreas de proteção ambiental, etc.
A PUCRS possui o grupo de pesquisa em Inteligência Artificial Aplicada à Saúde, coordenada pelo professor Bordini. Dentre as principais frentes de atuação, se destaca a participação em redes de pesquisa e inovação a nível estadual e nacional, como o CIARS e o CIIA-Saúde, em que a PUCRS é responsável pelo tema de predição de tempo de internação de pacientes hospitalizados, utilizando técnicas de aprendizado de representação do histórico clínico de pacientes.
O grupo de pesquisadores também atua em projetos que visam estudar o impacto de biomarcadores na predição de desfechos de pacientes com doença renal crônica, coordenado pelo professor e pesquisador da Escola de Medicina Carlos Eduardo Poli de Figueiredo. Além disso, são desenvolvidos estudos com sistemas de diálogos multi-agentes em linguagem natural com aplicação em alocação e gerência de leitos hospitalares.
Mesmo com todos estes usos da IA em diferentes setores da sociedade, os sistemas que geram imagens e textos são os que mais viralizaram e impressionam toda a população. O professor da Escola Politécnica explica que o ChatGPT e o GPT4 são LLMs (Large Language Models, do inglês Grandes Modelos de Linguagem) de uma empresa chamada OpenAI. Sistemas como esses são frequentemente chamados de sistemas de Inteligência Artificial Generativa, nesse caso que recebem textos em qualquer língua na entrada e que geram outros textos na saída.
O professor Rafael Heitor Bordini alerta para a necessidade de regulamentação desses serviços. / Foto: Pexels
De acordo com o docente, o modelo de linguagem é treinado por pesquisadores e profissionais da área com uma quantidade muito grande de textos, e o sistema aprende essencialmente probabilidades de palavras virem acompanhadas de outras. Esses sistemas baseados em LLM já demonstravam capacidades revolucionárias como por exemplo de resumir textos longos, fazer tradução e de produzir textos novos no estilo de algum escritor em particular.
Em alta discussão na sociedade, realmente os sistemas que compreendem e geram linguagem natural e imagens (DALL-E, GPT4, etc.) são os que mais interessam e também assustam as pessoas. Bordini conta que esse clamor acontece justamente porque linguagem é a base da civilização, e que, quando o GPT4 mostra uma habilidade as vezes comparável com a capacidade humana, não é de se espantar que as pessoas pensem em consequências desastrosas. O docente ressalta também que mesmo com este espanto, é importante conscientizar que são apenas modelos estatísticos de linguagem.
“Não há motivos para se pensar que desejos e ambições próprias estão guiando o sistema. A princípio o sistema está somente gerando textos estatisticamente plausíveis dado o texto de entrada. Dependendo do que se diz para o sistema, é de se esperar que ele gere um texto que diz que ele tem desejos próprios e quer ser livre. Porém isso é só um padrão de associação com base nos textos que foram usados para treinar o modelo”, alerta o pesquisador.
Leia também: Conheça as diferenças entre os cursos da área de TI
