O curso online “GenIA: Encontro Clínico” explora a integração da Inteligência Artificial Generativa (IA Generativa) no cenário clínico. O seu segundo módulo, intitulado “Sintetizar conceitos chave“, apresenta alguns conceitos que ajudam na compreensão dos fundamentos da IA Generativa (nossa GenIA) e a sua aplicação no contexto específico de cuidados de saúde, com uma atenção especial às necessidades de populações socialmente vulneráveis. Este módulo visa equipar os(as) participantes com a capacidade de discernir o potencial e os desafios desta tecnologia emergente na promoção da equidade e na mitigação de disparidades em saúde.
Entendendo a IA Generativa no Contexto Clínico para Populações Vulneráveis
Um dos objetivos centrais deste módulo é garantir que os participantes entendam os conceitos fundamentais da IA generativa e como estes podem ser aplicados em ambientes clínicos. A ênfase recai sobre a consideração das necessidades específicas de populações socialmente vulneráveis, reconhecendo que estas podem enfrentar barreiras adicionais no acesso e na qualidade dos cuidados de saúde. A IA Generativa oferece ferramentas que podem potencialmente melhorar a comunicação entre pacientes e profissionais de saúde, auxiliar na criação de materiais educativos personalizados, e até mesmo simular cenários clínicos para aprimorar o aprendizado da equipe interprofissional de saúde.
A atividade de aprendizagem proposta é a seguinte:
Leia atentamente o post Principais Conceitos da IA Generativa sobre conceitos-Chave de IA Generativa. Com base na leitura, responda ao estudo dirigido GenIA no Encontro Clínico e reflita sobre as seguintes questões: Quais são os de IA generativa que você considera mais relevantes para a prática clínica? Quais são os vieses que a IA 🤖generativa pode apresentar no contexto da saúde, e como podemos mitigar seus impactos negativos, garantindo a equidade e a justiça? 👩🏿⚕De que forma os vieses podem ser ajustados para garantir respostas mais relevantes e seguras no contexto do cuidado a populações vulneráveis? Acesse o Fórum Permanente em Saúde das Populações Vulneráveis e compartilhe suas reflexões, respondendo às questões propostas. Leia e comente as contribuições de pelo menos dois(duas) colegas, promovendo um debate construtivo e enriquecedor.
Análise Crítica do Potencial e Desafios para Equidade em Saúde
O segundo objetivo de aprendizagem do módulo “Sintetizar conceitos chave” incentiva a uma análise crítica do potencial e dos desafios da IA generativa na promoção da equidade e na redução de disparidades em saúde.
Por exemplo, uma questão do estudo dirigido GenIA no Encontro Clínico- Conceitos-Chave:
Qual a sua responsabilidade enquanto profissional de saúde (ou futuro[a] profissional) ao utilizar ferramentas de IA Generativa no encontro clínico? a) Utilizar as ferramentas sem questionar seus resultados, confiando plenamente na IA. b) Delegar todas as decisões clínicas à IA, liberando tempo para outras tarefas. c) Avaliar criticamente as recomendações da IA, considerando o contexto do paciente e seus valores, e assumir a responsabilidade pelas decisões tomadas. d) Utilizar as ferramentas apenas para confirmar diagnósticos já realizados, sem considerar novas possibilidades.
Em síntese, embora a IA Generativa possa oferecer soluções inovadoras, é crucial reconhecer e mitigar os riscos de vieses algorítmicos (que refletem os vieses de quem programa!!!), garantir a privacidade e segurança dos dados, e evitar a exacerbação de desigualdades existentes. A habilidade em engenharia de prompts eficaz é apresentada como uma ferramenta essencial para orientar os sistemas de IA a gerar resultados precisos, relevantes e culturalmente sensíveis. Em última análise, este módulo busca fomentar uma utilização ética e responsável da IA Generativa no ponto do cuidado para construir um sistema de saúde mais justo e equitativo.
Referências
Cruz, ICF da A Estratégia de Saúde Digital 2020-2028 e o papel da(o) enfermeira(o). NEPAE/UFF. Niterói, 28/12/2020. Disponível em https://nepae.uff.br/?p=1570
Zou, James et al. Ensuring that biomedical AI benefits diverse populations. eBioMedicine, Volume 67, 103358. Available at https://www.thelancet.com/journals/ebiom/article/PIIS2352-3964(21)00151-1/fulltext
Marko, J.G.O., Neagu, C.D. & Anand, P.B. Examining inclusivity: the use of AI and diverse populations in health and social care: a systematic review. BMC Med Inform Decis Mak 25, 57 (2025). https://doi.org/10.1186/s12911-025-02884-1
Cruz, Isabel CF da. A Política Nacional de Saúde Integral da População Negra –PNSIPN na Atenção Primária à Saúde (Digital): promovendo a equidade no ponto do cuidado. Boletim NEPAE-NESEN, [S.l.], v. 18, n. 1, maio 2021. ISSN 1676-4893. Disponível em: <http://www.jsncare.uff.br/index.php/bnn/article/view/3427/905>
Como citar:
Cruz, ICF da GenIA: Encontro Clínico: Síntese de Conceitos Chave. NEPAE/UFF. Niterói, 13/04/2025. Disponível em https://nepae.uff.br/?p=4451