Há uma demanda do Comitê Técnico de Prospecção Tecnológica de Saúde Digital (CT-SD), da RNP, para a identificação dos potenciais problemas ou desafios para o desenvolvimento e aplicação de TICs no cuidado de saúde, bem como na formação e educação permanente de profissionais, controle social e gestores(as) da saúde. Na busca de respostas, foram criados grupos de trabalho. Um destes grupos trata mais especificamente da Inteligência Artificial (IA) na área da saúde visando, igualmente, identificar as contribuições específicas da RNP para seu pleno desenvolvimento.
Como parte deste grupo, expresso minha preocupação com o potencial das TICs, particularmente da IA, no enfrentamento dos determinantes sociais da saúde, tais como o racismo e o sexismo, entre outras ideologias opressivas causadoras de iniquidades nos resultados da saúde das populações socialmente vulneráveis. Esta preocupação orienta minha busca na literatura científica de referenciais que sustentem o cuidado de saúde centrado na pessoa/população isento de vieses implícitos e discriminações estruturais.
Nesta busca, encontrei esta publicação da Organização Mundial da Saúde (OMS):
Ethics and governance of artificial intelligence for health: WHO guidance. Geneva: World Health Organization; 2021. Licence: CC BY-NC-SA 3.0 IGO. Disponível em https://www.who.int/publications/i/item/9789240029200
E é sobre esta publicação que fiz esta resenha, tendo em vista que a IA é uma tecnologia dependente de dados e os dados da pessoa interessam ou não, conforme o referencial teórico que determina a coleta. Além disso, uma vez coletados, os dados da pessoa serão analisados, na IA, por algoritmos com potencial de manter como naturais vieses discriminatórios já existentes no contexto social. Assim sendo, ficam comprometidas as possíveis soluções de aprendizado de máquina, impedindo generalizações. Uma IA contaminada por vieses não interessa ao gerenciamento de saúde da população por impactar justamente sobre as populações socialmente vulneráveis. Se a IA não se pautar por referenciais baseados nos direitos humanos mais fundamentais, sua implementação não será abrangente quanto ao monitoramento remoto de pacientes e robótica, por exemplo. Igualmente será restrito a poucas pessoas o potencial benefício da IA com a computação cognitiva, o diagnóstico e imagem médica, a genômica, entre outras aplicações.
Com esta publicação, a OMS busca levantar reflexões sobre o desenvolvimento e implementação desta tecnologia do que propriamente responder a alguma pergunta em especial. Assim, a OMS alerta a governos, profissionais e sociedade civil para a necessidade de abrir a discussão para regulamentação da IA na área da saúde, tendo como base a observância dos Direitos Humanos e da Ética.
Como foco central do documento, a OMS apresenta os seis princípios que devem orientar o uso da inteligência artificial no cuidado de saúde. O desenvolvimento e implementação da IA deve:
- proteger a autonomia da pessoa, garantindo privacidade (cibersegurança) e consentimento devidamente informado;
- promover a segurança e o bem-estar das pessoas (tanto pacientes quanto profissionais, afinal a a tecnologia deve facilitar o encontro clínico e não criar uma sobrecarga), assim como o interesse público;
- garantir a transparência, a explicabilidade e a inteligibilidade, desde a coleta do dado até o algoritmo ou código do aprendizado de máquina, bem como dos resultados e potenciais riscos;
- promover a responsabilidade e a responsabilização quanto a erros e danos;
- assegurar a equidade, bem como a inclusão, prevenindo ou controlando potenciais discriminações ou vieses implícitos; e
- garantir que seja responsiva e sustentável.
A OMS com este documento adverte que sem uma adequada regulamentação, o uso da IA pode levar a situações em que as decisões que devem ser tomadas por profissionais de saúde e pacientes podem vir a ser transferidas para máquinas, ferindo frontalmente a dignidade humana, um direito fundamental.
Da discussão sobre a ética na implementação da IA no cuidado de saúde, destaco nesta resenha um importante, a meu ver, desafio identificado, a saber: a decisão sobre o uso ou não uso da IA no tratamento, devido à necessidade de validação científica, ou ao custo ou à superestimação do benefício, entre outros motivos. O não enfrentamento deste desafio pode ampliar o “gap digital” entre países e/ou grupos populacionais.
E por falar em “gap digital”, igualmente é um desafio ético à implementação da IA este abismo criado não pelas TICs, mas pelas desigualdades sociais, no que se refere à distribuição desigual de acesso que pode tornar o uso ou efeito desta tecnologia maior ou menor entre países e grupos populacionais distintos.
Um outro desafio ético que merece destaque, no meu entender, é sobre a coleta e o uso dos dados em IA. Em poucas palavras, a OMS se refere a este desafio como “Big Data Biomédico” tamanha a expansão de dados nos últimos anos que podem ser classificados como dados de saúde provenientes, por sua vez, das mais diversas fontes e não só do sistema de saúde clássico ou tradicional. A OMS aponta algumas preocupações como, por exemplo, a qualidade dos dados de saúde a serem utilizados em pesquisa e treinamento de IA. Simultaneamente, é apresentada a preocupação com a anonimização destes dados de modo que fique garantida a privacidade das pessoas.
Ainda no que se refere aos dados, a OMS antecipa um desafio ético que é, na minha tradução, o “colonialismo dos dados”, ou seja, o uso abusivo ou não autorizado, ou desviado do propósito original, de dados coletados de grupos populacionais socialmente vulneráveis. Vale reiterar que dados insuficientes de grupos sociamente vulneráveis por si constituem um viés, mas isso não se corrige ao se incentivar ou pagar a esses grupos pelo fornecimento de dados ou instituindo medidas capciosas para sua a coleta.
Sobre a qualidade do encontro clínico ou do relacionamento da pessoa ou populações com o sistema de saúde, a OMS enfatiza que a IA deve ser um recurso para construir ou melhorar o relacionamento de pacientes com o(a) profissional de saúde, em especial, ou com o sistema de saúde, em geral, porque libera o(a) profissional ou trabalhador(a) de saúde de tarefas rotineiras por meio da automação. Por outro lado, esta mesma automação obtida com a IA pode impactar na empregabilidade na área da saúde e este desafio precisa também ser enfrentado pelas instituições.
Ao longo de todo o documento, a OMS alerta para o risco de preconceito e de discriminação sociais, tais como gênero, raça e orientação sexual, entre outros, serem reiterados nas bases de dados (falta de diversidade, por ex), nos algoritmos e códigos de IA (viés de quem desenvolve ou do banco de dados usado no treinamento, por ex). Para prevenção deste problema, é necessária a implementação das políticas públicas de equidade social na saúde. Muitas destas já existentes no Brasil como a Política Nacional de Saúde Integral da População Negra – PNSIPN, entre outras. Assim, os bancos de dados utilizados na pesquisa e treinamento, onde a inteligência artificial e as ferramentas de análise preditiva são usadas, devem ser representativos dos diferentes grupos populacionais (Povos Ciganos, População em Situação de Rua, População LGBT+, entre outras populações) para prevenir o agravamento de disparidades de saúde. Além disso, profissionais de saúde, gestores(as), desenvolvedores(as), bem como pacientes, precisam entender sua responsabilidade quanto às questões de validade e precisão dos dados para que a IA seja isenta de vieses.
Por fim, uma seção do documento que merece destaque, no meu entendimento, é a que recomenda para governos, profissionais de saúde, desenvolvedores(as) e controle social algumas formas de usar eticamente a IA na saúde. Por exemplo, a inclusão da ética da saúde no desenvolvimento das TICs (“design for values” como paradigma), bem como a inclusão de um currículo de IA na formação de profissionais de saúde nesta tecnologia, entre outras sugestões.
Salvo melhor juízo, o documento é uma importante referência para o Comitê Técnico de Prospecção Tecnológica de Saúde Digital (CT-SD), da RNP, porque inclui os(as) profissionais de tecnologia na equipe que cuida da saúde das pessoas e populações utilizando IA e, neste sentido, elenca relevantes recomendações sobre é tica em saúde para desenvolvedores(as) também. Assim, os recursos oferecidos pela RNP, necessários para a pesquisa e o ensino em IA, como cibersegurança, movimentação de dados, TestBeds, gestão de identidades, nuvem e teleconsulta, precisam ter em conta os 6 princípios estabelecidos pela OMS, assim como os códigos de ética que regem o exercício das profissões da área da saúde no Brasil e o código que rege a pesquisa com seres humanos. Na dúvida é só seguir o mais fundamental dos deveres: não fazer o mal.
Como citar:
Cruz, ICF da Sobre alguns potenciais desafios da Inteligência Artificial na Saúde. NEPAE/UFF. Niterói, 17/06/2022. Disponível em https://nepae.uff.br/?p=2414