Ferramenta de IA desenvolvida por doutorando da USP de São Carlos será apresentada este mês em evento nos Estados Unidos
O trabalho foi conduzido no âmbito de um projeto financiado pela FAPESP, com orientação da professora Agma Juci Machado Traina, do ICMC-USP.
Aguiar continua a expandir suas pesquisas e apresentará os resultados mais recentes no SPIE Medical Imaging. Ou seja, evento promovido pela Sociedade Internacional de Óptica e Fotônica entre 16 e 20 de fevereiro na Califórnia, Estados Unidos.
Em junho de 2024, o doutorando recebeu o prêmio “Best Student Paper” no 37º Simpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS) em Guadalajara, no México. Portanto, a solução consta no artigo “RADAR-MIX: How to Uncover Adversarial Attacks in Medical Image Analysis through Explainability”.
De acordo com o doutorando, ataques hackers inserem pequenas alterações ou ruídos em imagens médicas, como as obtidas por raios X e equipamentos de ressonância magnética, para confundir os sistemas e levar a diagnósticos errados. O Radar-Mix tem origem exatamente para mitigar esse tipo de ameaça, fornecendo uma análise detalhada dos ataques.
O modelo usa ferramentas avançadas, como Grad-CAM e SHAP, que ajudam a mostrar de forma visual, as partes de uma imagem alteradas por um ataque. Esse detalhamento torna a proteção ainda mais eficiente, porque o Radar-Mix não só detecta se o sistema atacado. Mas também explica onde e como o ataque aconteceu oferecendo uma análise mais completa se comparada a outras soluções já existentes.
Reconhecimento internacional
Conforme Traina, o Radar-Mix tem potencial para implementação diretamente em sistemas médicos. Dessa forma, protege hospitais e centros de diagnóstico contra ataques cibernéticos que possam comprometer o tratamento dos pacientes. “O Radar-Mix desenvolvido de forma modular, facilita sua implementação e adaptação em diferentes contextos. A interposição estruturada como um filtro entre o acesso aos serviços e servidores, oferece uma camada adicional de segurança e controle”, disse a professora do ICMC.
Essa proteção é fundamental, especialmente em um contexto em que o número de ataques cibernéticos a instituições de saúde tem crescido. “Nos Estados Unidos, por exemplo, um ataque pode afetar a reputação de um hospital e levar a grandes prejuízos financeiros e operacionais. O Radar-Mix ajuda a manter a confiança nesses sistemas de IA, o que é crucial tanto para os médicos quanto para os pacientes”, acrescentou o doutorando.
O Radar-Mix está disponível para uso, com o código-fonte aberto para reprodução em outras pesquisas ou para receber melhorias. Interessados podem acessar e contribuir pelo GitHub.
O reconhecimento no CBMS 2024 e a participação no SPIE Medical Imaging, reforçam a importância dessa experiência internacional segundo Traina. “O Erikson está trabalhando com grandes nomes na área de segurança em IA e essa vivência no exterior vai contribuir muito para a carreira dele”.
