Aplicação da inteligência artificial no contexto da segurança do cuidado de saúde: oportunidades e desafios

Existe a conscientização crescente de que a inteligência artificial (IA) pode ser usada na análise de grandes volumes de dados complexos (big data) para estabelecer resultados sem a contribuição humana em vários contextos do cuidado de saúde, como a bioinformática, a genômica e a análise de imagens. Embora esta tecnologia possa gerar oportunidades para os processos de diagnóstico e tratamento, ainda existem desafios e armadilhas relacionados a diversas preocupações de segurança. A fim de ilustrar tais oportunidades e desafios, este artigo analisa o uso da IA no cuidado de saúde, juntamente com suas implicações para a segurança. Para tornar a tecnologia mais segura através da IA, este estudo mostra que o desenho seguro, as reservas de segurança, os mecanismos à prova de falhas e as salvaguardas processuais são estratégias fundamentais, enquanto o custo, o risco e a incerteza devem ser identificados em todos os sistemas técnicos potenciais. Sugerimos também que é preciso identificar orientações e protocolos claros, compartilhando-os com todos os atores envolvidos para desenvolver e adotar aplicações de IA mais seguras no contexto do cuidado de saúde. 
 

There is a growing awareness that artificial intelligence (AI) has been used in the analysis of complicated and big data to provide outputs without human input in various health care contexts, such as bioinformatics, genomics, and image analysis. Although this technology can provide opportunities in diagnosis and treatment processes, there still may be challenges and pitfalls related to various safety concerns. To shed light on such opportunities and challenges, this article reviews AI in health care along with its implication for safety. To provide safer technology through AI, this study shows that safe design, safety reserves, safe fail, and procedural safeguards are key strategies, whereas cost, risk, and uncertainty should be identified for all potential technical systems. It is also suggested that clear guidance and protocols should be identified and shared with all stakeholders to develop and adopt safer AI applications in the health care context.