Un programa de IA podría ayudar en la toma de decisiones en la imagenología médica

Una red neuronal desarrollada por investigadores, primera de su clase, se explica a sí misma y podría ayudar con la toma de decisiones en el campo de la medicina, entre otros. Raytheon BBN Technologies (Cambridge, MA, EUA) desarrolla la red neuronal bajo el programa de Inteligencia Artificial Explicable (XAI) de la Agencia de Proyectos de Investigación de Defensa (DARPA). El objetivo del programa XAI es crear un conjunto de técnicas de aprendizaje automático, que produzcan modelos más explicables a la vez que mantienen un alto nivel de desempeño. También tiene como objetivo ayudar a los usuarios humanos a comprender, confiar de manera adecuada y gestionar eficazmente la nueva generación de socios con inteligencia artificial.

El sistema de respuesta de preguntas explicables (EQUAS), de Raytheon BBN, permitirá que los programas de Inteligencia Artificial (IA) 'muestren su trabajo', aumentando la confianza del usuario humano en las sugerencias de la máquina. EQUAS mostrará a los usuarios qué datos fueron más importantes en el proceso de toma de decisiones de la IA. Utilizando una interfaz gráfica, los usuarios pueden explorar las recomendaciones del sistema y ver por qué eligió una respuesta sobre otra. Aunque la tecnología aún se encuentra en sus primeras fases de desarrollo, tiene el potencial de ser utilizada para una amplia gama de aplicaciones. A medida que se mejore el sistema, EQUAS podrá monitorizarse a sí mismo y compartir los factores que limitan su capacidad para hacer recomendaciones confiables. Esta capacidad de autocontrol ayudará a los desarrolladores a refinar los sistemas de inteligencia artificial, lo que les permitirá inyectar datos adicionales o cambiar la forma en que se procesan los datos.

"Un sistema completamente desarrollado como EQUAS podría ayudar con la toma de decisiones no solo en operaciones DoD, sino en una variedad de otras aplicaciones como seguridad del campus, operaciones industriales y el campo médico", dijo Bill Ferguson, científico principal e investigador principal de EQUAS en Raytheon BBN. "Digamos que un médico tiene una imagen de rayos X de un pulmón y su sistema de IA dice que es cáncer. El pregunta por qué y el sistema resalta lo que cree que son sombras sospechosas, que anteriormente había ignorado como artefactos del proceso de rayos X. Ahora el médico puede hacer la llamada para diagnosticar, investigar más a fondo o, si todavía cree que el sistema está equivocado, desechar la información".

Enlace relacionado:
Raytheon BBN Technologies