L’impact d’une application d’IA dans le secteur de la santé

Du diagnostic basé sur l’IA aux systèmes de chirurgie robotique, les logiciels d’intelligence artificielle, en particulier lorsqu’il s’agit de Machine Learning, sont de plus en plus utilisés dans le secteur de la santé pour faciliter les différentes étapes de la recherche et du développement, ainsi que pour le traitement des patients. Leurs utilisations incluent le développement des nouveaux médicaments (par exemple, un logiciel qui examine des données biologiques pour identifier des médicaments potentiels), le diagnostic (ex. une application qui analyse des données en temps réel pour prévoir des problèmes de santé), la gestion des maladies (ex. systèmes de coaching sur mobile pour les soins pré et postopératoires) et l’analyse post-marché (systèmes de collecte de données sur les événements indésirables).

En Europe, l’application de l’intelligence artificielle dans la santé devrait représenter la deuxième plus grande part sur le marché mondial en termes de chiffre d’affaires. Pour la période de 2018 à 2026, le marché européen devrait avoir un taux de croissance annuel de 39,27%[i].

Avec la croissance rapide et l’utilisation réussie des applications d’IA aux services de santé se posent alors les questions suivantes : Comment l’IA pourrait-t-elle être utilisée pour améliorer les tâches relatives à la santé ? Quelles seront les limites et les impacts de cette utilisation ?

1. Applications de l’IA en santé

 1.1. La gestion des soins

 L’IA peut potentiellement être utilisée pour la planification et l’allocation des ressources dans les services de santé et les services sociaux. Par exemple, le système IBM Watson Care Manager est mis à l’essai par le conseil municipal de Londres, Harrow London Council, dans le but d’améliorer la rentabilité. Il met les individus en relation avec un prestataire de soins qui répond à leurs besoins, dans les limites du budget alloué aux soins. Il conçoit également des plans de soins individuels et offre des perspectives pour une utilisation plus efficace des ressources de gestion des soins[ii].

L’IA est également utilisée dans le but d’améliorer l’expérience du patient. L’hôpital pour enfants Alder Hey à Liverpool collabore avec IBM Watson pour créer un «hôpital cognitif», il s’agit d’une application qui facilite les interactions avec les patients. L’application vise à identifier les angoisses du patient avant une visite et à fournir aux cliniciens des informations qui les aideront à choisir les traitements appropriés[iii].

 1.2. La recherche médicale

L’intelligence artificielle peut analyser et identifier les différents modèles plus rapidement et avec plus de précision, notamment si il s’agit d’énormes bases de données. Elle peut également aider les chercheurs dans leur recherche des études pertinentes et des littératures scientifiques concernant le développement des médicaments et combiner les différents types de données[iv]. La base de données de l’Institute de recherches de Cancer « canSAR », combine les données génétiques et cliniques des patients avec des informations issues de la recherche scientifique, et utilise l’IA pour identifier de nouveaux médicaments anticancéreux[v]. Les chercheurs ont mis au point Eve, un “robot scientifique” spécialisé dans l’IA, conçu pour rendre le processus de découverte de médicaments plus rapide et plus économique. Les systèmes d’IA pourront aussi aider à concorder les patients appropriés aux études cliniques.

 1.3. Les soins cliniques

 L’IA peut faciliter le diagnostic de la maladie et son utilisation pour analyser des données cliniques, des publications de recherche et des recommandations professionnelles, pourrait également contribuer à éclairer les décisions relatives au traitement. L’application de l’IA dans les soins clinques comprend principalement :

  • L’imagerie médicale : les Imageries médicales (radiologie et échographie) sont systématiquement collectées et conservées afin d’être fournies aux systèmes d’IA. L’IA pourrait réduire les coûts et le temps nécessaires à l’analyse des radiologies, permettant ainsi de faire plus d’imageries pour mieux cibler le traitement. L’IA a obtenu des résultats efficaces dans la détection de certaines maladies telles que la pneumonie, les cancers du sein et de la peau et les maladies oculaires[vi].
  • L’échocardiographie : Le système Ultromics, expérimenté à l’hôpital John Radcliffe d’Oxford, utilise l’IA pour analyser les échographies de cardiologie qui détectent les schémas de battement de cœur et diagnostiquent les maladies cardiaques[vii].
  • Le dépistage des troubles neurologiques : Des outils d’IA se développent pour analyser les discours afin de prévoir les épisodes psychotiques et d’identifier et de surveiller les symptômes de maladies neurologiques telles que la maladie de Parkinson[viii].
  • La chirurgie : Des robots contrôlés par l’IA sont utilisés aujourd’hui pour effectuer des tâches spécifiques des opérations chirurgicales, telles que nouer des nœuds pour fermer les plaies.

 1.4. Applications pour les patients et les consommateurs

Plusieurs applications qui utilisent l’IA pour proposer des évaluations personnalisées et des conseils de santé sont déjà commercialisées. De plus, des outils d’information ou des chat-bots sont utilisés pour la gestion des maladies chroniques. En outre, des applications d’IA qui surveillent et soutiennent l’adhésion des patients aux traitements prescrits ont été testées avec succès chez les patients atteints de tuberculose. D’autres outils utilisent l’IA pour analyser les informations recueillies par les capteurs portés par les patients à la maison. L’objectif est de détecter les signes de détérioration afin de permettre une intervention précoce et de prévenir l’hospitalisation[ix].

 1.5. La santé publique

 L’IA pourrait être utilisée pour aider à la détection précoce d’épidémies de maladies infectieuses et de sources d’épidémies, telles que la contamination de l’eau. Les outils de l’IA peuvent également anticiper des réactions indésirables aux médicaments.

2. L’impact de l’IA sur l’emploi dans le secteur de la santé

Concernant l’emploi dans le secteur de la santé, l’impact de l’IA variera entre la destruction et la création d’emploi selon le pays. Une analyse récente réalisée par le centre de recherche britannique PWC (PricewaterhouseCoopers) montre que l’intelligence artificielle (IA) et les technologies associées devraient créer autant d’emplois qu’elles en remplaceront au Royaume-Uni au cours des 20 prochaines années. Environ sept millions d’emplois existants au Royaume-Uni pourraient être remplacés, mais environ 7,2 millions d’emplois pourraient être créés. L’analyse montre également que le secteur qui bénéficiera le plus de l’IA est celui de la santé et des services sociaux, où l’emploi pourrait augmenter de près d’un million; soit une croissance de 20% dans le secteur[x].

De même, dans son rapport sur l’intelligence artificielle, Cédric Villani, mathématicien et député LREM de la 5e circonscription de l’Essonne, a considéré la santé comme un secteur stratégique de développement. Il propose d’intégrer la formation aux technologies liées à l’IA dans les études de médecine[xi]. Le rapport de France stratégie a d’ailleurs indiqué que le secteur de santé sera l’un des secteurs dans lesquels l’IA pourrait entraîner des transformations majeures[xii].

Au lieu de détruire des emplois, l’IA devrait générer de nouvelles tâches dans de nombreuses organisations qui ont adopté la technologie, selon une enquête réalisée en 2017 par la société française Capgemini. Les résultats de cette enquête  montrent que quatre entreprises sur cinq (83%) ont créé des emplois grâce à l’adoption de l’intelligence artificielle, avec deux tiers des postes créés au niveau cadre ou cadre supérieur. Par ailleurs, parmi les sociétés qui utilisent déjà les technologies d’IA à grande échelle, plus de trois sur cinq (63%) n’ont pas supprimé de postes du fait de l’adoption de l’IA[xiii].

Cependant, un article paru en 2013 par des chercheurs de l’Université d’Oxford a prédit que l’intelligence artificielle pourrait détruire 47% des emplois du marché américain d’ici à 20 ans[xiv]. Un rapport mené par le cabinet Mckinsey, montre également que 38% des emplois mondiaux dans le domaine de la santé et des services sociaux (représentant 35.1 millions d’employées) pourront être automatisés d’ici fin 2055.

Source : Mckinsey Global Institute analysis https://public.tableau.com/profile/mckinsey.analytics#!/vizhome/InternationalAutomation/WhereMachinesCanReplaceHumans

3. Les limites de l’IA

Étant donné que l’IA dépend de données numériques, l’incohérence dans la disponibilité et la qualité des données limitent le potentiel de l’IA. Cela implique la nécessité d’une puissance de calcul importante pour l’analyse d’ensembles de données volumineux et complexes. D’autre part, des questions de confiance se posent aussi telles que la mesure dans laquelle les patients et les médecins sont à l’aise avec le partage numérique de leurs données personnelles de santé. L’être humain a des attributs que les systèmes d’IA ne peuvent pas posséder authentiquement, tels que la compassion. La pratique clinique implique souvent des jugements complexes que l’IA n’est actuellement pas en mesure de reproduire, tels que la connaissance contextuelle et la capacité d’interpréter des signaux sociaux[xv]. Il existe également un débat sur la question de savoir-faire, en effet certaines connaissances humaines sont tacites et ne peuvent pas être enseignées aux machines.

L’impact éthique et social 

L’application de l’IA aux services de la santé soulève certaines questions éthiques et sociales telles que : l’utilisation des données, l’automatisation au sens large, le large recours aux technologies, et problèmes liés à l’utilisation des technologies d’assistance et la « télésanté ».

 4.1. La fiabilité et la sécurité

La fiabilité et la sécurité sont des questions clés dans lesquelles l’IA est utilisée pour contrôler des équipements, fournir un traitement ou prendre des décisions en matière de soins. Les systèmes d’IA peuvent commettre des erreurs et, si une erreur est difficile à détecter ou a des répercussions, cela pourrait avoir des conséquences indésirables. Par exemple, dans un essai clinique en 2015, un logiciel d’IA a été utilisé pour prédire quels patients étaient susceptibles d’avoir des complications suite à la pneumonie, et devaient donc être hospitalisées. En raison de son incapacité à prendre en compte des informations contextuelles, le logiciel a demandé par erreur aux médecins de renvoyer chez eux des patients souffrants de l’asthme[xvi]. En outre, la performance des applications de vérification des symptômes a été mise en doute. Par exemple, il a été constaté que les recommandations d’applications pouvaient être sur-prudentes, augmentant potentiellement la demande des tests ou des traitements inutiles[xvii].

 4.2. La transparence et la responsabilité

Il est peut-être difficile voire impossible de déterminer la logique sous-jacente qui génère les résultats produits par l’IA. En effet, certains systèmes IA sont trop complexes pour être comprises par un humain, les technologies d’apprentissage automatique ou (machine Learning) peuvent être particulièrement vagues, en raison de la manière dont elles modifient en permanence leurs propres paramètres et règles tout au long de leur apprentissage[xviii]. Cela génère des problèmes concernant la validation des résultats des systèmes d’intelligence artificielle et l’identification des erreurs ou des biais dans les données. D’autres questions se posent, notamment qui est responsable des décisions prises par l’IA et comment une personne lésée par l’utilisation d’IA peut obtenir réparation.

 4.3. Les biais des données et l’équité

Bien que les applications d’intelligence artificielle puissent potentiellement réduire les biais et les erreurs humaines, les biais peuvent se refléter et se renforcer dans les données fournies aux machines. Des préoccupations ont été soulevées concernant la possibilité de l’IA d’entrainer une discrimination en fonction de sexe, de l’origine ethnique, du handicap et de l’âge[xix].

Les avantages de l’IA en matière des soins pourraient également être répartis de manière inégale. En effet, l’intelligence artificielle pourrait fonctionner moins efficacement lorsque les données sont rares ou plus difficiles à collecter ou à restituer sous une forme numérique. Cela pourrait affecter les personnes atteintes de maladies rares ou d’autres personnes sous-représentées dans les expérimentes cliniques ou dans les données de recherche[xx].

 4.4. La confiance

La collaboration entre les entreprises  spécialisées dans l’intelligence artificielle et les hôpitaux a conduit à de nombreuses préoccupations concernant la possibilité des sociétés commerciales d’avoir accès aux données des patients. Sur le plan pratique, les patients et les professionnels de la santé devront pouvoir faire confiance aux systèmes d’IA pour que ces derniers soient mis en œuvre avec succès dans le système de santé.

 4.5. Des effets sur les patients

Les applications d’’IA en  santé vont permettre aux gens d’évaluer leurs propres symptômes et de prendre soin d’eux-mêmes. Les systèmes d’IA qui visent à aider les personnes souffrant de problèmes de santé chroniques ou de handicaps pourraient accroître leur sens de la dignité, leur indépendance et leur qualité de vie. Cependant, des inquiétudes ont été exprimées concernant la perte de contact humain et l’isolement social accru si les technologies d’IA remplaçaient le temps consacré par le staff ou la famille aux patients[xxi]. En outre, les systèmes d’IA peuvent avoir un impact négatif sur l’autonomie individuelle: par exemple, s’ils restreignent les choix basés sur des calculs de risque ou sur ce qui est dans le meilleur intérêt de l’utilisateur.

 4.6. Des effets sur les professionnels de la santé

Les professionnels de la santé peuvent sentir que leur autonomie, leur autorité ainsi que leur savoir-faire sont menacés par les systèmes d’IA. Etant donné que l’IA santé est guidée par des priorités ou des intérêts spécifiques, tels que la rentabilité et la santé publique, l’engagement éthique des professionnels de santé envers les patients pourrait être affecté par l’utilisation des systèmes d’IA en termes de prise de la décision[xxii]. Comme avec beaucoup de nouvelles technologies, l’introduction de l’IA implique probablement que les compétences et l’expertise requises des professionnels de la santé vont changer. Dans certains cas, l’IA pourrait permettre l’automatisation de tâches précédemment effectuées par des humains. Cela pourrait permettre aux professionnels de la santé de consacrer plus de temps à leurs patients. Toutefois, on craint que l’introduction des systèmes d’IA ne permette pas l’emploi des personnels moins qualifiés comme ces systèmes nécessitent des compétences hautement qualifiées.

 4.7. La confidentialité et la protection des données

Les applications de l’IA dans le secteur de la santé utilisent des données sensibles et privées, celles-ci sont soumises à des contrôles légaux. Toutefois, d’autres types de données ne concernant pas l’état sanitaire, telles que son activité sur les médias sociaux et l’historique de recherche sur Internet, pourraient être utilisées pour révéler des informations sur l’état sanitaire de l’utilisateur et de son entourage.

Bien que l’IA puisse être utilisée pour détecter des cyber-attaques et protéger les systèmes informatiques de santé, il est possible que les systèmes d’intelligence artificielle soient piratés ou spammés avec des données fausses de façon difficilement détectable[xxiii].

 4.8. L’usage abusif des systèmes IA de santé

Bien que l’intelligence artificielle puisse être utilisée pour le bien, elle pourrait également l’être à des fins malveillantes (ex. la surveillance secrète). De plus, les technologies d’IA qui analysent le comportement d’utilisateur (comme la manière dont une personne tape sur un clavier) et les schémas de mobilité détectés par les smartphones peuvent révéler des informations sur la santé d’une personne à son insu[xxiv].

En somme, les technologies d’IA sont utilisées ou testées à diverses fins dans le domaine de la santé et de la recherche médicale, notamment dans la détection des maladies, la gestion des maladies chroniques, la prestation de services de santé et le développement des nouveaux médicaments. L’impact de cette utilisation varie entre la destruction et la création d’emploi selon la zone géographique. L’IA peut potentiellement aider à résoudre d’importants troubles de santé, mais cela pourrait être limité par la qualité des données sanitaires disponibles et par l’incapacité de l’IA à posséder certaines caractéristiques humaines, telles que la compassion. L’utilisation de l’intelligence artificielle dans le domaine de santé soulève un certain nombre de problèmes éthiques et sociaux pour les professionnels et pour les patients, tels que l’utilisation des données et des technologies de la santé au sens large, le biais des données et l’équité, la confidentialité et la protection des données, le problème de la confiance et la transparence et la responsabilité. Un défi majeur pour la gouvernance future des technologies de l’IA consistera alors à assurer que l’IA soit développée et utilisée de manière transparente et compatible avec l’intérêt public, tout en stimulant l’innovation dans le secteur.

Par Nivine Albouz, promotion 2018-2019 du M2 IESCI

[i] https://www.inkwoodresearch.com/reports/europe-artificial-intelligence-in-healthcare-market/

[ii] Harrow Council (2016) IBM and harrow council to bring watson care manager to individuals in the UK http://www.harrow.gov.uk/news/article/397/ibm_and_harrow_council_to_bring_watson_care_manager_to_individuals_in_the_uk

[iii] Alder Hey Children’s NHS Foundation Trust (2017) Welcome to Alder Hey – the UK’s first cognitive hospital.

http://www.alderhey.nhs.uk/welcome-to-alder-hey-the-uks-first-cognitive-hospital/

[iv] O’Mara-Eves A, et al. (2015) Using text mining for study identification in systematic reviews https://systematicreviewsjournal.biomedcentral.com/articles/10.1186/2046-4053-4-5

[v] The Conversation (2013) Artificial intelligence uses biggest disease database to fight cancer

https://theconversation.com/artificial-intelligence-uses-biggest-disease-database-to-fight-cancer-20050

[vi] Wang D, et al. (2016) Deep learning for identifying metastatic breast cancer. https://canvas.stanford.edu/files/1266958/download?download_frd=1

[vii] http://www.ultromics.com/technology/.

[viii] IBM Research (5 January 2017) IBM 5 in 5: with AI, our words will be a window into our mental health.

https://www.ibm.com/blogs/research/2017/1/ibm-5-in-5-our-words-will-be-the-windows-to-our-mental-health/

[ix] Shafner L, et al. (2017). Evaluating the use of an artificial intelligence (AI) platform on mobile devices to measure and support tuberculosis medication adherence. https://aicure.com/wpcontent/uploads/2016/12/Shafner_et_al_Vancouver_Feb_2017.pdf

[x] https://www.networkerstechnology.com/ai-jobs-in-healthcare

[xi] https://fichiers.acteurspublics.com/redac/pdf/2018/2018-03-28_Rapport-Villani.pdf

[xii] https://www.latribune.fr/technos-medias/comment-l-intelligence-artificielle-va-transformer-le-monde-du-travail-773463.html

[xiii] https://www.capgemini.com/fr-fr/news/lintelligence-artificielle-cree-des-emplois-pour-les-organisations-qui-lont-deployee-et-stimule-les-ventes/

[xiv] https://medium.com/@candicelhomme/futur-du-travail-les-impacts-de-lintelligence-artificielle-4c558d435683

[xv] https://www.nesta.org.uk/report/confronting-dr-robot/

[xvi] Caruana R, et al. (2015) Intelligible models for healthcare. http://people.dbmi.columbia.edu/noemie/papers/15kdd.pdf

[xvii] https://www.nesta.org.uk/report/confronting-dr-robot/

[xviii] https://journals.sagepub.com/doi/pdf/10.1177/2053951715622512

[xix] Bird S, et al. (2016) https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2846909

[xx] https://qz.com/1023448/if-youre-not-a-white-male-artificial-intelligences-use-in-healthcare-could-be-dangerous/

[xxi]http://pure-oai.bham.ac.uk/ws/files/17913341/Sorell_Draper_Robot_carers_Ethics_Information_Technology_2014.pdf

[xxii] https://www.healthaffairs.org/doi/pdf/10.1377/hlthaff.2014.0048

[xxiii] https://arxiv.org/ftp/arxiv/papers/1802/1802.07228.pdf

[xxiv] Yuste R, et al. (2017) Four ethical priorities for neurotechnologies and AI Nature. http://www.columbia.edu/cu/biology/pdf-files/faculty/Yuste/yuste%20et%20al.nature2017.pdf

Admin M2 IESC