La technologie

Algorithmes de vie et de mort: comment comprendre l'intelligence artificielle qui guérira les gens?

En ce qui concerne l'utilisation de la machineformation, parlent le plus souvent du domaine médical. Et ce n’est pas surprenant: une énorme industrie générant une quantité phénoménale de données et de revenus, dans laquelle les avancées technologiques peuvent améliorer ou sauver la vie de millions de personnes. Il ne se passe pratiquement pas une semaine sans qu'une étude suggérant que les algorithmes soient bientôt plus efficaces pour permettre aux experts d'identifier la pneumonie ou la maladie d'Alzheimer - des maladies d'organes complexes allant de l'œil au coeur. Et tout ça va, mais ...

Problèmes des hôpitaux surpeuplés et encombrésLe personnel médical est empoisonné par les systèmes de santé publics et entraîne une augmentation des dépenses pour les systèmes de santé privés. Et là encore, les algorithmes offrent une solution tentante. Combien de fois avez-vous réellement besoin de consulter un médecin? Est-il possible de remplacer ces visites par un chatbot intelligent - qui sera équipé de tests de diagnostic portables utilisant les dernières avancées de la biotechnologie? Les visites inutiles pourraient être réduites et les patients pourraient être diagnostiqués et référés à des spécialistes plus rapidement, sans attendre la consultation initiale.

Comme c'est le cas avec les algorithmes artificielsintelligence, l’objectif n’est pas de remplacer les médecins, mais de leur donner les outils nécessaires pour réduire les tâches quotidiennes ou répétitives. Avec une IA capable d’examiner des milliers de numérisations à la minute, la «routine ennuyeuse» reste sur les machines et les médecins peuvent se concentrer sur les parties du travail qui nécessitent un jugement plus complexe, subtil et basé sur l’expérience des meilleures méthodes de traitement et des meilleurs besoins des patients.

Le contenu

  • 1 enjeux élevés
  • 2 Trop de ruisseaux à défaire.
  • 3 Evaluation des algorithmes
  • 4 atteindre l'équilibre

Enjeux élevés

Et pourtant, comme c'est le cas avec les algorithmes d'IA,leur utilisation comporte des risques, même pour des tâches considérées comme routinières. Les problèmes des algorithmes de boîte noire qui prennent des décisions inexplicables sont suffisamment sérieux lorsque vous essayez de comprendre pourquoi un chatbot-recruteur automatisé n'a pas été impressionné par votre histoire lors de l'entrevue. Dans le contexte des soins de santé, où les décisions peuvent signifier la vie ou la mort, les conséquences d'un échec algorithmique peuvent être fatales.

Les réseaux de neurones sont excellents pour la manipulationune grande quantité de données d'apprentissage et l'établissement de liens, l'absorption des lois sous-jacentes ou de la logique du système dans des couches cachées d'algèbre linéaire; qu'il s'agisse de détecter un cancer de la peau à partir de photographies ou d'apprendre à écrire dans un langage pseudo-shakespeare Cependant, ils expliquent terriblement la logique sous-jacente des relations qu'ils ont découvertes: il existe autre chose qu'une chaîne de chiffres, des «poids» statistiques entre les couches. Et ils ne peuvent pas distinguer une corrélation d'une relation de cause à effet.

Il y a des dilemmes intéressants pour le médicalles ouvriers. Le rêve des mégadonnées en médecine est de fournir au réseau de neurones «d'énormes quantités de données sur la santé», de trouver des relations complexes et implicites et de réaliser des évaluations individuelles pour les patients. Et si un tel algorithme se révélait excessivement efficace pour diagnostiquer un problème de santé ou prescrire un traitement, sans avoir une compréhension scientifique du fonctionnement de cette relation?

Trop de ruisseaux à défaire.

Modèles statistiques sous-jacentsde tels réseaux de neurones supposent souvent que les variables sont indépendantes les unes des autres, mais dans un système complexe et en interaction comme le corps humain, ce n'est pas toujours le cas.

En un sens, il s’agit d’un concept bien connusciences médicales - de nombreux phénomènes et relations ont été observés pendant des décennies, mais sont encore mal compris au niveau biologique. Le paracétamol est l’un des analgésiques les plus populaires, mais des discussions sont en cours sur son action. Les médecins peuvent rechercher l’utilisation de l’instrument le plus efficace, qu’il soit fondé sur une compréhension scientifique approfondie. Les fans de l'interprétation de Copenhague de la mécanique quantique peuvent paraphraser ceci: «Tais-toi et guéris!».

Bien sûr, il y a un débat dans ce domaine à propos deAvec cette approche, ne risquons-nous pas de perdre de vue une compréhension plus profonde qui se révélera finalement plus fructueuse - par exemple, dans la recherche de nouveaux médicaments.

Outre les querelles philosophiques, il existe des problèmes pratiques: si vous ne comprenez pas comment fonctionne la boîte noire de l'algorithme médical, comment aborder les questions des essais cliniques et de la réglementation?

La transparence peut être nécessaire en ce qui concernecomment fonctionne l'algorithme - les données sur lesquelles il se fonde, les valeurs seuils sur lesquelles il tire des conclusions ou fournit des conseils, mais cela peut être en contradiction avec les motivations du profit et le désir de confidentialité des startups médicales.

Une solution peut être d'excluredes algorithmes qui ne peuvent pas s’expliquer ou qui ne reposent pas sur une science médicale bien comprise. Mais cela peut empêcher les gens de tirer profit du travail utile de tels algorithmes.

Evaluation d'algorithme

De nouveaux algorithmes dans les soins de santé ne sont passera capable de faire ce que les physiciens ont fait avec la mécanique quantique, car ils ne seront pas déployés sur le terrain. Et de nombreux algorithmes sont améliorés précisément en travaillant sur le terrain. Comment choisissons-nous l'approche la plus prometteuse?

Création d'un système clinique normaliséles tests et les tests, qui seront également applicables aux algorithmes qui fonctionnent différemment ou utilisent des données d'entrée différentes, seront une tâche difficile. Les essais cliniques utilisant de petits échantillons, par exemple, avec des algorithmes visant à personnaliser le traitement d'un individu, seront également difficiles. Avec de petits échantillons et une faible compréhension scientifique de ce qui se passe, il sera impossible de déterminer si l'algorithme a réussi ou échoué car il peut être assez bon en général, mais donnez le mauvais exemple.

Ajoutez à cela un mélange de formation et la photo devientencore plus compliqué. "Plus important encore, l'algorithme idéal dans la boîte noire est en plastique et constamment mis à jour, aussi le modèle traditionnel d'essais cliniques ne convient-il pas, car il repose sur un produit statique soumis à une évaluation stable."

Nous devrons personnaliser l’ensemble du système d’essais médicaux et cliniques.

Atteindre un équilibre

L'histoire des soins de santé reflète l'histoire de l'intelligence artificielle à bien des égards. Ce n’est pas un hasard si IBM a tenté de changer le secteur de la santé en utilisant son intelligence artificielle Watson.

L'équilibre devra trouver. Nous devrons trouver un moyen de traiter les mégadonnées, d’utiliser l’impressionnant pouvoir des réseaux de neurones et d’automatiser la réflexion. Nous devons être conscients des lacunes et des préjugés d’une telle approche pour résoudre les problèmes.

Ce faisant, nous devons accueillir ces technologies,car ils peuvent constituer un complément utile aux compétences, aux connaissances et à une compréhension plus profonde que les gens peuvent apporter. À l'instar du réseau de neurones, nos industries devraient être formées afin d'élargir cette coopération à l'avenir.

Êtes-vous d'accord? Discutons dans notre discuter dans Telegram.