La boîte noire de l’intelligence artificielle.

DeepMind a établi son premier produit commercial. Un système de diagnostic pour détecter, d’une manière précoce et fiable, les maladies oculaires. Et tout cela, en utilisant sa célèbre capacité de conception et de mise en œuvre des programmes d’intelligence artificielle. La recherche est disponible sur Nature

A l’annonce de cette innovation, DeepMind a souligné que son produit ne se contente pas d’offrir un diagnostic, mais qu’il est aussi capable d’expliquer comment il est arrivé à ses conclusions et quelles sont les probabilités d’erreurs connues de ses résultats. Naturellement, il faut maintenant qu’un processus d’approbation officiel soit établi pour l’application médicale de cette technologie. Cette capacité de DeepMind de pouvoir expliquer comment il a déterminé ses résultats diagnostiques doit faire partie intégrante du processus d’approbation. 

Cette précision n’est pas inutile. Parce que cette explication des résultats par le « machine learning » et le « deep learning » n’est pas évidente. C’est une question encore ouverte, mais le RGPD (Règlement Général sur la Protection des Données, un règlement de l’Union Européenne) indique qu’il s’agit d’un domaine à approfondir. En résumé, les hommes qui inventent et utilisent cette technologie de « machine learning » pour prendre des décisions qui affectent d’autres personnes doivent impérativement savoir comment leurs systèmes font pour ressortir leurs résultats, si ce n’est pas le cas, ils doivent s’abstenir de prendre des décisions qui pourraient avoir un impact sur la santé des hommes. (TrustableAI). 

D’un point de vue scientifique, il y a matière à recherche. Tant et si bien qu’une importante subvention de recherche assigné par l’ERC (European Research Council) a été attribuée à un projet de recherche sur les méthodes scientifiques pour comprendre comment se forment les résultats obtenus par les applications de « machine learning » et de « deep leearning ». La subvention a été accordée à Fosca Giannotti du CNR (Consiglio Nazionale delle Ricerche) de Pise, il continuera ses recherches avec l’Université de Pise.

Un des plus grands experts sur cette question, Dino Pedreschi, de l’Université de Pise, qui a travaillé avec Fosca Giannotti, a évoqué ce sujet