Un logiciel pour garantir le droit à l’oubli des patients dans l’IA en milieu de santé

Alors que l’intelligence artificielle (IA) joue un rôle de plus en plus crucial dans le domaine de la santé, la question de la protection des données des patients devient un enjeu essentiel. Un logiciel innovant, développé par le KAUST, pourrait bien être la solution pour garantir le droit à l’oubli des patients dans les modèles pré-entraînés d’IA.

Le droit à l’oubli des patients dans l’IA

Les données des patients sont de plus en plus utilisées pour former des modèles d’IA ou des algorithmes d’apprentissage automatique afin de prendre des décisions de diagnostic et de traitement des maladies. Cela soulève pourtant des préoccupations croissantes quant à leur droit de retirer des informations privées.

« Avec le développement des sciences des données, de l’apprentissage automatique et des techniques d’apprentissage profond, le droit à l’oubli des patients est généralement négligé ou violé », indique Juexiao Zhou, doctorant à KAUST.

AFS : une solution logicielle pour l’oubli des données

Sous la supervision de Xin Gao, Zhou et ses collègues démontrent comment AFS (Audit to Forget Software) peut révoquer les données des patients des modèles d’apprentissage profond tout en maintenant la performance du modèle.

« Notre solution logicielle unifie les processus d’audit et d’oubli, garantissant que les données sensibles sont efficacement retirées du modèle cible », explique pour sa part Juexiao Zhou.

AFS utilise l’audit pour déterminer si les données de certains patients ont été utilisées pour former le modèle d’IA cible. En utilisant les résultats de l’audit, AFS guide le processus d’oubli, qui implique le désapprentissage des informations liées à l’ensemble de données cible du modèle pré-entraîné.

« Nous avons conçu une approche, appelée ‘purification des connaissances’, pour transférer sélectivement les connaissances nécessaires du modèle pré-entraîné au modèle qui subira l’oubli de manière à préserver au maximum la performance du modèle », ajoute-t-il.

Application et potentiel de l’AFS

Les chercheurs ont appliqué le logiciel à quatre ensembles de données différents de différentes tailles et formes, y compris des images médicales et des dossiers de santé électroniques. Ils ont montré comment AFS pouvait générer des modèles plus petits sans affecter significativement leur précision de prédiction, démontrant ainsi la polyvalence et l’efficacité de l’AFS pour gérer les demandes d’oubli.

« Nos résultats mettent en évidence l’utilisabilité de l’AFS et ses applications potentielles dans les soins de santé intelligents du monde réel pour améliorer la protection de la vie privée et les droits de révocation des données », précise une nouvelle fois le doctorant.

Ce dernier anticipe que ce type de logiciel sera largement utilisé. « L’AFS pourrait être appliqué dans d’autres domaines qui utilisent l’IA, tels que la finance ou l’éducation, où il y a également des préoccupations concernant la confidentialité des données des utilisateurs et le droit à l’oubli ».

Optimisation continue de l’AFS

Alors que l’équipe continue d’optimiser le logiciel en intégrant davantage de métriques d’audit, ils ont également commencé à explorer la possibilité d’appliquer l’AFS à l’oubli des informations privées dans les grands modèles de langage (LLM), tels que SkinGPT-4.

En synthèse

L’AFS représente une étape significative vers la garantie de la confidentialité des données dans le contexte de l’évolution des technologies d’IA. En permettant l’oubli des données des patients dans les modèles pré-entraînés d’IA, il offre une solution prometteuse pour respecter le droit à l’oubli des patients tout en préservant la performance des modèles d’IA.

Pour une meilleure compréhension

Qu’est-ce que l’AFS ?

L’AFS (Audit to Forget Software) est un logiciel développé par KAUST qui permet de révoquer les données des patients des modèles d’apprentissage profond tout en maintenant la performance du modèle.

Comment fonctionne l’AFS ?

L’AFS utilise l’audit pour déterminer si les données de certains patients ont été utilisées pour former le modèle d’IA cible. Il guide ensuite le processus d’oubli, qui implique le désapprentissage des informations liées à l’ensemble de données cible du modèle pré-entraîné.

Qu’est-ce que la « purification des connaissances » ?

La «purification des connaissances» est une approche conçue pour transférer sélectivement les connaissances nécessaires du modèle pré-entraîné au modèle qui subira l’oubli de manière à préserver au maximum la performance du modèle.

Où l’AFS peut-il être appliqué ?

L’AFS pourrait être appliqué dans d’autres domaines qui utilisent l’IA, tels que la finance ou l’éducation, où il y a également des préoccupations concernant la confidentialité des données des utilisateurs et le droit à l’oubli.

Quelle est la prochaine étape pour l’AFS ?

L’équipe de développement continue d’optimiser le logiciel en intégrant davantage de métriques d’audit et explore la possibilité d’appliquer l’AFS à l’oubli des informations privées dans les grands modèles de langage (LLM), tels que SkinGPT-4.

Principaux enseignements

Références

Légende illustration principale : Des chercheurs de la KAUST ont mis au point le logiciel Audit to Forget Software (AFS) pour répondre aux préoccupations en matière de confidentialité des données dans le cadre de l’utilisation de l’intelligence artificielle dans les soins de santé. 2023 KAUST ; Heno Hwang.

Zhou, J., Li, H., Liao, X., Zhang, B., He, W., Li, Z., Zhou, L., & Gao, X. A unified method to revoke the private data of patients in intelligent healthcare with audit to forget. Nature Communications 14, 6255 (2023).| article.