Peut-on être sûr que les modèles d’IA ne divulgueront pas les idées des scientifiques ?

Les organismes de financement de la recherche se demandent comment empêcher que des idées scientifiques confidentielles contenues dans les demandes de subvention ne fuient via les grands modèles linguistiques (LLM), par exemple lorsque les évaluateurs ont recours à l’IA pour les aider à examiner les candidatures. Car le pire des cas, cela risque de compromettre l’attribution correcte des avancées scientifiques, l’un des fondements de la science moderne.

Récemment, une polémique a éclaté dans le monde des mathématiques après qu’OpenAI a annoncé avoir résolu un problème réputé particulièrement difficile, ce qui a conduit un autre mathématicien à exiger des explications quant à l’utilisation éventuelle, par l’entreprise, d’idées qu’il avait lui-même intégrées dans ses modèles.

Certains outils d’IA offrent aux utilisateurs l’option d’empêcher que leurs sessions ne contribuent à l’entraînement du modèle. Si l’on peut se fier à ces garanties, cela donne aux scientifiques une certaine assurance quant à la possibilité d’utiliser un LLM pour développer une idée sans risque de fuite.

Mais il existe une vulnérabilité potentielle encore plus importante. Pour obtenir des fonds afin d’étudier leurs idées, les scientifiques doivent les partager avec les organismes de financement. Ces demandes de subvention sont normalement gardées strictement confidentielles, afin d’empêcher d’autres scientifiques de les devancer ou de protéger une propriété intellectuelle à forte valeur commerciale.

Pour préserver cette confidentialité, lorsque ces bailleurs de fonds utilisent des modèles d’IA, ils doivent s’assurer qu’ils n’effectuent pas d’appels vers des serveurs externes, ce qui entraînerait une fuite de ces données. Cependant, les bailleurs de fonds font généralement appel à des évaluateurs universitaires externes pour examiner les propositions. Et l’on craint de plus en plus que ces évaluateurs n’intègrent des idées de subventions dans des modèles d’IA afin de les aider à se forger une opinion.