Sujet: intelligence artificielle

La présidente du Conseil européen de la recherche, Maria Leptin, a déclaré que le taux de réussite prévu, qui n’est que de 4,8 % pour les candidatures soumises dans le cadre d’un récent appel à projets de l’ERC, devrait constituer «un signal d’alarme» pour l’UE quant au niveau de ses investissements dans la recherche.

L’IA serait la « principale responsable » de l’explosion du nombre de candidatures, tandis que les responsables de la recherche réclament un examen minutieux de ce taux prévu «absurde».

Le Conseil de la jeunesse du canton de Genève ainsi que la magistrate Anne Hiltpold [PLR, GE] ont organisé une table ronde intitulée « IA et éducation », qui a réuni plus de 600 personnes mardi 27 octobre à l’Uni Dufour. Il s’agit du premier rendez-vous d’un cycle d’événements, cette table ronde introduit le Geneva AI Summit prévu pour juin 2027.

Les jeunes présents se montraient aussi fascinés qu’inquiets face à l’essor des intelligences artificielles, soulignant le besoin d’apprentissage encadré pour concilier aux mieux les avantages et les risques de ces outils.

Selon l’économiste et prix Nobel Philippe Aghion, le retard de l’Europe en matière d’innovation de rupture face aux États-Unis s’explique par des freins institutionnels, financiers et un manque d’infrastructures de calcul. Il déplore également le manque de prise de risque et une pénalisation accrue de l’échec. Le spécialiste préconise la création en Europe d’un « CERN de l’IA » en mutualisant des centres de calcul financés par des coalitions d’États élargies à des partenaires proches, comme la Suisse, le Royaume-Uni et le Canada.

«D’après un grand sondage interne réalisé durant le semestre d’hiver dernier, plus de 90% des étudiantes et étudiants de l’Ecole polytechnique fédérale de Lausanne utilisent l’IA comme un «outil d’apprentissage». En revanche, tous n’en sont pas friands et certains préféreraient s’en passer. […] En tout cas, l’EPFL semble rassurée par le fait que 40% des sondés n’utilisent jamais l’IA générative dans leur vie personnelle, avançant également que ces outils n’ont pas «remplacé le cerveau, ni la mémoire» de ses étudiants.» (Blick)

Bien qu’elle soit l’ouvrage de référence le plus consulté jamais créé, Wikipédia est confrontée à des défis existentiels posés par les entreprises spécialisées dans l’IA générative, puisque leurs produits lui font perdre du trafic. Helen Choi, Maître de conférences en pratiques de communication technique à l’Université de Californie du Sud, soutient que les universitaires, en vertu de leurs responsabilités en tant que chercheurs et enseignants dans l’enseignement supérieur, ont le devoir éthique de défendre et de soutenir les communautés de connaissances ouvertes telles que Wikipédia.

Le service public des scientifiques, comme la contribution à Wikipédia, passe largement inaperçu lors de l’évaluation des chercheur·es, constate Helen Choi : «Les institutions doivent reconnaître les initiatives telles que la contribution à Wikipédia et leur apporter des ressources et un soutien. Cela pourrait également contribuer à remédier à la perte de confiance du public envers l’enseignement supérieur lui-même, car un engagement accru au service du public permettrait de réaffirmer le rôle des universités en tant que gardiennes du savoir, dont la raison d’être est de servir l’humanité – un rôle que partage Wikipédia.»

«Les domaines de la traduction, du graphisme, de l’informatique, du cinéma et des statistiques ont un point commun: selon les chercheurs, ces métiers comptent parmi les plus exposés à l’intelligence artificielle. Pourtant, chaque année, des centaines de jeunes choisissent d’étudier dans ces domaines. Cinq enseignants et étudiants zurichois ont confié pourquoi, malgré l’IA et la hausse du chômage chez les diplômés universitaires, ils croient encore en l’avenir de leur filière.»

«Le Cern et la start-up française Mistral vont développer «Flare», un modèle d’intelligence artificielle destiné à améliorer l’analyse des collisions de particules au Grand collisionneur de hadrons, près de Genève.»

Professeur en apprentissage automatique dans le domaine des sciences dans l’Université Tübingen, Mario Krenn utilise l’intelligence artificielle pour concevoir des expériences qui dépassent l’imagination humaine. Dans cet entretien, il explique comment un algorithme a réussi en une nuit à résoudre un problème sur lequel il avait échoué pendant deux mois.

415 chercheur·es, dont «Au moins 225 scientifiques spécialisés en intelligence artificielle et cybersécurité, dont le Canadien Yoshua Bengio – considéré comme l’un des pères de l’IA –, ont appelé mardi à des «changements immédiats» dans les pratiques de développement et de déploiement de l’IA afin de prévenir de futurs incidents de sécurité.»

La semaine dernière, OpenAI a publié les solutions de 377 problèmes mathématiques.

Critiquant les méthodes, Moritz Kassmann de l’Université de Bielefeld, vice-président de l’Association allemande des mathématicien·nes, estime que l’entreprise chercherait toujours à attirer l’attention du public et non à favoriser une meilleure compréhension des mathématiques.

L’Association for Human Mathematics se montre encore plus sévère à l’égard d’OpenAI. Elle reproche à l’entreprise d’ignorer l’exigence fondamentale selon laquelle les modèles internes des entreprises spécialisées dans l’IA ne devraient pas être testés sur des problèmes mathématiques complexes. La publication de 377 preuves ne serait pas un gage de rigueur scientifique, mais une démonstration de pouvoir. L’association appelle les mathématicien·nes à cesser toute collaboration avec OpenAI et à revenir à une vision de la science placée au cœur de laquelle se trouve la compréhension humaine.

Deux chercheurs soupçonnent que l’entrée de prompts dans des outils d’IA ont eu une influence sur le fait que l’IA les leur a volé la vedette. Antropic et OpenAI  déclarent que les prompts des utilisateurs n’auraient pas pu entrainer leurs modèles à résoudre les questions de recherche.  Certains scientifiques réexaminent aujourd’hui la manière dont ils utilisent l’IA.

«La disponibilité d’un volume croissant de données et l’intelligence artificielle sont fantastiques», déclare le physicien climatique Reto Knutti de l’EPFZ, mais le contrôle de la qualité et la mise en perspective font souvent défaut. «Chacun a l’impression d’être lui-même un expert.» Il n’est donc pas surprenant que, selon la dernière étude PISA de l’OCDE, 43 % des jeunes fassent davantage confiance à leur propre bon sens qu’à la science.

Silke Fürst, spécialiste en sciences de la communication à l’université de Zurich, estime qu’il est important que les scientifiques veillent à ce que les modèles d’IA puissent les détecter comme expert·es. D’autre part, il est important que des informations fiables continuent à faire l’objet d’un débat public, par exemple dans les médias.

Michael Hermann, politicologue de l’Institut de recherche Sotomo, juge que pour les expertes et experts qui s’exposent et se forgent une notoriété, l’IA représente une opportunité, car les gens continuent de rechercher davantage que de simples informations anonymes générées par l’IA.

Reto Knutti regrette par ailleurs que la science soit mise sous pression par la politique, aussi en Suisse: des études seraient interprétées de manière sélective, des publications retardées ou des communiqués de presse réécrits sur ordre des responsables politiques.

Dans sa tribune pour Le Temps, Luciana Vaccaro présente les défis majeurs que l’intelligence artificielle impose aux hautes écoles. Selon elle, les milieux académiques doivent impérativement intégrer l’IA dans la formation tout en veillant à préserver les apprentissages fondamentaux que cette technologie pourrait court-circuiter.

Elle indique qu’à la HES-SO, cette démarche se traduit concrètement par l’adaptation des programmes, l’alternance de séquences d’études avec et sans IA, ainsi que par l’évolution des modes d’évaluation. L’objectif ultime est de garantir que les étudiant·es maîtrisent pleinement leurs compétences professionnelles dans toute leur complexité, en devenant capables de mobiliser les ressources appropriées en situation réelle.

L’évaluation des résultats avant la publication s’effectue normalement à titre bénévole. Cependant, face à l’explosion du nombre de soumissions ces dernières années, cette tâche devient de plus en plus lourde. Les rédacteurs en chef des revues ont du mal à trouver des évaluateurs disposés à s’engager, et le processus s’éternise souvent. Pour certaines revues, une incitation financière constitue un moyen d’accélérer le processus d’évaluation par les pairs afin que les auteurs n’aient pas à attendre des semaines, voire des mois, avant d’obtenir une décision.

Certains éditeurs sous-traitent certaines tâches telles que la relecture, l’impression, les contrôles d’intégrité ou la gestion des flux de travail éditoriaux, parfois sans le mentionner explicitement. Mais si des revues font appel à des sociétés tierces pour effectuer l’évaluation par les pairs sans le signaler, alors certains spécialistes estiment que ce manque de transparence est préoccupant.

Matt Spick, spécialiste de l’intégrité de la recherche à l’université du Surrey à Guildford, au Royaume-Uni, explique que sa principale préoccupation est que l’externalisation de l’évaluation par les pairs à des tiers rémunérés ouvre la voie à une utilisation de l’intelligence artificielle par les évaluateurs pour produire en série des rapports d’évaluation rapides sans que cela soit divulgué.

La participation de l’entreprise Palantir au 44eme Forum EPFL, salon estudiantin de recrutement prévu du 5 au 9 octobre, a suscité des tensions.

L’association faîtière des étudiants de l’EPFL, l’AGEPoly, s’oppose notamment à la participation de cette entreprise. Selon cette dernière, plus de 900 réponses à un sondage sur ce sujet ont montré que les étudiants étaient mécontents de la présence de l’entreprise sur le campus. «Nous avons reçu de nombreuses questions et préoccupations de la part des étudiant·es», affirme l’association.

Les organisateurs du salon de l’emploi soulignent que Palantir s’est inscrit « de sa propre initiative » et n’a pas été invité et que la participation d’une entreprise ne doit pas être interprétée comme un soutien à ses activités ou à ses positions.

L’EPFL prend note des réactions des étudiants, mais affirme ne pas pouvoir intervenir dans le processus d’organisation du forum.

A l’occasion d’une conférence «AI Surveillance and Freedom of Speech» à l’EPFL, le lanceur d’alerte Edward Snowden, [qui avait alerté sur les systèmes de surveillance du gouvernement américain,] s’est adressé au public. Il met en garde contre une érosion du contrôle démocratique et s’interroge sur le fait qu’un nombre croissant de tâches gouvernementales sont externalisées à des entreprises de Tech privés comme Palantir, risquant ainsi de brouiller les responsabilités.

Il donne comme conseil aux futurs ingénieur·es de prendre conscience de leurs propres convictions:
«Notez ce en quoi vous croyez et pourquoi vous y croyez avant de commencer à y travailler.» Et : «Un appareil ne doit jamais aller à l’encontre des intérêts de son utilisateur.»

[La maison d’édition du SonntagsBlick, Ringier, a un partenariat avec Palantir et utilise plusieurs de ses produits.]

Le directeur du Center for Digital Trust (C4DT) à l’EPFL, Edouard Bugnion, affirme que le sommet mondiat de l’IA en juin 2027 est une opportunité, entre autres, «pour faire de la Suisse une vitrine scientifique internationale. Notre pays jouit déjà d’une solide réputation: nos hautes écoles sont renommées et figurent parmi les meilleures du monde. Nous sommes également  reconnus pour notre écosystème de startup.

Les organismes de financement de la recherche se demandent comment empêcher que des idées scientifiques confidentielles contenues dans les demandes de subvention ne fuient via les grands modèles linguistiques (LLM), par exemple lorsque les évaluateurs ont recours à l’IA pour les aider à examiner les candidatures. Car le pire des cas, cela risque de compromettre l’attribution correcte des avancées scientifiques, l’un des fondements de la science moderne.

Récemment, une polémique a éclaté dans le monde des mathématiques après qu’OpenAI a annoncé avoir résolu un problème réputé particulièrement difficile, ce qui a conduit un autre mathématicien à exiger des explications quant à l’utilisation éventuelle, par l’entreprise, d’idées qu’il avait lui-même intégrées dans ses modèles.

Certains outils d’IA offrent aux utilisateurs l’option d’empêcher que leurs sessions ne contribuent à l’entraînement du modèle. Si l’on peut se fier à ces garanties, cela donne aux scientifiques une certaine assurance quant à la possibilité d’utiliser un LLM pour développer une idée sans risque de fuite.

Mais il existe une vulnérabilité potentielle encore plus importante. Pour obtenir des fonds afin d’étudier leurs idées, les scientifiques doivent les partager avec les organismes de financement. Ces demandes de subvention sont normalement gardées strictement confidentielles, afin d’empêcher d’autres scientifiques de les devancer ou de protéger une propriété intellectuelle à forte valeur commerciale.

Pour préserver cette confidentialité, lorsque ces bailleurs de fonds utilisent des modèles d’IA, ils doivent s’assurer qu’ils n’effectuent pas d’appels vers des serveurs externes, ce qui entraînerait une fuite de ces données. Cependant, les bailleurs de fonds font généralement appel à des évaluateurs universitaires externes pour examiner les propositions. Et l’on craint de plus en plus que ces évaluateurs n’intègrent des idées de subventions dans des modèles d’IA afin de les aider à se forger une opinion.

Face à la hausse du chômage chez les diplômé·es de l’enseignement supérieur, Michael Siegenthaler, directeur du pôle de recherche «Marché du travail suisse» de l’institut KOF de l’ETH, a accordé un entretien au Tages-Anzeiger. Il y précise, que, bien que le chômage ait augmenté, le risque de sans-emploi reste plus faible pour les personnes hautement qualifiées que pour les moins qualifiées. Il nuance toutefois qu’«il est probable que l’entrée dans la vie active, en particulier, ne se fasse plus aussi naturellement qu’auparavant, surtout dans les domaines techniques.»

La clef d’une bonne insertion résiderait dans l’acquisition d’une expérience professionnelle en parallèle des études. De plus, face à l’essor de l’IA, il souligne l’importance cruciale des compétences humaines, telles que le travail en équipe.