Animer La Fresque des risques de l'IA

En bref

La Fresque des risques de l'IA est un atelier collaboratif pour comprendre les enjeux de l'IA sans prérequis technique. Les participant·es reçoivent des cartes représentant des concepts liés aux risques de l'IA et les mettent en relation par des flèches. Les cartes sont regroupées en cinq lots, ajoutés progressivement pour complexifier la fresque. L'atelier se fait avec l'aide de l'animateur·ice, mais l'impulsion et la réflexion viennent des participant·es : le savoir est sur les cartes, l'intelligence est dans le groupe.

Objectifs

• Donner à chacun·e une vision claire et structurée des enjeux de l'IA, reflétant le consensus scientifique, sans prérequis.
• Susciter un débat où chacun·e s'approprie les concepts et participe à la réflexion du groupe.
• Faire comprendre les liens de cause à effet, plutôt qu'une liste de faits isolés.
• Passer des risques aux réponses possibles, pour terminer sur une note constructive.

Avant un atelier en présentiel

Le matériel :

• Un jeu de 38 cartes imprimé par table (idéalement en couleur), plus la carte d'introduction.
  Caractéristiques d'impression : format A6, recto-verso, sans reliure, bords de coupe de 3 mm de chaque côté. De préférence en couleur et papier satiné 160 g.
• Du papier, idéalement 1 × 2 m (en rouleau, dans les magasins de beaux-arts ou de bricolage).
• Des crayons de papier et de couleur, ou des feutres, pour tracer les flèches.
• Des gommes.
• Du scotch ou de la pâte adhésive.

La salle :

• Une table par groupe de 4 à 8, assez grande pour étaler les cartes.
• Des chaises, et de quoi circuler autour des tables.

Avant un atelier en ligne

Pour animer à distance, utilisez la Fresque en ligne et un salon vocal (Discord, Google Meet, Teams…). Prévoyez des groupes plus petits qu'en présentiel : la parole circule moins bien à distance.

Conseils pratiques

• Lisez les cartes à l'avance, faites une fresque vous-même une fois, et repérez les cinq lots. Rien ne remplace de l'avoir vécu côté participant·e.
• Commencez à l'heure prévue : le temps perdu au début ne se rattrape pas.
• En présentiel, anticipez les contraintes matérielles (cartes imprimées, tables, rouleau de papier) et arrivez au moins 15 minutes en avance pour installer la salle.

Le déroulé de l'atelier

Le minutage est indicatif : adaptez-le au format et au public. Le cœur, c'est la discussion ; gardez du temps pour les lots 3 et 5.

1. 0

   Accueil et mise en route · 15 min

   Fixez le cadre et créez un climat bienveillant. Faites un tour des prénoms, présentez-vous, puis présentez l'atelier, ses objectifs et les consignes. Posez la carte d'introduction. Rappelez que l'atelier est collaboratif : tout le monde participe, et chacun·e respecte les idées et les opinions des autres.

2. 1

   Lot 1 · L'IA · 15 min cartes 1 à 6

   Poser les bases : qu'est-ce qu'un modèle d'IA, comment est-il entraîné, et quels facteurs expliquent les avancées actuelles ? Modèle d'IA, données d'entraînement, amélioration des capacités, automatisation du travail, « IA cultivée, pas programmée », boîte noire.

   Point d'animation : laissez le groupe placer les cartes et tracer les premières flèches. Ne corrigez pas trop vite ; une fresque imparfaite qui a fait discuter vaut mieux qu'une fresque parfaite dictée.

3. 2

   Lot 2 · Capacités · 15 min cartes 7 à 13

   Explorer les capacités et l'étendue des usages actuels de l'IA. Autonomie, génération d'images, recommandation de contenus, robotique, génération de texte et de code, stratégies récurrentes, capacités émergentes.

   Point d'animation : reliez ce lot au précédent (les capacités viennent des données et de la puissance de calcul). Demandez des exemples vécus par les participant·es.

4. 3

   Lot 3 · Risques actuels · 30 min cartes 14 à 27 et 30

   Le cœur de l'atelier : l'ensemble des risques déjà à l'œuvre, favorisés par les capacités de l'IA et par des garde-fous insuffisants. Deepfakes, manque de fiabilité, impact environnemental, affaiblissement des compétences, santé mentale, biais et discriminations, usage malveillant, cyberattaques, mésalignement, risques systémiques, déluge de contenus, bioterrorisme, tromperie stratégique, systèmes de contrôle, course en avant.

   Point d'animation : c'est beaucoup de cartes. Distribuez-les en deux vagues, laissez les tables s'organiser, et circulez pour aider à relier. Accueillez les émotions (inquiétude, scepticisme) sans juger : c'est normal.

5. 4

   Lot 4 · Risques existentiels · 20 min cartes 28, 29, 31, 32 et 33

   Ce qui se joue lorsque des systèmes deviennent plus capables que les humains et échappent à leur contrôle. Systèmes d'armes létales autonomes, intelligence artificielle générale (AGI), risques existentiels, perte de contrôle, superintelligence.

   Point d'animation : gardez une posture ouverte. Ces cartes portent des scénarios débattus ; l'objectif est de comprendre les mécanismes, pas d'imposer une conclusion.

6. 5

   Lot 5 · Solutions · 20 min cartes 34 à 38

   La fresque se termine par les réponses défendues par Pause IA face à ces enjeux. Recherche en sécurité de l'IA, lignes rouges, moratoire international sur les modèles frontières, supervision démocratique, évaluations par des tiers indépendants.

   Point d'animation : reliez chaque réponse aux risques qu'elle adresse. Finir ici évite de laisser le groupe sur un sentiment d'impuissance.

Transition · 10 min

Cette phase renforce les acquis et laisse aux participant·es un temps pour s'approprier le contenu de la fresque. Demandez-leur de réorganiser la fresque, de l'améliorer visuellement (un titre, quelques dessins), et de repérer deux ou trois liens clés. S'il y a plusieurs tables, faites-les circuler pour découvrir les autres fresques.

Discussion · 25 min

Deux approches, au choix :

• Introduire un sujet de discussion et laisser les participant·es en débattre.
• Les laisser faire émerger eux-mêmes leurs questions et leurs remarques.

Adaptez la discussion à votre public et à sa familiarité avec l'IA. Distinguez ce qui est déjà là de ce qui relève de scénarios : nommez l'incertitude. Terminez par un bref résumé de la fresque et par un premier pas concret que chacun·e peut faire (s'informer, en parler autour de soi, ou animer à son tour).

Si ça se complique

Conseils d'animation

Attitude à privilégier :

• Soyez à l'écoute, sans jugement.
• Restez factuel·le et nuancé·e : évitez la peur comme la minimisation.
• Répartissez la parole si certain·es participant·es l'accaparent.
• Adaptez-vous à votre public.

Pendant l'atelier :

• Laissez le groupe placer les cartes et les relier. Intervenez le moins possible : l'atelier doit susciter des discussions, pas les remplacer.
• Si besoin, suggérez d'abord de relire les cartes.
• Si un concept est mal compris, intervenez et précisez uniquement ce qui est nécessaire.
• N'ayez pas peur de dire que vous ne savez pas, et faites des recherches pour la fois suivante.
• Faites attention au temps : vous n'aurez pas le temps d'aborder toutes les cartes, et c'est normal.
• Si vous animez plusieurs tables en même temps, répartissez vos passages et centralisez les explications communes.
• Essayez de ne laisser personne de côté, en particulier si le niveau du groupe est hétérogène.

Variante courte (1 h 30) · 18 cartes

Commencez par la carte 1 (Modèle d'IA) : lisez-la à voix haute et posez-la vous-même. Elle donne au groupe un point de départ commun. N'ouvrez pas de débat sur cette carte : la discussion prendrait vite un quart d'heure.

Les cartes à distribuer

• Lot 1 : 3 Amélioration des capacités, 4 Automatisation du travail, 5 IA cultivée, pas programmée, 6 Boîte noire
• Lot 2 : 7 Autonomie, 12 Stratégies récurrentes, 13 Capacités émergentes
• Lot 3 : 20 Usage malveillant, 22 Risques de mésalignement, 26 Tromperie stratégique, 30 La course en avant
• Lot 4 : 29 Intelligence Artificielle Générale (AGI), 32 Perte de contrôle, 31 Risques existentiels
• Lot 5 : 34 Recherche en sécurité de l'IA, 35 Lignes rouges, 36 Moratoire international, 37 Supervision démocratique

Public déjà familier avec l'IA : remplacez la 4 Automatisation du travail par la 33 Superintelligence.

Déroulé

• Accueil, carte 1 · 10 min
• Lot 1 · 10 min
• Lot 2 · 10 min
• Lot 3 · 15 min
• Lot 4 · 10 min
• Lot 5 · 10 min
• Discussion · 25 min
• Total · 1 h 30

Après l'atelier

Dans les jours qui suivent, vous et vos participant·es recevrez un e-mail de remerciement. Il invite chacun à donner son avis sur l'atelier ou sur une carte en particulier, depuis l'onglet Retours, et propose aux participant·es de devenir animateur·ice à leur tour.