Ateliers Intrépides de la tech
Les ateliers intrépides de la tech se déroule sur 1H30 + 30 min de présentation métier d’un invité.
Objectifs pédagogiques
Compétences techniques
- Découvrir les intrépides de la tech
- Comprendre le fonctionnement des IA, des données et des biais de données
- Aborder le sujet de l’importance de la place des femmes dans les métiers de la tech
Matériel
- Un ordinateur
- Un projecteur
Conseils aux animateurs
Déroulé de l'activité
Sommaire
Détail de l’activité
PRÉSENTATION (Slides 1, 2 & 3)
Slide 1 & 2 :
Slide 3 :
Les intrépides de la tech:
Lancé fin 2019 par un collectif d’acteurs engagés sur les questions de la mixité dans le secteur de la tech et du numérique (La Simplon Foundation, Magic Makers, La Compagnie du Code, JobIRL), le projet Les Intrépides de la Tech encourage et accompagne les jeunes, (et particulièrement les jeunes filles), dans leurs réflexions sur leurs projets d’orientations professionnelles, à travers diverses actions.
Magicmakers :
Tu peux maintenant te présenter plus en profondeur, ainsi que magicmakers. Ce que tu as envie de dire sur l’entreprise et sur ton métier au quotidien.
BRAINSTORM : QU’EST CE QUE L’IA? (slides 4 à 9)
Slide 4 & 5 :
Déroulé du jour. On va se pencher sur le thème de l’intelligence artificielle :
- Qu’est qu’une IA? Comment fonctionne t-elle?
- Comment l’utilisons-nous dans notre quotidien ?
- La force de la mixité dans le domaine de la programmation et des IA
- Avec une expérimentation de reconnaissance d’images pour visualiser cette importance.
- Et l’on terminera avec un témoignage métier où tu peux citer le nom de la personne qui va intervenir et où elle travaille.
Slide 6 :
Tu peux te servir des slides pour poser les questions, il est temps de faire participer les élèves !
- C’est quoi pour vous l’IA ?
- Est-ce que vous avez déjà entendu parler de Machine learning ? Apprentissage machine ?
Le machine learning, c’est comme enseigner à un ordinateur à faire des devinettes en lui montrant beaucoup d’exemples, afin qu’il puisse deviner correctement par lui-même à l’avenir. C’est comme un apprentissage où l’ordinateur devient de plus en plus fort en pratiquant.
Slide 7 & 8 :
- Où se trouve l’IA dans notre quotidien ? Est-ce qu’il y a de l’IA autour de nous ?
- Que peut-on faire avec ?
Slide 9 :
- C’est quoi des neurones ? Un réseau ? Et donc un réseau de neurones ?
- Comment l’humain apprend ? Comment avez-vous appris ce qu’était un chat et la différence avec un chien ?
- Comment fonctionne et apprend une IA ?
ACTIVITÉ DÉBRANCHÉE : JEU DE NIM (slides 10 & 11)
Le matériel :
- 6 stylos (ou bâtons, ou allumettes etc..)
- Des gobelets
- Des boules de cotillons (ou pompons ou boules de papier artisanales)
- 2 joueurs :
- un joue le rôle de l’utilisateur (il joue du coté des stylos)
- un joue le rôle de la machine qui apprend (il joue du coté des gobelets, car il va enregistrer ses coups en mettant des cotillons dans les gobelets utilisés quand il gagne, et en enlevant des cotillons dans les gobelets utilisés quand il perd)
- Place les stylos sur la table, alignés
- Dispose un gobelet devant chaque stylo
- Mets 3 boules de cotillon dans chaque gobelets
- Elles servent de point de départ, quand l’IA essaye un peu tout
- Explique les règles aux joueurs.
- Chacun joue à son tour
- À chaque tour, on peut prendre 1 ou 2 stylos
- Le joueur qui prend le dernier stylo gagne.
Comment on simule une IA :
Au début, la « machine » joue au hasard.
- Par exemple :
- Elle choisit parfois 1 stylo
- Parfois 2
- Sans réfléchir
Chaque choix est associé à un gobelet.
-> Un gobelet = une situation du jeu
-> Les boules = la mémoire de l’IA
Comment la machine apprend
Après chaque partie :
- Si la machine gagne : on ajoute une boule dans les gobelets utilisés
- Ce choix devient plus probable
- Si elle perd : on enlève une boule
- Ce choix devient moins probable
Avec le temps, les bons choix ont plus de boules et les mauvais disparaissent
Résultat : La machine apprend par essais / erreurs.
Conclusion :
Après plusieurs parties :
- L’IA joue moins au hasard
- Elle reconnaît les bonnes stratégies
- Elle gagne de plus en plus souvent
- Elle devient presque imbattable
Les makers observent que l’IA apprend parce qu’on la corrige.
Cette activité montre que l’IA :
- Ne réfléchit pas comme un humain
- N’a pas d’intuition
- Apprend avec des essais
- S’améliore avec des données
Comme dans la vraie IA : Données → Erreurs → Corrections → Progrès
Conseils aux animateurs :
- Si un maker est seul, joue avec lui afin de former un binôme.
- Fais tourner les rôles dans chaque binôme : humain puis machine.
- Encourage les échanges et la réflexion collective pour consolider leur compréhension.
- Termine l’atelier par une question/défi : « Quel est le coup gagnant à tous les coups ? » 🙂
PROJET GUIDÉ : RECONNAISSANCE D’IMAGES (slides 12 à 17)
On va utiliser Vittascience. Il n’y a pas besoin de se créer un compte.
Les étapes sont en slide 12 et tu peux les laisser à l’écran tout le temps de l’expérimentation. Et tu trouveras ci dessous les points importants sur lesquels tu vas faire réfléchir les élèves pendant leurs tests.
Pour l’étape 5 :
C’est ce qui va servir de données d’entraînement pour notre IA. A quoi pouvons nous faire attention pour bien entraîner notre IA ?
- Plusieurs réponses possibles :
- Le nombre d’images que l’on va lui donner
- Les décors qu’il peut y avoir sur les images que l’on choisit
- Si il n’y a qu’un chat, plusieurs, une personne avec?
- L’entraîner en pensant à mettre des chiots et des chatons
- La position de l’animal : mettre des images debout, assis, animal en entier, ou que la tête en gros plan ….
C’est une véritable réflexion à faire qui va jouer sur la capacité de notre IA à reconnaître le plus de chats et de chiens possibles quand on fera le test.
Et cela peut nous éviter de créer, ce que l’on appelle des biais :
Par exemple, si je mets que des chiens à poils longs alors que je ne mets que des chats à poils courts, je vais biaiser mon IA en lui faisant apprendre qu’un chien a le poil long, et un chat a le poil court.
-> Laisse les jeunes te donner d’autres exemples de biais.
Pour l’étape 7 :
Faire plusieurs tests en demandant de reconnaître différentes images et analyser le taux de probabilité que donne l’IA quand elle pense reconnaître un chien ou un chat.
Demander les résultats des élèves, et posez vous tous ensemble sur une IA qui ne fonctionnerait pas assez bien. Regardez tous ensemble les données qui ont été mises pour entraîner l’IA, et ce qu’il faudrait changer (plus d’images, plus de races différentes, etc….)
Conseils aux animateurs :
Tu peux te servir des autres slides pour détailler l’activité ou les masquer pendant ta présentation. Je te conseille plutôt de toi aussi faire un projet vittascience et créer les mêmes étapes qu’eux, afin qu’il te voit faire en démo active !
ACTIVITÉ Quickdraw (slide 18)
Quickdraw est un site basé sur un réseau de neurones qui apprend grâce aux dessins réalisés par les utilisateurs.
Il suffit de cliquer sur « C’est parti » : un thème de dessin est proposé, et tu as 20 secondes pour le représenter. Pendant que tu dessines, l’intelligence artificielle essaie de deviner ce que tu es en train de faire. Dès qu’elle trouve la bonne réponse, un nouveau thème apparaît.
Laisse les tester librement et observer ce qui se passe.
C’est une activité rapide et ludique qui leur permet de comprendre comment une IA, entraînée avec des milliers d’exemples d’images, tente de reconnaître un nouveau dessin.
Ils découvriront ainsi qu’une IA ne “voit” pas un dessin comme un humain : elle le transforme en données (lignes, formes, positions, pixels) pour pouvoir l’analyser et le comparer à ce qu’elle connaît déjà.
BRAINSTORM DES BIAIS DANS L’IA ET LA VIE RÉELLE (slides 19 à 27 )
Slide 19 :
Le but de cette présentation est de démontrer l’importance de la participation active des femmes dans la programmation. La diversité des genres va permettre de travailler des algorithmes conçus pour le plus grand nombre de personnes.
Slide 20 :
L’algorithme biaisé. Joy Buaolamwiki travaillait avec des logiciels de reconnaissances faciales, quand elle s’est aperçue que nombre d’IA ne pouvait reconnaître son visage. En effet, les gens ayant codé ces IA n’ont pas pris en compte assez de données de couleurs de peau différentes, de structures faciales, etc.
L’importance des femmes dans la reconnaissance faciale d’une IA est cruciale pour garantir une technologie équitable et précise. La qualité et la diversité des ensembles de données utilisés pour entraîner les modèles d’IA influent directement sur la capacité de la technologie à reconnaître et à traiter correctement les visages de différents groupes, y compris les femmes.
Slide 21 :
En rebondissant sur l’exemple précédent, on peut introduire les questions des biais discriminants et la représentation genrée.
Invite les échanges autour de cette question : est-ce que cela vous parle ? Est ce que vous avez des exemples de biais dans les IA ? Les diapos 22, 23, 24 et 25 donneront justement des éléments concrets pour la suite.
Slide 22 :
Certaines études ont suggéré que les femmes pourraient avoir un risque légèrement plus élevé de blessures dans certaines circonstances. Cela peut être attribué à des différences physiologiques, comme la taille et la masse corporelle moyenne, ainsi que la distribution de la masse entre le haut du corps et les membres inférieurs.
Plus précisément, certaines études ont indiqué que les femmes pourraient être plus susceptibles de subir des blessures au niveau du cou, de la poitrine et des membres inférieurs dans des accidents de voiture, tandis que les hommes pourraient être plus susceptibles de subir des blessures à la tête. Ces différences peuvent être influencées par les caractéristiques anatomiques et biomécaniques distinctes entre les sexes.
La sécurité routière peut bénéficier de la participation active des femmes dans la conception des véhicules. Elles peuvent contribuer à la prise en compte des besoins spécifiques des conductrices, des passagères et des enfants, en veillant à ce que les caractéristiques de sécurité soient adaptées à tous les genres.
Slide 23 & 24 :
Proposition d’échange : avant de montrer les diapos 27 et 28 demander :
comment représenteriez-vous une personne jouant au foot ou réalisant des tâches ménagères. 📌 Vigilance, être vigilant aux mots utilisés pour ne pas genrer la question.
Si on tape dans une IA d’images “Someone playing football” (Quelqu’un qui joue au foot), la majorité des résultats montrent des hommes, or, nos prompts sont en anglais et ne sont pas genrés. Et si on tape “Someone doing chores” (Quelqu’un qui fait des tâches ménagères), on obtient notamment des femmes. Pourquoi ? Parce que l’IA se nourrit des images et des données qu’on lui donne. Elle apprend à partir de ce qu’elle a vu le plus souvent sur internet.
Slide 25 :
L’utilisation de données vocales provenant d’une diversité de locuteurs, y compris des hommes et des femmes, contribue à minimiser les biais de genre dans les systèmes de reconnaissance vocale. Cela garantit que les performances du modèle sont égales pour les voix féminines et masculines.
Slide 25 :
L’utilisation de données vocales provenant d’une diversité de locuteurs, y compris des hommes et des femmes, contribue à minimiser les biais de genre dans les systèmes de reconnaissance vocale. Cela garantit que les performances du modèle sont égales pour les voix féminines et masculines.
Slide 26 :
Laisse les élèves te donner des exemples de représentations genrées qui influencent des choix techniques.
Slide 27 :
un autre exemple qui se répète avec le problème de traduction : Cet exemple de Google Traduction du français au finnois ne dénonce pas le sexisme du programme, mais met en lumière la notion de biais culturels qui ont servi à l’entraînement de l’IA. Le résultat correspond au nombre de fois où l’IA a lu le mot “femme” couplé au mot “enfant” ou “linge” plutôt qu’au mot “décision”.
Cette partie a donc pour objectif de mettre en évidence que les biais ne sont jamais neutres, ils constituent un reflet de notre société : Donc si la plupart des représentations en ligne ne sont pas inclusives, l’IA va reproduire ces stéréotypes. L’objectif est de faire comprendre qu’un biais n’est pas “neutre”, ce signifie que :
- les biais ne sont pas un le produit d’une variation aléatoire dans le modèle. Ces biais correspondent à la reproduction des
inégalités déjà présentes dans nos sociétés. - Les modèles capturent et reproduit des stéréotypes ou des inégalités sociales du monde réel ; le modèle les « reflète » à
moins d’une correction explicite et réfléchie dans le construction et le développement du modèle.
Des outils qui ne verraient jamais le jour ? (slides 28 à 31)
Slide 28 :
Ici l’idée est de lier cette discussion avec les expérimentations et d’identifier les limites. On va finir l’activité en reprenant ce qu’on a fait durant les différentes expérimentations et temps de dialogue.
Slide 29 :
On repose les définitions des biais avec la différence entre les biais de données / statistiques et les biais sociétaux ou cognitifs :
Reprenons ensemble la différence entre les biais de données et les biais sociétaux. Les biais de données apparaissent lorsqu’il y a une mauvaise préparation ou un manque de représentativité dans les données utilisées. (Vous pouvez leur demander lesquels des exemples que l’on vient de voir pourraient correspondre à cette situation.)
Par exemple, avec le problème de reconnaissance d’image vu précédemment. Et nous avons aussi les biais sociétaux ou cognitifs, qui concernent les biais humains reproduits — voire amplifiés — par les modèles.
Redemandez leur s’ils se souviennent d’un exemple. → Exemple : les prompts.
Slide 30 :
En fonction de ce qu’on a fait, il est important de prendre du recul et de se questionner : avons-nous mis assez de données ?
Avons-nous utilisé des données représentatives ? Comment enlever les biais des exemples que l’on a vu ci dessus ?
Slide 31 :
Conclusion : Dans cette dernière diapositive, vous allez pouvoir conclure l’activité en revenant sur ce que les élèves ont
découvert. Il est important de rappeler que l’intelligence artificielle n’est ni infaillible, ni magique : elle a été conçue, entraînée et paramétrée par des humains, à partir de données parfois limitées ou biaisées. L’IA ne produit pas du contenu “vrai”, mais du contenu probable selon les informations qu’elle a apprises. L’objectif ici est d’inviter les élèves à prendre du recul
Slide 32 :
Réflexions collectives : Poser la question des solutions possibles pour résoudre les problèmes que l’on a pu constater. Il est également possible, dans une activité annexe, de proposer aux élèves d’y répondre plus tard, à l’écrit ou en travail de groupe.
TÉMOIGNAGE MÉTIER (slides 33 & 34)
Slide 33 :
Présente la personne qui vient en intervention après ton animation et introduis là pour lui donner la parole. Tu auras reçu en amont un lien meet où la personne sera connectée pour intervenir.
Comment se passe le témoignage métier en détails :
- Connecte toi sur le lien visio transmis dans le mail récap à l’enseignante (dès que tu arrives dans la salle, pendant ta préparation, ce sera plus simple pour la suite)
- Introduis le ou la professionnel.le une fois que tu te connectes à la visio en mode « bonjour XX, vous êtes ici avec la classe X du lycée de XX, nous vous laissons la parole pour présenter votre métier »
- elle va passer ses slides et présenter son métier pendant 15 min env.
- puis il y a un temps d’échange Questions/Réponses avec les élèves les 10 dernières minutes.
Questions types si les enfants sont un peu timides au départ, pour lancer la discussion (à adapter en fonction de ce que la personne dit) :
- Quelles sont les compétences à avoir pour faire votre métier ?
- Avez-vous besoin de l’anglais au quotidien ?
- Avez-vous beaucoup de collègues ?
- Est-ce que vous envisagez de faire ce métier longtemps ou peut-on en changer après quelques années ?
- Est-ce qu’il faut forcément faire des études longues ou est-ce qu’il existe des formations courtes ?
Slide 34 :
Il est temps de remercier la classe pour ce moment de partage et leur donner la parole pour un débrief sur cette intervention!
Tips
Tips
xxxx
Tips
xxxx