Bienvenue dans The Glitch, la newsletter de L’Atelier dédiée aux environnements virtuels et technologies émergentes.
Attention, vous êtes surveillés !
Source: The Tonight Show Starring Jimmy Fallon
Et si le vrai problème de l’IA n’était pas ce qu’elle crée… mais ce qu’elle sait déjà sur vous ? Une organisation de jeunes activistes, Gen Z For Change, vient de lancer "Eyes on AI", une campagne dont l'objectif est de montrer, très concrètement, à quel point nous sommes déjà une cible dans l’économie de la surveillance. Sous forme de test interactif, l’outil cartographie notre exposition : applis utilisées, moyens de paiement, habitudes numériques… Et sans même demander d’informations sensibles, il reconstitue une partie de notre “profil surveillé”. Entre reconnaissance faciale dans l’espace public, assistants dopés à l’IA, tracking publicitaire et collecte de données par des acteurs publics et privés, l'expérience offre ainsi le constat que la surveillance de masse n’est plus une dérive, mais une norme.
Cela n'est pas sans rappeler notre propre rapport immersif de 2019, WILL, où l'on proposait à l'utilisateur de découvrir son futur en fonction de ses choix de partage de données actuels. D'une certaine manière, la surveillance devenait en simple variable d’optimisation. Là où Eyes on AI est intéressant et complémentaire, c’est dans son approche pédagogique : plutôt que d’alarmer de manière abstraite, l’outil vous fait parvenir un rapport avec les risques liés à vos habitudes spécifiques en ligne et les actions pour limiter ces risques.
Quand les modèles IA jouent à la guerre nucléaire
Source: Kim's Convenience - CBC Television
Une étude menée au King’s College London révèle un résultat pour le moins inquiétant : dans des simulations de crises internationales, des modèles d’IA ont choisi d’envoyer des signaux nucléaires dans 95 % des cas. Dirigée par le chercheur Kenneth Payne, l’expérience a plongé plusieurs modèles avancés (GPT, Claude, Gemini) dans des scénarios de confrontation géopolitique. Leur raisonnement montre qu’ils ne se contentent pas d’optimiser des résultats, ils développent de véritables stratégies, mêlant anticipation, réputation, voire tromperie.
Mais plusieurs points interpellent. D’abord, ces IA n’ont jamais choisi de céder ou de se retirer, même lorsqu’elles étaient en position de faiblesse. Ensuite, elles traitent souvent l’arme nucléaire comme un outil stratégique comme un autre. Enfin, leur comportement varie fortement selon le contexte. Par exemple, en cas de pression sur la rapidité d'exécution, certaines IA devenaient nettement plus agressives. L’intérêt de l’étude n'était évidemment pas de suggérer que l’on confiera demain des décisions militaires à ces systèmes, mais de montrer comment ceux-ci “pensent” dans des situations extrêmes. Car ces logiques (escalade, calcul du risque, manipulation...) pourraient se retrouver dans d’autres usages à haut enjeu, bien au-delà du domaine militaire.
Recréer le lien social à l'hôpital
Source: Poppa's House - Two Shakes Entertainment, CBS
Alors que Meta annonce la fermeture de son metaverse, faute d'avoir trouvé des cas d'usage sur le long terme une fois la pandémie (ou le buzz ?) terminée, d'autres plateformes virtuelles, elles, continuent de voir le jour avec l'idée de répondre à de réels besoins. C'est le cas de Virtual Dance Space. Ne vous fiez pas à son nom, l'ambition de la plateforme offrir aux enfants hospitalisés de longue durée un espace où ils pourront danser, explorer, créer un avatar à leur image et surtout, interagir avec d’autres jeunes vivant la même réalité. Derrière la techno, une intuition assez forte : quand le corps est immobilisé, l’imaginaire peut devenir un terrain d’émancipation. Et dans ce monde virtuel, les enfants ne sont plus des patients, mais presque des héros, capables d’agir, de bouger, de s’exprimer sans limite.
Et le projet, développé avec Be Earth Foundation et en collaboration avec Brock University, va bien au-delà du simple “jeu vidéo thérapeutique”. On parle ici d’un environnement immersif pensé dès le départ pour l’accessibilité : audio spatial, options de mobilité personnalisées, design inclusif… bref, une UX calibrée pour des corps contraints. Le projet n'est, par ailleurs, pas sans rappeler le mini-monde virtuel que nous évoquions en 2023 proposé par la fondation McDonalds dont le but était de maintenir le lien social pour les enfants hospitalisés. Pour l’instant, difficile de ne pas y voir surtout une promesse puissante : celle d’une technologie qui ne cherche pas à capter l’attention, mais à la libérer.
Chaque semaine, notre newsletter est rédigée par Aurore Geraud. Faites attention à vous et retrouvons-nous la semaine prochaine pour une nouvelle édition de The Glitch !
Vous avez une suggestion ? On vous écoute ! N’hésitez pas à partager The Glitch avec vos amis !
