- News : McAfee s'attaque au deepfake audio.
- Quick hack : Générez une proposition de valeur en béton.
- Tendance : IA & distorsion de la réalité - une nouvelle ère de défiance.
Salut à tous,
En 2023, l'IA a été largement saluée comme un prodige technologique.
En 2024, elle pourrait être l'architecte d'une crise de confiance sans précédent.
Des photos contestées pour leur authenticité, une technologie générative accessible à tous, et des détecteurs d'IA inopérants : ces éléments combinés s'apprêtent à provoquer une invasion du synthétique et une défiance de masse aux conséquences potentiellement désastreuses.
La technologie, jadis un pont vers la vérité, devient un labyrinthe de miroirs, reflétant des virtualités multiples et souvent contradictoires.
L'humain pourrait bien jeter l'éponge face à un mur devenu infranchissable, celui de la distinction entre réel et artificiel.
Sane de Upmynt 💙
Les news chaudes 🔥
🔇 Contre les deepfake audio. McAfee a dévoilé le projet Mockingbird au CES 2024 pour détecter les passages IA-générés dans ses bandes sons, ou les voix synthétiques.
L'outil détecte l'audio IA dans les vidéos avec une précision de plus de 90%.
👊 L'offensive Nvidia sur l'IA audio. Nvidia a publié "Parakeet", de nouveaux modèles open source de reconnaissance vocale. Ils ont été entraînés sur 64K heures de données audio couvrant différents accents et conditions sonores.
Les 4 modèles surpassent le Whisper v3 d'OpenAI dans les benchmarks, et sont déjà disponibles pour un usage commercial.
💹 Le succès des actions IA. Une étude Etoro révèle l'énorme succès des actions IA (Nvidia, Palantir…) auprès des boursicoteurs, un quart en possédant effectivement.
Ce succès est plus net encore chez les jeunes : 43% des 18-34 étant exposés aux actions IA.
🇫🇷 PhotoRoom accélère. La startup IA française serait sur le point de lever entre $50 et $60M, ce qui la porterait à une valorisation entre $500 et $600M.
L'app PhotoRoom est particulièrement prisée des entrepreneurs et des PME pour mettre en valeur leurs clichés produit grâce à l'IA générative.
👋 Reculer pour mieux sauter. Humane licencie 4% de ses effectifs, avant la sortie en mars de son badge IA sans écran "AI Pin" à $699.
🐇 Lapin IA ! Le Rabbit R1 annoncé hier est un gadget IA assez semblable au AI Pin de Humane, sauf que lui dispose d'un petit écran pratique, et qu'il est proposé à seulement $199.
Grâce à son système d'exploitation Rabbit OS et son "Large Action Model", l'appareil offre des fonctionnalités comme la commande vocale pour la musique, le shopping, les messages et d'autres services via une interface unique.
Même la génération d'images sur le modèle Midjourney est disponible ! Prometteur.
Si vous voulez en savoir plus, consultez le site officiel où vous pourrez notamment visionner la keynote d'annonce du joujou.
Communauté 🦊
Cet espace est le vôtre. Recrutement, ressource à partager, demande d'aide, question. Répondez à cet email pour y apparaître.
- Résultat du sondage
40% de la communauté Upmynt utilise en priorité Midjourney pour ses générations d'images (à raison 😁). Les 3 autres modèles phares ont les faveurs du reste d'entre vous à parts égales (~20%).
Quick hack ⚡️ Générez une proposition de valeur en béton
J'ai d'abord cru à un énième outil "IA" (sic) complètement gadget, mais pour l'avoir mis à l'épreuve, je dois dire que j'ai été impressionné.
Le "Value Proposition Generator" vous propose de générer vos fondamentaux marketing pour transformer une idée de départ en un business rentable. Et le résultat est loin d'être déconnant.
Vous entrez simplement le type de business (par exemple "newsletter sur l'IA"), votre audience cible ("professionnels du marketing et entrepreneurs") et… c'est tout !
L'outil vous propose un Persona détaillé avec ses aspirations (liées à votre biz), les obstacles pour y parvenir et les "magnets" auxquels il sera sensible. Puis dans une section produit, vous retrouvez un positionnement et un court descriptif produit avec les avantages clés de votre offre.
Le déverrouillement d'un plan d'actions requiert votre email, mais celui-ci est très générique, donc vous pouvez a priori vous en passer.
Tendance 🌈 IA & distorsion de la réalité : une nouvelle ère de défiance
Imaginez un monde où chaque image, chaque son, chaque information que vous consommez pourrait être une illusion, habilement tissée par une IA.
Ce monde n'est autre que celui que 2024 nous ouvre ; une époque où la distinction entre le réel et l'artificiel est un exercice si ardu qu'il en devient désuet.
La conséquence ? Un rejet massif et imminent du média sous toutes ses formes.
Midjourney v6 repousse le réalisme avec des photos… imparfaites
L'arrivée de Midjourney v6 n'a pas seulement repoussé le photo réalisme des images générées. Paradoxalement, elle marque la maitrise d'un nouvel art, celui de l'imperfection.
La v6 permet de créer des images si imparfaites qu'elles pourraient être l'œuvre de n'importe quel chaland armé de son smartphone. Sauf qu'ici, il n'y a pas d'humain amateur, juste des algorithmes apprenant à imiter nos erreurs, nos flous, nos cadrages approximatifs.
Des utilisateurs Reddit se sont ainsi amusés à partager des visuels désarmant de réalisme, qui par leur banalité ou leur imperfection semblent avoir été simplement capturés par un smartphone.
Un pic de désinformation en 2024 amplifié par l'IA
Les photos ci-dessus peuvent paraitre inoffensives. Sauf si cette impression d'authenticité est mis au service d'une désinformation toxique.
2024 est une année d'événements aussi majeurs que sensibles, en tête desquels les élections américaines et les Jeux Olympiques à Paris. Nous pourrions bien être noyés à cette occasion par un tsunami de fake news et de deepfakes.
Paranoïa ? La désinformation a pourtant commencé autour des JO. Les autorités suspectent que tout la psychose injustifié autour des punaises de lit à Paris auraient été largement amplifiée voire initiée par la Russie, afin de déstabiliser la France.
Qu'ils soient l'œuvre d'entités organisées ou d'individus isolés, des deepfakes pourraient bien influencer ou perturber la tenue de ces événements stratégiques.
Il m'a fallu quelques minutes pour générer les visuels d'un Louvre en proie aux flammes, tels que visiblement pris maladroitement avec un smartphone. Le secret ? La mention "posted on snapchat in 2018" dans le prompt qui permet de générer ce traitement amateur criant de vérité.
Paranoïa générale attendue sur toute forme de média
Bien sûr, la population apprendra à se méfier des éventuels deepfakes à mesure qu'ils se généralisent… Mais aussi de tout visuel à forte charge informationnelle, même s'il est authentique.
Et c'est tout le problème. Une défiance généralisée va s'installer, à tel point que même des visuels réels seront rejetés avec méfiance.
Science-fiction ? Le cas s'est pourtant déjà présenté. En avril 2023, durant les manifestations contre la réforme des retraites, ce cliché a créé la confusion.
Sur les réseaux sociaux, beaucoup d'internautes mettent en doute l'authenticité du visuel. La composition parait "surréaliste" et le design des casques est "suspect".
Pourtant, le cliché est bien réel, il est l'œuvre d'un photographe de l'agence Reuters.
Et cette paranoïa va s'accentuer.
Un visuel partagé par le compte officiel de l'Élysée le 8 janvier au sujet des JO, a suscité l'ire des internautes sur les réseaux sociaux. La nature de l'outrage ? Il serait IA-généré.
En réalité, le visuel n'est pas IA-généré mais bel et bien créé par les graphistes habituels de la com' des JO.
Cet énième épisode illustre la défiance montante contre tout visuel partagé en ligne, qu'il soit une photographie ou une création digitale.
Les détecteurs IA largement inopérants
À ce jour, les détecteurs de contenus artificiels ont largement montré leur manque de fiabilité, que ce soit pour du texte ou de l'image.
Même OpenAI qui opérait un détecteur de textes IA-générés a finalement décidé de retirer son service, tant les résultats étaient trop souvent inexactes.
Côté image, aucun détecteur n'a prouvé son infaillibilité à ce jour. Typiquement, l'image des CRS ci-dessus avait été certifié artificielle, à tort, par l'un de ces outils.
Les AI smartphone vont mettre l'IA entre toutes les mains
Si 1M d'utilisateurs actifs de Midjourney génèrent déjà des images criantes de vérité, imaginez les conséquences d'une mise à disposition de cette technologie auprès de milliards d'invidivus ?
C'est exactement ce qu'il va progressivement se passer avec le lancement des smartphones IA : les outils génératifs d'image seront littéralement entre toutes les mains.
Apple a récemment sorti son premier modèle IA "Ferret" et l'image y a pris une place de choix, avec des capacités supérieures de reconnaissance d'image versus GPT Vision.
Le premier iPhone IA est attendu en septembre et on peut s'attendre à des fonctionnalités avancées d'IA générative.
De son côté, Google a déjà dégainé son Pixel 8, équipé d'une IA robuste qui permet d'éditer vos photos en modifiant les arrière-plans, en retirant des éléments indésirables ou en remplaçant des visages. Et, well… C'est flippant.
Le média américain The Verge alerte sur le sujet :
« Les outils de Google mettent de puissantes fonctionnalités de manipulation de photos – les types de retouches qui n'étaient auparavant disponibles qu'avec des connaissances de Photoshop et des heures de travail – entre les mains de tous et encouragent leur utilisation à grande échelle, sans garde-fous contre ce que cela pourrait engendrer. »
Défiance du média et/ou retour à l'authenticité
Face à cette prolifération synthétique, plusieurs scénarios sont imaginables, et ils ne sont pas antagonistes :
- Une défiance générale contre le média sous toutes ces formes, provoquant un écroulement de ce dernier, avec des conséquences désastreuse, notamment du côté de l'information et donc de la manipulation des masses.
- Une prise de conscience collective et un déploiement de détecteurs IA performants, le tout accompagné d'une régulation massive et sans précédent sur tous les contenus partagés.
- Un retour aux technologies d'antan, par exemple celles permettant des captures authentiques sans truchement artificiel, comme les appareils photo jetables ou Polaroid. Mais les partages en ligne resteront source de scepticisme.
Pépites 💎
Le meilleur du web, rien que le meilleur, sélectionné avec soin pour vous :
Fake it till you fake it. Dans la continuité du sujet central de cette édition, cette tribune passionnante montre les implications éthiques des outils de manipulation d'image modernes, comme ceux de Google Pixel 8.
« Il ne s'agit pas seulement de créer une fausse réalité, mais de l'érosion de la confiance dans ce qui est réel. »
Les meilleurs influenceurs sont les athlètes à l'université. Du moins aux US. Cette infographie démontre comment ces créateurs de contenu affichent largement le meilleur taux d'engagement sur les réseaux sociaux = x2 sur TikTok, x 10 sur X.
Booster une Newsletter. Dans ce thread Twitter, l'auteur de la newsletter The Bear Cave (40K inscrits) partage la recette de son succès avec de précieux conseils pour faire croître sa base d'abonnés. (🇬🇧)
L'IA menace la sécurité mondiale ? La chaine Arte tâche de répondre à la question avec un épisode intéressant de son émission d'information "28 minutes".
Une seule info à retenir 🧠
Prix du Rabbit R1, le premier gadget IA qui veut complémenter le smartphone.
Wow ! Vous êtes arrivé(e) jusque là
Si ça vous a plu, vous pouvez alternativement :
👉 Transférer cet email à un collègue ou à un proche.
👉 Exprimer votre ressenti sur cette édition ci-dessous. Un seul clic suffit.
