Profile picture of Olivier Schollaert
Olivier Schollaert
Consultant en IA : Un peu d'IA, un peu d'automatisation... la pénibilité s'envole
Follow me
Generated by linktime
June 28, 2025
🚨 Elle a été traitée comme une criminelle… par une IA. Imaginez être expulsé d’un magasin pour un vol que vous n’avez jamais commis… C’est ce qui est arrivé à Danielle Horan à Manchester (source BBC juin 2025), bannie à deux reprises de magasins Home Bargains à cause d’un algorithme de reconnaissance faciale. 🔦 Son « crime » ? Avoir été identifiée à tort comme voleuse de papier toilette par le système 𝐅𝐚𝐜𝐞𝐰𝐚𝐭𝐜𝐡, qui l’a automatiquement inscrite sur une liste noire numérique — 𝐬𝐚𝐧𝐬 𝐚𝐮𝐜𝐮𝐧𝐞 𝐯𝐞́𝐫𝐢𝐟𝐢𝐜𝐚𝐭𝐢𝐨𝐧 𝐡𝐮𝐦𝐚𝐢𝐧𝐞. 💥 Fichage automatique dans d’autres enseignes. 💥 Chaque passage en caisse = une mise en accusation. 💥 Aucune possibilité de se défendre sur le moment. Même après avoir prouvé son innocence, l’accusation persistait. Il a fallu des semaines de combat pour faire reconnaître l’erreur de la machine. 𝐂𝐞 𝐧’𝐞𝐬𝐭 𝐩𝐚𝐬 𝐪𝐮'𝐮𝐧 𝐟𝐚𝐢𝐭 𝐝𝐢𝐯𝐞𝐫𝐬, 𝐜’𝐞𝐬𝐭 𝐮𝐧 𝐬𝐢𝐠𝐧𝐚𝐥 𝐝’𝐚𝐥𝐚𝐫𝐦𝐞 ! 💥 Et si c’était vous, votre mère, votre enfant, votre collègue ? Le jour où la technologie déraille, qui nous protège d’elle ? Mais est-ce vraiment la technologie qui déraille ou l'usage que l'on en fait... ?Une IA seule au pouvoir de base c'est une mauvaise idée, si en plus on ne la contrôle pas... bref, ils cumulent le déni des bonnes pratiques. ☠️ Si ça avait été moi, j'aurais pêté un câble par rapport à l'irresponsabilité de l'enseigne dans cette affaire, parce qu'ici au final, ce n'est pas tant un problème d'IA mais bien un problème de processus ! Alors pour que cela n'arrive plus, expliquez autour de vous, aux décisionnaires, qu'il y a des gens qui savent, des responsables process à écouter, même si cela a un coût, c'est un investissement. PS : histoire vraie mais image d'illustration générée avec Grok, s'il s'est amélioré "en larmes" il reste un soucis avec la cohérence d'écart des barreaux 😁
Stay updated
Subscribe to receive my future LinkedIn posts in your mailbox.

By clicking "Subscribe", you agree to receive emails from linktime.co.
You can unsubscribe at any time.

10 Likes
June 28, 2025
Discussion about this post
Profile picture of Luc Avril
Luc Avril
Je reviens bientôt !
2 months ago
Cette histoire me rappelle le jeu vidéo Watch Dogs 2, sorti en 2016. Dans celui-ci, le protagoniste - Marcus Holloway - est accusé à tort d'un crime par le "Bellwether", un algorithme prédictif créé par une méga-société de surveillance informatique. Pire encore, elle est elle-même basée sur la reconnaissance faciale.
Profile picture of Olivier Schollaert
Olivier Schollaert
Consultant en IA : Un peu d'IA, un peu d'automatisation... la pénibilité s'envole
2 months ago
Ce cas n’est pas isolé : l’organisation Big Brother Watch recense plus de 35 personnes victimes de signalements erronés similaires. Facewatch a reconnu l’erreur et suspendu temporairement ses services dans les magasins concernés, mais la question de fond demeure : peut-on confier notre présomption d’innocence à un algorithme ? 👉 Cette histoire, révélée par la BBC, interroge sur la place croissante de l’IA et de la reconnaissance faciale dans nos vies. Quand la machine se trompe, c’est à l’humain de prouver son innocence. Un vrai défi pour nos libertés fondamentales.
😱 Grok m'a surpris ce matin... et cela pourrait aussi vous aider à pousser vos réflexions ! Pour rappel, Grok (3 beta) est l’IA développée par xAI d’Elon Musk, disponible gratuitement sur X (ex Twitter). J'avais une simple idée en tête et je l'ai mis au défi. Dans le prompt, je lui ai demandé de valider chaque point de mon idée et d'y trouver une source. J'ai été bluffé, il découpe, analyse et valide les différents points partis d’une simple idée… 👍 Extrait du résultat (de plusieurs pages, oui c'était une longue idée 😁): 💡 "Pendant que les grosses boîtes font la course à l'AGI..." ✔️ Validation : La course à l’AGI (intelligence artificielle générale) est bien réelle. Des entreprises comme OpenAI, Google (DeepMind), et xAI investissent massivement dans le développement d’une IA capable de rivaliser avec l’intelligence humaine. Par exemple, OpenAI a levé des fonds massifs (6,6 milliards de dollars en octobre 2024 selon TechCrunch) pour accélérer ses recherches sur l’AGI. 🔦 Source : TechCrunch, "OpenAI raises $6.6B at $157B valuation" (octobre 2024). 💡 "...des chercheurs pensent que l'évolution des processeurs et de la puissance de calcul empêchera d'y arriver" ✔️ Validation : Certains experts estiment que les limites physiques des semi-conducteurs (fin de la loi de Moore) et les besoins exponentiels en puissance de calcul pour l’AGI pourraient freiner les progrès. Un article de MIT Technology Review (2023) souligne que la croissance de la puissance de calcul ne suit plus le rythme des exigences des modèles d’IA, et des architectures alternatives (comme le calcul quantique) pourraient être nécessaires. 🔦 Source : MIT Technology Review, "The AI hardware problem: Compute isn’t growing fast enough" (2023). ‼️ Nuance : D’autres, comme NVIDIA, affirment que leurs GPU (ex. Jetson Orin, jusqu’à 275 TOPS) repoussent ces limites, mais les coûts énergétiques et environnementaux restent un défi. ... ❓ Et vous, avez-vous déjà utilisé Grok 3 ? N'hésitez pas à tester, c’est gratuit et certains résultats sont étonnants ! PS : Comme avec toutes les IA il faut malgré tout vérifier la véracité des données ! PS2 : J’ai demandé à Grok 3 de se représenter lui-même pour illustrer ce post (pas pour illustrer le contenu de l’idée), je n’ai donné aucune indication, regardez l’image, pourquoi a-t-il fait ce choix-là selon vous ?
42 comments
March 28, 2025
On nous dit que l’IA ne remplace pas les humains, elle remplace des tâches, mais… 💥 𝗟'𝗲́𝘃𝗼𝗹𝘂𝘁𝗶𝗼𝗻 𝗱𝗲 𝘀'𝗮𝗿𝗿𝗲̂𝘁𝗲 𝗽𝗮𝘀 : même ceux qui utilisent l’IA devront s’adapter. Prenons un parallèle : 𝗔𝗻𝗻𝗲́𝗲𝘀 𝟵𝟬-𝟮𝟬𝟬𝟬 : Ceux qui savaient utiliser Excel ont remplacé ceux qui faisaient tout à la main. 𝗔𝗻𝗻𝗲́𝗲𝘀 𝟮𝟬𝟭𝟬-𝟮𝟬𝟮𝟬 : Ceux qui savaient coder ou automatiser des tâches ont pris une longueur d’avance. 𝟮𝟬𝟮𝟰-𝟮𝟬𝟮𝟱 : Ceux qui maîtrisent les IA génératives gagnent en productivité, prennent des marchés, ou changent de métier plus vite. 𝗠𝗮𝗶𝘀... ⚠️ À un moment, l’IA n’aura plus besoin de nous pour être « utilisée ». Sur quelles périodes parle-t-on de remplacements concrets ? 𝗖𝗼𝘂𝗿𝘁 𝘁𝗲𝗿𝗺𝗲 (𝟮𝟬𝟮𝟰-𝟮𝟬𝟮𝟲) : Remplacement partiel dans les métiers très répétitifs : saisie de données, support client de niveau 1, modération de contenus, traduction simple… Les métiers techniques avec forte productivité via l’IA (code, design, rédaction) voient leur nature changer rapidement. 𝗠𝗼𝘆𝗲𝗻 𝘁𝗲𝗿𝗺𝗲 (𝟮𝟬𝟮𝟲-𝟮𝟬𝟯𝟬) : Transformation profonde de certains métiers : les fonctions support, la relation client, le juridique de premier niveau… Montée en puissance de l’IA autonome dans des contextes contrôlés (voitures autonomes sur trajets définis, robots logistiques…). 𝗟𝗼𝗻𝗴 𝘁𝗲𝗿𝗺𝗲 (𝟮𝟬𝟯𝟬 𝗲𝘁 𝗮𝘂-𝗱𝗲𝗹𝗮̀) : Si l'IA générale (AGI) devient réalité, alors une refonte profonde du travail humain sera nécessaire : revalorisation des métiers du soin, de l’enseignement, de la relation humaine ; montée des débats sur le revenu universel et le sens du travail. 𝗖𝗲 𝗻’𝗲𝘀𝘁 𝗽𝗮𝘀 𝘂𝗻𝗲 𝗰𝗼𝘂𝗿𝘀𝗲 𝗰𝗼𝗻𝘁𝗿𝗲 𝗹’𝗜𝗔, 𝗰’𝗲𝘀𝘁 𝘂𝗻𝗲 𝗰𝗼𝘂𝗿𝘀𝗲 𝗽𝗼𝘂𝗿 𝗿𝗲𝘀𝘁𝗲𝗿 𝗵𝘂𝗺𝗮𝗶𝗻 𝗱𝗮𝗻𝘀 𝘂𝗻 𝗺𝗼𝗻𝗱𝗲 𝗮𝘂𝗴𝗺𝗲𝗻𝘁𝗲́ et si votre boulot n’a plus beaucoup de sens dites-vous qu’il sera plus vite remplacé...
41 comments
April 22, 2025
"Je vois des têtes coupées, des enfants battus, des cris que je n’oublie pas. On me dit de continuer, que c’est juste du travail. Mais ça reste dans ma tête." Derrière chaque IA, il y a des mains humaines, comme ce dataworker à Manille, chargé d’entraîner une IA à reconnaître des contenus violents, sans pause suffisante ni soutien… Ces travailleurs de l’ombre annotent, nettoient et structurent les données mais à quel prix ? Exploitation, bas salaires, et pressions psychologiques : les témoignages révèlent une face sombre de l’innovation technologique et mettent en lumière les conditions de travail précaires de ces acteurs essentiels, trompés dès le départ sur le type de tâches à accomplir. ‼️ Impact de l’exposition prolongée à ce type de contenu : 🤕 Stress post-traumatique : cauchemars, flashbacks ou anxiété chronique, similaires à ce que vivent les soldats. 🤢 Épuisement émotionnel : une désensibilisation ou, au contraire, une hypersensibilité qui affecte leur vie personnelle. 🤮 Cas extrêmes : bien que les informations soient difficiles à obtenir car les entreprises limitent la transparence, des témoignages ont remonté des cas de dépression sévère ainsi que des suicides liés à ces conditions de travail. À Nairobi, par exemple, des travailleurs employés par des sous-traitants rapportent des journées de neuf heures à étiqueter des textes toxiques pour des géants technologiques, pour un salaire entre 1,32 et 2 dollars de l’heure, loin de refléter la pénibilité de leur tâche. 😱 Il me semblait pourtant avoir entendu parler de plusieurs centaines de milliards d’investissement dans l’IA… Nous sommes loin des IA éthiques… 🤑 Pour bien se rendre compte, voici la nature du contenu traumatisant 😡 Violence explicite : décapitations, agressions, accidents mortels, actes de guerre. Pour détecter la violence, ils doivent étiqueter des milliers d’heures de telles séquences. 👿 Contenu sexuel perturbant : pédopornographie, scènes d’abus sexuels ou viols. Ils doivent les catégoriser ou les signaler. 🤬 Discours haineux et harcèlement : analyse de textes ou enregistrements audio remplis d’insultes racistes, sexistes, homophobes ou de menaces de mort. Pour détecter le "hate speech", ils passent des heures à lire et à classer des messages haineux. 💀 Désinformation et propagande morbide : contenus liés à des théories conspirationnistes ou à des campagnes de désinformation, incluant récits macabres ou images manipulées comme des fausses exécutions ou des scènes de panique. 💩 Autres contenus choquants : photos de mutilations animales, autopsies, images de suicides, souvent nécessaires pour entraîner des IA dans des domaines comme la sécurité publique. Alors sommes-nous prêts à reconnaître leur rôle et à repenser leur place dans la chaîne de valeur, ne faudrait-il pas un contrôle de ces métiers ? L’IA peut transformer nos vies, mais elle ne doit pas se bâtir sur le sacrifice de ceux qui la rendent possible.
38 comments
April 3, 2025