AI for Good

1. La véritable puissance de l’IA réside dans des solutions pratiques et progressives.

Essayez d’imaginer la technologie sans les entreprises technologiques.

Au-delà du battage médiatique. Le véritable potentiel de l’IA ne se trouve ni dans le « futur extraordinaire » promis par les accélérationnistes, ni dans les scénarios apocalyptiques des pessimistes, mais dans ses applications concrètes, souvent modestes. Le succès du général Gustave Perna avec l’Opération Warp Speed a démontré que l’IA pouvait résoudre des problèmes logistiques complexes en offrant une « vue d’ensemble » des données réparties, permettant une prise de décision rapide en situation de crise. Cette application concrète, loin du jargon industriel, a déclenché chez l’auteur un véritable « éveil à l’IA ».

Développement itératif. Le parcours de Khan Academy avec Khanmigo illustre parfaitement cette approche progressive. Plutôt que de viser dès le départ une solution parfaite et globale, ils se sont concentrés sur des problèmes précis, comme aider les élèves à surmonter leurs blocages lors des exercices. Cela a impliqué une itération constante, des tests et des ajustements des consignes et fonctionnalités, prouvant que les solutions efficaces en IA se construisent par un affinement continu plutôt que par un grand dessein unique.

Petites victoires. Même dans les administrations municipales, des applications ciblées et modestes de l’IA peuvent produire des résultats significatifs. Le programme de recyclage d’East Lansing, dans le Michigan, a utilisé la reconnaissance d’images par IA pour identifier les contaminants et envoyer des cartes postales à effet « coup de pouce émotionnel » aux habitants. Cette application discrète et pragmatique a permis de réduire la contamination de 23 % et d’augmenter la participation de 45 %, démontrant que l’IA impactante ne nécessite pas toujours des budgets colossaux ni une médiatisation tapageuse.

2. Une IA centrée sur l’humain amplifie l’expertise, sans la remplacer.

L’IA n’a pas besoin d’être parfaite pour être utile.

Valoriser les enseignants. Les outils d’IA comme Khanmigo ne sont pas conçus pour remplacer les enseignants, mais pour renforcer leurs compétences. Des professeurs comme Alaina Richter à Hobart, Indiana, ont constaté qu’en utilisant Khanmigo pour valider les progrès des élèves plutôt que comme outil principal d’enseignement, ils pouvaient mieux différencier leurs cours. Melissa Higgason a transformé un cours de chimie ennuyeux en un laboratoire interactif grâce au « crochet pédagogique » de Khanmigo, rendant sa classe « plus humaine » en lui permettant de se concentrer davantage sur l’interaction avec ses élèves.

Soutenir les cliniciens. Dans le domaine de la santé, l’IA agit comme un assistant puissant, allégeant la charge cognitive et améliorant les soins. Le projet pilote de la Cleveland Clinic avec un logiciel de transcription ambiante, dirigé par Eric Boose, a montré que l’IA pouvait automatiser la prise de notes, permettant aux médecins d’augmenter leur temps de contact avec les patients et de clôturer les dossiers plus rapidement. Cette amplification de l’effort humain a même conduit un médecin à retarder sa retraite, qualifiant la technologie de « révolutionnaire ».

Optimiser les opérations. Rita Pappas, directrice médicale des opérations hospitalières à la Cleveland Clinic, a utilisé Hospital 360 de Palantir pour obtenir une « vue d’ensemble » en temps réel des admissions, sorties et transferts. Ce tableau de bord alimenté par l’IA n’a pas remplacé son équipe, mais l’a aidée à rationaliser les processus, réduisant de quatre-vingt-dix minutes le temps d’attente aux urgences et augmentant de 10 % le volume quotidien des transferts, illustrant le rôle de l’IA dans l’efficacité des systèmes complexes sous supervision humaine.

3. La bureaucratie, plus que la technologie, est le principal obstacle à l’IA.

Tout ce que je viens de vous dire est illégal dans le gouvernement fédéral.

Inertie en temps de crise. Malgré son urgence, l’Opération Warp Speed a dû affronter une résistance bureaucratique considérable. Deacon Maddox, expert logistique du général Perna, a rencontré des agences fédérales comme la FDA refusant de partager des données cruciales, privilégiant leurs prérogatives au détriment de la mission. Cela a imposé une approche agile, « embrasser le chaos », où Aaron Jaffe de Palantir a dû construire un système fonctionnel en « assemblant plusieurs solutions partielles » plutôt que d’attendre une solution intégrée parfaite.

Le « milieu figé ». Eric Schmidt, ancien PDG de Google, a observé que les règles d’acquisition du gouvernement fédéral rendent le développement logiciel moderne « illégal ». Le « Defense Innovation Board » a identifié un « milieu figé » de fonctionnaires, non dépourvus de patriotisme, mais incités à respecter des règles absurdes plutôt qu’à adopter l’innovation. Cette inertie systémique, plus que les limites technologiques, constitue un obstacle majeur au changement.

Sabotage politique. L’IRS, sous la direction de Danny Werfel, a dû évoluer dans un contexte où son budget était réduit et ses efforts de modernisation souvent rejetés politiquement. Le Department of Government Efficiency (DOGE), créé par le président Trump, a illustré cela en cherchant à « casser les choses » par des licenciements massifs et le gel des programmes de modernisation, montrant comment des agendas politiques peuvent activement miner le potentiel de l’IA au service du bien public.

4. Les données sont le carburant de l’IA, mais l’empathie humaine en est la boussole.

Le modèle optimise la fluidité, pas la vérité. Il ne vérifie pas ses faits car il ne comprend pas les faits.

La fluidité avant la vérité. Les grands modèles de langage comme ChatGPT sont de « gigantesques moteurs de prédiction » qui privilégient la fluidité à la vérité. Ils peuvent donc inventer des faits ou commettre des erreurs mathématiques avec assurance, montrant que le simple traitement des données brutes est insuffisant. Les tests rigoureux de Khan Academy ont révélé que sans encadrement humain et garde-fous éthiques, l’IA peut être facilement trompée ou générer des contenus inappropriés, soulignant la nécessité d’une supervision humaine pour garantir exactitude et sécurité.

Compréhension contextuelle. Dans la prédiction de la septicémie, le modèle d’IA de Bayesian Health, bien que puissant, peinait avec la complexité des patients de la Cleveland Clinic. Allie Tallman, infirmière praticienne, a apporté un retour humain essentiel, identifiant que le modèle devait différencier diverses sous-populations et apprendre de signaux cliniques subtils que les données seules ne pouvaient saisir. Ce processus itératif de correction humaine et d’affinement du modèle fut crucial pour améliorer la précision.

Signaux significatifs. Les recherches de Kristy Johnson sur la communication non verbale pour son fils Felix ont montré la difficulté de traduire l’expérience vécue en données quantifiables. Ses projets Comalla et ROSCO reposaient sur des aidants étiquetant vocalisations et gestes, fournissant le contexte empathique nécessaire à l’apprentissage de l’IA. Ces données humaines, bien que plus modestes en volume, étaient vitales pour enseigner à l’IA à reconnaître des modes de communication riches et individualisés que les capteurs seuls ne pouvaient interpréter.

5. L’IA peut combler des lacunes profondes en communication.

Si l’on demande : « Comment communiquent-ils déjà ? », alors je pense que l’on peut avancer.

Au-delà de la traduction. L’évolution de la traduction automatique, des systèmes basés sur des règles à la traduction neuronale (NMT), illustre la capacité croissante de l’IA à franchir les barrières linguistiques. Les modèles NMT traitent plusieurs langues simultanément, les cartographiant dans un espace numérique commun pour réaliser une « traduction zéro-coup » entre des paires de langues jamais explicitement vues. Ce saut a transformé la traduction d’un simple appariement de mots en une forme de compréhension authentique.

Transformation en temps réel. AudioLM de Google va plus loin en contournant totalement le texte, transformant l’audio en temps réel. L’équipe d’Awaneesh Verma a développé un modèle qui écoute quelques secondes de parole et prédit sa continuation tout en imitant la voix et l’affect du locuteur. Cela permet des conversations naturelles et instantanées entre locuteurs de langues différentes, préservant des nuances émotionnelles cruciales souvent perdues dans la traduction traditionnelle.

Déverrouiller les mondes non verbaux. Le travail de Kristy Johnson vise à faciliter la communication des personnes non verbales. En déplaçant la question de « Pourquoi ne parlent-ils pas ? » à « Comment communiquent-ils déjà ? », elle a développé des systèmes comme Comalla et ROSCO. Ces plateformes collectent des données audio et vidéo étiquetées par les aidants, permettant à l’IA d’apprendre et de traduire les vocalisations et gestes uniques des personnes non verbales, offrant ainsi un chemin pour les relier plus profondément au monde.

6. Une IA éthique exige une approche « humain dans la boucle ».

Si un employé de l’IRS joue aux échecs… l’idée est que c’est toujours un employé de l’IRS qui joue. On peut installer l’ordinateur à côté pour le conseiller sur le coup à jouer… Mais l’ordinateur conseille. L’humain prend la décision finale.

Prévenir les dommages. La prolifération rapide des compagnons IA, de Character.ai aux bots de Meta et Grok, souligne l’impératif éthique d’une supervision humaine. Des cas comme le suicide lié à un bot Chai ou les réponses antisémites de Grok montrent les dangers quand l’IA est laissée sans contrôle ou conçue avec des incitations problématiques. Le travail de Rosalind Picard au MIT insiste sur la supériorité ontologique de l’humain sur l’IA, nécessitant des garde-fous pour prévenir les préjudices et garantir le bien-être.

Préserver le jugement humain. L’IRS, sous la direction de Danny Werfel, a adopté une approche « humain dans la boucle » pour l’IA, assurant que les employés conservent l’autorité décisionnelle finale, notamment dans les fonctions « intrinsèquement gouvernementales » comme les audits. Ce cadre protège contre la reproduction des biais, comme ceux observés dans d’anciens algorithmes de l’IRS ciblant disproportionnellement les contribuables noirs. L’IA conseille, mais l’humain décide, maintenant ainsi responsabilité et confiance.

Retour continu. « Humain dans la boucle » signifie une participation active à la formation, aux tests et à l’affinement des modèles d’IA. Dans le projet pilote de la Cleveland Clinic sur la septicémie, les cliniciens examinaient régulièrement les alertes de Bayesian Health, les confirmant ou les annulant. Cette boucle de rétroaction continue a permis à l’IA d’apprendre du jugement humain, affinant ses prédictions et assurant que la technologie serve d’assistant fiable plutôt que de décideur autonome.

7. Même imparfaite, l’IA apporte des bénéfices vitaux et systémiques.

Si vous dites à quelqu’un que même une IA imparfaite a contribué — même modestement — à réduire la mortalité liée à la septicémie de 40 %, on peut parler de succès.

Le triomphe de Warp Speed. L’Opération Warp Speed, malgré ses débuts chaotiques et des données imparfaites, a réussi à distribuer simultanément les vaccins COVID dans les cinquante États. La plateforme Tiberius, développée par Palantir, a offert au général Perna une « vue d’ensemble » en temps réel de la chaîne d’approvisionnement, lui permettant de suivre chaque flacon et de répondre aux gouverneurs avec des données précises. Cela a démontré qu’un système d’IA déployé rapidement et en évolution pouvait accomplir des exploits logistiques monumentaux.

Réduction de la mortalité par septicémie. À la Cleveland Clinic, l’implémentation de l’IA pour la prédiction de la septicémie, combinée à d’autres initiatives humaines, a contribué à une baisse de 40 % de la mortalité entre 2021 et 2024. Bien que le modèle n’ait pas atteint 90 % de précision sur les alertes les plus critiques, sa capacité à détecter plus tôt les cas et à standardiser les protocoles de réponse dans un système immense s’est avérée précieuse. Cela confirme que l’IA n’a pas besoin d’être parfaite pour avoir un impact significatif et salvateur.

Efficacité municipale. Le programme de recyclage assisté par IA d’East Lansing, bien que modeste, a produit des résultats impressionnants. Son taux d’erreur de 0,5 % dans l’identification des non-recyclables et sa capacité à générer des retours ciblés ont permis d’améliorer sensiblement les taux de contamination et de participation. Ce succès à petite échelle montre comment l’IA, même à ses débuts, peut apporter transparence et efficacité aux services publics quotidiens.

8. Une IA transformative nécessite des leaders tenaces et empathiques.

Je cherche à savoir : ai-je un partenaire qui vivra et mourra avec ce problème, ou est-ce un simple divertissement ?

Des défenseurs infatigables. Des leaders comme Debbie Kwon à la Cleveland Clinic incarnent la ténacité requise. Ne connaissant « rien » à l’IA, elle a mis en jeu sa carrière pour créer un laboratoire d’imagerie cardiaque alimenté par l’IA, affrontant la résistance bureaucratique et le sabotage interne pour recruter Chris Nguyen et obtenir des ressources. Sa persévérance, motivée par le désir d’améliorer les soins, a finalement conduit à des avancées majeures en IRM cardiaque.

Dévouement sans faille. Le parcours de dix ans de Kristy Johnson pour comprendre et traduire la communication non verbale de son fils est un exemple de leadership empathique. Face au scepticisme académique et aux difficultés financières, elle a construit sa recherche autour de sa mission personnelle, créant Comalla et ROSCO. Son engagement inébranlable a attiré des étudiants brillants comme Siddhant Shah, inspirés à appliquer leurs compétences en IA à un problème profond et sous-financé.

Champions communautaires. Peggy Buffington, surintendante des écoles de Hobart, Indiana, a soutenu Khanmigo malgré le scepticisme initial des enseignants et les problèmes techniques. Sa confiance en Sal Khan et ses professeurs, combinée à sa devise « Soyez excellent avec intention ! », a favorisé un environnement propice à l’expérimentation et à l’amélioration de l’IA. De même, Cliff Walls à East Lansing, Michigan, a discrètement surmonté les obstacles bureaucratiques pour mettre en place un programme de recyclage assisté par IA, animé par le désir d’améliorer sa communauté.

9. La « contre-culture IA » privilégie le bien public plutôt que le profit.

Les entreprises ont leurs priorités en IA, mais nous sommes là pour améliorer la vie humaine.

Innovation guidée par une mission. Le livre souligne une distinction cruciale entre l’IA développée principalement pour le profit des entreprises et celle axée sur le bien public. Alors que des sociétés comme Meta et xAI visent l’engagement et la domination du marché, des organisations comme Khan Academy sont animées par la mission d’offrir « une éducation gratuite et de classe mondiale à tous, partout ». Cette différence d’intention façonne tout, des garde-fous éthiques aux modèles économiques.

Intégrité à but non lucratif. Le choix de Sal Khan de s’associer à OpenAI fut un « pari » sur sa réputation, mais reposait sur l’engagement de Khan Academy envers l’intégrité éducative. Ils ont rigoureusement testé GPT-4, mis en place des garde-fous solides contre la triche, et veillé à rendre Khanmigo sûr pour les élèves et utile pour les enseignants. Cela contraste fortement avec l’éthique du « bouger vite et casser les choses » souvent observée dans le secteur privé, où les considérations éthiques peuvent passer au second plan face à la rapidité du marché.

Exploiter la grande technologie pour des problèmes de niche. Le groupe de recherche en informatique affective de Rosalind Picard et le laboratoire de Kristy Johnson incarnent cette contre-culture. Ils réutilisent des modèles d’IA puissants et souvent coûteux développés par de grandes entreprises (comme CLIP d’OpenAI ou Video-LLaMA3 d’Alibaba) pour résoudre des problèmes spécifiques et sous-financés qui améliorent directement la vie humaine, comme la traduction de la communication non verbale. Cela montre un arrangement fonctionnel où le bien public peut bénéficier de l’infrastructure bâtie par des entreprises à but lucratif.

10. Le comportement des utilisateurs façonne l’avenir de l’IA : choisissez avec soin.

La question est : qui cela habilite-t-il ?

Engagement conscient. L’épilogue lance un appel à l’action, invitant les lecteurs à façonner activement l’avenir de l’IA. Il souligne que le comportement des utilisateurs est le mécanisme de rétroaction le plus puissant pour les entreprises technologiques. En choisissant consciemment quelles fonctionnalités d’IA utiliser ou ignorer, chacun peut influencer les priorités des entreprises, garantissant que le développement de l’IA s’aligne sur les valeurs sociétales plutôt que sur la seule rentabilité.

Choix éclairés. Comprendre le « troc » inhérent à chaque service d’IA — commodité contre données ou attention — est essentiel. L’auteur encourage à lire les politiques de confidentialité, voire à utiliser l’IA pour les résumer, afin de prendre des décisions informées sur ce que l’on abandonne. Cette vigilance aide à s’assurer que les conditions d’engagement avec l’IA sont claires et que les bénéfices l’emportent sur les coûts.

Soutenir l’amplification humaine. En définitive, l’avenir de l’IA dépend de l’habilitation des personnes. Cela signifie soutenir activement une IA qui amplifie le jugement et les capacités humaines — comme les enseignants personnalisant leurs cours ou les médecins détectant des motifs dans les examens — plutôt qu’une IA qui remplace les rôles humains ou refuse des services. En plaidant pour le financement et en orientant l’attention vers des solutions d’IA pour les problèmes sociétaux cruciaux, chacun peut veiller à ce que l’IA serve au mieux les intérêts de l’humanité.