L’intelligence artificielle n’est ni une machine unique ni la promesse qu’un logiciel pense comme une personne. Le cadre de gestion des risques du NIST décrit des systèmes produisant des prévisions, recommandations ou décisions selon des objectifs définis, avec différents degrés d’autonomie. Cette approche pratique aide à préciser ce que fait un système et où ses limites comptent.

Une proposition de recherche influente

En 1955, John McCarthy, Marvin Minsky, Nathaniel Rochester et Claude Shannon ont proposé un projet de recherche estival à Dartmouth pour 1956. Leurs ambitions incluaient le langage, les concepts, la résolution de problèmes et l’auto-amélioration. La simulation de certains aspects de l’intelligence y était une conjecture de recherche, pas un résultat déjà démontré.

L’ambition n’effaçait pas les difficultés

Le document abordait capacité de calcul, programmation, réseaux neuronaux et abstraction. Il reconnaissait aussi l’incertitude sur les moyens de progresser. Sa lecture montre pourquoi l’histoire de l’IA ne se résume pas à des machines devenant peu à peu humaines : le programme initial comportait déjà plusieurs problèmes et approches distincts.

Données et contexte influencent les performances

Pour les systèmes entraînés sur des données, le déploiement ne clôt pas l’évaluation. Le NIST souligne que les données peuvent changer fortement ou de façon inattendue, affectant fonctionnement et fiabilité. Un résultat utile dans un contexte doit donc être évalué avant d’être exploité dans un autre. Une démonstration séduisante ne prouve pas que chaque usage sera exact ou bénéfique.

Avantages et risques sont liés

Le NIST décrit des bénéfices potentiels et des risques dans des domaines comme le commerce, la santé et les transports. Les résultats dépendent de la conception technique, mais aussi des utilisateurs, des opérateurs et du contexte social. Une adoption responsable examine les personnes concernées, les conséquences des défaillances et les moyens de détecter et gérer les problèmes, sans supposer des gains automatiques de productivité ou d’équité.

Parler de l’avenir avec mesure

Mieux vaut évaluer l’avenir de l’IA à travers des tâches précises et des résultats documentés qu’à travers des certitudes sur des capacités universelles. Le cadre du NIST propose des recommandations volontaires pour la conception, le développement, le déploiement et l’utilisation ; il ne garantit pas la fiabilité d’un produit. Les robots en couverture sont une création conceptuelle, pas une photo d’équipements réels ni une preuve de conscience des machines.

Dartmouth proposal · NIST AI RMF