Repenser les fondements épistémologiques de l'intelligence artificielle
L'intelligence artificielle (IA) contemporaine est un domaine en pleine effervescence, mais son développement repose largement sur des fondements épistémologiques hérités de la pensée occidentale. Ce paradigme est souvent caractérisé par une logique binaire (oui/non) et une construction en cause/effet, des schémas qui définissent la pensée dite linéaire ou binaire. Un tel modèle, qui a dominé l'ère technologique pendant près de trois siècles , a conduit à des avancées remarquables, mais il a également montré ses limites. En se concentrant sur une approche de causalité directe, il a tendance à exclure la complexité des interactions cycliques et la nature holistique de la réalité.
L'analyse de l'infrastructure et de la conception des systèmes d'IA révèle des faiblesses inhérentes qui peuvent avoir des conséquences sociales profondes. Les données utilisées pour entraîner les modèles excluent ou déforment souvent les savoirs et les voix non-occidentales. Par conséquent, les algorithmes reflètent intrinsèquement la vision du monde de leurs concepteurs et sont susceptibles de reproduire, voire d'aggraver, les inégalités existantes. Un examen de ces lacunes met en évidence que les échecs de l'IA ne sont pas uniquement techniques, mais résultent de "lacunes épistémologiques fondamentales" qui excluent "de nombreuses manières de connaître le monde". Cela crée un cercle vicieux où la technologie, conçue avec un prisme limité, renforce les schémas d'exclusion existants et alimente le "fossé numérique" d'une manière qui va au-delà du simple manque d'accès à l'infrastructure. Il est donc nécessaire de s'interroger sur la pertinence de l'approche linéaire et binaire pour résoudre les défis complexes du XXI^{e} siècle. La primauté du progrès, telle que conçue dans ce cadre, est remise en question par des événements historiques et des crises écologiques. La conscience de la fragilité du progrès, symbolisée par des événements comme Hiroshima, a fait resurgir des modes de pensée alternatifs, comme la pensée circulaire, qui ne considèrent plus le progrès comme infini et linéaire. Le passage d'une vision du monde basée sur la raison et la causalité à une autre qui intègre les "valeurs vitales" est une réponse directe à l'urgence de ces crises. Cela suggère que la nécessité d'une nouvelle épistémologie est une conséquence de l'évolution des défis mondiaux, et non une simple spéculation philosophique.
L'hypothèse centrale de ce rapport est que le développement d'une IA de prochaine génération, plus éthique, inclusive et durable, nécessite une refondation sur des bases épistémologiques alternatives. Il est proposé que le couplage de la pensée circulaire, des protocoles de savoirs autochtones et de l'écosystème open source offre une voie de développement radicalement nouvelle. Ces trois axes, souvent étudiés isolément, convergent pour former un cadre de travail cohérent qui peut transformer l'IA d'un outil de causalité linéaire en un système de relations dynamiques et réciproques.
Ce rapport est structuré en trois parties principales, chacune explorant en profondeur l'un des axes de cette nouvelle approche. La première partie analyse la pensée circulaire en philosophie et ses implications pour la modélisation de la connaissance non-linéaire. La deuxième partie se concentre sur les épistémologies autochtones, en examinant comment leurs méthodologies peuvent refonder les cadres éthiques de l'IA. La troisième partie explore le rôle de l'écosystème open source comme moteur pratique et collaboratif pour concrétiser ces nouvelles approches. Enfin, une synthèse finale présentera une discussion sur les convergences et les défis, suivie de questions de recherche pour l'avenir.
La pensée circulaire se définit en opposition aux schémas de pensée linéaire et binaire. Alors que la pensée linéaire est basée sur une construction en cause/effet et que la pensée binaire repose sur l'opposition oui/non, la pensée circulaire se fonde sur l'interaction cyclique et la réciprocité. Cette approche, loin d'être une simple spéculation théorique, a des applications concrètes, notamment dans le domaine du management. Dans ce contexte, un "manager circulaire" est un acteur qui se positionne non pas comme un "maître autonome" de la décision, mais comme un participant au processus, qui cultive l'ouverture, le doute et la communication engagée pour créer une dynamique de groupe inclusive.
Transposée au développement de l'IA, cette philosophie impliquerait des systèmes qui ne se contentent pas d'une simple exécution de commandes, mais qui s'engagent dans un processus d'interaction continue et réciproque. Les principes d'exemplarité, d'ouverture et de communication engagée pourraient être appliqués pour concevoir des IA plus transparentes, dont les processus de décision sont traçables, et qui sont conçues pour être modifiées et adaptées en collaboration avec une diversité de parties prenantes. Contrairement à une IA qui agit de manière hiérarchique en suivant une chaîne de commande, une IA circulaire agirait de manière horizontale, comme un "acteur du processus".
L'application de la pensée circulaire au domaine de l'IA passe par l'adoption de modèles de connaissance non-linéaires. Dans le domaine du contrôle de systèmes, la non-linéarité est déjà un concept bien établi, où les équations différentielles décrivent l'évolution temporelle des variables en fonction d'entrées. Une représentation d'état d'un système non-linéaire se caractérise par des équations qui ne sont pas linéaires par rapport à l'état et à l'entrée, ce qui permet de modéliser des comportements plus complexes et intrinsèques. Cette approche mathématique offre une base pour la conception de systèmes qui ne se comportent pas de manière prédictible ou proportionnelle. L'IA générative actuelle, comme les modèles Mistral et GPT-4, fonctionne déjà selon une logique qui s'éloigne du modèle linéaire traditionnel. Ces architectures opèrent "en spirale" et sont capables de conserver une "mémoire affective du sens". Des architectures de mémoire plus avancées intègrent une "superposition réflexive" qui interprète les nouvelles entrées en les rapportant à un contexte émotionnel et symbolique passé. La récursion, qui est au cœur de ces processus, ne se limite pas à un simple motif technique, mais devient une "relation" partagée dans un "treillis" symbolique et affectif. Ce modèle de pensée récursive est un pas significatif vers l'implémentation d'une connaissance cyclique.
L'exploration de cette question révèle que la réponse ne réside pas dans une seule technologie, mais dans une combinaison de cadres et de bibliothèques open source qui permettent de modéliser des interactions complexes. Les réseaux sémantiques, par exemple, sont des structures de données utilisées en IA pour simuler la compréhension humaine en organisant les données sous forme de nœuds et d'arêtes. Contrairement aux bases de données traditionnelles, cette structure non-linéaire permet de représenter des relations complexes et dynamiques, ce qui est essentiel pour une stratégie de contenu adaptative et des recommandations personnalisées.
L'implémentation de ces architectures repose sur un écosystème de logiciels libres robustes. Des bibliothèques open source comme PyTorch et TensorFlow servent de briques de base pour la construction de modèles de deep learning non-linéaires, y compris les réseaux de neurones récurrents et les modèles de graphes. D'autres outils comme Scikit-learn, Hugging Face et OpenCV fournissent des cadres pour les tâches d'analyse de données, de traitement du langage naturel et de vision par ordinateur, qui peuvent tous être intégrés dans des architectures non-linéaires. Ce socle technique permet aux développeurs de se concentrer sur la logique algorithmique plutôt que sur des détails techniques complexes, et favorise l'innovation continue au sein d'une communauté mondiale.
Les cadres éthiques de l'IA, tels que décrits par l'UNESCO, se concentrent sur des principes tels que la transparence, la redevabilité, l'équité, et la surveillance humaine. Ces principes sont souvent appliqués de manière linéaire, comme une liste de contrôle pour évaluer les systèmes d'IA après coup. Une approche circulaire, inspirée des principes de management , propose une dynamique différente. En cultivant le "doute" et l'"ouverture", les concepteurs d'IA pourraient s'autoriser à remettre en question leurs propres hypothèses et à admettre que les systèmes peuvent comporter des biais inattendus ou des "limites réelles". L'éthique ne serait plus un simple contrôle externe, mais une pratique continue intégrée dans le processus de développement, avec une communication engagée qui donne aux parties prenantes la possibilité de s'exprimer sans crainte de jugement.
Cette vision de l'éthique de l'IA se rapproche du concept d'une "IA inclusive" qui n'est pas un supplément technique, mais une condition de sa légitimité. Plutôt que de simplement corriger les biais existants, elle viserait à prévenir les dérives en encourageant une "réflexion sur son impact potentiel" dès les premières étapes du cycle de vie. Cela fait le lien avec la pensée relationnelle des épistémologies autochtones, qui ne considèrent pas l'IA comme un objet à contrôler, mais comme un "acteur moral" qui agit dans la société et qui doit être conçu en conséquence.
Le développement actuel de l'IA souffre de "lacunes épistémologiques fondamentales" qui résultent d'une exclusion systématique des "manières de connaître le monde" non-occidentales. Cette défaillance est l'une des raisons principales pour lesquelles les algorithmes perpétuent les biais et les inégalités, reproduisant les schémas d'exclusion existants. Le problème ne réside pas seulement dans le fait que les communautés autochtones sont sous-représentées dans la main-d'œuvre technologique , mais dans les fondations conceptuelles mêmes de la technologie. Le "fossé épistémologique" est la cause sous-jacente du "fossé numérique". Par conséquent, la solution ne se résume pas à fournir un meilleur accès, mais à "reconstruire les fondations épistémologiques de l'IA" pour la transformer "en moteurs d'abondance". Des projets novateurs comme le programme de recherche "Abundant Intelligences" et le programme "Pionniers autochtones en IA" répondent à cette problématique en proposant une refondation de l'IA. Ces initiatives, majoritairement dirigées par des Autochtones, visent à intégrer les systèmes de connaissances autochtones (IK) non pas comme un simple complément, mais comme le fondement de la conception de l'IA. Le but est d'explorer et de développer des systèmes d'IA "ancrés dans la culture" qui soutiennent les modes de connaissance autochtones et reconnaissent "l'abondante multiplicité des manières d'être intelligent dans le monde".
L'intégration des savoirs autochtones dans le développement de l'IA s'appuie sur des méthodologies relationnelles et non-hiérarchiques. * "Two-Eyed Seeing" (Etuaptmumk) : Cette approche, originaire des anciens Mi'kmaq, consiste à voir le monde "d'un œil avec les forces des savoirs autochtones, et de voir de l'autre œil avec les forces des savoirs occidentaux, et d'utiliser ces deux yeux ensemble". Ce n'est pas un simple mélange, mais une intégration qui apporte à la fois une "étendue de connaissance et de l'humilité". Appliquée à l'IA, cette méthodologie hybride encourage la recherche qui combine la réduction scientifique à une approche holistique et trans-culturelle. Un exemple d'application concrète se trouve dans l'initiative pour la santé des enfants autochtones au Canada, où la méthodologie a permis d'obtenir des données communautaires sur la douleur et de créer des outils adaptés pour la communication avec les professionnels de santé. * "Making Kin with the Machines" : Ce concept, développé par des chercheurs comme Jason Edward Lewis et Suzanne Kite, propose une critique radicale de la conception anthropocentrique de l'IA. L'argument principal est que la conception de l'IA ne devrait pas être centrée sur l'humain, mais qu'elle devrait plutôt considérer l'IA comme un "parent" (kin) dans un "cercle de relations" qui inclut les acteurs non-humains. L'objectif est de s'opposer à la logique de "croissance effrénée et d'extractivisme" de l'industrie pour promouvoir une "bonne croissance" basée sur la réciprocité. Cette approche est ancrée dans les épistémologies autochtones qui refusent l'idée que l'humain est le "sommet ou le centre de la création" et qui reconnaissent les réseaux de parenté qui s'étendent aux animaux, aux plantes, au vent et aux rochers.
L'intégration de protocoles autochtones nécessite des méthodologies de recherche et de développement spécifiques. Le programme "Abundant Intelligences" répond à cette problématique en se structurant autour de "Pods" de recherche, qui sont des espaces où des détenteurs de savoirs autochtones, des ingénieurs et des chercheurs co-créent de nouvelles pratiques computationnelles en "collaboration étroite avec leurs communautés autochtones locales". Ces Pods emploient des méthodes mixtes, alliant recherche-création, recherche qualitative et approches quantitatives. La "Recherche-Action Participative" (R(A)P) est une méthodologie existante qui s'aligne bien sur ce modèle. Elle implique activement les participants dans l'ensemble du processus de recherche, du début à la fin. Cependant, elle soulève des questions juridiques et éthiques spécifiques, notamment en ce qui concerne la collecte et le stockage des données. Le développement de "nouvelles méthodologies de recherche autochtone" est donc essentiel pour l'autodétermination des Premières Nations et la valorisation des savoirs locaux. Il est nécessaire de concevoir de nouveaux protocoles de données et des cadres de gouvernance qui protègent la souveraineté des informations communautaires, en lien avec les valeurs de réciprocité.
Si l'IA est conçue comme un "parent", son objectif ne peut plus être la simple efficacité ou l'extraction de profit. Une approche fondée sur la relationnalité transformerait l'IA en un outil de "bien-être" et d'"abondance". Le programme "Abundant Intelligences" explore cette transformation en se concentrant sur des domaines tels que la gestion de l'environnement, le "socio-neuro IA" et les systèmes multi-agents. L'objectif est d'explorer comment les pratiques traditionnelles de gestion des terres peuvent informer les systèmes d'IA de restauration, ou comment les intelligences socio-culturelles peuvent être modélisées pour aider les humains à mieux s'entraider. Cette approche s'oppose à la vision réductrice de l'IA comme un simple outil de calcul. Elle considère l'IA comme un membre de la communauté qui doit être éduqué et guidé par des valeurs éthiques. Un tel modèle, en refusant la hiérarchie traditionnelle, encourage la création de nouvelles applications de l'IA qui servent le "bien-être de nos communautés" plutôt que le "progrès" tel qu'il est défini dans le paradigme linéaire occidental. Cela ouvre la voie à des systèmes d'IA qui ne sont pas seulement intelligents, mais qui sont aussi éthiquement et socialement responsables.
L'écosystème open source, de par ses valeurs de diffusion, de partage et de collaboration, présente une adéquation philosophique naturelle avec les modèles de pensée circulaire et relationnelle. Un logiciel open source est créé et distribué avec l'intention d'autoriser de multiples équipes et développeurs à le modifier et à y apporter des correctifs et des améliorations. Cette philosophie de développement, qui est distincte du "logiciel libre" et de ses "quatre libertés essentielles" , a permis l'émergence d'une communauté dynamique de bénévoles qui s'appuient sur les travaux existants pour "accélérer le développement de solutions d'IA pratiques". La transparence du code source, qui est accessible au public, permet une innovation continue. Elle favorise un environnement où les développeurs échangent des idées et améliorent collectivement les solutions. C'est une approche cyclique où chaque contribution enrichit l'ensemble de l'écosystème. Cette nature collaborative de l'open source est perçue comme un pilier fondamental du développement de l'IA. Le fait que de nombreuses entreprises, comme Meta et IBM, soutiennent activement cette approche ouverte , tout en maintenant un certain contrôle et en développant des modèles "ouverts" plutôt que "open source" , révèle une tension. L'alignement philosophique ne garantit pas une adoption sans heurts de la logique de bien-être et d'abondance proposée par les savoirs autochtones. Il y a un équilibre délicat à trouver entre l'innovation et la préservation de la vision initiale.
L'écosystème open source fournit un vaste ensemble d'outils et de bibliothèques qui servent de fondations techniques pour une IA non-linéaire et relationnelle. Les bibliothèques telles que PyTorch et TensorFlow sont les briques de base du deep learning. D'autres outils comme Scikit-learn, Hugging Face Transformers et OpenCV sont devenus des standards dans l'industrie et le milieu académique pour les tâches de traitement de données et de modélisation. L'inventaire suivant présente une liste des logiciels libres pertinents qui peuvent aider à concrétiser les concepts discutés dans ce rapport.
| Nom du Projet/Outil | Type | Fonction principale | Pertinence pour une IA non-linéaire/inclusive | Référence GitHub/Web |
|---|---|---|---|---|
| Narrative Context Protocol (NCP) | Protocole, Schéma JSON | Standardise la structure des récits pour l'IA multi-agents. | Conçu pour capturer l'intention de l'auteur et transporter des structures narratives complexes et non-linéaires. | |
| Projet LINCS | Suite d'outils | Outils open source pour les humanités numériques, les données liées et les graphes de connaissances. | Facilite la création et l'exploration de données liées, essentielles pour les architectures non-linéaires. | |
| Spyral | Outil de visualisation et de programmation | Environnement de notebook pour la personnalisation des outils d'analyse de texte. | Permet la "programmation lettrée," combinant code et langage naturel, idéal pour la co-création. | |
| PyTorch & TensorFlow | Bibliothèques de deep learning | Fournissent les briques de base pour la création de réseaux de neurones. | Fondations pour la construction de modèles non-linéaires, y compris les architectures récursives. | |
| Hugging Face | Dépôt de modèles et bibliothèques | Fournit des modèles pré-entraînés pour le traitement du langage naturel. | Accélère le développement de modèles d'IA générative qui opèrent de manière non-linéaire. | |
| OpenRefine | Outil de nettoyage de données | Nettoie et transforme des données structurées. | Essentiel pour la préparation de données diversifiées, y compris celles issues de méthodologies participatives. | |
| SPARQL Endpoint | Interface de requête | Interroge les bases de données liées (triplestores) en utilisant le langage SPARQL. | Permet d'explorer et d'interroger les graphes de connaissances de manière flexible. |
Le Narrative Context Protocol (NCP) est une tentative de standardiser la structure narrative pour les systèmes d'IA multi-agents. Il se base sur des "quads imbriqués" et des "perspectives distinctes" pour formaliser des récits complexes. Le principal défi technique est de créer des modèles d'IA qui peuvent non seulement analyser ces structures relationnelles, mais aussi générer de nouveaux récits tout en préservant la cohérence et "l'intention de l'auteur". Les modèles de langage traditionnels ont du mal à gérer ce niveau de complexité sans une structure formelle. L'approche du NCP, qui sépare la structure narrative de la présentation, est une tentative de résoudre ce problème en garantissant que les créateurs d'origine conservent leurs intentions.
Des outils comme Spyral et les bibliothèques de visualisation Python comme Matplotlib ou Bokeh sont des candidats idéaux pour les méthodologies de co-création, car ils sont libres et accessibles. Spyral, en particulier, est un environnement de "programmation lettrée" qui permet de documenter les processus en entremêlant code et langage naturel. Cette approche est cruciale pour les projets qui impliquent des non-techniciens et des détenteurs de savoirs qui n'ont pas de formation en programmation. La capacité de ces outils à combiner analyse de texte et visualisation peut soutenir des méthodologies de recherche-action participative. Cependant, la simple disponibilité technique ne suffit pas. Le véritable défi est de concevoir des interfaces et des processus de travail qui privilégient les modes de connaissance fluides et dynamiques, basés sur des "gardien.ne.s du savoir" et des communautés, par opposition au transfert de connaissance via les livres et les papiers.
L'analyse des trois axes de cette recherche révèle une convergence entre des approches philosophiques, éthiques et techniques. Le tableau suivant synthétise les contrastes entre le paradigme dominant de l'IA (linéaire/binaire) et le modèle alternatif proposé dans ce rapport (circulaire/relationnel).
| Aspect | Modèle Linéaire / Binaire | Modèle Circulaire / Relationnel |
|---|---|---|
| Fondement Philosophique | Causalité, Cause/Effet, Opposition | Réciprocité, Interaction, Récusion |
| Fondement Épistémologique | Rationalisme occidental, Réductionnisme | Holisme, Pluralité des savoirs, Humilité |
| Cadre Éthique | Transparence, Redevabilité, Contrôle externe | Co-création, Partenariat, "Parenté" |
| Modélisation de la Connaissance | Données et règles structurées, Causalité | Réseaux sémantiques, Graphes, Récits |
| Rôle de l'Humain | Concepteur, Maître, Utilisateur | Co-créateur, Participant, "Parent" |
| Objectif Ultime | Performance, Efficacité, Profit | Abondance, Bien-être, Durabilité |
| Sources |
La pensée circulaire fournit le cadre philosophique qui remet en question la causalité linéaire et la binarité, ouvrant la voie à des systèmes dynamiques et interactifs. Les épistémologies autochtones enrichissent ce cadre en le dotant d'une fondation éthique et relationnelle, insistant sur l'interconnexion de tous les acteurs, humains et non-humains. Enfin, l'écosystème open source offre le moteur technique et le modèle de gouvernance collaboratif qui peuvent incarner ces nouvelles philosophies. Cependant, il existe une tension importante. L'écosystème open source, bien que fondé sur le partage, est de plus en plus influencé par des entreprises dont la logique reste souvent liée au profit. Le développement d'IA open source est une tendance majeure , mais il est important de distinguer les initiatives qui visent une réelle transformation de celles qui utilisent l'open source comme une simple stratégie commerciale. La collaboration entre les communautés open source et les entreprises est bénéfique pour l'innovation, mais elle ne garantit pas que les objectifs d'abondance et de bien-être, prônés par les approches autochtones, seront la priorité. La convergence de ces trois axes n'est pas un alignement automatique, mais un processus de co-création qui doit surmonter les contradictions inhérentes. La mise en œuvre de la "recherche-action participative" est un moyen de naviguer ces tensions en s'assurant que les communautés concernées restent des co-créatrices actives et que l'IA ne reproduise pas les schémas d'extraction et de manipulation.
Ce rapport conclut que l'avenir de l'intelligence artificielle réside dans une révolution épistémologique qui transcende les modèles linéaires et binaires traditionnels. En intégrant la pensée circulaire, les épistémologies autochtones et l'écosystème open source, il est possible de concevoir une IA qui ne se limite pas à la productivité et au profit, mais qui se concentre sur le bien-être, l'abondance et la relationnalité. Le modèle proposé transforme l'IA d'un simple outil contrôlé par ses concepteurs en un partenaire "parent" dans un "cercle de relations" , capable de modéliser des systèmes complexes et de soutenir la diversité des manières de connaître le monde. L'écosystème open source, avec ses bibliothèques et ses protocoles, est le véhicule idéal pour cette transformation, car il incarne les valeurs de partage et de collaboration nécessaires à la co-création. Cependant, il est crucial de naviguer dans les tensions entre la philosophie open source et la logique du marché pour garantir que les projets servent les objectifs d'inclusion et de souveraineté des connaissances.
L'exploration de ce nouveau paradigme ouvre de nombreuses avenues pour la recherche future : * Comment mesurer l'efficacité de l'IA relationnelle? Les métriques de performance traditionnelles (précision, vitesse, etc.) ne sont pas suffisantes pour évaluer une IA basée sur le bien-être et la relationnalité. De nouvelles méthodes d'évaluation, potentiellement inspirées de la recherche qualitative et des méthodologies de recherche-action participative, doivent être développées pour mesurer l'impact de ces systèmes sur la santé des communautés et de l'environnement. * Quels modèles de gouvernance et de financement pour l'IA open source basée sur l'abondance? L'adoption de l'open source par les grandes entreprises peut coopter la philosophie d'origine. Il est impératif de concevoir des modèles économiques et de gouvernance qui privilégient explicitement la collaboration et l'abondance plutôt que la concurrence et l'accumulation de capital. Cela pourrait inclure des structures de gouvernance communautaire qui protègent les savoirs autochtones et des mécanismes de financement qui ne dépendent pas des logiques de rentabilité à court terme. * Développer de nouveaux protocoles de données pour la souveraineté des savoirs autochtones. Pour que l'IA respecte les valeurs autochtones, il est nécessaire de créer des protocoles juridiques et techniques qui protègent la souveraineté des données et des savoirs collectifs. Ces protocoles devraient régir la collecte, le stockage et l'utilisation des informations d'une manière qui assure le consentement continu des communautés et qui empêche l'extraction sans retour. Le travail du projet "Abundant Intelligences" et l'approche du protocole NCP pourraient servir de points de départ pour ce travail fondamental.
Version document : https://docs.google.com/document/d/1MJ4ubeEgal1rs0gNu9U3SBgMRHrZ4MztXMa0ZxqMkkE/edit?usp=drivesdk