Application de la technologie Blockchain pour distinguer les agents IA authentiques des faux (en particulier lors de l'exécution du MCP)

Ceci est l'idée d'appliquer la technologie blockchain pour distinguer si un agent IA, en particulier lors de l'exécution d'un MCP (Model Context Protocol), est authentique ou faux.

Aspects positifs (Avantages)

La technologie blockchain peut offrir plusieurs avantages potentiels pour améliorer la fiabilité et la transparence des agents IA et de leurs MCP :

Vérification de l'identité et enregistrementChaque agent IA peut se voir attribuer un identifiant numérique unique et être enregistré sur la blockchain, ce qui aide à prouver que l'agent exécutant un MCP spécifique est un agent autorisé et non un usurpateur. En stockant la clé publique d'un agent sur la blockchain, l'authenticité des données ou des messages générés par l'agent peut être vérifiée par une vérification de signature. De plus, en utilisant les standards du W3C tels que les Identifiants Décentralisés (DID) pour chaque agent et en émettant les attributs de l'agent (développeur, version, permissions, etc.) sous forme de Justificatifs d'identité Vérifiables (VC), une preuve d'identité standardisée devient possible sans autorité centrale.
Journalisation de l'exécution et pistes d'auditLes étapes clés de l'exécution, les décisions ou les résultats d'un MCP peuvent être enregistrés sur la blockchain avec un horodatage. En raison de l'immuabilité de la blockchain, cet enregistrement est infalsifiable et utile pour les audits a posteriori et la responsabilisation. Cela permet de vérifier si un MCP spécifique a été exécuté conformément à un protocole défini ou s'il a été modifié de manière inattendue. De plus, les règles fondamentales du MCP peuvent être programmées dans un contrat intelligent (smart contract) pour vérifier et enregistrer automatiquement sur la chaîne si les résultats de l'exécution d'un agent remplissent des conditions spécifiques, permettant des contrôles de conformité en temps réel.
Transparence et vérifiabilitéLes parties prenantes peuvent accéder aux enregistrements d'exécution du MCP pour vérifier de manière indépendante leur authenticité et leur intégrité. Cela peut jouer un rôle crucial dans l'identification des résultats d'exécution de MCP « faux » ou manipulés.
Confiance décentraliséeCela permet d'établir un environnement où l'authenticité des agents et de leurs activités peut être assurée sans dépendre d'une autorité de certification centralisée. Ceci est particulièrement utile dans les systèmes où de multiples agents IA autonomes interagissent.

Considérations et défis

Lors de l'application de la technologie blockchain, les problèmes pratiques et les défis techniques suivants doivent être pris en compte :

Définition de l'« authenticité »Une définition claire de ce qui constitue un MCP ou un agent IA « authentique » est nécessaire. Est-ce le code du développeur original ? Est-ce une version approuvée par une institution spécifique ? Ou est-ce une instance avec des autorisations d'exécution spécifiques ? La blockchain garantit l'authenticité des informations enregistrées, mais parvenir à un consensus sur les critères de l'« authenticité » est un problème qui dépasse la technologie elle-même.
Scalabilité et coûtL'enregistrement de toutes les données relatives à l'exécution du MCP sur la blockchain peut entraîner des coûts de transaction et des temps de traitement importants. Surtout si les activités des agents IA sont fréquentes et que les volumes de données sont importants, les limites de performance (TPS) de la blockchain peuvent être atteintes. Pour y remédier, il pourrait être nécessaire d'envisager une combinaison de stockage hors chaîne avec un enregistrement de hachage sur la chaîne, des solutions de couche 2 (Layer 2) ou des blockchains spécifiques à une application (appchains). Il y a aussi le problème à long terme du gonflement de l'état (state bloat), où l'accumulation continue de données augmente la taille des données totales (l'état) que les nœuds de la blockchain doivent stocker, ce qui peut risquer la centralisation et augmenter les coûts d'exploitation des nœuds.
ConfidentialitéSi les enregistrements d'exécution du MCP contiennent des informations sensibles ou une logique métier, leur enregistrement sur une blockchain publique peut entraîner des problèmes de violation de la confidentialité. Dans de tels cas, il convient d'envisager l'utilisation de blockchains à permissions (permissioned) ou privées, ou l'application de technologies améliorant la confidentialité comme les preuves à divulgation nulle de connaissance (Zero-Knowledge Proofs).
Principe du « Garbage In, Garbage Out »La blockchain garantit l'intégrité (qu'elles n'ont pas été modifiées) des données enregistrées, mais elle ne garantit pas l'exactitude ou la véracité des données initialement enregistrées. Si un utilisateur malveillant enregistre un agent ou un MCP « faux » comme « authentique » sur la blockchain, ou manipule les données initiales pour l'enregistrement, la blockchain enregistrera et protégera fidèlement ces informations « fausses ». Par conséquent, des mécanismes pour assurer la fiabilité des données au point d'enregistrement initial (par exemple, des oracles de confiance, des signatures multiples) sont cruciaux.
Problème de l'oracleLorsqu'un agent IA fonctionne sur la base de données du monde réel ou interagit avec des systèmes externes pour exécuter un MCP, le problème de savoir comment importer de manière fiable ces données externes sur la blockchain (le problème de l'oracle) doit être résolu. S'appuyer sur un seul oracle crée un point de défaillance centralisé ; la fiabilité des données doit donc être améliorée en utilisant un réseau d'oracles décentralisé (DON), tel que Chainlink, pour agréger et vérifier les données de plusieurs nœuds.
Granularité de la journalisation du MCPUne décision doit être prise sur le niveau de détail de l'exécution du MCP à enregistrer sur la blockchain. Trop de détails peuvent exacerber les problèmes de scalabilité, tandis que trop peu pourraient réduire l'efficacité de la vérification de l'authenticité.

Conclusion et recommandations

L'application de la technologie blockchain pour distinguer l'authenticité des agents IA et des MCP est certainement une approche prometteuse. Elle peut être une solution efficace, en particulier dans les systèmes où la fiabilité et la transparence sont essentielles.

Cependant, les divers défis mentionnés ci-dessus doivent être soigneusement examinés et traités. Dans un premier temps, les approches suivantes pourraient être envisagées :

Appliquer la technologie de manière restrictive aux agents IA les plus critiques ou aux MCP les plus sensibles afin de vérifier son utilité et d'identifier les problèmes.
Plutôt que d'enregistrer toutes les données sur la chaîne, donner la priorité au stockage des données hors chaîne et à l'enregistrement de leur seule valeur de hachage ou de leur preuve sur la chaîne.
Sélectionner le type de blockchain approprié (publique, privée, consortium) en fonction des exigences du système et, si nécessaire, le combiner avec des technologies améliorant la confidentialité.
En plus de la blockchain, envisager de la combiner avec d'autres technologies de sécurité comme les méthodes cryptographiques existantes (par exemple, les signatures numériques) ou les Environnements d'Exécution de Confiance (TEE) pour construire un cadre de sécurité multicouche.
À long terme, explorer de nouveaux mécanismes de consensus comme la « Preuve d'Exécution Correcte » (Proof of Correct Execution) qui vérifie le processus d'inférence du modèle d'IA lui-même, ou envisager des appchains ou des solutions de couche 2 optimisées pour les calculs d'IA afin de garantir à la fois l'efficacité et la fiabilité.

En fin de compte, la décision d'adopter la technologie blockchain et la portée de son application devraient être déterminées en examinant de manière approfondie le problème spécifique à résoudre, les caractéristiques du système et les ressources disponibles.