Aplicación de la tecnología blockchain para distinguir agentes de IA auténticos vs. falsos (especialmente durante la ejecución de MCP)

Esta es la idea de aplicar la tecnología blockchain para distinguir si un agente de IA, particularmente al ejecutar un MCP (Protocolo de Contexto del Modelo), es auténtico o falso.

Aspectos Positivos (Ventajas)

La tecnología blockchain puede ofrecer varios beneficios potenciales para mejorar la confiabilidad y la transparencia de los agentes de IA y sus MCP:

Verificación y registro de identidad: A cada agente de IA se le puede asignar una ID digital única y registrarla en la blockchain, lo que ayuda a probar que el agente que ejecuta un MCP específico es un agente autorizado y no un impostor. Al almacenar la clave pública de un agente en la blockchain, la autenticidad de los datos o mensajes generados por el agente puede verificarse mediante la verificación de la firma. Además, utilizando estándares de la W3C como los Identificadores Descentralizados (DIDs) para cada agente y emitiendo atributos del agente (desarrollador, versión, permisos, etc.) como Credenciales Verificables (VCs), es posible una prueba de identidad estandarizada sin una autoridad central.
Registro de ejecución y pistas de auditoría: Los pasos de ejecución clave, decisiones o resultados de un MCP pueden registrarse en la blockchain con un sello de tiempo. Debido a la inmutabilidad de la blockchain, este registro es inalterable y útil para auditorías posteriores y para la rendición de cuentas. Esto permite verificar si un MCP específico se ejecutó de acuerdo con un protocolo definido o si fue alterado de manera inesperada. Adicionalmente, las reglas centrales del MCP pueden programarse en un contrato inteligente para verificar y registrar automáticamente en la cadena (on-chain) si los resultados de la ejecución de un agente cumplen con condiciones específicas, permitiendo verificaciones de cumplimiento en tiempo real.
Transparencia y verificabilidad: Las partes interesadas pueden acceder a los registros de ejecución del MCP para verificar de forma independiente su autenticidad e integridad. Esto puede desempeñar un papel crucial en la identificación de resultados de ejecución de MCP "falsos" o manipulados.
Confianza descentralizada: Permite el establecimiento de un entorno donde la autenticidad de los agentes y sus actividades puede ser confiable sin depender de una autoridad de certificación centralizada. Esto es particularmente útil en sistemas donde interactúan múltiples agentes de IA autónomos.

Consideraciones y Desafíos

Al aplicar la tecnología blockchain, se deben considerar los siguientes problemas prácticos y desafíos técnicos:

Definición de "auténtico": Se necesita una definición clara de lo que constituye un MCP o agente de IA "auténtico". ¿Es el código del desarrollador original? ¿Es una versión aprobada por una institución específica? ¿O es una instancia con permisos de ejecución específicos? La blockchain garantiza la autenticidad de la información registrada, pero llegar a un consenso sobre cuáles son los criterios de "autenticidad" es un problema que va más allá de la tecnología en sí.
Escalabilidad y costo: Registrar todos los datos relacionados con la ejecución del MCP en la blockchain puede incurrir en costos de transacción y tiempos de procesamiento significativos. Especialmente si las actividades de los agentes de IA son frecuentes y los volúmenes de datos son grandes, se pueden alcanzar los límites de rendimiento (TPS) de la blockchain. Para abordar esto, se podría considerar una combinación de almacenamiento fuera de la cadena (off-chain) con el registro del hash en la cadena (on-chain), soluciones de Capa 2 o blockchains específicas de la aplicación (appchains). También existe el problema a largo plazo de la hinchazón del estado (state bloat), donde la acumulación continua de datos aumenta el tamaño total de los datos (estado) que los nodos de la blockchain deben almacenar, lo que puede arriesgar la centralización y aumentar los costos de operación de los nodos.
Privacidad: Si los registros de ejecución del MCP contienen información sensible o lógica de negocio, registrarlos en una blockchain pública puede llevar a problemas de violación de la privacidad. En tales casos, se debe considerar el uso de blockchains permisionadas o privadas, o la aplicación de tecnologías que mejoran la privacidad como las Pruebas de Conocimiento Cero (Zero-Knowledge Proofs).
Principio "Garbage In, Garbage Out" (basura entra, basura sale): La blockchain garantiza la integridad (que no ha sido cambiado) de los datos registrados, pero no garantiza la exactitud o veracidad de los datos registrados inicialmente. Si un usuario malintencionado registra un agente o MCP "falso" como "auténtico" en la blockchain, o manipula los datos iniciales para su registro, la blockchain registrará y protegerá fielmente esa información "falsa". Por lo tanto, son cruciales los mecanismos para asegurar la confiabilidad de los datos en el punto inicial de registro (por ejemplo, oráculos confiables, multifirmas).
El Problema del Oráculo: Cuando un agente de IA opera basándose en datos del mundo real o interactúa con sistemas externos para ejecutar un MCP, se debe resolver el problema de cómo llevar de manera confiable estos datos externos a la blockchain (el Problema del Oráculo). Depender de un solo oráculo crea un punto central de fallo, por lo que la fiabilidad de los datos debe mejorarse utilizando una red de oráculos descentralizada (DON), como Chainlink, para agregar y verificar datos de múltiples nodos.
Granularidad del registro del MCP: Se debe tomar una decisión sobre el nivel de detalle de la ejecución del MCP que se registrará en la blockchain. Demasiados detalles pueden exacerbar los problemas de escalabilidad, mientras que muy pocos podrían reducir la efectividad de la verificación de autenticidad.

Conclusión y Recomendaciones

Aplicar la tecnología blockchain para distinguir la autenticidad de los agentes de IA y los MCP es ciertamente un enfoque prometedor. Puede ser una solución efectiva, especialmente en sistemas donde la confiabilidad y la transparencia son críticas.

Sin embargo, los diversos desafíos mencionados anteriormente deben ser revisados y abordados cuidadosamente. Inicialmente, se podrían considerar los siguientes enfoques:

Aplicar la tecnología de forma restrictiva a los agentes de IA más críticos o a los MCP más sensibles para verificar su utilidad e identificar problemas.
En lugar de registrar todos los datos en la cadena (on-chain), priorizar el almacenamiento de datos fuera de la cadena (off-chain) y registrar solo su valor hash o una prueba en la cadena.
Seleccionar el tipo de blockchain apropiado (pública, privada, de consorcio) según los requisitos del sistema y, si es necesario, combinarlo con tecnologías que mejoran la privacidad.
Además de la blockchain, considerar su combinación con otras tecnologías de seguridad como métodos criptográficos existentes (por ejemplo, firmas digitales) o Entornos de Ejecución Confiables (TEE) para construir un marco de seguridad de múltiples capas.
A largo plazo, explorar nuevos mecanismos de consenso como la "Prueba de Ejecución Correcta" (Proof of Correct Execution) que verifiquen el proceso de inferencia del modelo de IA en sí mismo, o considerar appchains o soluciones de Capa 2 optimizadas para cálculos de IA para asegurar tanto la eficiencia como la fiabilidad.

En última instancia, la decisión de adoptar la tecnología blockchain y el alcance de su aplicación deben determinarse considerando de manera integral el problema específico que se está resolviendo, las características del sistema y los recursos disponibles.