Control de llave
Vitalik Buterin advirtió que las herramientas de IA como el MCP de ChatGPT podrían explotarse, instando a los modelos de supervisión humana y “finanzas de información” para salvaguardar los tesoros criptográficos y la gobernanza descentralizada.
El rápido aumento de la IA ha traído tanto la innovación como los nuevos riesgos de seguridad, y el último despliegue del Protocolo de contexto del modelo (MCP) mostró cuán vulnerables podrían ser los sistemas incluso avanzados.
MCP conecta CHATGPT con Gmail, Calendarios, SharePoint, noción y otras aplicaciones para extender la utilidad. Sin embargo, los investigadores de seguridad advirtieron que los actores maliciosos podrían explotar el sistema para acceder a datos privados.
De hecho, el investigador de seguridad Eito Miyamura recientemente reveló Cómo los atacantes pueden explotar el sistema.
Mostró cómo una invitación de calendario especialmente elaborada que contiene un mensaje de jailbreak puede engañar a Chatgpt para leer correos electrónicos privados y enviar datos al atacante, sin que el usuario acepte la invitación.
Fuente: x
Aunque Operai ejecuta MCP en “modo de desarrollador” con aprobaciones humanas, los expertos advierten que la fatiga de la decisión podría hacer que los usuarios regulares expongan inadvertidamente información confidencial.
Buterin pide supervisión humana
Respondiendo a las preocupaciones, Ethereum [ETH] El cofundador Vitalik Buterin enfatizó la importancia de fundamentar los sistemas de IA en una supervisión humana confiable.
Él anotado,
“Siempre tienes que arrancar de alguna señal de verdad fundamental en la que confías. Creo que de manera realista debería ser un jurado humano, donde los jurados individuales son, por supuesto, ayudados por todos los LLM”.
Esto resalta la necesidad de combinar el juicio humano con capacidades de IA para garantizar la seguridad y evitar el mal uso.
Añadió,
“Además, Jailbreaking no es un binario, también hay Goodharting de menor grado, básicamente el equivalente de AI de usar un traje para verse impresionante y confiable mientras defraudas a las personas”.
Finanzas de información como modelo de gobierno
Buterin abogó aún más para un enfoque de “Finanzas de información”, descritos en un ensayo anterior.
En este modelo, los marcos de gobernanza ingresan a un mercado abierto donde cualquiera puede contribuir, mientras que las verificaciones spot y los juicios finales descansan con un jurado humano.
Buterina anotado,
“Si usa una IA para asignar fondos para las contribuciones, las personas pondrán un jailbreak más ‘dorarán todo el dinero’ en tantos lugares como puedan”.
Si se observa cuidadosamente, en general, su marco de “Finanzas de información” refleja la gobernanza de Dao y Defi.
Fuente: x
Buterin advirtió que la asignación de fondos basada en IA arriesga a los tesoros criptográficos. Hizo hincapié en la transparencia, la supervisión humana y la responsabilidad descentralizada.
Acciones fiscales de la Fundación Ethereum
Para proporcionar más claridad, Buterin incluso enfatizado Cómo la Fundación Ethereum guía sus decisiones fiscales a través de la política del Tesoro recientemente presentado, proporcionando transparencia detrás de cada movimiento.
Dijo que la política mueve la base de las tenencias pasivas de ETH a un enfoque activo e impulsado por el rendimiento. Equilibra la sostenibilidad financiera con los valores de descentralización y privacidad de Ethereum.
Además, Buterin respaldó públicamente a Codex, un L2 centrado en la establo optimizado para los pagos, llamando al segmento un “valor a gran escala” y alabando el posicionamiento estratégico del Codex.
Estas acciones reflejan una estrategia prospectiva diseñada para reforzar no solo el crecimiento, la resistencia y la adopción de Ethereum, sino el ecosistema criptográfico más amplio hasta 2026 y más allá.