Esta cuestión de intención…
…se vuelve mucho más grave en la era de la IA. Actúa, decide e interactúa por sí solo.
buterin mencionado recientemente que el verdadero problema no es qué tan poderosa se vuelve la IA, sino quién la controla y cómo se verifica su comportamiento. El objetivo es darle forma a su dirección.
Advirtiendo contra los sistemas que concentran poder u operan más allá de la supervisión humana, escribió:
“Quiero un futuro de IA en el que fomentemos la libertad y el empoderamiento humanos…”
Fuente: X
Aquí es donde encaja Ethereum, como infraestructura a su alrededor. Una capa neutral donde los sistemas de inteligencia artificial pueden realizar pagos, probar acciones y construir reputación de manera transparente.
Piensa en esto. Los agentes de IA podrían pagar por servicios, interactuar con otros agentes o publicar depósitos de seguridad en la cadena. Estas acciones crean responsabilidad, cuyo comportamiento se vuelve rastreable. La confianza, a su vez, se vuelve verificable.
Como explicó Buterin, el objetivo es hacer posible “la interacción privada y sin confianza con las IA”.
AMBCrypto informó anteriormente que Buterin ha propuesto agentes personales de IA para abordar la fatiga de votación de DAO.
En lugar de que los usuarios voten manualmente sobre cada propuesta, los modelos privados de IA entrenados en función de sus preferencias podrían votar en su nombre.
Señaló que “la solución habitual, la delegación, resta poder”, especialmente cuando la participación cae y el poder se concentra en los grandes tenedores.
A medida que la IA amplía lo que las máquinas pueden hacer, ¿quién garantiza que actúen como lo harían realmente los usuarios?
Cuando los sistemas optimizan las cosas equivocadas
Aquí hay un ejemplo diferente de la misma línea.
Se suponía que los mercados de predicción resolverían un problema muy específico. Fueron diseñados para agregar inteligencia colectiva y ayudar a tomar mejores decisiones. Pero a Buterin ahora le preocupa que se estén alejando de ese propósito.
En lugar de ayudar a las personas a gestionar los riesgos del mundo real, muchos mercados de predicción están dominados por apuestas a corto plazo sobre precios de criptomonedas, deportes y eventos virales. Estos mercados generan actividad, pero no necesariamente conocimiento.
Como él lo puso,
“(Los equipos a menudo) capitulan ante estas cosas porque generan grandes ingresos durante un mercado bajista donde la gente está desesperada”.
El sistema está funcionando… pero hacia el objetivo equivocado.
Este es el mismo problema en las criptomonedas e Internet. Los sistemas se centran en lo que pueden medir fácilmente y no en lo que realmente importa, como la precisión o la utilidad real.
buterin cree que los mercados de predicción podrían ayudar. Sugiere usarlos para rastrear costos del mundo real, como vivienda, alimentos o atención médica. Las herramientas de inteligencia artificial podrían entonces ayudar a las personas a protegerse automáticamente contra esos costos crecientes.
“Hay índices de precios en todas las categorías principales de bienes y servicios… y mercados de predicción en cada categoría…”
En ese modelo, los mercados de predicción se convierten en una herramienta de protección. La diferencia, nuevamente, se reduce a la intención.
De ejecutar código a proteger la intención
Todo de ButerínLas ideas recientes describen un modelo de cómo podría funcionar Internet en el futuro.
Su principio fundamental es que no se debe confiar completamente en ninguna señal única. Ni una firma, ni un agente de IA, ni siquiera el clic de un usuario. Los sistemas deberían basarse en múltiples comprobaciones superpuestas para aproximarse a lo que una persona realmente pretendía hacer.
Así es como los humanos ya generan confianza.
Las criptomonedas, en sus inicios, se centraban en la ejecución “sin confianza”. Pero Buterin parece reconocer que el código puede ejecutarse perfectamente y aun así producir un resultado incorrecto si se malinterpreta la intención.
La siguiente fase es la interpretación minimizada de la confianza. Sistemas que no ejecutan comandos a ciegas, sino que los interpretan de forma segura. En ese mundo, Idealmente, Ethereum podría ser una capa de coordinación.
En una Internet cada vez más manejada por máquinas, el recurso más escaso será la certeza de que los sistemas hacen lo que los humanos realmente quieren decir.
Resumen final
- Vitalik Buterin dice que el mayor riesgo de las criptomonedas es la creciente brecha entre lo que los usuarios pretenden y lo que los sistemas realmente ejecutan.
- Etereum podría evolucionar hacia una capa de coordinación donde los agentes de IA votan, realizan transacciones y actúan.