Vitalik Buterin advirtió que los avances en inteligencia artificial podrían cambiar drásticamente la forma en que se atacan y defienden los sistemas criptográficos. Sostiene que es posible que la industria necesite avanzar hacia software verificado matemáticamente para proteger la infraestructura crítica.
En un nuevo ensayo publicado en 18 mayoButerin dijo que modelos de IA cada vez más potentes podrían hacer que sea mucho más fácil descubrir y explotar vulnerabilidades en sistemas de software complejos.
Esto es especialmente cierto en áreas como los contratos inteligentes, la infraestructura de conocimiento cero y los protocolos criptográficos.
Describió que los errores en la infraestructura criptográfica se vuelven “aún más aterradores” cuando se combinan con sistemas de inteligencia artificial capaces de automatizar el descubrimiento de vulnerabilidades.
Lo que Vitalik quiere en su lugar
En lugar de depender únicamente de las auditorías y pruebas de software tradicionales, Buterin argumentó que la industria de la criptografía debería adoptar cada vez más una “verificación formal”.
En términos simples, la verificación formal implica demostrar matemáticamente que el software se comporta correctamente bajo condiciones específicas, en lugar de simplemente probar si parece funcionar.
Las computadoras pueden verificar automáticamente las pruebas por sí mismas.
Según Buterin, este enfoque podría resultar especialmente importante para:
- infraestructura de etéreo,
- sistemas de prueba de conocimiento cero,
- mecanismos de consenso,
- criptografía poscuántica,
- y máquinas virtuales blockchain.
- La IA puede crear y resolver problemas de seguridad
Una de las partes más notables del ensayo fue el argumento de Buterin de que la IA no es sólo una amenaza a la ciberseguridad sino que también podría convertirse en parte de la solución.
Sugirió que la codificación asistida por IA, combinada con herramientas de verificación formales, podría eventualmente producir software más seguro que el que los humanos por sí solos pueden construir actualmente.
Buterin comparó la relación con los sistemas de escalamiento de blockchain, en los que una tecnología introduce compensaciones mientras que otra ayuda a restaurar la seguridad o la eficiencia.
También enfatizó que la verificación formal no es perfecta. Reconoció que incluso los sistemas verificados matemáticamente pueden fallar si las suposiciones son incorrectas o si existen vulnerabilidades fuera del código verificado.
Ethereum avanza hacia un “núcleo seguro”
El ensayo describe lo que Buterin describió como un futuro en el que la infraestructura digital altamente sensible se concentra cada vez más en sistemas más pequeños de “núcleo seguro”.
Estos núcleos seguros incluirían:
- sistemas de consenso blockchain,
- infraestructura criptográfica,
- y componentes a nivel del sistema operativo.
Según Buterin, esos sistemas tendrían que ser verificados en gran medida y aislados cuidadosamente a medida que el software generado por IA se generalice.
Las aplicaciones e interfaces menos críticas seguirían siendo más flexibles. Aun así, lo ideal es que funcionen con permisos limitados para reducir el impacto de posibles errores o exploits.
Resumen final
- Vitalik Buterin advirtió que el descubrimiento de exploits asistido por IA podría aumentar significativamente los riesgos para la infraestructura criptográfica.
- Sostuvo que Ethereum y otros sistemas críticos pueden necesitar software verificado matemáticamente para permanecer seguros en un futuro impulsado por la IA.