¿Cerrar sesión?
Vas a salir de tu cuenta en este dispositivo.
Anthropic publicó un sistema para comprobar qué modelo de IA generó una respuesta
Se llama FlashProve: usa criptografía para certificar la respuesta sin revelar los pesos del modelo. Por ahora es un prototipo de investigación, con límites técnicos.
Imagen ilustrativa generada con IA
Quien usa un chatbot hoy no puede saber con certeza si la respuesta vino del modelo que eligió: un intermediario podría cambiarlo por uno más barato. Anthropic, la empresa detrás de Claude, presentó FlashProve, un prototipo abierto de inferencia verificable.
El proveedor publica una huella criptográfica de los pesos, sin revelarlos. Con cada respuesta entrega una prueba de unos 19 megabytes que se puede revisar en segundos en una CPU común, usando pruebas de conocimiento cero (zkSNARK). Si el texto no coincide con el modelo comprometido, la verificación falla.
En pruebas sobre Llama 4 Maverick (400 mil millones de parámetros, 4 bits), reportan unas 110 pruebas por segundo en una GPU H100 y verificación en unos 17 segundos. El código está en GitHub bajo licencia Apache 2.0.
No es un producto para el usuario final: contextos de hasta 1.024 tokens, decodificación greedy (no la aleatoria de los chats) y arquitectura visible. Anthropic lo presenta como avance para auditores y reguladores, no como despliegue inmediato en Claude.
En el Alto Valle, donde muchos ya usan IA en el trabajo o el estudio, la idea apunta a más transparencia sin exponer los pesos secretos de cada empresa. Falta confirmar: cuándo integrará algún proveedor comercial estas pruebas en apps cotidianas.
Referencias
Comentarios (0)
Todavía no hay comentarios. Sé el primero.
Para comentar tenés que estar registrado. La nota se lee sin login.
Entrar con Google Seguir en el tablón