Sólo los Agentes controlados pueden ingresar al sistema de liquidación y reputación.
Cuanto más fuerte es la capacidad, más límites estrictos se necesitan: qué resultados sólo pueden redactarse, qué acciones deben ser HITL y qué datos nunca abandonarán el dominio. El límite no es restringir la innovación, sino convertir LLM de una “caja negra irresponsable” a un “componente defendible”; a diferencia de Copilot, que solo recomienda y el usuario es totalmente responsable de ello, WCN debe dividir explícitamente las responsabilidades en la capa de red.
Qué puede hacer el Agente (conjunto permitido)
Lo que el Agente no puede hacer (conjunto prohibido)
Matriz de riesgos (simplificada)
| Riesgo | Rendimiento | Ideas de control |
|---|---|---|
| Ilusión | Casos fabricados, leyes equivocadas, nombres de empresas equivocados | Cotización obligatoria; salida "desconocida" si no está seguro; verificación de reglas de campo clave |
| Inyección inmediata | Páginas web/PDF maliciosos que provocan filtraciones o acceso no autorizado | Aislamiento de herramientas; zona de pruebas de contenido no confiable; acciones salientes HITL |
| Fuga de datos | La formación o los registros quitan confidencialidad | Clasificación de datos; desensibilización logarítmica; limpieza de claves después de jubilado |
| Autonomía excesiva | Bucles y tarifas infinitos estilo AutoGPT | Presupuesto a nivel de tarea y límite de pasos; ninguna tarea significa no correr |
| Responsabilidades ambiguas | No sé quién lo aprobó si algo salió mal | Registro de adopción + cadena de aprobación + modelo/número de versión del mensaje |
Sin límites, la IA no es una capa de ejecución más sólida, sino una palanca que amplifica los errores, especialmente en los procesos de redacción publicitaria y de financiación de alto riesgo.
Demarcación de responsabilidades con Microsoft Copilot/Universal Assistant
Los términos y condiciones generales de Copilot estipulan: Se recomienda que el usuario sea responsable de la verificación. El lado de la red WCN también necesita ofrecer atribución de múltiples partes: por lo tanto, el límite del Agente debe escribirse en políticas de tipo y contratos de tareas, en lugar de depender únicamente de la autodisciplina del usuario final.
Lo que WCN necesita es un agente que pueda ser explicado, responsable y que pueda ingresar a PoB; "el modelo lo dice" no puede considerarse como si el nodo lo dijera.
Revelación de TradFi: la automatización se detiene antes de la cadena de toma de decisiones
Los sistemas tipo COIN manejan grandes cantidades de análisis de documentos y las decisiones crediticias aún están sujetas a la política bancaria y a la revisión humana; Aladdin enfatiza que los calibres de riesgo son consistentes y los administradores de carteras aún tienen responsabilidades de inversión. WCN se alinea con el mismo principio: **El agente comprime la fricción y no reemplaza la autoridad de firma. **
Una frase para la aceptación del producto: Si elimina el Agente, el proceso comercial sigue siendo legal y se puede ejecutar, pero será más lento: el límite es aproximadamente correcto. Si el proceso de eliminación del Agente no puede cerrar el ciclo, significa que el vínculo humano se ha erosionado excesivamente.