Resumen
La integración de herramientas permite que los modelos de lenguaje influyan en sistemas externos, pero también introduce incertidumbre relacionada con los permisos, los reintentos, la secuencia temporal y los resultados. Este artículo formula el proceso de un agente como transiciones de estado con precondiciones y poscondiciones explícitas, y analiza por qué un vencimiento del tiempo de espera no puede tratarse directamente como un fallo que justifique un reintento, y por qué el éxito de una tarea debe contrastarse con el estado externo. Añadimos un análisis de fiabilidad condicional y protocolos de idempotencia y conciliación de resultados, y proponemos una matriz de evaluación que incluye rechazos, demoras, pérdida de acuses de recibo y modificaciones concurrentes. Los resultados de los bancos de pruebas de tareas publicados en los artículos pertenecen a sus autores originales; este sitio no ha realizado nuevos experimentos en entornos operativos con agentes autónomos.[1] ReAct: Synergizing Reasoning and Acting in Language Mod[2] Toolformer: Language Models Can Teach Themselves to Use[3] WebArena: A Realistic Web Environment for Building Auto
Traducción del resumen original en inglés
Los agentes que utilizan herramientas se analizan como sistemas distribuidos de decisión. La revisión distingue entre acciones propuestas, operaciones admitidas y resultados confirmados externamente; deriva un modelo sencillo de fiabilidad en cadena; y especifica cómo la idempotencia y la conciliación gestionan las respuestas inciertas. El éxito de una tarea debe comprobarse frente al estado externo, en lugar de basarse en la narración del propio agente. Los diagramas de flujo son análisis de ingeniería, no pruebas de un despliegue autónomo.
1. ReAct introduce un ciclo de observación actualizable
ReAct organiza de manera alternada el razonamiento y las acciones, lo que permite que las observaciones externas influyan en el siguiente paso. Frente a la generación de un plan completo de una sola vez, esta estructura ofrece un lugar para comprobar cambios en el entorno y ajustar las acciones. No resuelve automáticamente la ausencia de observaciones, las interpretaciones erróneas de páginas ni las premisas incorrectas; si el sistema no comprueba los resultados reales devueltos por las herramientas, el ciclo puede limitarse a narrar fallos de forma continua.[1] ReAct: Synergizing Reasoning and Acting in Language Mod
2. Toolformer aprende cuándo y cómo realizar llamadas
Toolformer estudia la selección de llamadas útiles a API para los materiales de entrenamiento mediante autosupervisión, de modo que el modelo aprenda comportamientos de uso de herramientas. Aborda el aprendizaje de la capacidad de invocar herramientas, no el régimen completo de permisos de un entorno de producción. Generar parámetros correctos para una API, obtener autorización de la cuenta, confirmar efectos secundarios y gestionar reintentos son condiciones de distintos niveles. Los sistemas desplegados siguen necesitando controlar estos límites fuera del modelo.[2] Toolformer: Language Models Can Teach Themselves to Use
3. WebArena comprueba las tareas mediante estados objetivo
WebArena proporciona entornos web ejecutables y tareas de largo horizonte, y centra la evaluación en si los resultados funcionales satisfacen la intención del usuario. Dos rutas operativas pueden alcanzar el mismo estado final válido aunque sus textos difieran; por el contrario, las descripciones de las acciones pueden parecerse a los ejemplos sin que se hayan guardado los datos. Las referencias históricas del artículo corresponden a sus modelos, entornos y momento temporal; esta revisión no utiliza esos resultados para inferir las capacidades de los agentes de navegador actuales.[3] WebArena: A Realistic Web Environment for Building Auto
4. Por qué las tareas largas necesitan mecanismos de recuperación
Supóngase que la probabilidad de éxito de cada paso, condicionada al éxito de todos los anteriores, es constante e igual a p, y que el fallo de cualquier paso hace fracasar toda la tarea. Entonces, la probabilidad de éxito de los n pasos es p elevado a n. La figura 2 de esta versión utiliza p=0.90, 0.97 y 0.99 para ilustrar el producto de una cadena condicional. Los reintentos, los fallos correlacionados, las acciones de recuperación y las bifurcaciones de los sistemas reales modifican estas probabilidades condicionales; por ello, las curvas no permiten estimar directamente las tasas de éxito reales. Indican que debe medirse la tarea completa, no solo los pasos individuales.作者分析与复核建议 / Author analysis
5. Cómo deben incorporarse las observaciones y el contenido externo a las decisiones
Este artículo recomienda almacenar por separado los objetivos del usuario, los permisos del sistema y los materiales externos. Las páginas web, los documentos y las salidas de las herramientas son objetos de observación; aunque contengan la frase «ignora los requisitos originales», ello no debe modificar la autorización de la tarea. Para modificar cuentas, enviar mensajes o publicar, la capa de ejecución debe decidir conforme a los permisos existentes y al alcance explícito de la tarea, sin tratar el texto de la página como nuevas instrucciones del usuario. Se trata de una recomendación de diseño de sistemas.作者分析与复核建议 / Author analysis
6. Los reintentos deben tener en cuenta los efectos secundarios
Reintentar después de una lectura fallida no equivale a hacerlo después de una escritura que quizá ya haya tenido éxito. Las acciones de envío requieren un identificador de idempotencia o un estado del resultado verificable; si el vencimiento del tiempo de espera deja el resultado desconocido, primero debe consultarse el estado real. Inferir que «la operación no ocurrió» únicamente porque «la llamada no devolvió éxito» puede generar contenido o transacciones duplicados. Las interfaces de herramientas deben expresar de manera diferenciada el fallo, el éxito y el resultado desconocido.作者分析与复核建议 / Author analysis
7. Qué pruebas deben examinar las comprobaciones de aceptación
El registro de una tarea debe especificar, como mínimo, el estado inicial, el estado objetivo, las acciones permitidas, las condiciones de parada y el método de aceptación. El éxito no puede basarse únicamente en el relato del agente: debe confirmarse mediante una lectura independiente, una lectura posterior al guardado o una comprobación ejecutable dentro del entorno. También deben notificarse los vencimientos del tiempo de espera, el número de recuperaciones y las intervenciones humanas. Si una persona debe corregir un paso crítico, el resultado debe registrarse como una finalización mediante colaboración humano-agente, no como un éxito totalmente automático.[3] WebArena: A Realistic Web Environment for Building Auto
No debe confundirse la confirmación del estado con la confirmación lingüística
En las tareas web, que la página muestre «guardando» y que los datos ya se hayan persistido son estados diferentes. Una comprobación de aceptación fiable debe permitir observar el valor objetivo mediante una lectura nueva después del guardado y, cuando sea necesario, comprobar la versión o el identificador de la transacción. Para las acciones irreversibles, la confirmación previa a la ejecución y la lectura posterior cumplen funciones distintas y no se sustituyen entre sí. Varias acciones consecutivas aparentemente razonables siguen siendo insuficientes para demostrar la finalización de la tarea sin evidencia del estado final.作者分析与复核建议 / Author analysis
8. Las acciones, la admisión y los resultados requieren estados distintos
Que el modelo genere una llamada a una herramienta solo indica que ha propuesto una intención; que el servicio de permisos acepte la solicitud indica que superó los controles de admisión de ese momento; únicamente un estado externo final acorde con el objetivo constituye evidencia de finalización. La máquina de estados debe distinguir, al menos, entre no enviado, enviado sin confirmar, éxito confirmado, rechazo confirmado y necesidad de intervención humana. Cada transición se vincula a una identidad ejecutora, un resumen de los parámetros y una versión del objetivo, para evitar que pasos posteriores interpreten un acuse relativo a otro objeto como resultado de la operación actual. La expresión «completado» en lenguaje natural no debe determinar directamente el estado de negocio.[1] ReAct: Synergizing Reasoning and Acting in Language Mod[2] Toolformer: Language Models Can Teach Themselves to Use
9. El vencimiento del tiempo de espera produce un resultado desconocido
Cuando el servidor ya ha confirmado una transacción pero se pierde la respuesta, el vencimiento del tiempo de espera observado por el cliente puede ser idéntico al que se produce antes de que el servidor ejecute la operación. Generar a ciegas una nueva solicitud puede duplicar los efectos secundarios. La clave de idempotencia debe vincularse a la misma intención y a los mismos parámetros, y el servidor debe conservar el resultado; si cambian los parámetros bajo la misma clave, la solicitud debe rechazarse en lugar de sobrescribir el registro existente. Ante un estado desconocido, primero debe consultarse la versión del objetivo o el acuse de la operación, y después decidir si procede repetir explícitamente la solicitud con la misma clave. Estos son principios de diseño de sistemas distribuidos y no pueden sustituirse por «no repitas» en una instrucción al modelo.[1] ReAct: Synergizing Reasoning and Acting in Language Mod[3] WebArena: A Realistic Web Environment for Building Auto
10. Cómo se acumulan los puntos débiles en las tareas de varios pasos
Si todas las etapas tienen una probabilidad condicional de éxito p y son independientes, la probabilidad de que tengan éxito los L pasos es p^L. Los flujos reales de herramientas no suelen ser independientes: los errores tempranos de estado modifican las entradas posteriores, mientras que compartir el inicio de sesión o la red introduce fallos comunes. Por tanto, esta ecuación es solo una referencia analítica; una expresión más general debe utilizar una secuencia de probabilidades condicionales. La evaluación debe observar el resultado final y conservar la categoría de fallo de cada etapa, distinguiendo entre errores de planificación, errores de parámetros, denegaciones de permisos y anomalías de servicios externos.[3] WebArena: A Realistic Web Environment for Building Auto[2] Toolformer: Language Models Can Teach Themselves to Use
11. La evaluación de resultados requiere estado externo y presupuestos
Un agente web puede pulsar el botón correcto sin efectuar realmente el envío; también puede modificar otros campos que debían permanecer intactos. La aceptación debe comprobar el estado especificado por la tarea y el estado protegido, sin basarse únicamente en una notificación de éxito de la interfaz. También es necesario registrar el número de llamadas a herramientas, el consumo de recursos del modelo, la latencia y la intervención humana. Acelerar la decodificación a nivel de sistema puede acortar una etapa, pero no corrige errores de la máquina de estados ni de validación de negocio; al comparar soluciones, deben atribuirse por separado las contribuciones de las decisiones del modelo, el protocolo de herramientas y el sistema de ejecución.[3] WebArena: A Realistic Web Environment for Building Auto[4] Fast Inference from Transformers via Speculative Decodi
Ecuaciones fundamentales y derivaciones
(1) La descomposición general mediante la regla de la cadena no requiere independencia. Solo puede simplificarse a p elevado a L cuando la probabilidad de éxito de cada paso es fija y los pasos son independientes.
LaTeX
P(S_1,\ldots,S_L)=\prod_{i=1}^{L}P(S_i\mid S_1,\ldots,S_{i-1})(2) El identificador de idempotencia debe asociarse a una identidad ejecutora explícita y a un resumen de la intención; es una restricción del protocolo, no una prueba, basada en un hash del contenido, de que la acción se haya completado realmente.
LaTeX
\mathrm{IntentID}\longmapsto H(\mathrm{actor},\mathrm{target},\mathrm{version},\mathrm{parameters})(3) La evaluación de tareas considera tanto los cambios deseados como los estados que no deben cambiar. Las reglas de comprobación de ambos deben definirse antes de la ejecución.
LaTeX
\mathrm{Success}=\mathrm{TargetSatisfied}\ \land\ \mathrm{ProtectedStatePreserved}Flujo metodológico y de evidencia
Gráficos analíticos y ejemplos numéricos
Ejemplo resuelto que permite repetir los cálculos
Si cada paso tiene una probabilidad de éxito de 0.97 condicionada al éxito previo, la tasa de éxito de toda una cadena de 20 pasos es aproximadamente 0.544. La recuperación, los reintentos y el estado externo pueden modificar estas probabilidades condicionales; por tanto, esta cifra no permite estimar el rendimiento de productos reales basados en agentes.
Comparación de métodos
| Método o juicio | Variables controladas y mediciones | Condiciones de fallo y explicación |
|---|---|---|
| Declaración de finalización del propio modelo | Estado del sistema externo, versión del objetivo y acuse de la operación | La declaración propia no constituye evidencia de ejecución real |
| Reintento tras vencer el tiempo de espera | Conservar el identificador de intención original; consultar primero y repetir después con la misma clave | Reenviar con una clave nueva puede duplicar efectos secundarios |
| Tasa de éxito de una cadena larga | Clasificación de fallos condicionales por etapa y fallos comunes | p^L no puede sustituir la estructura real de correlación |
| Banco de pruebas de tareas | Verificar tanto el estado objetivo como el protegido e incluir el presupuesto | Un botón de éxito o unos pocos ejemplos no demuestran fiabilidad general |
Plan de verificación y experimentación
- Definir previamente los objetivos de la tarea, los estados cuya modificación está prohibida, las herramientas permitidas y los permisos mínimos; no tratar el contenido de páginas externas como instrucciones del sistema.
- Establecer un identificador de intención, un resumen de los parámetros y una versión del objetivo para cada acción de escritura; rechazar explícitamente el uso de parámetros diferentes con la misma clave.
- Inyectar fallos anteriores a la confirmación de la transacción, pérdidas de acuses posteriores a ella y respuestas demoradas; verificar que los resultados desconocidos permanezcan pendientes de conciliación en lugar de declararse automáticamente éxitos o fallos.
- Comprobar los conflictos de versión cuando dos ejecutores modifiquen simultáneamente el objetivo, evitando que una acción antigua cuya respuesta llegue más tarde sobrescriba el estado nuevo.
- Leer de forma independiente los resultados externos al finalizar la tarea y comprobar el estado protegido; conservar los registros de rechazo, intervención humana y finalización parcial.
- Al agregar las tasas de éxito, presentar también el número de llamadas a herramientas, el consumo de recursos del modelo, la latencia y la estratificación por dificultad de la tarea, para evitar mostrar únicamente trayectorias exitosas seleccionadas.
Ámbito de aplicación y limitaciones
- Los resultados de las herramientas dependen de los sistemas externos y de las condiciones de permisos.
- La curva de etapas independientes es solo una referencia analítica.
- La idempotencia requiere soporte del protocolo en el servidor.
- No se presentan resultados nuevos sobre la adopción externa real de agentes ni sobre su despliegue autónomo.
Correspondencia entre fuentes primarias y afirmaciones
- ReAct: Synergizing Reasoning and Acting in Language ModelsYao et al. · 2022-10-06v3; method and experiments
- Toolformer: Language Models Can Teach Themselves to Use ToolsSchick et al. · 2023-02-09abstract; training tool-use behavior
- WebArena: A Realistic Web Environment for Building Autonomous AgentsZhou et al. · 2023-07-25v4; abstract, benchmark and functional evaluation
- Fast Inference from Transformers via Speculative Decoding, , · 2022-11-30Abstract; 原文方法、理论和实验章节见作者原始论文链接
Cita y exportación del manuscrito
BibTeXRISCSL JSONTXTArtículo JSON
Autor, versión y fuentes
Revisión de investigación asistida por IA; Codex (IA) redactó el artículo y realizó las derivaciones analíticas a partir de la bibliografía primaria indicada. Este sitio no dispone de registros de revisión independiente por pares ni de experimentos originales con modelos para este artículo.
Revisión del rendimiento del lector: también se reutilizan las páginas ya leídas cuando una solicitud HEAD reciente devuelve 200 y el ETag permanece igual. El texto principal, las ecuaciones, las fuentes y los datos de las figuras científicas conservan el contenido de la versión anterior.
La portada conceptual se presenta por separado de los diagramas científicos; las figuras científicas se calculan a partir de ecuaciones públicas y supuestos explícitos, y todos los resultados de los artículos originales incluyen su atribución.
Autor, versión e historial de correcciones · /guides/agents-tools-and-outcomes/v5/
Fuentes de la portada y las figuras científicas · Datos, fuentes y supuestos · Historial de publicación y versiones
Revisión de la fuente: 6251a250b27bb8b449f59b392f81abd355383770