Necesito un flujo de trabajo basado en API que se adapte tanto a respuestas rápidas como a tareas de generación de contenido de larga duración.

Proporcione un flujo de trabajo basado en API que admita tanto respuestas de baja latencia como trabajos de generación de contenido de larga duración. Esto permite a los desarrolladores utilizar una interfaz coherente mientras eligen el patrón de ejecución adecuado para cada tarea.

Esta funcionalidad ofrece un flujo de trabajo basado en API diseñado para manejar tanto respuestas interactivas rápidas como tareas de generación de contenido de mayor duración dentro de la misma integración. Permite a los desarrolladores dirigir las solicitudes cortas a través de una ruta de respuesta rápida para mantener la capacidad de respuesta de la experiencia del usuario. Para tareas que requieren más tiempo, como la generación de contenido más extenso o resultados de varios pasos, el flujo de trabajo admite un patrón asíncrono o basado en trabajos. Esto reduce los tiempos de espera y evita que los clientes tengan que mantener las conexiones abiertas durante el procesamiento pesado. El flujo de trabajo promueve convenciones de solicitud/respuesta coherentes para que los equipos puedan desarrollar una vez y escalar a través de diferentes duraciones de tareas. Se puede utilizar para mejorar la confiabilidad separando las interacciones inmediatas del trabajo en segundo plano. También ayuda a los equipos de producto a ofrecer una mejor experiencia de usuario al devolver confirmaciones rápidas mientras las tareas más largas continúan procesándose. Los casos de uso típicos incluyen interacciones similares a un chat para respuestas instantáneas y creación de contenido por lotes que puede tardar más en completarse. En general, agiliza el diseño de la API al admitir necesidades de latencia mixtas sin requerir sistemas separados.