Löst av Enhetliga generativa medie-API:er med användningsbaserad fakturering och asynkrona uppgifter
Inför ett asynkront arbetsflöde för mediegenerering så att långvariga jobb inte orsakar timeout i förfrågningar. Användare kan starta ett genereringsjobb, fortsätta använda appen och hämta resultaten när bearbetningen är klar.
Denna funktion ersätter långvariga och timeout-känsliga förfrågningar för mediegenerering med ett asynkront jobbflöde. Istället för att vänta på att mediegenereringen ska slutföras i en enda förfrågan, skapar appen en bakgrundsuppgift och returnerar omedelbart ett jobb-ID. Klienten kan sedan kontrollera jobbets status senare och hämta den genererade median när den är klar. Detta tillvägagångssätt förhindrar timeout i server eller klient när mediegenerering tar längre tid än vad typiska HTTP-förfrågningar tillåter. Det förbättrar också användarupplevelsen genom att hålla gränssnittet responsivt och tillåta användare att navigera bort medan bearbetningen fortsätter. Arbetsflödet stöder tydligare kommunikation om framsteg genom att exponera tillstånd som köad, körs, slutförd och misslyckad. Det gör fel enklare att hantera genom att separera jobbkörning från den ursprungliga förfrågan och möjliggöra omförsök eller uppföljningsåtgärder. Denna design skalar bättre under belastning eftersom mediegenerering kan hanteras och schemaläggas oberoende av användarvända förfrågningar. Det är särskilt användbart för beräkningsintensiv mediegenerering, perioder med hög trafik eller miljöer med strikta timeout-gränser för gateways.
Extern resurs
https://spicyapi.ai/
Om du känner till ett verktyg eller ett tillvägagångssätt som kan hjälpa människor att lösa ett problem vi ännu inte täckt, hör vi gärna det.
Vi granskar inom 48 timmar Vi granskar och testar varje färdighet Vi läser varje inlämning