BAZZI BLOG · ARCHITECTURE

요청 접수와 모델 실행의 분리

요청 접수와 모델 실행의 분리 FastAPI가 작업을 접수하면 Redis Streams와 Worker가 모델 호출·후처리를 수행하고, 클라이언트는 작업 ID로 상태와 결과를 조회한다. BIZKIT / ASYNC WORKFLOW 요청 접수와 모델 실행의 분리 SUBMIT / POLL ENQUEUE CONSUME READ RESULT ID / RESULT CLIENT 클라이언트 task_id API FastAPI submit / poll QUEUE Redis Streams task queue WORKER Worker consumer MODEL 모델 호출·후처리 generate + parse STATE 상태·결과 저장 status / result 비동기 경로의 개념도 · 실제 네트워크 홉과 장애 복구 보장은 포함하지 않는다. 중점 구성요소 관계·흐름 작업 소비·조회 응답