CARO AI 서버 개발 회고
FastAPI, Redis Streams, vLLM을 기반으로 개발자 역량 분석, 자기소개 생성, 명함 OCR 기능을 구현한 AI 서버 프로젝트입니다.
KakaoTech Bootcamp
KakaoTech Bootcamp
FastAPI, Redis Streams, vLLM을 기반으로 개발자 역량 분석, 자기소개 생성, 명함 OCR 기능을 구현한 AI 서버 프로젝트입니다.
FastAPI, SentenceTransformer, Milvus를 사용해 직무 필터링과 시맨틱 캐시를 지원하는 임베딩 서비스를 구현한 프로젝트입니다.
RunPod worker-vLLM 환경에서 Qwen 계열 토크나이저와 vLLM V0/V1 API 충돌을 해결한 트러블슈팅 기록입니다.