Qwen 계열을 로컬 vLLM으로 띄울 때 제일 먼저 마주하는 구덩이: OpenAI 표준 body만으로는 thinking을 억제하지 못한다. /no_think를 시스템 프롬프트에 넣는 소프트 스위치는 이 배포가 무시했다 — 실측으로 확인했다. 해결 — 템플릿 kwargs: body에 chat_template_kwargs: {"enable_thinking": false}. vLLM 전용 확장 필드라 OpenAI 등 다른 서버는 거부할 수 있다 — 그래서 코드에 상수로 박는 게 아니라 env(LLM_EXTRA_BODY_JSON)로 주입한다(제공사별
Local LLM
RSS 8개 소스를 수집 → 중복 제거(trigram 유사도 0.85) → 로컬 LLM 한국어 요약 → 커뮤니티에 자동 발행하는 파이프라인을 서버 한 대 위에서 돌리고 있습니다. 핵심 3단 — ① 수집기: 하루 fetched 2,435건 규모에서 기록 44건만 남기고 2,391건 버린다("같은 소식 다른 소스" 방어). ② 요약기: OpenAI 호환 /chat/completions만 말하는 프록시 — 현재 로컬 vLLM(Qwen3.5-9B-AWQ)에 물려 있고, LLM_BASE_URL/LLM_MODEL만 바꾸면 클라우드(OpenRouter
