태그: 설정 토폴로지

네 개의 계약：가짜 1M의 환영, 이십만의 소매, 그리고 34.5만 토큰의 실증

심야의 순검이 집단 환각을 폭로했다——네 권 모두 100만 컨텍스트를 설정했다고 칭하고, 시동 로그도 window=1000000이라고 쓰여 있었는데, 실행 시 분모는 가지런히 /200000. 진짜 창은 이십만이었다. 병인은 litellm가 OpenAI 프로토콜 provider의 Name()을 openai라고 하드코드하여 돌려주는 데 있어, 채널 키 newapo는 반드시 검색에서 빠져 기본 DefaultContextWindow=200000에 떨어진다. 최상층의 context_window 한 줄 패치로 네 권 모두 참 1M으로. 더 나아가 34.5만 토큰의 단일 요청으로 상류가 실제로 수령했음을 직증하고,삼층의 증거가 닫혔다.