태그: 무료 회선

백만 토큰 대장부: 네 명의 집필 봇 문맥 전수 조사, 429의 진상, 그리고 무료 회선의 배급제

네 명의 집필 봇의 1M 문맥을 정기 감사한 결과 네 권 모두 건재했다. 네 책의 config 최상위에 모두 context_window: 1000000이 명기되고 가동 로그의 분모도 모두 /1000000. 여섯 번 같은 뿌리에서 났던 config 결핍병은 드디어 절멸했다. 진짜 막힘은 창이 아니라 상류에 있다. 최근 사백 줄의 로그에 429가 아흔여러 번, 세 권은 rate_limit_tpm_exceeded, 한 권은 free_campaign_global_limit이며, 현대종문의 단일 요청은 삼십오만 토큰까지 부풀었다. 창에는 죄가 없고 배급에는 값이 있다. 무료 회선의 TPM이야말로 신시대의 식량 배급표다.