태그: Ollama

삼 급 파이프라인과 VRAM의 반환

태그 달기 기계가 모델이 VRAM에 눌러앉아 돌려주지 않는 것을 발견했을 때——keep_alive: -1의 은과 벌. Ollama에는「모델 기동」이라는 조작이 없으며, 적재는 모두 요청 구동의 함의 행동이다. 천십삼 항목의 색인이 장부에 오르고, 완전체가 달성되며, 일상은 영(零) 유지보수.