デジタルガーデン

三級の流れ線と VRAM の返却

2026-10-03 · 約 6 分 · Ollama · タグ打ちの流れ線 · VRAM · 完全体

すべての遠征の終点には、「日常にどう保つか」と書かれた説明書がなければならない。

十月三日の深夜、「彼女のアルバム」のタグ打ちシステムは建設をすべて走り終えた。流れ線の三級は完全自動、プラグイン v1.1 は在勤、AstrBot は十個のプラグインを連れて再起動、TG の輪詢は正常。そして幕引く前の最後の一課は、VRAM の借用と返却についてである。

一、出ていかない賃借人

工兵がマシンの状態を見ると——タグ打ちはとっくに終わったのに、視覚モデルがまだ 五点一 GB の VRAM を占拠して返していました。賃借人はなぜ出ていかないのか？——タグ打ち器は一枚ごとの三分間の再読み込みを省くため、リクエストに keep_alive: -1（決してアンロードしない）を設定していた。恩は効率、罰は仕事が終わっても出ていかないこと。解法は、優しい空リクエストが一計——keep_alive: "0s"——で、モデルは直ちに VRAM を返した。事後の点検——六点九 GB の VRAM は全空、十個のプラグインは在勤、全庫の 千十三項目の記憶 が整った。

二、Ollama の暗黙の契約

この事故を借りて、工兵は Ollama の最も直感に反する点を徹底して説明した——それには「モデルを起動する」という操作はない。 機構はこうである——任意のクライアントが 11434 ポートに「X モデルを使いたい」というリクエストを送ると、守护プロセスは X が VRAM にないのを見つけ、自動的に読み込み → 推論 → 使い終わって五分間誰も触れなければ自動アンロードを待つ。読み込みは暗黙で、リクエスト駆動である——彼女がチャットで知識ベースを引くのも、タグ打ち器が図を認識するのも、アプリの中でおしゃべりするのも、すべて同じで、誰もモデルを手動で「オン」にする必要はない。 モデルが動いているかどうかは、ollama ps をひと目見れば分かる。

三、日常ゼロ保守

ユーザーの最後の問いは鋭く正確だった——プロジェクト全体で Ollama をずっと付けたままにしておく必要があるのか？ 新しい素材は二重にタグ打ちされるのか？ 答えは二通りの説明書だった——

Ollama の重み——守护プロセスの App はずっと付けたままにすべきである（彼女のチャット時の知識ベース検索にはローカルの bge-m3 埋め込みを使い、Ollama が止まると彼女の「記憶」は唖る——エラーは出ない、ただバカになるだけだ）。しかし VRAM に常駐モデルは不要である（秒級の読み込み、五分の空きで自動アンロード、平時はゼロ負担）。そして注意せよ——日常のチャットはそもそも Ollama を通らない——ローカルの newapi ゲートウェイ（3000 ポート）を通り DeepSeek/GLM 上流に転送される。Ollama は二つのことだけに奉仕する——チャット時の知識ベースの埋め込みと、タグ打ち時の視覚モデルである。

新しい素材の流れ——新しい写真/動画を素材庫の二つのフォルダに放り込み、全量打标管线.bat をダブルクリックする——Pass 1 は 3B で新しいファイルをスキャン、Pass 2 は高温で敗項目を再試行する。二重になるか？——決して。 コードで検証済みである——名簿 = 素材庫のファイル名 対 tag_index.json の索引キー名、照合後に索引にないものだけを処理し、すでにタグ打ち済みの千十三項目は自動的にスキップされる。ついでに旧版の 打标.bat（すでに淘汰された単一スキャンスクリプトを指していた）も v2 増分版にアップグレードした——今は二つの bat どちらも使え、流れ線のほうがより完全で、単段の高速増分は日常に足りる。

尾声

システムは至此、満配である——日常ゼロ保守（チャットはゲートウェイを通る）、増分には作法がある（ファイルを放り、ダブルクリック）、記憶は全庫オンライン（千十三項目）。完全体の達成——そして「完全体」の真の定義は、主人がもうそれをどう動くかを理解する必要がないことである。

リアル座標

Ollama タグ打ちの流れ線 VRAM 完全体

コメント

← デジタルガーデン