Vane：自分でホストできるオープンソース検索AI

1. 01

   あなたの質問

2. 02

   Vane

3. 03

   SearXNGの取得

4. 04

   ローカルまたはクラウドモデル

5. 05

   回答 + 引用

このチュートリアルはローカルに保存してください。インスタンスを共有する前に、HTTPS と認証/アクセス制御をその前に置きます。モデルのエンドポイントも保護します。ポートを開くことはアクセス ポリシーではありません。

1. 01

   Docker と Ollama を準備する

   Docker と Ollama サービスを開始します。モデルのサイズを利用可能なメモリおよびディスク容量に合わせます。 CPU 推論は可能ですが、時間がかかる可能性があります。ここでは、固定の GPU または RAM 要件は約束されていません。

2. 02

   サンプルモデルをダウンロードする

   簡単なテキスト チャットの開始点として、llama3.2:3b をプルします。 nomic-embed-text は、チャット モデルではなく、ドキュメント検索のための埋め込みモデルです。これらは例であり、商用システムに対する同等性の主張ではありません。

3. 03

   バンドルされたイメージを開始します

   公式のフルイメージにはSearXNGが含まれています。このガイドでは、Web アプリを 127.0.0.1:3001 にマップし、データを vane-data に保存します。起動後にhttp://localhost:3001を開きます。

4. 04

   設定と検索

   Vane のセットアップでは、以下の OS のアドレスを使用して Ollama を追加し、ダウンロードしたチャット モデルを選択し、必要に応じてファイルを取得するための埋め込みモデルを構成します。事実に基づいた質問をしてから、引用を開いて原文を確認してください。

ollama pull llama3.2:3b
ollama pull nomic-embed-text
ollama list

docker run -d --name vane --restart unless-stopped -p 127.0.0.1:3001:3000 -v vane-data:/home/vane/data itzcrazykns1337/vane:latest

単一行で示されているコマンドは、PowerShell および bash/zsh で機能します。この例では、導入パスに変更可能なlatestタグを使用しています。リリース ノートを確認し、反復可能な展開のためにイメージ バージョンまたはダイジェストを固定します。

sudo systemctl edit ollama.service を実行し、以下のオーバーライドを入力して保存し、リロード コマンドを個別に実行します。バインディング 0.0.0.0 はすべてのインターフェイスをリッスンします。ファイアウォール内の Docker/プライベート ネットワークのみを許可し、ポート 11434 をパブリック インターネットに転送しないでください。 Windows と macOS では、異なる環境設定手順が使用されます。公式FAQに従ってください。

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

sudo systemctl daemon-reload
sudo systemctl restart ollama

ダウンロードしたモデルが表示されない

ホスト上で ollama list を実行し、モデル タグを検証して、Vane が同じ Ollama サービスに到達していることを確認します。別のインストールへのダウンロードが成功するだけでは十分ではありません。

オラマに接続できません

OS 固有のホスト アドレス、ポート、リスナー、およびファイアウォールを確認してください。コンテナ localhost はホストではありません。モデル API を公開することでこれを解決しないでください。

ポートまたはコンテナ名はすでに使用されています

docker ps -a を検査します。コンテナ ポート 3000 を維持したまま別の未使用のホスト ポートを使用するか、古いインスタンスを意図的に停止します。無関係なコンテナは削除しないでください。

検索してもソースが返されません

Vane ログを検査し、より単純なパブリック クエリを試して、SearXNG が設定されたエンジンに到達できることを確認します。別の SearXNG インスタンスについては、その URL と JSON サポートを確認してください。

応答が遅い、またはメモリが不足しています

より小さいモデルまたはより短いコンテキストを試し、利用可能なメモリとディスクを確認し、Ollama ログを確認します。軽量モデルは出発点であり、高品質の研究を保証するものではありません。

以前のバックアップを上書きするのではなく、新しいバックアップ ディレクトリを選択してください。この例では、コピー中に Vane を一時停止します。バックアップには、構成、認証情報、アップロード、会話が含まれる場合があります。それらを個人的に保管してください。更新する前にバックアップを保存し、現在のイメージのダイジェストを記録してください。

docker ps -a --filter name=vane
docker logs --tail 100 vane

docker stop vane
docker cp vane:/home/vane/data ./vane-backup
docker start vane

docker pull itzcrazykns1337/vane:latest
docker stop vane
docker rm vane
docker run -d --name vane --restart unless-stopped -p 127.0.0.1:3001:3000 -v vane-data:/home/vane/data itzcrazykns1337/vane:latest

この更新では、停止したコンテナーのみが削除され、その後、同じボリュームとローカル ポート バインドを使用して新しいイメージが開始されます。Vaneデータは削除しないでください。更新後、設定を確認し、検索を実行して引用を調べます。ロールバックには、古いバージョンと互換性のあるデータの復元が必要になる場合もあります。

これは適合性評価であり、ベンチマークではありません。小規模なローカル テキスト モデルは、Vane の製品説明に示されているすべての機能を継承しているわけではありません。画像の理解と研究の品質は、構成するモデルによって異なります。

チェックしたソース: 2026-10-24