开源 AI 搜索 · Docker+Ollama

Vane:可自托管的开源 Perplexity 替代品

用自己的模型和存储搭建搜索问答工作流。先了解 Vane 与 Perplexity 的区别,再通过 Docker 和 Ollama 配置本地服务。

本站为独立资料指南,不提供托管搜索服务。安装示例依据文档整理,不代表本站已运行或评测 Vane。

资料核验日期:

Vane 是什么?

Vane 将搜索后端与语言模型结合,生成附带来源链接的回答。应用采用 MIT 许可,连接的模型和外部服务仍有各自的使用条款。

选择自己的模型

连接本地 Ollama,或配置支持的云端模型服务。不同选择决定硬件需求、使用成本和提示词的处理位置。

搜索并查看来源

Vane 使用 SearXNG 检索网页。应打开引用页面核实是否支持回答;附带引用并不保证内容准确。

自行运行与维护

通过持久化卷保存应用数据,自行控制更新和访问。同时也需要负责存储、备份与服务可用性。

Vane 与 Perplexity 功能对比

以下依据官方文档比较使用方式,不是准确率或速度评测。功能和限制可能变化,选型前请核对链接中的最新资料。

自行维护的应用与托管问答服务
对比维度Vane · 自托管Perplexity · 托管服务
来源引用结合检索结果生成回答并附来源链接,仍需核实原文。提供带引用的联网回答,同样需要核实原文。
模型选择配置本地 Ollama,或使用自己的凭证连接受支持服务商。可用模型及选择方式取决于当前产品与套餐。
自托管在自己控制的基础设施上运行 MIT 许可的应用。使用其托管产品;本页不涉及可自行部署的 Perplexity 版本。
文件问答支持上传文档,处理能力取决于模型配置和文件支持情况。提供文件上传与分析,用量限制随套餐变化。
数据流向自行控制应用和存储;联网搜索仍会发出请求,云端模型会增加外部处理方。请求由托管服务处理,遵循其产品政策和账户设置。
维护成本需要自行更新、下载模型、备份并管理网络访问。由服务商维护服务,无需管理本地推理环境。
使用费用MIT 应用无许可费用,但硬件、电力、托管和付费服务商仍可能产生成本。有免费及付费套餐,限制不同;应核实实时条款,不应假定用量无限。

自托管能控制什么,数据又会流向哪里?

下面是简化的逻辑流程。Vane 负责组织检索和模型调用,SearXNG 本身不是语言模型。

  1. 01

    你的问题

  2. 02

    Vane

  3. 03

    SearXNG 检索

  4. 04

    本地或云端模型

  5. 05

    回答与引用

本地推理

聊天和需要时的向量生成均选择已下载的本地模型。请检查所有服务商配置;只选择 Ollama 并不能证明每个环节都在本地。Ollama 也提供云端功能,可在其设置中关闭。

联网检索

网页搜索需要联网。即使回答由本地模型生成,搜索引擎和访问的网站仍可能收到查询、衍生搜索词及连接元数据。

云端推理

选择云端服务商后,提示词和相关上下文会发送给对方。发送文档或敏感资料前,应查看其留存和计费条款。

本教程默认仅供本机访问。共享实例前,应配置 HTTPS 和身份验证/访问控制;模型接口也需要保护,开放端口并不等于设置了访问策略。

通过 Docker+Ollama 自托管 Vane

先在自己的电脑安装 Docker 与 Ollama。下方命令供你在本机运行;本站不会替你安装软件或下载模型。

  1. 01

    准备 Docker 与 Ollama

    启动 Docker 和 Ollama 服务,根据内存和磁盘空间选择模型。CPU 也可推理,但速度可能较慢;本指南不承诺固定的 GPU 或内存门槛。

  2. 02

    下载示例模型

    拉取 llama3.2:3b 作为小型文本聊天起点。nomic-embed-text 用于文档检索的向量生成,不是聊天模型。这些仅为示例,不表示效果等同商业系统。

  3. 03

    启动集成镜像

    官方完整镜像包含 SearXNG。本指南将网页服务映射到 127.0.0.1:3001,并将数据存入 vane-data。启动后打开 http://localhost:3001。

  4. 04

    配置模型并搜索

    在 Vane 初始化界面添加 Ollama,填写下方对应系统的地址,选择已下载的聊天模型;需要文件检索时再配置 embedding 模型。提出事实性问题,并打开引用核对原文。

下载并列出模型

ollama pull llama3.2:3b
ollama pull nomic-embed-text
ollama list

启动 Vane · 网页仅供本机访问

docker run -d --name vane --restart unless-stopped -p 127.0.0.1:3001:3000 -v vane-data:/home/vane/data itzcrazykns1337/vane:latest

以单行展示的命令可用于 PowerShell 和 bash/zsh。入门路径使用会变化的 latest 标签;需要可重复部署时,请查看发布说明并固定镜像版本或 digest。

让容器连接到 Ollama

Docker 容器中的 localhost 指向容器本身,不是宿主机。请使用正确的宿主机地址,并确认能访问 Ollama 的监听端口。

Windows / macOS · Docker Desktop

在 Vane 中使用 http://host.docker.internal:11434。如无法连接,请按 Ollama FAQ 配置监听地址并重启应用;仅允许 Docker 主机/容器网络访问。

Linux · 宿主机网络配置

使用 http://<HOST_PRIVATE_IP>:11434,并替换为实际可访问的宿主机地址。仅添加 host-gateway 域名映射,无法连接只监听 127.0.0.1 的服务。请先配置监听和防火墙再重试。

先运行 sudo systemctl edit ollama.service,填入下方覆盖配置并保存,再单独执行重新加载命令。0.0.0.0 会监听全部接口:请在防火墙仅允许 Docker/私有网络访问,切勿将 11434 转发到公网。Windows 与 macOS 的环境变量设置方式不同,请参阅官方 FAQ。

Linux systemd 覆盖配置 · 编辑后重新加载

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

重新加载 Linux Ollama 服务

sudo systemctl daemon-reload
sudo systemctl restart ollama

常见问题排查

先检查模型服务与容器日志,再检查搜索后端。

模型列表没有已下载模型
在宿主机运行 ollama list,核对模型标签,并确认 Vane 连接的是同一个 Ollama 服务;下载到另一套安装环境并不能解决问题。
无法连接 Ollama
检查对应系统的宿主机地址、端口、监听和防火墙。容器的 localhost 不等于宿主机,不要通过向公网开放模型接口来解决。
端口或容器名称已被占用
通过 docker ps -a 检查。可换用未占用的宿主机端口,保持容器端口 3000;或明确停止旧实例,不要删除无关容器。
搜索没有返回来源
查看 Vane 日志,尝试更简单的公开查询,确认 SearXNG 能访问配置的引擎。使用独立 SearXNG 时,还要检查地址与 JSON 支持。
回答缓慢或内存不足
尝试更小模型或更短上下文,检查可用内存、磁盘及 Ollama 日志。轻量模型只是入门起点,不保证高质量研究效果。

持久化、日志、备份与更新

命名卷 vane-data 挂载到 /home/vane/data。替换容器后仍可保留数据,但删除卷会删除其中内容。升级前先备份。

请使用新的备份目录,避免覆盖旧备份。示例会暂停 Vane 后复制数据。备份可能包含配置、凭证、上传文件和对话,应私密保存。更新前保留备份并记录当前镜像 digest。

检查容器状态与日志

docker ps -a --filter name=vane
docker logs --tail 100 vane

停止服务、复制备份、重新启动

docker stop vane
docker cp vane:/home/vane/data ./vane-backup
docker start vane

更新并复用数据卷

docker pull itzcrazykns1337/vane:latest
docker stop vane
docker rm vane
docker run -d --name vane --restart unless-stopped -p 127.0.0.1:3001:3000 -v vane-data:/home/vane/data itzcrazykns1337/vane:latest

更新过程仅删除已停止的容器,再使用相同数据卷和本机端口绑定启动新镜像。不要删除 vane-data。更新后请检查配置、执行搜索并核对引用;回滚时还可能需要恢复与旧版本兼容的数据。

其他配置方式

使用云端模型

在 Vane 初始化界面选择支持的云端服务商并填写自己的 API 密钥。云端用量单独计费,数据处理方式也不同。密钥保存在自己的实例配置中,不要提交给本站。

使用已有 SearXNG 实例

slim 镜像通过 SEARXNG_API_URL 连接已有 SearXNG。官方说明要求启用 JSON 格式和 Wolfram Alpha 引擎。请填写 Vane 容器可访问的地址,而非容器自身的 localhost;完整命令见官方指南。

哪一种更适合你的工作流?

希望掌握控制权:考虑 Vane

优点:本地模型可配置、应用源码可查看、存储由自己控制。代价:需要自行安装,模型效果、本地推理速度和日常维护也由自己负责。

希望直接使用:考虑 Perplexity

优点:无需运行模型环境,即可使用托管搜索体验。代价:需要接受服务提供的模型、套餐限制和托管数据处理方式。请结合实际研究任务比较当前功能。

这是适用性分析,不是性能评测。小型本地文本模型不会自动具备产品介绍中的全部能力;图像理解和研究效果取决于实际配置的模型。

常见问题

官方资料来源

功能与安装说明依据下列资料整理,核验日期见下方。运行命令前请核对最新版本说明。