Vane: 직접 호스팅하는 오픈소스 검색 AI

1. 01

   귀하의 질문

2. 02

   베인

3. 03

   SearXNG 검색

4. 04

   로컬 또는 클라우드 모델

5. 05

   답변 + 인용

이 튜토리얼을 로컬에 유지하세요. 인스턴스를 공유하기 전에 HTTPS와 인증/액세스 제어를 앞에 두세요. 모델 엔드포인트도 보호하세요. 포트를 여는 것은 액세스 정책이 아닙니다.

1. 01

   Docker 및 Ollama 준비

   Docker 및 Ollama 서비스를 시작합니다. 사용 가능한 메모리 및 디스크 공간에 모델 크기를 일치시킵니다. CPU 추론은 가능하지만 속도가 느릴 수 있습니다. 여기서는 고정된 GPU 또는 RAM 요구 사항이 약속되지 않습니다.

2. 02

   예시 모델 다운로드

   작은 문자 채팅 시작점으로 llama3.2:3b를 가져옵니다. nomic-embed-text는 채팅 모델이 아닌 문서 검색을 위한 임베딩 모델입니다. 이는 예시일 뿐 상용 시스템에 대한 동등 주장은 아닙니다.

3. 03

   번들 이미지 시작

   공식 전체 이미지에는 SearXNG가 포함되어 있습니다. 이 가이드에서는 웹 앱을 127.0.0.1:3001에 매핑하고 데이터를 vane-data에 저장합니다. 시작 후 http://localhost:3001를 엽니다.

4. 04

   구성 및 검색

   Vane 설정에서 아래 OS에 맞는 주소를 사용하여 Ollama를 추가하고, 다운로드한 채팅 모델을 선택하고, 필요할 때 파일 검색을 위한 임베딩 모델을 구성하세요. 사실에 기반한 질문을 하고, 인용문을 열고 원본 텍스트를 확인하세요.

ollama pull llama3.2:3b
ollama pull nomic-embed-text
ollama list

docker run -d --name vane --restart unless-stopped -p 127.0.0.1:3001:3000 -v vane-data:/home/vane/data itzcrazykns1337/vane:latest

단일 줄로 표시된 명령은 PowerShell 및 bash/zsh에서 작동합니다. 이 예에서는 소개 경로에 변경 가능한 최신 태그를 사용합니다. 릴리스 노트를 검토하고 반복 가능한 배포를 위해 이미지 버전이나 다이제스트를 고정합니다.

sudo systemctl edit ollama.service를 실행하고 아래 재정의를 입력한 후 저장한 후 다시 로드 명령을 별도로 실행하세요. 바인딩 0.0.0.0은 모든 인터페이스에서 수신 대기합니다. 방화벽에서 Docker/개인 네트워크만 허용하고 포트 11434를 공용 인터넷으로 전달하지 마십시오. Windows와 macOS는 서로 다른 환경 설정 단계를 사용합니다. 공식 FAQ를 따르세요.

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

sudo systemctl daemon-reload
sudo systemctl restart ollama

다운로드한 모델이 표시되지 않습니다.

호스트에서 ollama 목록을 실행하고, 모델 태그를 확인하고, Vane이 동일한 Ollama 서비스에 도달하는지 확인하세요. 다른 설치에 성공적으로 다운로드하는 것만으로는 충분하지 않습니다.

올라마에 연결할 수 없습니다

OS별 호스트 주소, 포트, 리스너, 방화벽을 확인하세요. 컨테이너 localhost는 호스트가 아닙니다. 모델 API를 공개적으로 노출하여 이 문제를 해결하지 마세요.

포트 또는 컨테이너 이름이 이미 사용 중입니다.

docker ps -a를 검사합니다. 컨테이너 포트 3000을 유지하면서 사용하지 않는 다른 호스트 포트를 사용하거나, 이전 인스턴스를 의도적으로 중지하세요. 관련 없는 컨테이너를 제거하지 마십시오.

검색 결과 소스가 없습니다.

Vane 로그를 검사하고, 더 간단한 공개 쿼리를 시도하고, SearXNG가 구성된 엔진에 도달할 수 있는지 확인하세요. 별도의 SearXNG 인스턴스의 경우 URL 및 JSON 지원을 확인하세요.

답변이 느리거나 메모리가 부족합니다.

더 작은 모델이나 더 짧은 컨텍스트를 시도하고, 사용 가능한 메모리와 디스크를 확인하고, Ollama 로그를 검토하세요. 경량 모델은 출발점일 뿐 고품질 연구를 보장하는 것은 아닙니다.

이전 백업을 덮어쓰는 대신 새로운 백업 디렉터리를 선택하십시오. 이 예에서는 복사하는 동안 Vane을 일시 중지합니다. 백업에는 구성, 자격 증명, 업로드 및 대화가 포함될 수 있습니다. 개인적으로 저장하세요. 업데이트하기 전에 백업을 유지하고 현재 이미지 다이제스트를 기록하십시오.

docker ps -a --filter name=vane
docker logs --tail 100 vane

docker stop vane
docker cp vane:/home/vane/data ./vane-backup
docker start vane

docker pull itzcrazykns1337/vane:latest
docker stop vane
docker rm vane
docker run -d --name vane --restart unless-stopped -p 127.0.0.1:3001:3000 -v vane-data:/home/vane/data itzcrazykns1337/vane:latest

업데이트는 중지된 컨테이너만 제거한 다음 동일한 볼륨 및 로컬 포트 바인딩을 사용하여 새 이미지를 시작합니다. 베인 데이터를 삭제하지 마십시오. 업데이트한 후 설정을 확인하고, 검색을 실행하고, 인용을 검사하세요. 롤백하려면 이전 버전과 호환되는 데이터를 복원해야 할 수도 있습니다.

이는 벤치마크가 아닌 적합성 평가입니다. 작은 로컬 텍스트 모델은 Vane의 제품 설명에 표시된 모든 기능을 상속하지 않습니다. 이미지 이해와 연구 품질은 구성한 모델에 따라 달라집니다.

확인된 소스: 2026-10-24