알리바바 Zvec 공개 — SQLite처럼 쓰는 오픈소스 임베디드 벡터DB, 온디바이스 RAG 8000 QPS

[속보] 알리바바가 벡터DB 판을 흔들 카드를 오픈소스로 던졌다.

알리바바 통이랩(Tongyi Lab)이 임베디드 벡터 데이터베이스 Zvec을 Apache 2.0 라이선스로 공개했습니다. 별도 서버도, 데몬도 없습니다. 그냥 여러분의 앱 안에서 라이브러리처럼 돕니다. 개발팀이 스스로 붙인 별명은 "벡터DB계의 SQLite". 이 한 문장이 Zvec의 성격을 전부 설명합니다.

왜 '임베디드' 벡터DB가 필요한가

지금까지 RAG나 시맨틱 검색을 붙이려면 선택지가 애매했습니다.

• Faiss 같은 인덱스 라이브러리: ANN(근사 최근접) 검색은 빠르지만 스칼라 필드 저장도, 크래시 복구도, 하이브리드 쿼리도 없습니다.
• DuckDB-VSS: 벡터 검색을 얹었지만 인덱스·양자화 옵션이 적고 리소스 제어가 약합니다.
• Milvus·매니지드 클라우드: 강력하지만 네트워크 호출과 별도 배포가 필요합니다. 노트북·모바일에 넣기엔 과합니다.

Zvec은 이 빈틈을 정확히 노립니다. 영속성 + 리소스 거버넌스 + RAG 기능을 갖춘 벡터 네이티브 엔진을, 가벼운 라이브러리 하나로 제공합니다.

숫자로 보는 충격: 8,000+ QPS

가장 눈길을 끄는 건 성능입니다.

VectorDBBench의 Cohere 10M 데이터셋, 동일 recall 조건에서 8,000 QPS 이상을 기록했습니다. 이는 기존 리더보드 1위였던 ZillizCloud의 2배 이상이며, 인덱스 빌드 시간도 크게 줄었습니다.

임베디드 라이브러리가 매니지드 클라우드를 성능으로 앞선다는 건 이례적입니다. 멀티스레딩, 캐시 친화적 메모리 레이아웃, SIMD, CPU 프리페칭까지 CPU 환경에 극단적으로 최적화한 결과입니다.

설치부터 쿼리까지, 코드로 보기

Zvec은 별도 서버가 없어 pip install 한 줄이면 끝입니다. Proxima(알리바바의 프로덕션급 벡터 검색 엔진)를 감싸 간결한 API로 노출합니다.

bash
pip install zvec

컬렉션 스키마에 벡터 + 스칼라 필드를 정의하고, 디스크에 열어 문서를 넣는 흐름입니다.

python
from zvec import Zvec, CollectionSchema, VectorField, ScalarField, Doc

# 벡터 + 스칼라 필드로 스키마 정의
schema = CollectionSchema(
    fields=[
        VectorField("embedding", dim=768),
        ScalarField("category", dtype="string"),
    ]
)

# 디스크에 컬렉션 생성 후 오픈 (서버·데몬 없음)
col = Zvec.create_and_open("./kb.zvec", schema)

# 문서 삽입: id + 벡터 + 스칼라 속성
col.insert([Doc(id="doc-1", embedding=vec, category="news")])
col.build_index()

검색은 VectorQuery로 최근접 이웃을 찾고, 결과는 ID와 유사도 점수가 담긴 딕셔너리로 돌아옵니다.

python
results = col.query(vector=query_vec, top_k=5, filter="category == 'news'")
for r in results:
    print(r["id"], r["score"])

지원 환경은 Python 3.10~3.12, Linux x86_64 / Linux ARM64 / macOS ARM64입니다.

RAG를 위한 진짜 기능들

단순 검색을 넘어 실전 RAG에 필요한 것들이 들어 있습니다.

• 완전한 CRUD: 로컬 지식베이스는 계속 바뀝니다. 삽입·수정·삭제를 모두 지원합니다.
• 스키마 진화와 멀티 벡터 검색을 지원합니다.
• 내장 리랭커: 가중 융합(weighted fusion)과 RRF(Reciprocal Rank Fusion)를 제공합니다.
• 스칼라-벡터 하이브리드 검색: 스칼라 필터를 인덱스 실행 단계로 밀어 넣어(옵션으로 역인덱스) 빠르게 거릅니다.
• 리소스 거버넌스: 64MB 스트리밍 쓰기, 선택적 mmap, 실험적 memory_limit_mb, 동시성·스레드 수 조정을 지원합니다.

로드맵에는 LangChain, LlamaIndex, DuckDB, PostgreSQL 연동과 온디바이스 배포가 올라 있습니다.

한국 개발자에게 왜 중요한가

온디바이스 AI와 엣지 컴퓨팅은 이제 남의 이야기가 아닙니다. 개인정보를 서버로 보내지 않는 프라이버시 우선 설계, 네트워크 없이 도는 오프라인 RAG, 클라우드 비용을 없애는 제로옵스 배포 — 이 세 가지 요구가 국내 앱·서비스에서도 빠르게 커지고 있습니다.

Zvec처럼 앱에 그대로 심는 벡터DB는 온프레미스·규제 산업(금융·의료)이나 모바일 앱에서 특히 매력적입니다. 서버 인프라 없이 노트북 한 대에서 수천 QPS의 시맨틱 검색을 돌릴 수 있다면, 소규모 팀도 RAG 제품을 훨씬 가볍게 실험할 수 있습니다. 데이터 주권과 비용, 두 마리 토끼를 동시에 노리는 셈입니다.

정리하며

Zvec은 "벡터DB = 무거운 클라우드 서비스"라는 공식을 깹니다. SQLite급 간결함, 매니지드 클라우드를 앞서는 성능, 그리고 Apache 2.0 라이선스. 온디바이스 RAG를 고민하던 팀이라면 지금 바로 pip install 해볼 이유가 충분합니다.

여러분의 다음 RAG 프로젝트, 무거운 클라우드 대신 이 가벼운 라이브러리로 시작해볼 생각 있으신가요? 이 변화, 준비되셨나요?

---

📎 출처: 원문 보기