"벡터 데이터베이스 가이드" - AI 기본 벡터 데이터베이스 Milvus Cloud 2.3 아키텍처 업그레이드

아키텍처 업그레이드

  • GPU 지원

Milvus 버전 1.x 초기에는 GPU를 지원했지만, 버전 2.x에서는 분산 아키텍처로의 전환과 비용 문제로 인해 당분간 GPU 지원이 추가되지 않았습니다. Milvus 2.0이 출시된 지 1년이 넘도록 Milvus 커뮤니티는 NVIDIA 엔지니어의 강력한 협력과 함께 GPU에 대한 목소리가 점점 더 커졌습니다. Knowhere(Milvus 인덱싱 엔진)에 최신 RAFT 알고리즘 지원을 추가하여 Milvus가 그뿐만 아니라 GPU 지원이 다시 추가되었을 뿐만 아니라 업계 최신 알고리즘이 가장 빠른 속도로 지원되었습니다. 테스트 후 CPU HNSW 지수와 비교하여 GPU 버전은 QPS가 3배 이상 향상되었으며 일부 데이터 세트는 거의 10배 향상되었습니다.

다음 표는 Milvus E2E의 GPU-IVF-FLAT 및 HNSW의 QPS 데이터이며, 호스트 크기는 8c32g, NVIDIA A100 GPU입니다. NQ는 100입니다:

그림

  • Arm64 지원

Arm64 CPU의 대중화와 함께

Supongo que te gusta

Origin blog.csdn.net/qinglingye/article/details/132715948
Recomendado
Clasificación