本指南面向使用自托管 Meilisearch 实例的经验丰富的用户。它展示了如何编译一个使用 Nvidia GPU 生成 Hugging Face 嵌入的 Meilisearch 二进制文件。

​
先决条件

​
安装 CUDA

请遵循 Nvidia 的CUDA 安装说明。

​
验证您的 CUDA 安装

在您的机器上安装 CUDA 后，在命令行终端中运行以下命令 
nvcc --version | head -1
如果 CUDA 正常工作，您将看到以下响应 
nvcc: NVIDIA (R) Cuda compiler driver

​
编译 Meilisearch

首先，克隆 Meilisearch 
git clone https://github.com/meilisearch/meilisearch.git
然后，使用 cuda 编译 Meilisearch 二进制文件 
cargo build --release --features cuda
这可能需要一些时间。一旦编译器完成，您应该会有一个兼容 CUDA 的 Meilisearch 二进制文件。

​
配置 Hugging Face 嵌入器

运行您刚编译的二进制文件 
./meilisearch
然后将 Hugging Face 嵌入器添加到您的索引设置中 
curl \
  -X PATCH 'MEILISEARCH_URL/indexes/INDEX_NAME/settings/embedders' \
  -H 'Content-Type: application/json' \
  --data-binary '{ "default": { "source": "huggingFace" } }'
Meilisearch 将返回一个摘要任务对象，并将您的请求放入任务队列 
{
  "taskUid": 1,
  "indexUid": "INDEX_NAME",
  "status": "enqueued",
  "type": "settingsUpdate",
  "enqueuedAt": "2024-03-04T15:05:43.383955Z"
}
使用任务对象的 taskUid 监控任务状态。一旦任务完成，Hugging Face 嵌入器即可使用。

​
结论

您已经了解了如何编译一个使用 Nvidia GPU 计算向量嵌入的 Meilisearch 二进制文件。这样做应该能显著加快使用 Hugging Face 时的索引速度。
© . This site is unofficial and not affiliated with Meilisearch.