Milvus 是一款专为 AI 应用设计的开源向量数据库，由 Zilliz 主导开发，使用 Go 和 C++ 编写，是云原生、高性能向量相似度搜索领域的代表性项

llama.cpp 是一个使用纯 C/C++ 编写的开源大语言模型推理框架，由 Georgi Gerganov 创建，专注于在消费级硬件（包括 CPU、Appl

Hugging Face Transformers 是目前最广泛使用的开源预训练模型库，使用 Python 开发，提供数千个预训练的 NLP、视觉、多模态模型（

text-generation-webui 是一款开源的大语言模型 Web 界面工具，使用 Python（Gradio）构建，俗称「oobabooga」，支持在