击败OpenAI，权重、数据、代码全开源，能完美复现的嵌入模型Nomic Embed来了

AIGC动态欢迎阅读

原标题：击败OpenAI，权重、数据、代码全开源，能完美复现的嵌入模型Nomic Embed来了
关键字：模型,基准,上下文,序列,长度
文章来源：机器之心
内容字数：4903字

内容摘要：

机器之心报道
编辑：陈萍、小舟模型参数量只有 137M，5 天就能训练好。一周前，OpenAI 给广大用户发放福利，在下场修复 GPT-4 变懒的问题后，还顺道上新了 5 个新模型，其中就包括更小且高效的 text-embedding-3-small 嵌入模型。
我们知道，嵌入是表示自然语言或代码等内容中概念的数字序列。嵌入使得机器学习模型和其他算法更容易理解内容之间的关联，也更容易执行聚类或检索等任务。可见，嵌入在 NLP 领域是非常重要的。
不过，OpenAI 的嵌入模型并不是免费给大家使用的，比如 text-embedding-3-small 的收费价格是每 1k tokens 0.00002 美元。
现在，比 text-embedding-3-small 更好的嵌入模型来了，并且还不收费。
AI 初创公司 Nomic AI 宣布推出 Nomic Embed，这是首个开源、开放数据、开放权重、开放训练代码、完全可复现和可审核的嵌入模型，上下文长度为 8192，在短上下文和长上下文基准测试中击败 OpenAI text-embeding-3-small 和 text-embeddi

原文链接：击败OpenAI，权重、数据、代码全开源，能完美复现的嵌入模型Nomic Embed来了