嵌入模型升级
我们不断扩大集成范围，为客户提供尽可能广泛的选择和最大的灵活性。因为，嗯，这就是重点 — 我们做这些工作，所以您不必做。请务必在不久的将来留意更多连接。Dataiku 中的嵌入配方使用检索增强生成 (RAG) 方法从知识库中获取相关文本以丰富用户提示。这提高了 LLM 答案的准确性和相关性。
使用嵌入配方需要连接到受支持的嵌入模型。当我们首次发布 LLM Mesh 时，仅支持 OpenAI。12 月，我们增加了对使用 Hugging Face 本地运行的模型进行嵌入的支持。现在（自 1 月起），用户可以在自定义 LLM 连接中注册嵌入模型，以增加灵活性，使用与我们开箱即用的嵌入模型不同的嵌入模型。
这意味着 LLM Mesh 现在支持在本 希腊电报数据 地运行嵌入模型，这意味着可以完全在本地构建完整的 RAG 工作流程。这对于处理无法通过商业嵌入模型 API 发送的敏感文档的客户来说至关重要。
成本监控增强功能
随着项目和用户数量的增长，监控 LLM 资源使用情况变得至关重要。虽然 LLM Mesh 一直都有成本监控组件，但 1 月份我们发布了更新的 Dataiku 计算资源使用情况 (CRU) 解决方案，该解决方案可自动从审计日志中提取 LLM 成本和使用情况信息，并在现成的仪表板中显示见解。
资源消耗报告仪表板可帮助您分析哪个项目/用户正在消耗资源
頁:
[1]