其他行业 · AI应用
增强实时内容发现
Scribd, Inc. 的 Everand 图书馆依赖低效的关键词搜索和通用推荐。该公司使用多模型 Llama 方法开发了生成式 AI 助手 Ask AI。Llama 3.1 405B 生成合成训练数据,Llama 3.1 70B 生成内容元数据,微调的 Llama 3.1 8B 驱动实时意图检测和个性化推荐,显著提高了准确性和速度。
吞吐量(每秒令牌数)比之前模型提升 76%
未披露
意图检测的宏 F1 分数准确率达 97.7%
未披露
使用 JSON 输出节省 33% 的计算成本
未披露
01
业务背景
Scribd, Inc. 的 Everand 图书馆依赖低效的关键词搜索和通用推荐。该公司使用多模型 Llama 方法开发了生成式 AI 助手 Ask AI。Llama 3.1 405B 生成合成训练数据,Llama 3.1 70B 生成内容元数据,微调的 Llama 3.1 8B 驱动实时意图检测和个性化推荐,显著提高了准确性和速度。
02
遇到的问题
03
AI 解决方案
04
实施结果
吞吐量(每秒令牌数)比之前模型提升 76%:
意图检测的宏 F1 分数准确率达 97.7%:
使用 JSON 输出节省 33% 的计算成本:
提供了更好、更个性化的客户体验:
05
风险与边界
“”
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。