其他行业 · AI应用
使用NeMo提升模型性能
Perplexity优化其AI驱动的答案引擎，面临提升搜索准确性和降低延迟的挑战。他们利用NVIDIA NeMo定制大语言模型，通过高级调优技术将模型从5亿参数扩展到超过4000亿参数。新版本发布后几天内搜索模型性能提升20%。
搜索模型性能提升
20%
来源披露
每月查询量
340万
来源披露
集成组织数量
超过1,500
来源披露
01
业务背景
Perplexity优化其AI驱动的答案引擎，面临提升搜索准确性和降低延迟的挑战。他们利用NVIDIA NeMo定制大语言模型，通过高级调优技术将模型从5亿参数扩展到超过4000亿参数。新版本发布后几天内搜索模型性能提升20%。
02
遇到的问题
互联网信息过载，传统搜索需要用户筛选多个来源，Perplexity 需要快速定制前沿模型以提高搜索结果的准确性和相关性，并优化延迟和吞吐量以提升用户体验。
03
AI 解决方案
采用 NVIDIA NeMo 框架进行大规模分布式模型微调和对齐，包括监督微调（SFT）、直接偏好优化（DPO）和近端策略优化（PPO），结合检索增强生成（RAG），将模型从 0.5B 参数扩展到 400B+ 参数，快速得到优化后的搜索模型。
04
实施结果
搜索模型性能提升：20%（20%）
每月查询量：340万
集成组织数量：超过1,500
05
风险与边界
未披露
“NeMo allows Perplexity to quickly finetune a variety of open-source embedding models. This greatly enhanced our retrieval stack and led to a significant boost in answer quality.”
Weihua Hu · AI Research Engineer
信息来源
1 个来源页面内容为结构化改写；关键结论应可追溯到以下材料。