其他行业 · AI应用
NVIDIA GPU驱动的更智能、更快速的视觉搜索
Microsoft发现视觉搜索功能缓慢且不准确，影响了图像检索的用户体验。为此，他们采用NVIDIA GPU技术，集成先进的AI和机器学习技术，提升视觉搜索的效率和准确性。该方法不仅加快了图像检索速度，还显著提高了搜索结果精度。最终，用户获得了更流畅、更有效的视觉搜索体验，提高了满意度和参与度。
对象检测延迟（CPU）
2.5秒
来源披露
对象检测延迟（GPU初版）
200毫秒
来源披露
对象检测延迟（cuDNN优化后）
40毫秒
来源披露
01
业务背景
Microsoft发现视觉搜索功能缓慢且不准确，影响了图像检索的用户体验。为此，他们采用NVIDIA GPU技术，集成先进的AI和机器学习技术，提升视觉搜索的效率和准确性。该方法不仅加快了图像检索速度，还显著提高了搜索结果精度。最终，用户获得了更流畅、更有效的视觉搜索体验，提高了满意度和参与度。
02
遇到的问题
Bing视觉搜索在CPU上运行时对象检测延迟高达2.5秒，无法满足用户对实时响应的期望。
03
AI 解决方案
将对象检测平台从CPU迁移至Azure NV系列虚拟机，搭载NVIDIA Tesla M60 GPU加速器，并集成NVIDIA cuDNN GPU加速深度学习库，将推理延迟降至40毫秒。为支持更多对象类别，将模型从两阶段Fast R-CNN改为单阶段检测（Single Shot Detection），检测类别超过80种。同时引入过滤触发模型和Microsoft ObjectStore键值存储，通过缓存和结果过滤降低计算成本90%以上。
- 1将对象检测平台从CPU迁移至Azure NV系列虚拟机，启用NVIDIA Tesla M60 GPU
- 2集成NVIDIA cuDNN GPU加速库，并将驱动模式切换为Tesla Compute Cluster
- 3将检测模型从Fast R-CNN两阶段流程切换为单阶段检测，以支持超过80个对象类别
- 4部署过滤触发模型与ObjectStore键值存储，实施请求过滤与结果缓存
04
实施结果
对象检测延迟（CPU）：2.5秒（无）
对象检测延迟（GPU初版）：200毫秒（10倍加速）
对象检测延迟（cuDNN优化后）：40毫秒（60倍加速）
单阶段检测速度提升：10倍（10倍）
成本节省：超过90%（90%以上）
05
风险与边界
未披露
““A picture is worth more than a thousand words. When you have a picture, you’re that much closer to what you’re looking for.””
Yan Wang · Senior Engineer, Bing
信息来源
1 个来源页面内容为结构化改写；关键结论应可追溯到以下材料。