软件与互联网 · 算力基础设施与AI平台 / OCR / 文档识别
朗镜科技借助阿里云云原生AI套件升级商品识别平台
阿里云通过CPFS、DeepGPU和云原生AI套件,助力朗镜科技AI商品识别平台实现云原生架构升级,数据处理速度提升50%,GPU利用率提升30%,系统性能提升40%。
业务效果
数据处理速度提升50%以上
未披露
业务效果
DeepGPU推理速度提升2倍(加速比1.12~4.60倍)
未披露
业务效果
GPU集群利用率提升30%
未披露
01
业务背景
朗镜科技(Trax中国)自2015年成立,专注于为零售业提供计算机视觉解决方案和数据分析服务,通过融合计算机视觉、机器学习和IoT技术,将传统货架转化为数字化货架,帮助品牌商实时掌握门店货架动态,加速零售数字化转型。
02
遇到的问题
朗镜科技每日需处理数百万张图片和海量SKU,商品图片识别量大;实体零售场景复杂多变,小文件处理能力需提升,下载延迟要求低;快消品新品迭代快,AI模型需高频更新,成本高昂。
03
AI 解决方案
阿里云提供高性能文件存储CPFS,优化数据写入方案,实现多机并行写入,降低小文件写入延迟;结合DeepGPU工具包,利用自研算子库加速多个计算机视觉模型推理;基于容器化架构,采用云原生AI套件,实现GPU共享调度和显存隔离,提升GPU集群利用率。
- 1优化图片预处理阶段的数据写入方案,采用CPFS并行文件写入
- 2集成DeepGPU工具包,加速模型推理性能
- 3构建云原生AI产品解决方案,实施GPU共享调度和显存隔离
- 4进行3个月的联合攻坚,完成系统整体优化与升级
04
实施结果
业务效果:数据处理速度提升50%以上
业务效果:DeepGPU推理速度提升2倍(加速比1.12~4.60倍)
业务效果:GPU集群利用率提升30%
业务效果:系统性能提升40%
业务效果:小文件图片百毫秒以上写入延迟占比降至5%以内
业务效果:满足97%以上高精度标准和95%以上识别流程10秒内完成
05
风险与边界
AI模型快速迭代对算力和存储提出持续挑战,需持续优化算法和基础设施。
该案例展示了如何通过云原生AI架构优化性能并降低成本,适合AI应用规模大、迭代快的企业借鉴。
适合
AI算力需求大的企业高频模型迭代的计算机视觉应用企业大规模图片处理场景的企业
前置条件
已有容器化基础架构具备AI模型开发和优化能力数据存储和算力需求明确
信息来源
1 个来源页面内容为结构化改写;关键结论应可追溯到以下材料。