基于分布式云架构云平台构建AI大模型算力底座

四川农村商业联合银行股份有限公司（以下简称“四川农商联合银行”）以四川省农村信用社联合社为基础改制而成，于2024年1月29日正式挂牌开业，注册资本220亿元，承继四川省农村信用社联合社对全省农商银行的管理职能，开展金融监管部门许可的经营活动，是具有独立企业法人资格的地方性银行业金融机构。全省农商银行经过70多年的改革与发展，已全面实现了由农信社到现代农村商业银行的蝶变，发展成为我省“业务规模最大、网点覆盖最广、员工数量最多”的银行系统，是全川人民以及各级党委政府可以信赖的不可替代的一支重要地方金融力量。 - </>

新起点，新征程，新作为。四川农商联合银行在省委省政府坚强领导下，全面贯彻落实中央和省委各项决策部署，紧扣省委“四化同步、城乡融合、五区共兴”发展战略，深化“合规银行、智慧银行、主力军银行”建设，着力把全省农商银行建设成为“农村金融主力军银行、地方金融主力军银行、普惠金融主力军银行”，作为省内业务规模最大、网点覆盖最广、员工数量最多的银行，全面助力西部金融中心和金融强省建设，为奋力谱写中国式现代化四川新篇章贡献新的更大力量。

一、创新点及亮点（1）构建“异构融合、统一纳管”的分布式云平台1）基于分布式架构的蜀信云，将不同架构的服务器（x86、ARM）、不同类型的算力卡（PPU、昇腾、DCU等）统一抽象为“算力资源池”；2）通过设备插件、自定义调度器，实现国产AI芯片的统一注册、发现与分配；亮点：实现“PPU+昇腾+DCU+其他”混合训练环境统一调度，资源利用率大大提升。（2）打造“一云多芯”兼容中间件层1）构建国产化适配中间件，封装不同芯片的驱动、算子库、通信库（如HCCL、 NCCL），向上提供标准化接口；2）实现主流AI框架（PyTorch、TensorFlow、MindSpore）的“跨芯透明运行”；3）提供模型迁移工具包，支持国外GPU训练的模型一键迁移到国产化算力平台进行推理。亮点：降低国产化替代门槛，避免“换芯即重写”，缩短适配周期。 （3）智能调度引擎，实现“算随任务走”1）引入AI任务感知调度器，支持：2）训练任务：优先分配多卡GPU，支持RDMA高速互联；3）推理任务：按QPS需求弹性分配CPU或低功耗GPU；4）混合负载：训练与推理任务隔离，避免资源争抢；5）支持抢占式调度：高优先级任务（如反欺诈模型更新）可抢占低优先级任务资源。亮点：任务平均等待时间大大降低，关键模型上线时效提升。（4）安全可信的金融级管控体系1）数据安全：训练数据存储在行内私有平台上，不上传第三方平台；2）模型安全：模型加密存储，调用需身份认证，防止模型窃取；3）权限管控：实现“谁申请、谁使用、谁负责”；4）审计追踪：记录所有资源使用、模型调用、参数变更，满足银保监审计要求。亮点：构建覆盖数据、模型、权限与操作的全链路安全管控体系，实现金融级安全可信与全程可审计。

1. 1一、创新点及亮点（1）构建“异构融合、统一纳管”的分布式云平台1）基于分布式架构的蜀信云，将不同架构的服务器（x86、ARM）、不同类型的算力卡（PPU、昇腾、DCU等）统一抽象为“算力资源池”
2. 22）通过设备插件、自定义调度器，实现国产AI芯片的统一注册、发现与分配
3. 3亮点：实现“PPU+昇腾+DCU+其他”混合训练环境统一调度，资源利用率大大提升
4. 4（2）打造“一云多芯”兼容中间件层1）构建国产化适配中间件，封装不同芯片的驱动、算子库、通信库（如HCCL、 NCCL），向上提供标准化接口
5. 52）实现主流AI框架（PyTorch、TensorFlow、MindSpore）的“跨芯透明运行”
6. 63）提供模型迁移工具包，支持国外GPU训练的模型一键迁移到国产化算力平台进行推理