高性能AI算力池是依托商汤多年研发与运营超大规模AI超级计算集群经验,打造的高性能、弹性扩展、安全稳定、智能调度的AI算力平台,大幅提高算力资源的利用率及AI应用的效率,助力AI业务增长。
分布式部署,通过 RDMA(IB/RoCE)或 TCP/IP 网络连接各个节点,实现资源池弹性扩展
极致的硬件配置和最佳的调度优化,带给AI模型训练最有效的算力供应
基于云原生技术,降低AI开发者的使用门槛;轻松解决 AI 开发人员面临的训练模型中 GPU/CPU 配比和多机多卡模型拆分等问题
多种弹性调度策略,按需使用算力资源,降低AI应用交付成本
支持TensorFlow、PyTorch训练框架、MPI方式的单机和分布式训练任务以及各种角色的配置,支持按需创建训练任务以及管理任务各种状态操作;提供多种调度策略满足各种任务的高效低成本诉求。
通过 2*200Gbps的RDMA或 TCP/IP 网络连接各个节点,实现资源池弹性扩展。
支持AI场景下的Gang、组调度、任务优先级、GPU拓扑感知、Quota租借、任务热迁移等多种智能调度策略。
提供提供多种任务资源、业务指标的监控和日志服务,满足算法工程师在调试过程中的运维诉求。
提供了Tensorflow、Pytorch、Horovod等多种AI训练框架的单机与多机分布式训练能力,实现了AI训练业务从研发、调试到上线运行、任务状态与日志服务等全流程服务
AI训练场景的高性能和高可扩展性需求,加速模型迭代,赋能AI业务落地
基于计算节点的通用算力、内存和异构算力池化技术,提供了批处理、反碎片化等多种细粒度的动态灵活调度技术和租户级资源隔离能力
专业的AI解决方案、先进的AI产品助力您的业务实现新的突破