曙光人工智能服务平台SothisAI 系列产品，极大地降低了用户切入深度学习领域的经济成本和技术成本，提供一套容器化的集群调度以及深度学习私有云服务方案。SothisAI 采用Slurm、K8S双调度引擎、融合容器弹性扩展技术的方式，实现了资源的动态高效调度、应用的快速分发和进程级隔离。支持多种编译环境及常见深度学习框架，如Caffe、TensorFlow、PyTorch等。提供了丰富的数据集和典型网络模型，同时支持内容分享和应用发布功能，协助构建平台微生态。最终帮助用户将更多的精力聚焦至垂直应用的开发和优化。SothisAI平台目前已在多所高校、研究中心部署使用。
方案架构
方案优势
· 高效管理调度编排
原生大规模编排调度验证，经过10000节点验证，具备处理大规模流量与批任务的能力，支持多种类型业务稳定高效的混合部署，大幅提升资源利用率，兼容主流加速器适配CPU、GPU、FPGA、NPU。
· 开放灵活的AI平台
集数据导入、数据处理、模型开发、模型训练、模型评估、服务上线等功能于一体，提供一站式全方位的深度学习建模流程，快速打造智能业务。基于开源容器化AI引擎赋能企业的定制化模型。
· 多业务场景解决方案
集成多个行业数据集，包括语音、图像、自然语言处理等。依托容器技术为金融、能源、电力、微服务架构、分布式深度学习提供强大支撑。用户能够大幅优化资源管理，实现开发流程敏捷化。
用户价值
通过系统，用户可以实现从标注、训练、推理、推理服务、完善的数据集、算法库等一系列业务服务，同时支持tensorflow、caffe等十多种深度学习框架，可以为众多行业的产品开发、关键业务决策和科学突破提供巨大动力，目前使用客户超过1000家。
