|
弹性加速计算实例EAIS重磅发布
实现GPU与CPU、内存解耦,降低高达50%推理业务成本
EAIS产品亮点
降低AI推理业务成本
AI推理逐渐成为主流企业业务,而AI推理业务的运行成本甚至高达运营成本的90%,EAIS.EI实例帮助用户降低AI推理业务成本
适配更多AI业务场景
AI推理计算业务负载相比于深度学习训练阶段的业务负载,对于CPU、内存和GPU的要求各不相同,通过ECS实例附加EAIS.EI实例的方式,用户更容易匹配到适合的实例组合
弹性伸缩
AI推理计算业务通常伴随着业务的周期性的峰谷变化,EAIS.EI实例配合弹性伸缩ESS快速感知业务变化实现高效的业务运维,提升业务弹性
异构计算最佳实践
用AIACC优化深度学习性能
AIACC(Apsara AI Accelerator)是阿里云自研的AI加速器,包括训练加速器AIACC-Training和推理加速器AIACC-Inference,支持统一加速AI主流计算框架TensorFlow、PyTorch、MxNet和Caff
了解详情
使用阿里云容器ACK部署cGPU
你能在容器集群上通过GPU共享调度框架实现多个容器运行在同一个GPU设备上的目标
了解详情
实现GPU成本优化最佳实践
对于集群中GPU利用率不高的应用,比如推理的应用,建议利用阿里云cGPU技术将一定数量的应用跑到一块GPU卡上,以提高利用率
了解详情
使用cGPU隔离GPU资源
cGPU服务可以隔离GPU资源,实现多个容器共用一张显卡。本章节介绍如何在GPU实例上安装和使用cGPU服务
了解详情
|
|