一张 H100，怎么同时喂饱 7 个业务？

了了同学

发布于 2026-07-25 22:51:43

600

概述

上个月我在一个智算项目里遇到个典型场面：客户花六位数弄来一张 A100，就为了跑一个不大不小的模型推理。我随手看了眼监控——好家伙，GPU 利用率长期在 30% 上下晃。客户还挺纳闷："陈老师，我这不都买最贵的卡了么，怎么还这么闲？"我说：卡没闲着，是你没让它"分身"。很多人以为"虚拟化"是云计算的标配，CPU 切虚拟机那是二十年前就成熟的事。但把 GPU 切开分给多个业务，难度比切 CPU 高了

原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。

如有侵权，请联系 cloudcommunity@tencent.com 删除。

人工智能