AI 小笔记

文章/答案/技术大牛

发布

LV1

发表了文章 1天前2026-11-12 14:26:57

vLLM CPU offload 部署前，怎样同时筛主机内存和 GPU 显存？

开启 vLLM 的 CPU offload 后，部分模型权重可以放到主机内存中，减轻 GPU 显存压力。但显存需求下降，不等于整台实例的内存就足够：主机内存和单...

AI 小笔记 1天前2026-11-12 14:26:57

gpu、大模型部署

发表了文章 2天前2026-11-11 17:10:29

Notebook 与 Remote-SSH 如何核对 Python 环境？从解释器到工作目录

Notebook 中可以正常导入的 Python 包，在远程终端运行脚本时却找不到；或者同一段代码执行成功，读取的相对路径却不一样。此时先不要重装依赖。要判断下...

AI 小笔记 2天前2026-11-11 17:10:29

python、jupyter-lab

发表了文章 2天前2026-11-11 15:25:49

页面能打开，WebSocket 却断了：反向代理要先核哪三段证据？

Web UI 首页能正常显示，实时状态却不更新，控制按钮也可能提示连接中断。先重装依赖、换 GPU 或重建实例，往往没有触及问题：首页加载和 WebSocket...

AI 小笔记 2天前2026-11-11 15:25:49

websocket、nginx

发表了文章 2天前2026-11-11 11:43:02

内部 HTTP 工具要给远程浏览器访问，先查监听、入口还是鉴权？

GPU 实例里的内部调试页面能在实例内打开，团队又希望从各自电脑的浏览器访问。此时如果直接寻找“开放端口”的按钮，容易把三件事混成一件：进程监听了哪个地址、外部...

AI 小笔记 2天前2026-11-11 11:43:02

linux、应用安全开发、https

发表了文章 4天前2026-11-09 13:54:57

每周反复跑 A100，按量还是包周、包月？用任务日志算出计费分界线

微调任务可能每周都要运行，但 GPU 不一定需要整周保持开机。训练完成后，团队还要看结果、调整数据、排下一轮任务。如果这段间隔已经关机，按量付费与连续预付租期的...

AI 小笔记 4天前2026-11-09 13:54:57

python、云计算

个人简介

暂未填写公司和职称
暂未填写个人简介
暂未填写技能专长
暂未填写学校和专业
暂未填写个人网址
暂未填写所在城市
加入社区时间：2026-08-10

个人成就

获得 5 次赞同
文章被阅读 389 次

关注了：0关注者：6

AI 小笔记

vLLM CPU offload 部署前，怎样同时筛主机内存和 GPU 显存？

Notebook 与 Remote-SSH 如何核对 Python 环境？从解释器到工作目录

页面能打开，WebSocket 却断了：反向代理要先核哪三段证据？

内部 HTTP 工具要给远程浏览器访问，先查监听、入口还是鉴权？

每周反复跑 A100，按量还是包周、包月？用任务日志算出计费分界线

个人简介

个人成就

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐