Michael阿明

文章/答案/技术大牛

发布

LV1

全部文章

CacheDiT、TaylorSeer 与 SCM：DiT 扩散模型推理加速到底在加速什么？
在图像、视频生成模型里， Diffusion Transformer，简称 DiT
Michael阿明 2天前2026-05-26 20:45:59
pipe、torch、模型、缓存、max
TeaCache：让扩散模型少算几步，但尽量不掉画质
扩散模型生成图片/视频时，本质是在很多个 denoising step 中反复调用 Transformer/DiT。TeaCache 的核心思想很简单：
Michael阿明 9天前2026-05-19 16:39:23
self、模型、视频、缓存、迁移
Global 内存访问与 Memory Coalescing 实验解析
第 7 课围绕 CUDA 中非常关键的 Memory Coalescing，即内存合并访问展开。
Michael阿明 15天前2026-05-13 17:38:48
global、memory、内存、事务、线程
Shared Memory 与矩阵乘法分块优化实验
本文围绕 CUDA 矩阵乘法中的 Shared Memory 优化展开，通过 Naive 矩阵乘法与 Shared Memory Tiled 矩阵乘法的对比实验...
Michael阿明 15天前2026-05-13 17:38:02
std、线程、优化、memory、shared
异步拷贝与 CUDA Stream（计算与数据传输重叠）
在串行执行模式下，程序按照 H2D → Kernel → D2H 顺序运行，数据传输时 GPU 计算单元空闲，kernel 计算时 copy engine 又可...
Michael阿明 15天前2026-05-13 17:36:05
cuda、int、stream、time、异步
CUDA编程：Pinned Memory（固定页内存）如何提升 CPU↔GPU 数据传输效率
前几课已经发现，很多 CUDA 程序并不是慢在 GPU kernel，而是慢在 H2D 和 D2H 数据搬运。因此，第四课的重点从“怎么写 kernel”转向...
Michael阿明 22天前2026-05-06 13:49:19
cuda、memory、编程、内存、效率
CUDA编程 - vector加法
执行 !nvcc -O3 -std=c++17 -arch=sm_75 vector_add.cu -o vector_add 编译
 Michael阿明 22天前2026-05-06 13:46:21
线程、cuda、std、vector、编程
大模型推理 DP\TP\PP\EP 理解
DP 的核心思想是：每组 GPU 上都有一份完整模型，请求被分发到不同副本上处理。
Michael阿明 22天前2026-05-06 13:45:33
模型、通信、dp、并发、工作
AutoClaw实测：动口就能搞定音频提取、视频拼接，还能接入飞书！
分享一款智谱的龙虾 AutoClaw，亲测可通过对话指令完成视频音频提取、视频拼接等操作，支持自定义模型，还能接入飞书配置机器人，全程动口不动手，操作简单且效果...
Michael阿明 2026-03-252026-03-25 13:59:20
音频、机器人、模型、配置、视频
使用AI编程开发乘法竖式计算演示web应用
本文使用AI辅助，完全不敲一行代码，实现了一个乘法竖式计算演示的web应用，并部署到了github pages上
 Michael阿明 2026-03-252026-03-25 13:58:34
部署、动画、开发、web、编程
多进程CUDA初始化的问题 Cannot re-initialize CUDA in forked subprocess
上面这个例子会报错，主进程触发了 CUDA 初始化，fork 出来的子进程中创建 tensor 的时候报错了
 Michael阿明 2026-03-252026-03-25 13:58:14
进程、cuda、subprocess、多进程、继承
显存大解放：vLLM Sleep模式实战指南，90% GPU资源瞬间回收！
参考 https://docs.vllm.ai/en/latest/features/sleep_mode/
Michael阿明 2026-03-252026-03-25 13:57:55
sleep、服务、模型、内存、gpu
使用 json-repair 修复 llm 生成的 json 格式错误
当大模型生成json格式的输出时，有时候可能会出现缺少引号，单引号等问题，json-repair 可以很好的解决这个问题
 Michael阿明 2026-03-252026-03-25 13:57:36
json、对象、工具、字符串、LLM
你的 FastAPI 服务还缺一个监控仪表盘？Prometheus 一站式搞定
然后在监控服务web页面查询 api_requests_total，可以查看任务成功和失败次数
 Michael阿明 2026-03-252026-03-25 13:56:52
fastapi、prometheus、服务、监控、配置
为爱编程：用 Python 自动化 PDF 签名，顺便秀一波技术
今天突然收到了女朋友的求助信息：“亲爱的，我的 PDF 软件好像坏了，我需要在上面加个电子签名，你能帮我弄一下吗？”
Michael阿明 2026-03-252026-03-25 13:56:25
编程、压缩、python、自动化、pdf
将markdown文件转成PDF（支持代码块、公式）
使用 xelatex 引擎，下载模板 https://github.com/Wandmalfarbe/pandoc-latex-template?tab=rea...
Michael阿明 2026-03-252026-03-25 13:55:53
pandoc、pdf、markdown、file、output
使用 Vanna + Ollama + ChromaDB，实现自然语言查询 / ChatBI
Vanna AI 的产品核心解决了「自然语言到 SQL 查询」之间的鸿沟，使非技术人员也能轻松获得数据库中的洞察
 Michael阿明 2026-03-252026-03-25 13:55:33
可视化、模型、数据、图表、数据库
在 vLLM 中优雅地中断推理：同步与异步实战
本文记录了我在 vLLM 上探索「真正让 GPU 停下来」的全过程，并提供同步 / 异步 / 官方 OpenAI SDK 三种实现方式的可运行示例。
Michael阿明 2026-03-252026-03-25 13:55:04
异步、程序、模型、日志、同步
Prefill Decode分离部署大模型（dynamo框架）
NVIDIA Dynamo 是一个高吞吐量、低延迟的推理框架，旨在为多节点分布式环境中的生成式 AI 和推理模型提供服务。Dynamo 设计为与推理引擎无关（支...
Michael阿明 2026-03-252026-03-25 13:54:12
model、部署、框架、模型、decode
ZeroMQ (0MQ) 入门 - 几种经典的模式
ZeroMQ (也写作 ØMQ, 0MQ 或 ZMQ) 是一个高性能的异步消息传递库，旨在用于分布式或并发应用程序。它提供了一个消息队列，无需一个专门的消息代理...
Michael阿明 2026-03-252026-03-25 13:34:49
工作、入门、通信、mq、zeromq

12 3 4 5 6 7 8...128 下一页

个人简介

互联网 | 算法工程师
8年机械工程师，已转行做AI算法，一起加油！高举智慧，她就使你高升；怀抱智慧，她就使你尊荣
c++python 数据结构编程算法机器学习
BJTU | Mechanical
https://michael.blog.csdn.net/
北京
加入社区时间：2020-02-20

个人成就

获得 4.9K 次赞同
文章被阅读 2.1M 次

关注了：4关注者：79

Michael阿明

全部文章

CacheDiT、TaylorSeer 与 SCM：DiT 扩散模型推理加速到底在加速什么？

TeaCache：让扩散模型少算几步，但尽量不掉画质

Global 内存访问与 Memory Coalescing 实验解析

Shared Memory 与矩阵乘法分块优化实验

异步拷贝与 CUDA Stream（计算与数据传输重叠）

CUDA编程：Pinned Memory（固定页内存）如何提升 CPU↔GPU 数据传输效率

CUDA编程 - vector加法

大模型推理 DP\TP\PP\EP 理解

AutoClaw实测：动口就能搞定音频提取、视频拼接，还能接入飞书！

使用AI编程开发乘法竖式计算演示web应用

多进程CUDA初始化的问题 Cannot re-initialize CUDA in forked subprocess

显存大解放：vLLM Sleep模式实战指南，90% GPU资源瞬间回收！

使用 json-repair 修复 llm 生成的 json 格式错误

你的 FastAPI 服务还缺一个监控仪表盘？Prometheus 一站式搞定

为爱编程：用 Python 自动化 PDF 签名，顺便秀一波技术

将markdown文件转成PDF（支持代码块、公式）

使用 Vanna + Ollama + ChromaDB，实现自然语言查询 / ChatBI

在 vLLM 中优雅地中断推理：同步与异步实战

Prefill Decode分离部署大模型（dynamo框架）

ZeroMQ (0MQ) 入门 - 几种经典的模式

个人简介

个人成就

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

Michael阿明

CacheDiT、TaylorSeer 与 SCM：DiT 扩散模型推理加速到底在加速什么？

TeaCache：让扩散模型少算几步，但尽量不掉画质

Global 内存访问与 Memory Coalescing 实验解析

Shared Memory 与矩阵乘法分块优化实验

异步拷贝与 CUDA Stream（计算与数据传输重叠）

CUDA编程：Pinned Memory（固定页内存）如何提升 CPU↔GPU 数据传输效率

CUDA编程 - vector加法

大模型推理 DP\TP\PP\EP 理解

AutoClaw实测：动口就能搞定音频提取、视频拼接，还能接入飞书！

使用AI编程开发 乘法竖式计算演示web应用

多进程CUDA初始化的问题 Cannot re-initialize CUDA in forked subprocess

显存大解放：vLLM Sleep模式实战指南，90% GPU资源瞬间回收！

使用 json-repair 修复 llm 生成的 json 格式错误

你的 FastAPI 服务还缺一个监控仪表盘？Prometheus 一站式搞定

为爱编程：用 Python 自动化 PDF 签名，顺便秀一波技术

将markdown文件转成PDF（支持代码块、公式）

使用 Vanna + Ollama + ChromaDB，实现 自然语言查询 / ChatBI

在 vLLM 中优雅地中断推理：同步与异步实战

Prefill Decode分离部署大模型（dynamo框架）

ZeroMQ (0MQ) 入门 - 几种经典的模式

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

使用AI编程开发乘法竖式计算演示web应用

使用 Vanna + Ollama + ChromaDB，实现自然语言查询 / ChatBI