CNB云原生开发环境下如何使用CUDA
原创
CNB云原生开发环境下如何使用CUDA
原创
用户11859759
发布于 2025-10-01 09:43:39
发布于 2025-10-01 09:43:39
前提
在使用云原生开发前，在.cnb.yml文件中添加显卡的配置要求，本文中使用的是H20显卡。
启动云原生开发。
一、安装必要的包
apt-get update
apt-get install kmod
apt-get install cmake(若需要使用cmake进行编译)
二、检查驱动
使用nvidia-smi命令检查显卡驱动是否安装好，若打印了显卡信息表格，则下一步。
三、安装CUDA工具包
在CUDA Toolkit 13.0 Update 1 Downloads获取最新的CUDA工具包。
在CUDA Toolkit Archive | NVIDIA Developer获取过去版本的CUDA工具包。
根据具体情况选择配置，根据驱动和其他适配情况选择CUDA版本，配置信息在CNB环境下一般情况下选择linux->x86_64->Debian->12->runfile(local)，并使用runfile进行安装
根据nvidia的提示，完成
wget https://developer.download.nvidia.com/compute/cuda/13.0.1/local_installers/cuda_13.0.1_580.82.07_linux.run
sh cuda_13.0.1_580.82.07_linux.run接下来如果是长篇协议，翻到底是什么选项或提示都没有，那么就ctrl+c退出，再运行一次sh。
如果顺利，命令行会询问是否接受协议，打出accept，进入下一步
Do you accept the above EULA? (accept/decline/quit): accept在安装选项部分，只选择安装toolkit（这里以CUDAToolkit12.9为例）
│ CUDA Installer │
│ - [X] Driver │
│ [X] 575.57.08 │
│ + [X] CUDA Toolkit 12.9 │
│ [X] CUDA Demo Suite 12.9 │
│ [X] CUDA Documentation 12.9 │
│ - [ ] Kernel Objects │
│ [ ] nvidia-fs │
│ Options │
│ Install │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ Up/Down: Move | Left/Right: Expand | 'Enter': Select | 'A': Advanced options使用上下键和enter将其他项的[X]变为[ ]，达到
│ CUDA Installer │
│ - [ ] Driver │
│ [ ] 575.57.08 │
│ + [X] CUDA Toolkit 12.9 │
│ [ ] CUDA Demo Suite 12.9 │
│ [ ] CUDA Documentation 12.9 │
│ - [ ] Kernel Objects │
│ [ ] nvidia-fs │
│ Options │
│ Install │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ │
│ Up/Down: Move | Left/Right: Expand | 'Enter': Select | 'A': Advanced options安装成功后返回
➜ /workspace git:(main) ✗ sh cuda_13.0.1_580.82.07_linux.run
===========
= Summary =
===========
Driver: Not Selected
Toolkit: Installed in /usr/local/cuda-13.0/四、更新环境变量
写入环境变量 向~/.bashrc中写入：
export PATH=/usr/local/cuda-13.0/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-13.0/lib64:$LD_LIBRARY_PATH关闭后执行
source ~/.bashrc五、安装成功检查
测试CUDA编译命令nvcc --version能否正常返回信息。
随后可以使用rm命令删除.run的安装文件。
六、使用CUDA进行编译
添加编译选项（后一个参数值敬请查阅官方文档）：
-DGGML_CUDA=ON -DCMAKE_CUDA_ARCHITECTURES="90"原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。
原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。
评论
登录后参与评论
推荐阅读
目录
腾讯云开发者
