文档建议反馈控制台
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
发布
社区首页 >专栏 >毅硕HPC | Rocky Linux 9 SLURM软件编译安装

毅硕HPC | Rocky Linux 9 SLURM软件编译安装

原创
作者头像
INSVAST
发布于 2025-11-06 09:26:01
发布于 2025-11-06 09:26:01
3430
举报
文章被收录于专栏：毅硕HPC毅硕HPC

一、 Slurm的核心作用

Slurm 是一个开源的、高度可扩展的工作负载调度器，专为高性能计算集群设计。它的名字是 Simple Linux Utility for Resource Management 的缩写，但其功能远不止“简单”二字。在现代HPC系统中，Slurm扮演着“集群大脑”或“数字神经中枢”的角色，其主要核心作用包括：

  • 资源分配：管理和分配计算节点、CPU核心、内存、GPU等硬件资源给用户提交的计算任务。
  • 任务调度：根据预设的策略（如优先级、队列、资源需求等），决定哪个用户的哪个任务在何时、在哪些节点上运行。
  • 作业管理：提供一套完整的命令，允许用户提交、监控、修改、挂起和终止自己的计算任务。
  • 工作负载均衡：通过高效的调度算法，确保集群资源得到充分利用，避免部分节点过载而其他节点闲置，从而提升整个集群的吞吐量和效率。

二、 Slurm的使用场景及重要性

Slurm 是学术界和工业界构建HPC环境时事实上的标准调度系统。它的典型使用场景包括：

  • 大规模科学计算：在天气预报、流体力学、天体物理等领域，需要运行数百甚至数千个核心并行计算的任务。
  • 人工智能与深度学习：调度需要大量GPU资源的模型训练任务，管理多个研究小组对稀缺GPU资源的共享使用。
  • 生物信息学：处理基因组测序、分子动力学模拟等需要海量计算的分析流程。
  • 工程仿真与材料科学：进行有限元分析、计算化学等复杂的模拟计算。

其重要性体现在：

  • 从“混乱”到“有序”：没有调度器，用户需要手动登录到特定节点运行任务，极易引发资源冲突和系统不稳定。Slurm 将混乱的“自由竞争”转变为有序的“按需分配”，保证了集群的稳定性和公平性。
  • 提升资源利用率：通过排队和调度，Slurm 可以确保集群7x24小时不间断运行，让昂贵的计算硬件投资发挥最大价值。
  • 支持多用户环境：在高校或大型企业研发部门，Slurm 可以设定公平共享策略、资源限额和优先级，确保所有用户和项目组都能公平地获得计算资源。

三、安装Munge认证

1.  创建Munge用户

Munge用户要确保管理节点和计算(登录)节点的UID和GID相同，所有节点都需要安装Munge：

代码语言：javascript
复制
groupadd -g 1108 munge
useradd -m -c "Munge Uid 'N' Gid Emporium" -d /var/lib/munge -u 1108 -g munge -s /sbin/nologin munge

2.  生成熵池

  • 管理节点执行
代码语言：javascript
复制
dnf install -y rng-tools
  • 使用/dev/urandom来做熵源
代码语言：javascript
复制
# rngd -r /dev/urandom

# 修改service参数如下
nano /usr/lib/systemd/system/rngd.service

[Service]
ExecStart=/sbin/rngd -f -r /dev/urandom
  • 管理节点启动rngd
代码语言：javascript
复制
systemctl daemon-reload
systemctl start rngd
systemctl enable rngd

3.  部署Munge服务

  • Munge是认证服务，实现本地或者远程主机进程的UID、GID验证。
代码语言：javascript
复制
dnf install epel-release -y
dnf install munge munge-libs munge-devel -y

注意：munge-devel如果在rocky9官方源找不到，请点击以下链接进行查找：https://rockylinux.pkgs.org/9/rockylinux-devel-x86_64/munge-devel-0.5.13-13.el9.x86_64.rpm.html

  • 在管理节点创建全局使用的密钥：
代码语言：javascript
复制
/usr/sbin/create-munge-key -r
dd if=/dev/urandom bs=1 count=1024 > /etc/munge/munge.key
  • 密钥同步到所有其他节点：（计算节点、登录节点）
代码语言：javascript
复制
scp -p /etc/munge/munge.key root@login01:/etc/munge/
scp -p /etc/munge/munge.key root@compute01:/etc/munge/
scp -p /etc/munge/munge.key root@dcv01:/etc/munge/

# 所有节点赋权
chown munge: /etc/munge/munge.key
chmod 400 /etc/munge/munge.key
  • 所有节点都执行启动命令：
代码语言：javascript
复制
systemctl start munge
systemctl enable munge

4.  测试Munge服务

每个节点与控制节点进行连接验证

  • 本地查看凭据：
代码语言：javascript
复制
munge -n
  • 本地解码：
代码语言：javascript
复制
munge -n | unmunge
  • 验证远程解码：
代码语言：javascript
复制
munge -n | ssh compute01 unmunge
  • munge凭证基准测试：
代码语言：javascript
复制
remunge

四、编译安装Slurm

1.  安装Mariadb

安装mariadb，作为Slurm Accounting配置，在管理节点执行：

代码语言：javascript
复制
dnf -y install mariadb-server
systemctl start mariadb
systemctl enable mariadb

ROOT_PASS=$(tr -dc A-Za-z0-9 </dev/urandom | head -c 16)     #使用随机密码
mysql -e "CREATE USER root IDENTIFIED BY '${ROOT_PASS}'"
mysql -uroot -p$ROOT_PASS -e 'create database slurm_hpc_db'
  • 创建数据库slurm用户，并赋予数据库slurm_hpc_db的所有权限
代码语言：javascript
复制
mysql -uroot -p$ROOT_PASS
create user slurm;
grant all on slurm_hpc_db.* TO 'slurm'@'localhost' identified by '123456' with grant option;
flush privileges;

2.  创建Slurm用户

  • 所有节点执行，保证UID一致
代码语言：javascript
复制
groupadd -g 1109 slurm
useradd -m -c "Slurm manager" -d /var/lib/slurm -u 1109 -g slurm -s /bin/bash slurm

3.  安装Slurm依赖

  • 所有节点执行：
代码语言：javascript
复制
dnf install gcc gcc-c++ readline-devel perl-ExtUtils-MakeMaker pam-devel rpm-build mariadb-devel python3 -y

注意： 如mariadb-devel在官方镜像源找不到，请点击以下链接进行查找：https://rockylinux.pkgs.org/9/rockylinux-devel-x86_64/munge-devel-0.5.13-13.el9.x86_64.rpm.html

4.  编译rpm包

  • 下载slurm包
代码语言：javascript
复制
wget https://download.schedmd.com/slurm/slurm-25.05.2.tar.bz2
  • 编译slurm，使用rpmbuild制作rpm包
代码语言：javascript
复制
dnf install rpm-build -y
rpmbuild -ta --nodeps slurm-25.05.2.tar.bz2
  • 将编译好slurm的rpm包拷贝到其他节点
代码语言：javascript
复制
mkdir -p /root/rpmbuild/RPMS/
scp -r /root/rpmbuild/RPMS/x86_64 root@login01:/root/rpmbuild/RPMS/x86_64
scp -r /root/rpmbuild/RPMS/x86_64 root@compute01:/root/rpmbuild/RPMS/x86_64

5.  安装配置Slurm

  • 所有节点安装Slurm
代码语言：javascript
复制
 cd /root/rpmbuild/RPMS/x86_64/
 dnf localinstall slurm-*
  • 管理节点配置文件
代码语言：javascript
复制
cp /etc/slurm/cgroup.conf.example /etc/slurm/cgroup.conf
cp /etc/slurm/slurm.conf.example /etc/slurm/slurm.conf
cp /etc/slurm/slurmdbd.conf.example /etc/slurm/slurmdbd.conf
  • 复制配置文件到其他节点
代码语言：javascript
复制
# slurmdbd.conf可不用复制
scp -r /etc/slurm/*.conf  root@login01:/etc/slurm/
scp -r /etc/slurm/*.conf  root@compute01:/etc/slurm/
  • 设置各节点配置文件权限
代码语言：javascript
复制
mkdir /var/spool/slurmd
chown slurm: /var/spool/slurmd
mkdir /var/log/slurm
chown slurm: /var/log/slurm
mkdir /var/spool/slurmctld
chown slurm: /var/spool/slurmctld
mkdir /var/run/slurm
chown slurm: /var/run/slurm
  • 启动slurm服务
代码语言：javascript
复制
# 管理节点
systemctl start slurmdbd
systemctl enable slurmdbd
systemctl start slurmctld
systemctl enable slurmctld

# 所有节点
systemctl start slurmd
systemctl enable slurmd
  • 可能遇到的报错：
代码语言：javascript
复制
# 1. 启动slurmdbd时报错(一)：
slurmdbd: fatal: slurmdbd.conf file /etc/slurm/slurmdbd.conf should be 600 is 644 acc... others
#  解决方法
chmod 600 slurmdbd.conf
systemctl restart slurmdbd

# 2. 启动slurmdbd时报错(二)：
slurmdbd: fatal: slurmdbd.conf not owned by SlurmUser root!=slurm
#  解决方法
chown slurm: /etc/slurm/slurmdbd.conf
systemctl restart slurmdbd

五、配置文件参考

  • slurm.conf
代码语言：javascript
复制
ClusterName=cluster
SlurmctldHost=manage01
ProctrackType=proctrack/cgroup
ReturnToService=1
SlurmctldPidFile=/var/run/slurm/slurmctld.pid
SlurmctldPort=6817
SlurmdPidFile=/var/run/slurm/slurmd.pid
SlurmdPort=6818
SlurmdSpoolDir=/var/spool/slurmd
SlurmUser=slurm
StateSaveLocation=/var/spool/slurmctld
SwitchType=switch/none
TaskPlugin=task/affinity
InactiveLimit=0
KillWait=30
MinJobAge=300
SlurmctldTimeout=120
SlurmdTimeout=300
Waittime=0
SchedulerType=sched/backfill
SelectType=select/cons_tres
SelectTypeParameters=CR_Core
AccountingStorageEnforce=associations,limits,qos
AccountingStorageHost=manage01
AccountingStoragePass=/var/run/munge/munge.socket.2
AccountingStoragePort=6819
AccountingStorageType=accounting_storage/slurmdbd
JobCompHost=localhost
JobCompLoc=slurm_hpc_db
JobCompPass=123456
JobCompPort=3306
JobCompType=jobcomp/mysql
JobCompUser=slurm
JobAcctGatherFrequency=30
JobAcctGatherType=jobacct_gather/linux
SlurmctldDebug=info
SlurmctldLogFile=/var/log/slurm/slurmctld.log
SlurmdDebug=info
SlurmdLogFile=/var/log/slurm/slurmd.log
# HPC NODES
NodeName=manage01 NodeAddr=192.168.1.100  CPUs=8 CoresPerSocket=1 ThreadsPerCore=1 RealMemory=200 Procs=1 State=UNKNOWN
NodeName=login01 NodeAddr=192.168.1.101  CPUs=8 CoresPerSocket=1 ThreadsPerCore=1 RealMemory=200 Procs=1 State=UNKNOWN
NodeName=compute01 NodeAddr=192.168.1.102  CPUs=8 CoresPerSocket=1 ThreadsPerCore=1 RealMemory=1024 Procs=1 State=UNKNOWN
NodeName=dcv01 NodeAddr=192.168.1.12  CPUs=8 CoresPerSocket=4 ThreadsPerCore=1 RealMemory=4096 Procs=1 State=UNKNOWN
# PARTITIONS
PartitionName=compute Nodes=compute01 Default=YES MaxTime=INFINITE State=UP
PartitionName=dcv Nodes=dcv01 Default=NO MaxTime=INFINITE State=UP
PartitionName=debug Nodes=dcv01,compute01,login01,manage01 Default=NO MaxTime=INFINITE State=UP
  • slurmdbd.conf
代码语言：javascript
复制
# Authentication info
AuthType=auth/munge
AuthInfo=/var/run/munge/munge.socket.2
# slurmDBD info
DbdAddr=localhost
DbdHost=localhost
SlurmUser=slurm
DebugLevel=verbose
#DefaultQOS=normal,standby
LogFile=/var/log/slurm/slurmdbd.log
PidFile=/var/run/slurm/slurmdbd.pid
#PluginDir=/usr/lib/slurm
#PrivateData=accounts,users,usage,jobs
# Database info
StorageType=accounting_storage/mysql
StoragePass=123456
StorageUser=slurm
StorageLoc=slurm_hpc_db
  • cgroup.conf
代码语言：javascript
复制
CgroupMountpoint=/sys/fs/cgroup
ConstrainCores=yes
ConstrainDevices=yes
ConstrainRAMSpace=yes
ConstrainSwapSpace=yes

六、总结

Slurm 是现代HPC集群不可或缺的核心中间件。通过本教程，您将学习如何在 Rocky Linux 9 系统上从源码编译并安装配置这一强大的调度系统，为构建您自己的高性能计算环境奠定坚实的基础。

原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。

如有侵权，请联系 cloudcommunity@tencent.com 删除。

高性能计算集群
hpc
高性能计算

原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。

如有侵权，请联系 cloudcommunity@tencent.com 删除。

高性能计算集群
hpc
高性能计算
#HPC
#slurm
#安装教程
评论
登录后参与评论
0 条评论
热度
最新
登录 后参与评论
推荐阅读
目录
  • 一、 Slurm的核心作用
  • 二、 Slurm的使用场景及重要性
  • 三、安装Munge认证
    • 1.  创建Munge用户
    • 2.  生成熵池
    • 3.  部署Munge服务
    • 4.  测试Munge服务
  • 四、编译安装Slurm
    • 1.  安装Mariadb
    • 2.  创建Slurm用户
    • 3.  安装Slurm依赖
    • 4.  编译rpm包
    • 5.  安装配置Slurm
  • 五、配置文件参考
  • 六、总结
领券

腾讯云开发者

扫码关注腾讯云开发者

扫码关注腾讯云开发者

领取腾讯云代金券

热门产品

热门推荐

更多推荐

Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有 

深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 粤公网安备44030502008569号

腾讯云计算（北京）有限责任公司 京ICP证150476号 |  京ICP备11018762号

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档

Copyright © 2013 - 2026 Tencent Cloud.

All Rights Reserved. 腾讯云 版权所有

登录 后参与评论