MENU

SLURM使用教程

July 30, 2020 • Read: 9370 • 杂谈阅读设置

我现在经常在实验室服务器上跑程序,而老师要求我们使用SLURM作业管理系统,网上资料零零散散,这篇文章算是一个简单的汇总

常用术语

  • user:用户名
  • node:计算节点
  • core:cpu核
  • job:作业
  • job step:作业步,单个作业可以有多个作业步
  • partition:分区,作业需在特定分区中运行
  • QOS:服务质量,可理解为用户可使用的CPU、内存等资源限制
  • tasks:任务数,默认一个任务使用一个cpu核,可理解为作业所需的cpu核数
  • socket:cpu插槽,可理解为物理cpu颗数
  • stdout:标准输出文件,程序运行正常时输出信息的文件,一般指输出到屏幕的信息
  • stderr:标准错误文件,程序运行出错时输出信息的文件,一般指输出到屏幕的信息

命令

  • sbatch:提交作业脚本。此脚本一般会包含一个或多个srun命令启动并行任务
  • sinfo:显示分区或节点状态,可以通过参数选项进行过滤、和排序
  • squeue:显示队列的作业及作业状态
  • scancel:取消排队或运行中的作业
  • scontrol:显示或设定slurm作业、分区、节点等状态
  • sacctmgr:显示和设置账户关联的QOS等信息
  • sacct:显示历史作业信息
  • srun:运行并行作业,具有多个选项,如:最大和最小节点数、处理器数、是否指定和排除节点

节点状态查看

  • PARRITION:节点所在分区
  • AVAIL:分区状态,up标识可用,down标识不可用
  • TIMELIMIT:程序运行最大时长,infinite表示不限制,如果限制格式为days-houres:minutes:seconds
  • NODES:节点数
  • NODELIST:节点名列表
  • STATE:节点状态,可能的状态包括:

    • allocated、alloc :已分配
    • completing、comp:完成中
    • down:宕机
    • drained、drain:已失去活力
    • fail:失效
    • idle:空闲
    • mixed:混合,节点在运行作业,但有些空闲CPU核,可接受新作业
    • reserved、resv:资源预留
    • unknown、unk:未知原因
    • 如果状态带有后缀*,表示节点没有响应

分区信息查看

  • DisableRootJobs:不允许root提交作业
  • Maxtime:最大运行时间
  • LLN:是否按最小负载节点调度
  • Maxnodes:最大节点数
  • Hidden:是否为隐藏分区
  • Default:是否为默认分区
  • OverSubscribe:是否允许超时
  • ExclusiveUser:排除的用户

作业信息查看

  • JOBID:作业号
  • PARITION:分区名
  • NAME:作业名
  • USER:用户名
  • ST:状态,常见的状态包括:

    • PD、Q:排队中 ,PENDING
    • R:运行中 ,RUNNING
    • CA:已取消,CANCELLED
    • CG:完成中,COMPLETIONG
    • F:已失败,FAILED
    • TO:超时,TIMEOUT
    • NF:节点失效,NODE FAILURE
    • CD:已完成,COMPLETED

作业信息查看

批处理模式提交作业

1.用户编写作业脚本

2.提交作业

3.作业排队等待资源分配

4.在首节点加载执行作业脚本

5.脚本执行结束,释放资源

6.用户在输出文件中查看运行结果

  • 作业脚本为文本文件,首行一“#!”开头,指定解释程序
  • 脚本中可通过srun加载计算任务
  • 一个作业可包含多个作业步
  • 脚本在管理节点上提交,实际在计算节点上执行
  • 脚本输出写到输出文件中

以下是一些常见的作业资源需求参数,使用#SBATCH -xx xxx的方式写入脚本中即可

-J,--job-name:指定作业名称
-N,--nodes:节点数量
-n,--ntasks:使用的CPU核数
--mem:指定每个节点上使用的物理内存
-t,--time:运行时间,超出时间限制的作业将被终止
-p,--partition:指定分区
--reservation:资源预留
-w,--nodelist:指定节点运行作业
-x,--exclude:分配给作业的节点中不要包含指定节点
--ntasks-per-node:指定每个节点使用几个CPU核心
--begin:指定作业开始时间
-D,--chdir:指定脚本/命令的工作目录
Last Modified: April 20, 2021
Archives Tip
QR Code for this page
Tipping QR Code
Leave a Comment

已有 1 条评论
  1. z z

    用mobaxterm