ClusterShell:一个在集群节点上并行运行命令的好工具

ClusterShell:一个在集群节点上并行运行命令的好工具

ClusterShell 是一个事件驱动的开源 Python 库,旨在在服务器场或大型 Linux 集群上并行运行本地或远程命令。

— Magesh Maruthamuthu(作者)

我们过去曾写过两篇如何并行地在多个远程服务器上运行命令的文章: 并行 SSH(PSSH) 和 分布式 Shell(DSH) 。今天,我们将讨论相同类型的主题,但它允许我们在集群节点上执行相同的操作。你可能会想,我可以编写一个小的 shell 脚本来实现这个目的,而不是安装这些第三方软件包。

当然,你是对的,如果要在十几个远程系统中运行一些命令,那么你不需要使用它。但是,你的脚本需要一些时间来完成此任务,因为它是按顺序运行的。想想你要是在一千多台服务器上运行一些命令会是什么样子?在这种情况下,你的脚本用处不大。此外,完成任务需要很长时间。所以,要克服这种问题和情况,我们需要可以在远程计算机上并行运行命令。

为此,我们需要在一个并行应用程序中使用它。我希望这个解释可以解决你对并行实用程序的疑虑。

ClusterShell

ClusterShell 是一个事件驱动的开源 Python 库,旨在在服务器场或大型 Linux 集群上并行运行本地或远程命令。(clush 即 ClusterShell )。

它将处理在 HPC 集群上遇到的常见问题,例如在节点组上操作,使用优化过的执行算法运行分布式命令,以及收集结果和合并相同的输出,或检索返回代码。

ClusterShell 可以利用已安装在系统上的现有远程 shell 设施,如 SSH。

ClusterShell 的主要目标是通过为开发人员提供轻量级、但可扩展的 Python API 来改进高性能集群的管理。它还提供了 clush、clubak 和 cluset/nodeset 等方便的命令行工具,可以让传统的 shell 脚本利用这个库的一些功能。

ClusterShell 是用 Python 编写的,它需要 Python(v2.6 或 v3.4 )才能在你的系统上运行。

如何在 Linux 上安装 ClusterShell?

ClusterShell 包在大多数发行版的官方包管理器中都可用。因此,使用发行版包管理器工具进行安装。

对于 Fedora 系统,使用 DNF 命令 来安装 clustershell。

$ sudo dnf install clustershell

如果系统默认是 Python 2,这会安装 Python 2 模块和工具,可以运行以下命令安装 Python 3 开发包。

$ sudo dnf install python3-clustershell

在执行 clustershell 安装之前,请确保你已在系统上启用 EPEL 存储库 。

对于 RHEL/centos 系统,使用 YUM 命令 来安装 clustershell。

$ sudo yum install clustershell

如果系统默认是 Python 2,这会安装 Python 2 模块和工具,可以运行以下命令安装 Python 3 开发包。

$ sudo yum install python34-clustershell

对于 openSUSE Leap 系统,使用 Zypper 命令 来安装 clustershell。

$ sudo zypper install clustershell

如果系统默认是 Python 2,这会安装 Python 2 模块和工具,可以运行以下命令安装 Python 3 开发包。

$ sudo zypper install python3-clustershell

对于 Debian/Ubuntu 系统,使用 APT-GET 命令 或 APT 命令 来安装 clustershell。

$ sudo apt install clustershell

如何在 Linux 使用 PIP 安装 ClusterShell?

可以使用 PIP 安装 ClusterShell,因为它是用 Python 编写的。

在执行 clustershell 安装之前,请确保你已在系统上启用了 Python 和 PIP 。

$ sudo pip install ClusterShell

如何在 Linux 上使用 ClusterShell?

与其他实用程序(如 pssh 和 dsh)相比,它是直接了当的优秀工具。它有很多选项可以在远程并行执行。

在开始使用 clustershell 之前,请确保你已启用系统上的 无密码登录 。

以下配置文件定义了系统范围的默认值。你不需要修改这里的任何东西。

$ cat /etc/clustershell/clush.conf

如果你想要创建一个服务器组,那也可以。默认情况下有一些示例,请根据你的要求执行相同操作。

$ cat /etc/clustershell/groups.d/local.cfg

只需按以下列格式运行 clustershell 命令即可从给定节点获取信息:

$ clush -w 192.168.1.4,192.168.1.9 cat /proc/version192.168.1.9: Linux version 4.15.0-45-generic ([email protected]) (gcc version 7.3.0 (Ubuntu 7.3.0-16ubuntu3)) #48-Ubuntu SMP Tue Jan 29 16:28:13 UTC 2019192.168.1.4: Linux version 3.10.0-957.el7.x86_64 ([email protected]) (gcc version 4.8.5 20150623 (Red Hat 4.8.5-36) (GCC) ) #1 SMP Thu Nov 8 23:39:32 UTC 2018

选项:

  • -w: 你要运行该命令的节点。

你可以使用正则表达式而不是使用完整主机名和 IP:

$ clush -w 192.168.1.[4,9] uname -r192.168.1.9: 4.15.0-45-generic192.168.1.4: 3.10.0-957.el7.x86_64

或者,如果服务器位于同一 IP 系列中,则可以使用以下格式:

$ clush -w 192.168.1.[4-9] date192.168.1.6: Mon Mar 4 21:08:29 IST 2019192.168.1.7: Mon Mar 4 21:08:29 IST 2019192.168.1.8: Mon Mar 4 21:08:29 IST 2019192.168.1.5: Mon Mar 4 09:16:30 CST 2019192.168.1.9: Mon Mar 4 21:08:29 IST 2019192.168.1.4: Mon Mar 4 09:16:30 CST 2019

clustershell 允许我们以批处理模式运行命令。使用以下格式来实现此目的:

$ clush -w 192.168.1.4,192.168.1.9 -bEnter \’quit\’ to leave this interactive modeWorking with nodes: 192.168.1.[4,9]clush> hostnamectl—————192.168.1.4————— Static hostname: CentOS7.2daygeek.com Icon name: computer-vm Chassis: vm Machine ID: 002f47b82af248f5be1d67b67e03514c Boot ID: f9b37a073c534dec8b236885e754cb56 Virtualization: kvm Operating System: CentOS Linux 7 (Core) cpe OS Name: cpe:/o:centos:centos:7 Kernel: Linux 3.10.0-957.el7.x86_64 Architecture: x86-64—————192.168.1.9————— Static hostname: Ubuntu18 Icon name: computer-vm Chassis: vm Machine ID: 27f6c2febda84dc881f28fd145077187 Boot ID: f176f2eb45524d4f906d12e2b5716649 Virtualization: oracle Operating System: Ubuntu 18.04.2 LTS Kernel: Linux 4.15.0-45-generic Architecture: x86-64clush> free -m—————192.168.1.4————— total used free shared buff/cache availableMem: 1838 641 217 19 978 969Swap: 2047 0 2047—————192.168.1.9————— total used free shared buff/cache availableMem: 1993 352 1067 1 573 1473Swap: 1425 0 1425clush> w—————192.168.1.4————— 09:21:14 up 3:21, 3 users, load average: 0.00, 0.01, 0.05USER TTY FROM LOGIN@ IDLE JCPU PCPU WHATdaygeek :0 :0 06:02 ?xdm? 1:28 0.30s /usr/libexec/gnome-session-binary –session gnome-classicdaygeek pts/0 :0 06:03 3:17m 0.06s 0.06s bashdaygeek pts/1 192.168.1.6 06:03 52:26 0.10s 0.10s -bash—————192.168.1.9————— 21:13:12 up 3:12, 1 user, load average: 0.08, 0.03, 0.00USER TTY FROM LOGIN@ IDLE JCPU PCPU WHATdaygeek pts/0 192.168.1.6 20:42 29:41 0.05s 0.05s -bashclush> quit

如果要在一组节点上运行该命令,请使用以下格式:

$ clush -w @dev uptimeor$ clush -g dev uptimeor$ clush –group=dev uptime192.168.1.9: 21:10:10 up 3:09, 1 user, load average: 0.09, 0.03, 0.01192.168.1.4: 09:18:12 up 3:18, 3 users, load average: 0.01, 0.02, 0.05

如果要在多个节点组上运行该命令,请使用以下格式:

$ clush -w @dev,@uat uptimeor$ clush -g dev,uat uptimeor$ clush –group=dev,uat uptime192.168.1.7: 07:57:19 up 59 min, 1 user, load average: 0.08, 0.03, 0.00192.168.1.9: 20:27:20 up 1:00, 1 user, load average: 0.00, 0.00, 0.00192.168.1.5: 08:57:21 up 59 min, 1 user, load average: 0.00, 0.01, 0.05

clustershell 允许我们将文件复制到远程计算机。将本地文件或目录复制到同一个远程节点:

$ clush -w 192.168.1.[4,9] –copy /home/daygeek/passwd-up.sh

我们可以通过运行以下命令来验证它:

$ clush -w 192.168.1.[4,9] ls -lh /home/daygeek/passwd-up.sh192.168.1.4: -rwxr-xr-x. 1 daygeek daygeek 159 Mar 4 09:00 /home/daygeek/passwd-up.sh192.168.1.9: -rwxr-xr-x 1 daygeek daygeek 159 Mar 4 20:52 /home/daygeek/passwd-up.sh

将本地文件或目录复制到不同位置的远程节点:

$ clush -g uat –copy /home/daygeek/passwd-up.sh –dest /tmp

我们可以通过运行以下命令来验证它:

$ clush –group=uat ls -lh /tmp/passwd-up.sh192.168.1.7: -rwxr-xr-x. 1 daygeek daygeek 159 Mar 6 07:44 /tmp/passwd-up.sh

将文件或目录从远程节点复制到本地系统:

$ clush -w 192.168.1.7 –rcopy /home/daygeek/Documents/magi.txt –dest /tmp

我们可以通过运行以下命令来验证它:

$ ls -lh /tmp/magi.txt.192.168.1.7-rw-r–r– 1 daygeek daygeek 35 Mar 6 20:24 /tmp/magi.txt.192.168.1.7


via: https://www.2daygeek.com/clustershell-clush-run-commands-on-cluster-nodes-remote-system-in-parallel-linux/

作者: Magesh Maruthamuthu 选题: lujun9972 译者: wxy 校对: wxy

本文由 LCTT 原创编译, Linux中国 荣誉推出

点击“了解更多”可访问文内链接

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

(0)
上一篇 2022年8月28日 上午9:55
下一篇 2022年8月28日 上午9:57

相关推荐

  • 泉州市科技计划项目管理系统

    泉州市科技计划项目管理系统 随着科技的不断发展,泉州市政府为了更好地推进科技创新,推出了一套科技计划项目管理系统。该系统旨在提高科技项目的管理效率,降低项目管理成本,提高项目质量,…

    科研百科 2024年10月19日
    1
  • 大型企业协同办公

    大型企业协同办公的重要性 大型企业协同办公是指多个部门之间进行协作和协调,以确保企业整体目标的实现。对于大型企业来说,协同办公的重要性不言而喻。以下是几个原因: 1. 提高效率:协…

    科研百科 2024年8月26日
    33
  • 环保工程项目管理

    环保工程项目管理 随着全球环境问题的日益严重,环保工程项目管理已经成为了一个非常热门的领域。环保工程项目管理涉及到多个方面,包括项目管理、财务管理、风险管理、质量控制等。本文将探讨…

    科研百科 2024年8月31日
    30
  • 深圳市.科研项目

    深圳市科研项目 深圳市是一个充满活力和机遇的城市,它拥有丰富的自然资源和深厚的文化底蕴。在这里,每天都有着新的科研项目在不断发生,这些项目为深圳市的发展注入了新的活力和动力。 深圳…

    科研百科 2025年3月13日
    0
  • 选号系统集成项目管理

    选号系统集成项目管理 随着数字化时代的到来,越来越多的企业开始采用数字化的方式来管理业务流程,其中选号系统集成项目管理是一个非常重要的项目,因为它涉及到用户的数字身份验证和数据管理…

    科研百科 2025年1月13日
    0
  • 制定印发责任清单 抓实党建主体责任(党建主体责任清单制定依据)

    日前,汕头市直机关工委印发了《市直单位抓机关党建工作责任清单(试行)》(下称《责任清单》),明确37项责任项目、124项基本内容,突出各级责任主体在抓机关党建方面的责任内容和具体要…

    科研百科 2023年7月3日
    240
  • 云报关海关WMS系统软件,海关仓库在线管理轻松搞定(海关erp系统)

    5月21日-30日24时,广东省共报告了确诊病例26例,本土无症状感染者21例。10日,广东省新增47例感染者,出现了5代传播案例。 均与国外发现的新冠变异株高度同源,传播速度快是…

    科研百科 2022年7月28日
    442
  • 建筑行业精益建造成效分析(精益建造总结)

    建筑行业精益建造实施成效分析 一、价值创造 (一)创新管理模式 一是实现传统建筑模式的突破,通过精益建造实施,项目管理人员建造思维有效改观,转变传统创效方式、品质提升手段。 二是通…

    科研百科 2022年7月17日
    587
  • 项目的售前设计和提案该这么做(项目售前方案怎么写)

    对一个项目而言,每个公司的初步设计都不同。无论是客户经理、运营人员还是您的工程师,都必须进行详细的现场调查。我可以给你举一个又一个例子,当你说“没什么可做的,先放一边吧”时,会发生…

    科研百科 2022年7月18日
    395
  • 陈春花:时间管理的5个技巧,让工作更高效(陈春花 时间管理)

    疫情之下,很多公司鼓励员工居家办公。但是在线远程办公,员工却发现效率不高,这是因为时间管理出了问题。 本文整理了一些时间管理的技巧,希望能够帮助大家高效完成工作,正确认知时间,养成…

    科研百科 2022年5月22日
    302