由于CASCI/CASSCF计算量随活性空间呈指数增长，超过(16,16)的计算在高配机器上几乎不可能。近似求解大活性空间的方法通常有DMRG, selected CI等等。Block-1.5是做DMRG计算的经典程序，由Sandeep Sharma和Garnet Chan开发，虽然早在5年前就不更新了，但其计算速度仍高于很多同类程序。Block-1.5一般结合PySCF使用，可以进行DMRG-CASCI，DMRG-CASSCF和DMRG-SC-NEVPT2等计算。笔者之前在公众号上将该程序的安装拆分为几篇短文
在之前的博客中我们介绍过concurrent等python多进程任务的方案，而之所以我们又在考虑MPI等方案来实现python并行计算的原因，其实是将python的计算任务与并行计算的任务调度分层实现。在concurrent和multiprocessing等方案中，我们的python计算任务和调度任务是一体化的，而且还有一个比较大的限制是没办法跨节点操作的，这对于任务与环境的定制化程度要求是比较高的。而MPI的方案在设计初期就考虑到了多节点之间通信的问题，而这种分层式的任务调度解决方案其实在架构上看也更加的合理。做计算的人只要考虑单个进程下的任务如何执行就可以了，至于任务如何并行如何调度，那就是上层的MPI该做的事情了。
在现代科学和工程中，数值计算工程师会遇到大量复杂的数学计算问题。这些问题突出的共性表现在高维数、计算规模大、多时空尺度、强非线性等方面。批量处理Batch拥有一套完整的并行计算框架，适配常见的并行模型（MPI应用）。利用海量弹性的云资源，有力地支撑高性能科学计算应用软件和算法。
IB（InfiniBand）和 RDMA（Remote Direct Memory Access）是一种高性能网络技术，通常用于加速数据传输。它们不是基于传统的 TCP/IP 协议栈，而是使用自己的协议栈，以实现低延迟、高带宽的数据传输。
有任务需要处理一堆收集来得开源数据集，在服务器单机跑了一天才给结果，多方咨询有HPC可以用，或者叫supercomputer，或者叫计算机集群，大部分的简称grid。看了wiki、confluence，给出一堆链接在脑海中织出密密麻麻的蜘蛛网——无从下手。居然没有use case出发端到端的参考demo，真是无力吐槽。自力更生求助google，youtube，stack overflow，梳理下来，简而言之，可以理解分而治之多线程的多处理核（cpu/gpu）的版本，涉及算力资源调度引入slurm，涉及通讯引入mpi。
如果报错说“Aborting because C++ compiler does not work.”，就安装下编译器：
之前的文章中介绍了天河二号的架构，我们大致了解到了天河二号是一个由很多计算节点组成的具有强大运算能力的超级计算机。
0x00 前言 本篇是MPI的入门教程，主要是为了简单地了解MPI的设计和基本用法，方便和现在的Hadoop、Spark做对比，并尝试理解它们之间在设计上有什么区别。 身处Hadoop、Spark这些优秀的分布式开发框架蓬勃发展的今天，老的分布式编程模型是否没有必要学习？这个很难回答，但是我更倾向于花一个下午的时候来学习和了解它。 关于并发和并行编程系列的文章请参考文章集合 文章结构 举个最简单的例子，通过这个例子让大家对MPI有一个基本的理解。 解释一些和MPI相关的概念。 列举一些MPI的常用函数
通过官方网站提供的下载地址：https://download.open-mpi.org/release/open-mpi/v3.1/openmpi-3.1.0.tar.gz，下载3.1版的openmpi，在命令行执行如下命令，会将openmpi-3.1.0.tar.gz文件下载到当前目录：
http://sourceforge.net/projects/boost/files/boost/1.44.0/
在运行 mpi-operator 之后，想进去容器查看一下，于是执行下面的命令报错。
Intel oneAPI 是一种统一的跨架构的的编程模型，提供了CPU、GPU、FPGA、专用加速器的产品。
还记得今年4月伯克利BAIR实验室发布的那个会“18般武艺”的DeepMimic模型吗？他们使用强化学习技术，用动作捕捉片段训练模型，教会了AI智能体完成24种动作，走路、跑步就不用说了，还包括翻跟斗、侧翻跳、投球、高踢腿等等高能动作。
进行深度学习的训练向来不被认为是CPU的强项，但是以CPU研发见长的英特尔并不甘心屈服于这个定位，在过去的几年里，英特尔及其合作伙伴一直在探索用CPU来进行快速有效的深度学习开发的方法。代号KNL的Xeon Phi至强芯片是英特尔的努力尝试之一，同时在深度学习算法的改进上，英特尔也做了一些努力。 近日，在美国旧金山举行的IDF16大会上，与英特尔联合宣布启动了KNL试用体验计划的浪潮集团副总裁、技术总监胡雷钧做了基于英特尔至强融合处理器KNL和FPGA上的深度学习的试用体验报告。报告介绍了高性能计算和深度学
torch.distributed 支持三个后端，每个后端具有不同的功能。下表显示哪些功能可用于CPU/CUDA张量。仅当用于构建PyTorch的实现支持时，MPI才支持CUDA。
近期由于一些原因接触到了并行计算，对于这个陌生的领域我最先接触到的是MPI框架。MPI（Message Passing Interface），可以理解为是一种独立于语言的信息传递标准。目前它有两种具体的实现OpenMPI和MPICH，也就是说如果我们要使用MPI标准进行并行计算，就需要安装OpenMPI或MPICH库。本文以MPICH为例，在ubantu中安装MPI的环境，并对vscode进行配置。
1 背景 图像连通域标记算法是从一幅栅格图像（通常为二值图像）中，将互相邻接（4邻接或8邻接）的具有非背景值的像素集合提取出来，为不同的连通域填入数字标记，并且统计连通域的数目。通过对栅格图像中进行连
CP2K安装的方法有很多（我们曾分享过CP2K 5.1版本的安装及简单介绍），笔者最近尝试在课题组新买的服务器上从源码编译安装CP2K，过程中遇到了各种问题。根据这次安装的经验，在此笔者想和大家分享如何从零开始安装CP2K（支持PLUMED）。
本文以 PyTorch 官方文档 https://pytorch.org/tutorials/intermediate/dist_tuto.html 为基础，对如何编写分布式进行了介绍，并且加上了自己的理解。
ABAQUS是一款广泛应用于工程领域的有限元分析软件，具有以下主要功能：结构分析：ABAQUS可以进行静态和动态分析，包括线性和非线性分析，可以求解各种结构的应力、应变、位移、稳定性等问题。热力学分析：ABAQUS可以进行热传递、热膨胀、热应力等问题的热力学分析。动力学分析：ABAQUS可以进行振动分析、冲击响应、疲劳分析等动力学问题的求解。流体-结构耦合分析：ABAQUS可以进行流体-结构耦合分析，包括流固耦合、热流固耦合等问题。复合材料分析：ABAQUS可以对复合材料的层合板、复合材料结构的力学性能进行
HCA方案将所有的信道分为两部分：一部分信道固定配置给某些小区，即部分信道隔离；另一部分信道则保留在中心存储区中，为系统中的所有用户所共享，即部分信道共享。HCA是FCA和DCA的折中，故成为混合分配。（关于FCA和DCA参见相应词条）
Ubuntu - openmpi 源码安装 sudo apt-get install openmpi # 安装版本比较低 1. Ubuntu 程序源码安装 主要包括三个步骤: 1 - ./configure 2 - make 3 - make install 这些都是典型的使用GNU的AUTOCONF和AUTOMAKE产生的程序的安装步骤。 ./configure是用来检测你的安装平台的目标特征的。比如它会检测你是不是有CC或GCC，并不是需要CC或GCC，它是个shell脚本。 m
说明：下面内容仅针对Linux环境（boost官网为：http://www.boost.org/，可从这里下载它的源代码包，这里要求下载.tar.gz包，而非.7z、.zip或bz2包）。
具体来讲，本文首先介绍了分布式计算的基本概念，以及分布式计算如何用于深度学习。然后，列举了配置处理分布式应用的环境的标准需求（硬件和软件）。最后，为了提供亲身实践的经验，本文从理论角度和实现的角度演示了一个用于训练深度学习模型的分布式算法（同步随机梯度下降，synchronous SGD）。
CFOUR程序的全称为Coupled-Cluster techniques for Computational Chemistry，是一款专注于高精度量子化学计算的程序。从名字可以看出，其专长为耦合簇方法，支持在CC级别下做单点、几何结构优化（如CCSD(T)级别）、激发态计算（如EOM-CCSDT）、性质计算（如CCSD(T)级别的NMR计算）。其官方网站为
LIBRARY_DIRS := $(PYTHON_LIB) /usr/local/lib /usr/lib 改为：
尽管 CMake 是跨平台的，在我们的项目中我们努力使源代码能够在不同平台、操作系统和编译器之间移植，但有时源代码并不完全可移植；例如，当使用依赖于供应商的扩展时，我们可能会发现有必要根据平台以略有不同的方式配置和/或构建代码。这对于遗留代码或交叉编译尤其相关，我们将在第十三章，替代生成器和交叉编译中回到这个话题。了解处理器指令集以针对特定目标平台优化性能也是有利的。本章提供了检测此类环境的食谱，并提供了如何实施此类解决方案的建议。
大家好，又见面了，我是你们的朋友全栈君。 1.硬件 Hi3516支持内置AudioCodec/外置音频解码芯片； 由于这里硬件上外接FM1288,故走的是外置,通过I2S接入, 通过MIC单端/差分输入音频. 由于之前一直调试内置Codec，这里任然保留内置相关代码; 2.重要概念 2.1. I2S相关概念 （1）LRCLK (帧时钟，也称为WS) 当LRCLK为低电平时表示传输左声道,高电平时表示传输右声道, LRCLK的频率 = 采样频率 （2）SCLK(串行时钟) ,也叫BCLK(位时钟)；
业界AI应用中，GPU的使用逐渐增加，腾讯云TACO是一种异构计算加速软件服务，搭配腾讯自研的软硬件协同优化组件和硬件厂商特有优化方案，支持物理机、云服务器、容器等产品的计算加速、图形渲染、视频转码各个应用场景，帮助用户实现全方位全场景的降本增效。
用户希望Tina SDK 能提供编译工具链，多媒体库和头文件，使得自己编写的应用能编写Makefile 去链接多媒体库来编译生成app应用。 介于此方法，本FAQ提供一份编译系统demo样例。 里面包含说明了：
如果发送的字节数等于接收的字节数，通信将成功。例如，可以发送一个包含两个int的数组，并接收一个long或者一个double。
作者薛磊，腾讯高级软件工程师，服务于腾讯星辰算力平台，是Kubeflow的maintainer以及Volcano、 Kubernetes等其他开源项目的贡献者，致力于通过开源项目以及云原生架构改进AI基础架构，提升算法工程师以及整体AI研发的工程效率。
MPI是一个跨语言的通讯协议，用于并发编程。MPI标准定义了一组具有可移植性的编程接口。
Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。
学习参考地址:https://www.jianshu.com/p/2fd31665e816
https://www.cnblogs.com/zhbzz2007/p/5827059.html
说到并行计算，我们有一个不可绕开的话题——MPI编程。MPI是一个跨语言的通讯协议，用于编写并行计算机。支持点对点和广播。MPI是一个信息传递应用程序接口，包括协议和和语义说明，他们指明其如何在各种实现中发挥其特性。MPI的目标是高性能，大规模性，和可移植性。MPI在今天仍为高性能计算的主要模型。与OpenMP并行程序不同，MPI是一种基于信息传递的并行编程技术。消息传递接口是一种编程接口标准，而不是一种具体的编程语言。简而言之，MPI标准定义了一组具有可移植性的编程接口。
專 欄 ❈PytLab，Python 中文社区专栏作者。主要从事科学计算与高性能计算领域的应用，主要语言为Python，C，C++。熟悉数值算法(最优化方法，蒙特卡洛算法等）与并行化 算法（MPI,OpenMP等多线程以及多进程并行化）以及python优化方法，经常使用C++给python写扩展。 blog：http://ipytlab.com github：https://github.com/PytLab ❈— 前言 在高性能计算的项目中我们通常都会使用效率更高的编译型的语言例如C、C++、Fort
发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/159986.html原文链接：https://javaforall.cn
#include <mpi.h> #define WORKTAG 1 #define DIETAG 2 /* Local functions */ static void master(void); static void slave(void); static unit_of_work_t get_next_work_item(void); static void process_results(unit_result_t result); static unit_result_t do_wor
在上一篇文章中我们大致了解到了MPI的基本概念以及其运行原理，并且学习了一些简单的MPI通信函数以及例子。在本篇中我们将会以实现遗传算法为例子，讲解一些更深入的MPI概念以及函数并投入使用。
RPC指远程过程调用（Remote Procedure Call），通俗一些理解就是两台服务器A、B，一个应用部署在A服务器上，想要调用B服务器上应用提供的函数/方法，由于不在一个内存空间，不能直接调用，需要通过网络来表达调用的语义和传达调用的数据。（远程过程调用是相对于本地过程调用来说的）
Dalton是一款开源免费的量子化学程序，主要特色是支持一大堆性质的计算，例如DFT下的二次响应计算（常规TDDFT计算仅是线性相应），MCSCF波函数下的核磁NMR计算等等，以及各类激发态方法。当然，也有一些高精度单参考方法（如MP2-R12和CCSD-R12等），但较少用到。其PDF手册在
from mpi4py import MPI comm = MPI.COMM_WORLD rank = comm.Get_rank() print("hello world from process ", rank)
AI 研习社消息，日前， Facebook 人工智能研究院发布 wav2letter 工具包，它是一个简单高效的端到端自动语音识别(ASR)系统，实现了 Wav2Letter: an End-to-End ConvNet-based Speech Recognition System 和 Letter-Based Speech Recognition with Gated ConvNets 这两篇论文中提出的架构。如果大家想现在就开始使用这个工具进行语音识别，Facebook 提供 Librispeech
冯克环，腾讯云异构计算研发工程师，专注于云上 AI 训练加速相关技术，对 GPU 虚拟化、GPU 训练加速有深厚的积累，目前负责腾讯云 AI 训练加速相关技术的研发以及性能优化工作。 张锐，腾讯云网络虚拟化研发工程师，在之前的工作中专注于 AI 训练网络优化方面的工作，在 RDMA、GPU 通信优化等方面有较多经验，目前专注于做云上AI训练通信优化方面的工作。 背景 随着 AI 模型规模的越来越大，训练数据的越来越多，用户对模型的迭代效率也要求越来越高，单个 GPU 的算力显然无法满足大部分业务场景，使
MPI 提供了三种不同的通信方法，MPI 进程可以使用这些方法相互通信。下面讨论了这些通信方法：
通过MPI获取本机rank(可理解为进程)数量localrank，用于rank绑定GPU；
电脑第一次插入MPI转USB电缆时电脑会自动安装MPI电缆的驱动（部分电脑MPI系统可能会安装失败，请更换USB接口后尝试，尝试多次后如果安装驱动仍然失败，说明你所使用的电脑系统存在问题，请重新安装电脑系统后尝试，部分同学会在MPI转USB电缆驱动安装失败后到网络上下载MPI线的驱动程序手动进行安装，这样是没有用的，因为现在使用的MPI数据线驱动都是自动安装的，手动安装的驱动程序是无法识别的）
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
