超算 HPC使用 (集群1):SSH免密登录

SSH免密登录

服务端配置密钥

复制代码
ssh-keygen -t rsa -b 4096
cd ~/.ssh/
ls -la
cat ~/.ssh/id_rsa

下载私钥id_rsa,客户端ssh连接

熟悉超算

初始环境

初次登陆是没有conda环境的

注意❗❗❗ 此刻这里还没有.conda文件夹的

复制代码
[chenps@login01 ~]$ conda env list
-bash: conda: command not found
[chenps@login01 ~]$ pwd
/share/home/chenps
[chenps@login01 ~]$ ls -la

module 常用指令

bash 复制代码
module help       # 显示帮助信息
module avail      # 显示已经安装的软件环境
module load       # 导入相应的软件环境
module unload     # 删除相应的软件环境
module list       # 列出已经导入的软件环境
module purge      # 清除所有已经导入的软件环境
module switch [mod1] mod2 # 删除mod1并导入mod2

加载conda模块

复制代码
[chenps@login01 ~]$ module avail | grep conda
   anaconda/3-2023.09                                hwloc/2.7.0                        (L)
   anaconda/3-2024.02.01                      (D)    lammps/2Aug2023
[chenps@login01 ~]$ module load  anaconda/3-2024.02.01
[chenps@login01 ~]$ conda  -V
conda 24.1.2
[chenps@login01 ~]$ module list

Currently Loaded Modules:
  1) prun/2.2       3) hwloc/2.7.0   5) libfabric/1.13.0   7) singularity/3.7.1   9) anaconda/3-2024.02.01
  2) gnu12/12.2.0   4) ucx/1.14.1    6) openmpi4/4.1.5     8) ohpc



[chenps@login01 ~]$

初始化conda

这里执行conda init,不然下次另开终端,conda -V 还是会报错command not found,初始化修改了.bashrc文件,添加了# >>> conda initialize >>>这部分的内容,类似windows配置环境变量。

复制代码
[chenps@login01 ~]$ conda init
no change     /share/software/anaconda3/2024.02.01/condabin/conda
no change     /share/software/anaconda3/2024.02.01/bin/conda
no change     /share/software/anaconda3/2024.02.01/bin/conda-env
no change     /share/software/anaconda3/2024.02.01/bin/activate
no change     /share/software/anaconda3/2024.02.01/bin/deactivate
no change     /share/software/anaconda3/2024.02.01/etc/profile.d/conda.sh
no change     /share/software/anaconda3/2024.02.01/etc/fish/conf.d/conda.fish
no change     /share/software/anaconda3/2024.02.01/shell/condabin/Conda.psm1
no change     /share/software/anaconda3/2024.02.01/shell/condabin/conda-hook.ps1
no change     /share/software/anaconda3/2024.02.01/lib/python3.11/site-packages/xontrib/conda.xsh
no change     /share/software/anaconda3/2024.02.01/etc/profile.d/conda.csh
modified      /share/home/chenps/.bashrc

==> For changes to take effect, close and re-open your current shell. <==

[chenps@login01 ~]$ cat .bashrc
# .bashrc

# Source global definitions
if [ -f /etc/bashrc ]; then
        . /etc/bashrc
fi

# User specific environment
if ! [[ "$PATH" =~ "$HOME/.local/bin:$HOME/bin:" ]]
then
    PATH="$HOME/.local/bin:$HOME/bin:$PATH"
fi
export PATH

# Uncomment the following line if you don't like systemctl's auto-paging feature:
# export SYSTEMD_PAGER=

# User specific aliases and functions

# >>> conda initialize >>>
# !! Contents within this block are managed by 'conda init' !!
__conda_setup="$('/share/software/anaconda3/2024.02.01/bin/conda' 'shell.bash' 'hook' 2> /dev/null)"
if [ $? -eq 0 ]; then
    eval "$__conda_setup"
else
    if [ -f "/share/software/anaconda3/2024.02.01/etc/profile.d/conda.sh" ]; then
        . "/share/software/anaconda3/2024.02.01/etc/profile.d/conda.sh"
    else
        export PATH="/share/software/anaconda3/2024.02.01/bin:$PATH"
    fi
fi
unset __conda_setup
# <<< conda initialize <<<

创建conda环境

编写配置.condarc

conda 创建个人虚拟环境 如果一开始没有配置过.condarc文件,是无法创建个人的虚拟环境的。

bash 复制代码
cat > ~/.condarc << eof
auto_activate_base: false
pkgs_dirs:
 -  $HOME/.conda/pkgs
eof
补充:(左:超算,右:本地wsl)

超算不配置的话,conda创建的虚拟环境会被放在/share这个文件夹下,而普通用户又没有/share的读写权限,所以会导致环境创建失败。这里参考本地wsl,新环境的路径放在$HOME主目录下:

bash 复制代码
# 回到主目录
cd
# 创建配置文件
touch .condarc
# 编辑配置文件
vi  .condarc

已有环境导入(可忽略)

本地环境打包
复制代码
(py4DSTEM_linux) ubuntu22@Autumn:~$ conda env export -n py4DSTEM_linux > py4DSTEM_linux_backup1219.yml
(py4DSTEM_linux) ubuntu22@Autumn:~$ pwd
/home/ubuntu22
(py4DSTEM_linux) ubuntu22@Autumn:~$

👆上传 py4DSTEM_linux_backup1219.yml到超算的登录节点

导入备份环境
复制代码
conda env create -f py4DSTEM_linux_backup1219.yml

因为我这里一直报错,登录节点的网络又特别慢,所以我直接删除了报错的行==后面的东西(不指定版本安装),如下所示:

等了很久还是不行。算了,直接创建基础环境了。

创建基础环境

复制代码
conda create -n py310_test python=3.10.19 -c conda-forge -y
conda activate py310_test
pip install py4DSTEM
pip install jupyter
conda install -c conda-forge cupy -y
相关推荐
wdfk_prog39 分钟前
ROS教程08:从 TransportTCP::connect() 追到 TCPROS Connection Header、序列化与 Socket 数据传输
运维·缓存·docker·容器·ros
做运维的阿瑞1 小时前
Python 标准库汇总:分类速览与常用模块清单
linux·运维·python
日常筹谋记2 小时前
自动化仓储安全防护工况评估:明治传感器AS-33C技术适配性分析
大数据·运维·创业创新·业界资讯
Shadow(⊙o⊙)2 小时前
Linux进阶知识1.0
linux·运维·服务器
闲云自留地3 小时前
告别命令恐惧症,openEuler 基础操作 + 文本 + 网络管理实战
linux·运维·云计算
其实防守也摸鱼4 小时前
常见安全架构中 Shiro 的认证确认机制解析
运维·服务器·数据库·windows·github
^Rocky5 小时前
IT 疑难杂症诊疗室:复杂技术问题解决实录
运维·bug
挖掘狂人5 小时前
当生产环境"变慢",我用这套 perf + strace 30 分钟定位瓶颈
linux·运维·性能优化
阿明68 小时前
Linux进程【Linux】
linux·运维·服务器
Android系统攻城狮8 小时前
Linux Gstreamer深度解析之gst_audio_resampler_update调用流程与实战(三十)
linux·运维·服务器·gstreamer音视频·音视频进阶