Python虚拟环境入门:虚拟环境如何工作、如何自定义创建和管理&管理工具venv、Virtualenv、conda

文章目录

    • 一、虚拟环境介绍
      • [1.1 为什么需要虚拟环境](#1.1 为什么需要虚拟环境)
      • [1.2 什么是虚拟环境](#1.2 什么是虚拟环境)
        • [1.2.1 venv常用命令](#1.2.1 venv常用命令)
        • [1.2.2 虚拟环境的文件夹结构](#1.2.2 虚拟环境的文件夹结构)
        • [1.2.3 虚拟环境的隔离性](#1.2.3 虚拟环境的隔离性)
    • 二、虚拟环境是如何工作的
      • [2.1 复制结构和文件](#2.1 复制结构和文件)
      • [2.2 调整前缀查找过程](#2.2 调整前缀查找过程)
        • [2.2.1 系统前缀查找过程](#2.2.1 系统前缀查找过程)
        • [2.2.2 虚拟环境前缀查找过程](#2.2.2 虚拟环境前缀查找过程)
      • [2.3 链接回标准库](#2.3 链接回标准库)
      • [2.4 修改 `PYTHONPATH` 环境变量](#2.4 修改 PYTHONPATH 环境变量)
      • [2.5 虚拟环境激活时更改 shell `PATH` 变量](#2.5 虚拟环境激活时更改 shell PATH 变量)
      • [2.6 使用绝对路径运行虚拟环境](#2.6 使用绝对路径运行虚拟环境)
    • 三、自定义虚拟环境
    • 四、如何管理虚拟环境
      • [4.1 虚拟环境的创建方式](#4.1 虚拟环境的创建方式)
      • [4.2 虚拟环境是可丢弃的](#4.2 虚拟环境是可丢弃的)
      • [4.3 虚拟环境的可重现性](#4.3 虚拟环境的可重现性)
      • [4.4 避免在生产环境中使用虚拟环境](#4.4 避免在生产环境中使用虚拟环境)
    • 五、其它虚拟环境工具
      • [5.1 Virtualenv](#5.1 Virtualenv)
      • [5.2 Conda](#5.2 Conda)
      • [5.3 不同虚拟环境管理工具的对比](#5.3 不同虚拟环境管理工具的对比)
      • [5.4 使用第三方工具](#5.4 使用第三方工具)

本教程将指导您学习使用 Python 的 venv 模块创建和管理虚拟环境,该模块是Python标准库的一部分,且一直是官方推荐的创建虚拟环境的方法。虚拟环境允许开发者为不同的项目创建隔离的Python运行环境,这样可以避免不同项目之间的依赖冲突,并且可以灵活地管理项目所需的Python版本和库。

一、虚拟环境介绍

1.1 为什么需要虚拟环境

使用Python虚拟环境有以下几个关键原因:

  1. 避免系统污染

    Linux和macOS等操作系统通常预装有Python,并用于系统内部任务。如果在系统的全局Python环境中安装外部软件包,这些软件包可能与系统相关的软件包混合,导致意外的副作用,影响操作系统的正常行为。此外,如果操作系统进行更新,可能会覆盖和丢失已安装的软件包,导致工作中断和问题。

  2. 解决依赖冲突

    不同的项目可能需要使用不同版本的外部库,而在全局环境中只能安装一个版本,所以会导致版本冲突问题。使用虚拟环境可以为每个项目创建独立的环境,从而安装所需的不同版本库,避免版本覆盖和冲突。

  3. 最小化可重现性问题

    将所有软件包集中在全局环境中会导致很难区分哪些依赖属于哪个项目,这对项目的可维护性和共享性是不利的。

    假设你同时在进行一个网络爬虫项目和一个Flask应用,并将所需的所有软件包都安装在全局环境中,这样会难以明确区分不同项目的依赖。如果使用虚拟环境,每个项目的依赖都会在其独立环境中,这样可以更轻松地读取项目需求并与他人共享,减少错误和混淆。

  4. 避免安装权限限制

    在一些公司环境中,用户可能没有管理员权限,无法在主机Python的site-packages目录中安装软件包。虚拟环境在用户权限范围内创建新的安装位置,无需管理员权限即可安装和使用外部软件包。

1.2 什么是虚拟环境

1.2.1 venv常用命令
venv常用命令 说明
python -m venv <env_name> 在当前目录下创建虚拟环境
<env_name>\Scripts\activate 激活虚拟环境
deactivate 退出虚拟环境
pip install <package> 在激活的虚拟环境中安装软件包
pip list 列出虚拟环境中已安装的软件包
pip uninstall <package> 卸载虚拟环境中的软件包
pip freeze > requirements.txt 将当前虚拟环境中的包导出到requirements.txt文件
pip install -r requirements.txt requirements.txt文件安装包到虚拟环境
python -m pip install --upgrade pip 升级虚拟环境中的pip版本

以上是venv常用命令,这些命令帮助用户在Windows平台上创建、管理和使用Python虚拟环境。那到底什么是Python虚拟环境?

Python虚拟环境本质上是一个文件夹结构,复制或软链接了Python可执行文件。它为用户提供了运行一个轻量且隔离的Python环境所需的一切,使用户能够在其中运行Python程序,并安装和管理与该环境相关的库和包,而不会影响到全局的Python环境或其他项目的环境。

虚拟环境只是一个文件夹结构,这意味着您可以随时删除和重新创建。

1.2.2 虚拟环境的文件夹结构

创建虚拟环境时,venv模块会生成以下的基本文件和文件夹结构:

python 复制代码
PS> tree venv\ /F
python 复制代码
venv\
│
├── Include\
│
├── Lib\
│   │
│   └── site-packages\
│       │
│       ├── pip\
│       │
│       └── pip-24.2.dist-info\
│
│
├── Scripts\
│   ├── Activate.ps1
│   ├── activate
│   ├── activate.bat
│   ├── deactivate.bat
│   ├── pip.exe
│   ├── pip3.12.exe
│   ├── pip3.exe
│   ├── python.exe
│   └── pythonw.exe
│
└── pyvenv.cfg
  • Include\:初始为空的文件夹,供安装依赖C扩展的包使用,以存放C头文件。
  • Lib\ :包含site-packages\\文件夹,这是虚拟环境创建的主要原因之一。site-packages\\目录用于存放在虚拟环境中安装的外部包。Python 3.12起,虚拟环境默认只包含pip
  • Scripts\ :包含虚拟环境的可执行文件,如Python解释器(python.exe)、pip可执行文件(pip.exe)以及用于激活环境的脚本(如activateactivate.bat)。
  • pyvenv.cfg :关键配置文件,包含用于设置sys模块变量的键值对,决定当前Python会话使用哪个解释器和site-packages目录。
  • {name}-{version}.dist-info/:当你使用pip安装Python包时,默认会创建此目录,其中包含了关于已安装包的分发信息。

仔细查看上面的文件夹结构,可以发现虚拟环境由三个关键部分组成:

  1. Python二进制文件的副本或符号链接:用于运行与虚拟环境关联的Python解释器。
  2. pyvenv.cfg文件:存储Python会话的一些配置信息。
  3. site-packages目录:存放在该虚拟环境中安装的外部库。
  • WindowsLinux系统中,虚拟环境里的Python可执行文件可能是原始Python可执行文件的符号链接(symlink)。
  • macOS系统中,虚拟环境里的Python可执行文件总是原始文件的复制品
  • 即使site-packages目录为空,虚拟环境仍然是有效的。默认情况下,venv会安装pip,因为pip是安装Python软件包的推荐工具。
  • 如果你使用的Python版本早于3.12,那么使用venv新建的虚拟环境中,会预先安装一些包,比如setuptoolspkg_resources等,而不只有pip包。

创建虚拟环境后,可以使用pip list命令来确认pip是否已被安装:

bash 复制代码
(venv) PS> python -m pip list
Package    Version
---------- -------
pip        24.2
1.2.3 虚拟环境的隔离性

虚拟环境的目的是在不影响全局Python环境的情况下安装外部包。为实现这一点,venv会复制或链接标准Python安装中的文件结构。不同操作系统的行为有所不同,Windows和Linux可能会创建符号链接,而macOS则总是复制。

  1. pyvenv.cfg 文件

    该配置文件包含关键的设置,用于定义虚拟环境的行为,例如Python解释器路径和是否包含系统级site-packages的访问。示例配置内容如下:

    python 复制代码
    home = C:\Users\Name\AppData\Local\Programs\Python\Python312
    include-system-site-packages = false
    version = 3.12.5
    executable = C:\Users\Name\AppData\Local\Programs\Python\Python312\python312.exe
    command = C:\Users\Name\AppData\Local\Programs\Python\Python312\python312.exe -m venv C:\Users\Name\path\to\project\venv
  2. 标准库访问

    虽然新建的虚拟环境文件夹结构中不包含Python标准库模块(site-packages中只有pip模块),但激活虚拟环境后,你仍然可以导入和使用标准库模块。这是因为虚拟环境实现了到系统基本Python标准库的链接。这种行为避免了复制标准库,提高了虚拟环境创建的速度和效率。

    python 复制代码
    # 新创建的虚拟环境没有安装标准库,但仍能成功导入
    
    >>> import urllib
    >>> from pprint import pp
    >>> pp(dir(urllib))
    ['__builtins__',
     '__cached__',
     '__doc__',
     '__file__',
     '__loader__',
     '__name__',
     '__package__',
     '__path__',
     '__spec__']
  3. 共享site-packages的选项

    你可以在创建虚拟环境时使用--system-site-packages选项,以访问系统Python安装中的site-packages目录:

    bash 复制代码
    py -m venv venv\ --system-site-packages

此设置会将pyvenv.cfg中的include-system-site-packages值设为true,允许虚拟环境使用系统Python的外部包。不过,这种访问是单向的,只是为虚拟环境提供了访问源Python的site-packages文件夹的权限,您安装到虚拟环境中的任何新包都不会与那里的包混合在一起。

总结:虚拟环境实际上是包含特定设置文件的文件夹结构。它可以选择性地预装pip,复用源Python的标准库,同时保持安装的隔离性,从而实现更轻量和高效的环境管理。但是,您可能仍然想知道所有这些是如何工作的,接下来您将深入研究。

二、虚拟环境是如何工作的

2.1 复制结构和文件

  • 结构相似:当你使用venv创建虚拟环境时,Python会重新创建标准Python安装的文件和文件夹结构。虚拟环境的文件夹结构与系统级Python安装相似,以确保Python在隔离环境中正常运行而无需额外更改。
  • Python可执行文件 :在Windows上,虚拟环境中的python.exe位于Scripts\文件夹,而系统Python中的python.exe通常位于更高一级的目录。这一结构调整简化了激活虚拟环境时路径(PATH)变量的设置。

2.2 调整前缀查找过程

2.2.1 系统前缀查找过程

Python解释器的前缀查找过程旨在定位Python解释器运行所需的核心组件,如标准库、头文件和site-packages目录。这个过程主要依赖于sys模块中的一些关键变量。

  1. 前缀变量

    • sys.prefix:指向系统Python安装的根目录,包含Python解释器和相关文件,如标准库和site-packages目录。
    • sys.exec_prefix :与sys.prefix类似,但用于定位平台相关的库和资源(例如,编译的二进制模块), 一般情况下与sys.prefix相同。
    • sys.base_prefix
      • 在没有虚拟环境时,sys.base_prefixsys.prefix相同,表示系统级Python安装的根目录。
      • 当处于虚拟环境时,sys.base_prefix指向基础Python安装,以便访问标准库。而sys.prefix指向虚拟环境目录,使得模块和包的查找、安装与系统环境隔离。
  2. 模块查找过程

    • sys.path :Python解释器使用该列表来搜索模块。sys.path中包含的路径会根据sys.prefixsys.exec_prefix生成,通常包括以下内容:
      • Python安装目录下的Lib文件夹,用于访问标准库模块
      • Lib\site-packages文件夹,用于访问安装的第三方包。
      • 其他环境变量和用户指定的路径。
python 复制代码
>>> import sys
>>> sys.prefix
'C:\\Python39'  			 # 系统Python安装目录
>>> sys.base_prefix
'C:\\Python39' 				 # 与sys.prefix一致
>>> sys.path
['', 'C:\\Python39\\Lib', 'C:\\Python39\\Lib\\site-packages', ...]
2.2.2 虚拟环境前缀查找过程

在使用 venv 创建的虚拟环境中,Python 解释器通过查找 pyvenv.cfg 文件来决定虚拟环境是否存在。该文件中包含home键,解释器会使用它设置两个变量:

  • sys.base_prefix:保存用于创建虚拟环境的Python可执行文件的路径,即home 键的值。

  • sys.prefix:指向包含pyvenv.cfg的目录,即虚拟环境目录。

  • 在虚拟环境中sys.base_prefixsys.prefix指向不同位置:

    python 复制代码
    >>> import sys
    >>> sys.base_prefix
    'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312'
    >>> sys.prefix
    'C:\\Users\\Name\\path\\to\\venv'
  • 在非虚拟环境中, 两个变量都指向相同路径。

    python 复制代码
    >>> import sys
    >>> sys.base_prefix
    'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312'
    >>> sys.prefix
    'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312'

这种差异让Python解释器能够在虚拟环境中使用基础Python安装的标准库模块,同时将外部包安装在虚拟环境的独立site-packages目录中。

2.3 链接回标准库

Python虚拟环境旨在以一种轻量级的方式为您提供一个隔离的Python环境,您可以快速创建,然后在不再需要时删除。为了实现这一点,venv只复制最低限度需要的文件,即Python二进制文件的一个副本或符号链接,以及一个pyvenv.cfg文件和一个site-packages目录。

虚拟环境中的Python可执行文件可以访问作为环境基础的Python安装的标准库模块。Python通过在pyvenv.cfg的home设置中指向基本Python可执行文件的文件路径来实现这一点。

在 Python 会话中, sys.path 决定了 Python 可以从哪些位置导入模块。如果激活虚拟环境并进入 Python 解释器,你会发现基础 Python 安装的标准库路径包含在 sys.path 中。因此,即使在虚拟环境中工作,Python 仍然可以导入标准库模块。

python 复制代码
>>> import sys
>>> sys.path
['',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312\\python312.zip',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312\\DLLs',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312\\lib',  				# 系统python标准库位置
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312',
 'C:\\Users\\Name\\path\\to\\venv',
 'C:\\Users\\Name\\path\\to\\venv\\lib\\site-packages']

2.4 修改 PYTHONPATH 环境变量

默认情况下,sys.path 包含系统 Python 的安装路径,包括 site-packages 目录,用于存放通过 pip 安装的外部模块。当激活虚拟环境后,sys.path 更新为使用虚拟环境中的 site-packages 路径,屏蔽系统 Python 的 site-packages,实现外部包的隔离。

python 复制代码
# 虚拟环境未启动时,site-packages在系统python目录下
>>> import sys
>>> sys.path
['',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312\\python312.zip',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312\\DLLs',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312\\lib',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312',
 'C:\\Users\\Name\\AppData\\Roaming\\Python\\Python312\\site-packages',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312\\lib\\site-packages']
python 复制代码
# 启动虚拟环境后,site-packages在虚拟环境目录下
>>> import sys
>>> sys.path
['',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312\\python312.zip',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312\\DLLs',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312\\lib',
 'C:\\Users\\Name\\AppData\\Local\\Programs\\Python\\Python312',
 'C:\\Users\\Name\\path\\to\\venv',
 'C:\\Users\\Name\\path\\to\\venv\\lib\\site-packages']

2.5 虚拟环境激活时更改 shell PATH 变量

要激活虚拟环境,您需要执行激活脚本。不同操作系统和 shell 会选择不同的脚本,如 activateactivate.batActivate.ps1

python 复制代码
PS> venv\Scripts\activate
(venv) PS>

PATH 是一个包含多个目录路径的环境变量,当你在命令行中输入 python 或 pip 等命令时,系统会按从左到右的顺序搜索这些目录,找到第一个匹配的可执行文件就立即执行。当你激活环境时,会发生两个关键性的操作:

  1. VIRTUAL_ENV 变量会被设置为虚拟环境的根目录路径,并且会将虚拟环境中 python 和 pip 的路径添加到 PATH 的最前面,使得 shell 调用时优先使用虚拟环境中的 pythonpip

  2. 命令提示符会改变为虚拟环境的名称(如 (venv)),方便确认当前虚拟环境是否被激活。

如果使用 deactivate 命令取消激活( Windows 上运行deactivate.bat)可将 PATH 和命令提示符恢复到激活前的状态。激活和取消激活的脚本帮助实现路径和提示符的临时变化,不会永久修改系统配置。这些变化虽小但提高了使用虚拟环境的便利性。

2.6 使用绝对路径运行虚拟环境

虽然推荐激活虚拟环境以方便使用,但实际上你可以不激活它,只需提供虚拟环境中 Python 可执行文件的绝对路径,这使得你能够在同一脚本中同时使用系统 Python 和虚拟环境中的 Python。例如,在 Windows 上可以使用:

python 复制代码
PS> C:\Users\Name\path\to\venv\Scripts\python.exe

您可以通过启动解释器并运行import sys; sys.executable来确认您正在使用哪个Python可执行文件。这些命令将返回当前Python解释器的绝对路径,看看是不是与先激活虚拟环境再运行python时启动的解释器相同。

绝对路径对于在远程服务器或 Docker 容器中运行的脚本很有帮助,特别是在涉及自动化任务(如 CRON 作业)时,绝对路径提供了更加稳定和可控的方式来确保脚本使用虚拟环境中的正确解释器和依赖。

假设你有一个定时任务,想要使用虚拟环境中的 Python 解释器运行一个脚本(例如,每小时检查网站连接)。在 Linux 系统上,使用 CRON 作业时,你可以在 crontab 文件中写入以下内容:

python 复制代码
0 * * * * /home/name/Documents/connectivity-checker/venv/bin/python -m rpchecker -u google.com twitter.com -a

这条命令会在每小时执行一次 rpchecker 脚本,使用 /home/name/Documents/connectivity-checker/venv/bin/python 中的 Python 解释器,并且只使用虚拟环境中安装的依赖(例如 aiohttp)。这种方式避免了激活虚拟环境的麻烦(在脚本中嵌入虚拟环境的激活是一项繁琐的工作,出错的频率很高),确保任务的隔离性和可重复性。

Docker 容器通常是轻量级的、独立的环境,可能不包含系统级 Python 或一些依赖库。因此,在 Docker 容器中使用绝对路径来调用虚拟环境中的 Python 解释器可以确保容器内的 Python 环境和依赖是正确配置的。这样可以避免与 Docker 容器外部环境的 Python 版本或库发生冲突。

三、自定义虚拟环境

以上内容介绍了如何自定义虚拟环境(virtual environment),使用 venv 模块创建虚拟环境时,可以通过不同的选项来定制环境的行为和外观。以下是各项自定义功能的总结:

  1. 更改命令提示符

    可以通过 --prompt 参数自定义激活虚拟环境时的命令提示符,例如将其改为项目名或其他描述性字符串,而不必更改虚拟环境文件夹的名称。例如下面代码中,虚拟文件夹名还是venv,但激活时虚拟环境名为dev-env

    python 复制代码
    PS> py -m venv venv\ --prompt dev-env
    PS> venv\Scripts\activate
    (dev-env) PS>
  2. 覆盖已有环境 :使用 --clear 参数可以在创建新虚拟环境时自动删除已有的同名虚拟环境,避免手动删除的麻烦。

    python 复制代码
    PS> py -m venv venv\ --clear
  3. 一次创建多个虚拟环境:通过传递多个路径,可以一次创建多个虚拟环境,减少重复操作。

    python 复制代码
    PS> py -m venv venv\ C:\Users\Name\Documents\virtualenvs\venv-copy\

在上面的例子中,第一个参数venv\表示一个相对路径,表示在当前目录创建虚拟环境。相反,第二个参数使用一个绝对路径指向一个新的文件夹位置。多个路径中间用空格隔开就行。

  1. 更新pip :默认情况下,虚拟环境创建时可能会包含过时的 pip 版本。可以使用 --upgrade-deps 参数自动更新 pip,避免手动更新。

  2. 避免安装 pip :如果不需要 pip,可以使用 --without-pip 参数创建一个没有 pip 的虚拟环境,减少环境的大小。

  3. 访问系统站点包 :通过 --system-site-packages 参数,可以让虚拟环境访问全局 Python 安装的 site-packages 目录(可运行sys.path进行检查),避免每次都重新安装大型库(如 PyTorch 或 TensorFlow)。

  4. 复制或链接可执行文件 :可以使用 --symlinks--copies 参数来决定是否创建符号链接或复制 Python 可执行文件。不同操作系统的默认行为可能有所不同。

  5. 升级 Python 版本

    • 当你使用 venv 创建完虚拟环境时,如果选择了复制(而非符号链接)Python 可执行文件,后来又更新了系统中的 Python 版本,你可能会遇到标准库版本不匹配的问题。
    • 使用 --upgrade 参数,可以将虚拟环境中的 Python 和 pip 可执行文件更新为系统中的新版本,同时保持虚拟环境中的 site-packages 目录(即已安装的第三方库)不变
    bash 复制代码
    PS> py -m venv venv\ --upgrade

以上这些自定义选项让 venv 在创建虚拟环境时更具灵活性,能够根据不同的需求进行优化和调整。

四、如何管理虚拟环境

4.1 虚拟环境的创建方式

有两种主要的虚拟环境位置选择:

特点 1. 项目文件夹内创建虚拟环境 2. 单一文件夹存放所有虚拟环境
结构 虚拟环境与项目代码一起放在同一文件夹中,如 project_name/venv/ 所有虚拟环境存放在一个文件夹中,例如家目录下的 ~/.venvs/
激活方式 相对路径(例如 ./venv/bin/activate 绝对路径(例如 ~/.venvs/project_name/bin/activate
管理 每个项目独立管理其虚拟环境,便于区分和跟踪 虚拟环境集中管理,可以在一个地方查看和清理所有环境
磁盘空间占用 每个项目都有独立的虚拟环境,多个项目会占用更多的磁盘空间 虚拟环境集中存放,可以减少磁盘空间的重复使用
适用场景 适合需要对每个项目独立管理和隔离环境的开发 适合管理多个虚拟环境,尤其是需要共享 Python 环境的情况

你也可以选择将虚拟环境创建在任意位置,甚至两种方式结合使用,根据个人工作流的不同来选择最合适的结构。另外一些 IDE(如 VS Code 和 PyCharm)提供了自动创建虚拟环境的功能,你可以直接让 IDE 来处理虚拟环境的创建和管理。

4.2 虚拟环境是可丢弃的

虚拟环境是临时的,可以随时删除并重新创建而不丢失代码相关的信息。以下是几个关键点:

  • 避免手动添加代码到虚拟环境

    不应在虚拟环境中手动添加任何代码,比如项目代码,所有依赖包应该由包管理工具(如 pip 或 conda)来管理。

  • 不要将虚拟环境提交到版本控制

    • 虚拟环境不应推送到版本控制系统(如 Git)中,也不应随项目一起发布,因为虚拟环境安装很多包,体积太大,而且虚拟环境可能包含一些敏感数据(如密钥、凭证等),不应泄露。
    • 只需要将 requirements.txtPipfile 这类记录依赖信息的文件提交到版本控制中,而将虚拟环境文件夹添加到 .gitignore 文件中,这样可以避免虚拟环境被提交到 Git 仓库中。

4.3 虚拟环境的可重现性

生成 requirements.txt 文件 :尽管虚拟环境是可丢弃的,但为了在其他机器上重现该环境,你需要保存虚拟环境中安装的依赖。最常见的方法是使用 requirements.txt 文件。你可以在虚拟环境激活后,通过 pip freeze > requirements.txt 命令生成当前环境中的所有外部依赖,并将其保存到 requirements.txt 文件中。

如果没有激活虚拟环境,pip freeze 会列出全局环境中的依赖,可能会包含系统级别的包和不相关的库。

重新创建虚拟环境 : 通过 python -m venv 命令创建一个新的虚拟环境,然后使用 pip install -r requirements.txt 安装所有依赖,这样就能保证新的虚拟环境与原环境一致。

requirements.txt的局限性 : 如果你将 requirements.txt 提交到版本控制中,其他开发者可以使用它来重建相同的虚拟环境,这是一种常见做法,但它并不完美。主要存在以下问题:

  • Python 版本问题requirements.txt 不包含创建虚拟环境时使用的 Python 版本信息。
  • 子依赖问题requirements.txt 可能不包含依赖项的子依赖版本信息,可能导致在安装时获取不同版本的包。

使用第三方工具保证可重复构建 :基于requirements.txt的局限性,许多第三方依赖管理工具试图构建更准确的虚拟环境依赖。

  • pip-tools:通过 pip-tools 管理依赖项,可以生成更精确的锁定文件。
  • Pipenv:提供 Pipfile.lock 文件,能够保证更严格的版本控制。
  • Poetry:使用 poetry.lock 文件来确保项目环境的一致性。

4.4 避免在生产环境中使用虚拟环境

不要将虚拟环境文件夹推送到远程仓库(例如 GitHub )或部署服务器(例如 Heroku、Google App Engine 等),在持续集成(CI)或持续交付(CD)的流水线中,也不应该包含虚拟环境文件夹。而应该通过锁定依赖的方式,确保环境的一致性。对于大多数托管平台,它们会自动提供隔离环境,而你只需要通过 requirements.txt 指定需要的库即可。

除非自己管理服务器,并且运行多个项目,才需要考虑在服务器上创建虚拟环境,但也应该根据 requirements.txt重新创建,而不是复制虚拟环境文件夹。

五、其它虚拟环境工具

5.1 Virtualenv

virtualenv 是一个在 Python 中创建隔离的虚拟环境的工具。

命令 功能说明
virtualenv <env_name> 创建一个名为 <env_name> 的虚拟环境
source <env_name>/bin/activate 激活虚拟环境 (Linux/Mac)
<env_name>\Scripts\activate 激活虚拟环境 (Windows)
deactivate 退出当前虚拟环境
virtualenv --version 查看 virtualenv 的版本
virtualenv -p python3 <env_name> 使用特定 Python 版本创建虚拟环境 (如 python3)
virtualenv -p /usr/bin/python3.8 [env_name] 使用指定路径的 Python 解释器创建虚拟环境(例如,使用 Python 3.8)。
virtualenv --system-site-packages <env_name> 使虚拟环境可以访问系统里的python包
rm -rf <env_name> 删除虚拟环境
pip freeze > requirements.txt 导出当前虚拟环境的依赖包列表至 requirements.txt 文件
pip install -r requirements.txt 根据 requirements.txt 安装依赖包

创建并激活虚拟环境venv之后,直接进行pip安装我们需要的库:

python 复制代码
# 创建虚拟环境
virtualenv venv
# 可在venv\Scripts文件夹的地址栏打开cmd,即切换到Scripts目录,然后输入activate命令激活虚拟环境
venv\Scripts\activate

pip install opencv-python==3.4.1.15 opencv-contrib-python==3.4.1.15 jupyter matplotlib -i https://pypi.douban.com/simple

5.2 Conda

MinicondaAnacondaconda文档

venv和 Virtualenv只创建和管理 Python 虚拟环境,不能管理非 Python 包。如果需要同时管理 Python 包和非 Python 依赖项(如 C 库、工具包等),通常推荐使用 Conda。

conda 是一个跨平台的虚拟环境管理器,不仅支持 Python,还支持其他编程语言,也可以管理系统依赖项,目前有两个版本------MinicondaAnaconda。前者只有几百M,是最小化版本,只包括Conda和Python,用户可以自定义需要安装的其它包。而后者有5、6G,预装了许多包,适用于各种数据科学任务。以下是一些常用的conda命令:

conda包管理命令 描述
conda create --name myenv python=3.8 创建名为myenv的虚拟环境,指定python版本为3.8
conda activate myenv source activate myenv 激活虚拟环境(windows) 激活虚拟环境(macOS和Linux)
conda install package_name 在激活的虚拟环境中安装Python包
conda list 列出当前虚拟环境中已安装的包
conda deactivate 停用当前虚拟环境
conda env export > environment.yml 导出当前虚拟环境的配置到一个YAML文件
conda env create -f environment.yml 根据YAML文件创建虚拟环境
conda remove --name myenv --all 删除指定名称的虚拟环境及其所有包
conda search package_name 搜索可用于安装的包
conda update --all 升级当前虚拟环境中的所有包
conda虚拟环境管理命令 描述
conda update conda 升级conda本身
conda config --show 显示conda的配置信息
conda env list 列出所有已创建的虚拟环境
conda info --env 显示当前虚拟环境的详细信息
conda config --set auto_activate_base false 禁用默认激活基础环境(默认情况下会自动激活基础环境)
conda config --set auto_activate your_env_name 设置your_env_name为默认的激活环境

默认情况下,conda自动激活base环境为当前使用环境。如果要更改某个环境为默认激活环境,你需要进行一下操作:

python 复制代码
conda config --set auto_activate_base false				# 禁用默认激活基础环境
conda config --set auto_activate your_env_name			# 设置your_env_name为默认的激活环境

如果要恢复默认激活base环境,需要运行:

python 复制代码
conda config --set auto_activate_base true 				# 恢复默认激活base环境

5.3 不同虚拟环境管理工具的对比

特性 Virtualenv venv conda
来源 第三方库,需要通过 pip 安装 Python 标准库,自 Python 3.3 起自带 独立于 Python 的包和环境管理工具
Python 版本支持 支持创建不同版本的 Python 虚拟环境 只能使用当前 Python 版本 支持多版本的 Python 安装与切换
包管理 使用 pip 进行包管理 使用 pip 进行包管理 使用 conda 自带的包管理器(也支持 pip
安装方式 需要通过 pip install virtualenv Python 自带,使用 python -m venv 需安装 AnacondaMiniconda
使用场景 开发复杂项目时需要额外功能或支持多 Python 版本时使用 简单项目或仅需基本的虚拟环境隔离时使用 数据科学、机器学习、需要同时管理 Python 和非 Python 包时使用
功能丰富度 支持更多配置选项,如与不同版本的兼容性(支持python2) virtualenv 简化版,满足大多基础功能 功能最丰富,支持虚拟环境、依赖和包的整体管理
系统依赖管理 不支持系统级依赖管理 不支持系统级依赖管理 支持系统级依赖和 C 库等非 Python 依赖
更新周期 独立于 Python 的更新,更新较频繁 随 Python 更新,更新频率较慢 独立更新,受 conda 社区支持,更新较快
环境大小 虚拟环境体积相对较小 虚拟环境体积较小 环境体积较大,但管理更方便

总结

  • Virtualenv :允许用户创建使用不同于当前系统的 Python 版本的虚拟环境,适合需要跨版本支持和更多定制功能的项目。
  • venv :使用当前系统默认的Python 版本创建虚拟环境,适合日常开发和轻量级虚拟环境创建。
  • conda :适合需要管理 Python 和其他非 Python 依赖的大型数据科学和机器学习项目。

virtualenv 本身并不会自动下载缺失的 Python 版本。如果你想使用一个没有安装的版本,需要首先手动安装该版本。假如你的系统中安装了多个 Python 版本,你可以通过 virtualenv 指定使用某个特定版本来创建虚拟环境,而不是使用系统默认的 Python 版本。

对于自动安装不同 Python 版本的功能,可以考虑使用 pyenvconda

5.4 使用第三方工具

Python 社区开发了许多虚拟环境管理的第三方工具,以下是一些流行工具的概述:

  1. virtualenvwrapper:这是一个 virtualenv 的扩展,简化了虚拟环境的创建、删除和管理。它将所有虚拟环境集中管理,并提供用户友好的命令行命令,帮助你在不同的虚拟环境间切换。virtualenvwrapper-win 是它的 Windows 版本。

  2. Poetry:一个 Python 依赖管理和打包工具,类似于 requirements.txt,但提供了更确定性的依赖管理。Poetry 会在自动生成的虚拟环境中安装依赖,并帮助你管理虚拟环境。用法详见《Dependency Management With Python Poetry》

  3. Pipenv:类似Poetry,旨在改善 Python 包管理,提供确定性的构建方式。它使用 virtualenv 创建和管理项目的虚拟环境, 是一个相对较慢的高层次工具。

  4. uv:这是一个多功能命令行工具,旨在统一管理 Python 包、依赖和虚拟环境。它通过整合多个工具(如 pip、virtualenv 和 pyenv),提供一个统一的界面来执行任务,比如安装包、管理虚拟环境和处理 Python 版本等。

  5. Hatch: 这是一个现代的 Python 项目管理工具,简化了环境创建、依赖管理和打包。它允许你定义项目特定的配置,自动化创建隔离环境,支持多环境测试和版本管理等高级功能。

  6. pipx:这是一个安装 Python 应用程序的工具,适用于那些作为独立可执行文件运行的工具。通过 pipx,你可以为每个工具创建虚拟环境,并使其全局可用,常用于代码质量工具(如 black、isort、flake8、Pylint、mypy)以及替代 Python 解释器(如 bpython、ptpython、IPython)的安装。用法详见《Install and Execute Python Applications Using pipx》

  7. pipx-in-pipx:用来安装pipx的包装器,允许你通过 pipx 安装和管理 pipx 本身。

  8. pyenvpyenv 主要用于管理 Python 版本,虽然它不直接与虚拟环境相关,但常常与虚拟环境一起使用。它允许你在多个 Python 版本之间切换,方便你使用不同版本的 Python 开发项目。用法详见《Managing Multiple Python Versions With pyenv》

  9. pyenv-virtualenvpyenv 的一个插件,它结合了 pyenvvirtualenv,可以为 pyenv 管理的 Python 版本创建虚拟环境。它还支持与 virtualenvwrapper 一起使用,提供更多管理功能。

这些工具虽然可以帮助你管理虚拟环境,但它们并不是专门为了虚拟环境而设计的。它们的目标是提供更多功能和便利,而虚拟环境仅是其中的一部分。你可以根据需要选择合适的工具来管理你的 Python 版本和虚拟环境。

相关推荐
LKID体7 分钟前
Python操作neo4j库py2neo使用(一)
python·oracle·neo4j
小尤笔记23 分钟前
利用Python编写简单登录系统
开发语言·python·数据分析·python基础
FreedomLeo128 分钟前
Python数据分析NumPy和pandas(四十、Python 中的建模库statsmodels 和 scikit-learn)
python·机器学习·数据分析·scikit-learn·statsmodels·numpy和pandas
007php0071 小时前
GoZero 上传文件File到阿里云 OSS 报错及优化方案
服务器·开发语言·数据库·python·阿里云·架构·golang
Tech Synapse1 小时前
Python网络爬虫实践案例:爬取猫眼电影Top100
开发语言·爬虫·python
一行玩python2 小时前
SQLAlchemy,ORM的Python标杆!
开发语言·数据库·python·oracle
数据小爬虫@2 小时前
利用Python爬虫获取淘宝店铺详情
开发语言·爬虫·python
编程修仙3 小时前
Collections工具类
linux·windows·python
芝麻团坚果4 小时前
对subprocess启动的子进程使用VSCode python debugger
linux·ide·python·subprocess·vscode debugger
EterNity_TiMe_4 小时前
【论文复现】神经网络的公式推导与代码实现
人工智能·python·深度学习·神经网络·数据分析·特征分析