【1】下载OpenAI通过TensorFlow保存的GPT-2模型权重
python
import urllib.request
# 下载OpenAI通过TensorFlow保存的GPT-2模型权重
# print("\n step1:下载gpt-download.py")
# url = "https://raw.githubusercontent.com/rasbt/LLMs-from-scratch/main/ch05/01_main-chapter-code/gpt_download.py"
# filename = url.split("/")[-1]
# urllib.request.urlretrieve(url, filename)
【2】从gpt-download.py中 导入 download_and_load_gpt2函数
执行上述代码-download_and_load_gpt2 函数, 将下载参数量为1.24亿的GPT-2模型的7个文件;
python
# 从gpt-download.py中 导入 download_and_load_gpt2函数
print("\n step2:使用 download_and_load_gpt2函数 加载gpt-2架构设置和权重参数到python会话中")
settings, params = download_and_load_gpt2(
model_size="124M", models_dir="gpt2"
)
# 执行上述代码-download_and_load_gpt2 函数, 将下载参数量为1.24亿的GPT-2模型的7个文件
print("\n=== 执行上述代码-download_and_load_gpt2函数, 将下载参数量为1.24亿的GPT-2模型的7个文件,, 下载完成")

【报错信息】

【3】安装tensorflow
TensorFlow ImportError: DLL load failed: 动态链接库(DLL)初始化例程失败 问题解决_tensorflow dll load failed-CSDN博客
由上述博文可知,tensorflow1.5版本可以在老cpu上运行,而大于1.5的版本需要cpu支持AVX指令集,因此无法在不支持AVX指令集的cpu上运行。
所以安装tensorfflow1.5
【3.1】安装tensorfflow1.5报错
解决tensorflow的 ImportError: DLL load failed: 动态链接库(DLL)初始化例程失败_动态链接库dll初始化例程失败-CSDN博客
【3.2】使用conda安装tensorflow1.5
参考:
解决tensorflow ==1.15安装不上的问题_pip instrall tensorflow==1.15.2-CSDN博客
cpp
conda create -n myenv python=3.7 #创建环境
conda activate myenv
python -m pip install tensorflow==1.15.0
接着我们需要安装conda;
【4】安装conda
conda定义:Conda 是一个开源的 包管理 和 环境管理 工具,主要用于 Python 生态,但也支持其他语言(如 R、Java 等)。它由 Anaconda 公司开发,广泛应用于数据科学、机器学习、科学计算等领域。