transformers安装避坑

编程入门行业动态更新时间:2024-10-24 22:29:05

transformers安装避坑

1.4 下载rust编辑器

看到这里你肯定会疑惑了，我们不是要用python的吗？

这个我也不知道，你下了就对了，不然后面的transformers无法安装

因为是windows到官网选择推荐的下载方式。

执行文件，输入1即可。

测试是否安装成功。

避坑2：所有的下载都必须git clone，不要本地下载

这是因为git clone下载时会自动有个node tree，我不知道这hash值具体有什么用的，应该类似钥匙，如果本地下载后，它们就会没有这个hash值，运行webui-user.bat时就会提示错误。

错误类似：

reference is not a tree: 24268930bf1dce879235a7fddd0b2355b84d7ea6

2.1 在完成上述步骤后，就运行`webui-user.bat`

等一会，等到命令行工具显示下载installing GFPGAN时，就Ctrl+C停止批量工具操作，这时会产生一个\venv\Scripts的路径。

2.2 git clone命令与相应操作如下（看自己安装目录更改）

使用git bash工具

git clone .git "D:\SD\venv\Scripts\GFPGAN"

之后在命令行到D:\SD\venv\Scripts\GFPGAN输入如下的命令。

D:\SD\venv\Scripts\python.exe -m pip install basicsr facexlib 
D:\SD\venv\Scripts\python.exe -m pip install -r requirements.txt 
D:\SD\venv\Scripts\python.exe setup.py develop
D:\SD\venv\Scripts\python.exe -m pip install realesrgan

然后到下载open_clip，也是同样的git bash

git clone  "D:\SD\venv\Scripts\open_clip"

命令行到D:\SD\venv\Scripts\open_clip输入如下的命令。

D:\SD\venv\Scripts\python.exe setup.py build install

也是同样的操作到CLIP

git clone .git "D:\SD\venv\Scripts\CLIP"

到相应的目录下，输入如下命令

D:\SD\venv\Scripts\python.exe -m pip install ftfy regex tqdm
D:\SD\venv\Scripts\python.exe setup.py build install

2.3 gitclone与安装依赖

其实操作也跟2.2类型，相应操作也是合起来如下，没有repositories文件夹，就自己新建一个：

git clone .git "D:\SD\repositories\stable-diffusion-stability-ai" git clone .git "D:\SD\repositories\taming-transformers" git clone .git "D:\SD\repositories\k-diffusion"git clone .git "D:\SD\repositories\CodeFormer" git clone .git "D:\SD\repositories\BLIP"

但是要到上面涉及到的每个目录下，检查是否有requirements.txt文件，有就到对应目录的命令行，执行如下命令

D:\SD\venv\Scripts\python.exe -m pip install -r requirements.txt

2.4 pip transformers时，麻烦的tokenziers错误

解决方案：网络问题，试多几次（这里我用了差不多3~4h弄成功了）

尽管之前已经安装好了rust编辑器，但是它还会提示各种千奇百怪的错误，比如我下面这个。

Building wheels for collected packages: tokenizersBuilding wheel for tokenizers (pyproject.toml) ... errorerror: subprocess-exited-with-error× Building wheel for tokenizers (pyproject.toml) did not run successfully.│ exit code: 1╰─> [62 lines of output]running bdist_wheelrunning buildrunning build_pycreating buildcreating build\lib.win-amd64-cpython-310creating build\lib.win-amd64-cpython-310\tokenizerscopying py_src\tokenizers\__init__.py -> build\lib.win-amd64-cpython-310\tokenizerscreating build\lib.win-amd64-cpython-310\tokenizers\modelscopying py_src\tokenizers\models\__init__.py -> build\lib.win-amd64-cpython-310\tokenizers\modelscreating build\lib.win-amd64-cpython-310\tokenizers\decoderscopying py_src\tokenizers\decoders\__init__.py -> build\lib.win-amd64-cpython-310\tokenizers\decoderscreating build\lib.win-amd64-cpython-310\tokenizers\normalizerscopying py_src\tokenizers\normalizers\__init__.py -> build\lib.win-amd64-cpython-310\tokenizers\normalizerscreating build\lib.win-amd64-cpython-310\tokenizers\pre_tokenizerscopying py_src\tokenizers\pre_tokenizers\__init__.py -> build\lib.win-amd64-cpython-310\tokenizers\pre_tokenizerscreating build\lib.win-amd64-cpython-310\tokenizers\processorscopying py_src\tokenizers\processors\__init__.py -> build\lib.win-amd64-cpython-310\tokenizers\processorscreating build\lib.win-amd64-cpython-310\tokenizers\trainerscopying py_src\tokenizers\trainers\__init__.py -> build\lib.win-amd64-cpython-310\tokenizers\trainerscreating build\lib.win-amd64-cpython-310\tokenizers\implementationscopying py_src\tokenizers\implementations\base_tokenizer.py -> build\lib.win-amd64-cpython-310\tokenizers\implementationscopying py_src\tokenizers\implementations\bert_wordpiece.py -> build\lib.win-amd64-cpython-310\tokenizers\implementationscopying py_src\tokenizers\implementations\byte_level_bpe.py -> build\lib.win-amd64-cpython-310\tokenizers\implementationscopying py_src\tokenizers\implementations\char_level_bpe.py -> build\lib.win-amd64-cpython-310\tokenizers\implementationscopying py_src\tokenizers\implementations\sentencepiece_bpe.py -> build\lib.win-amd64-cpython-310\tokenizers\implementationscopying py_src\tokenizers\implementations\sentencepiece_unigram.py -> build\lib.win-amd64-cpython-310\tokenizers\implementationscopying py_src\tokenizers\implementations\__init__.py -> build\lib.win-amd64-cpython-310\tokenizers\implementationscreating build\lib.win-amd64-cpython-310\tokenizers\toolscopying py_src\tokenizers\tools\visualizer.py -> build\lib.win-amd64-cpython-310\tokenizers\toolscopying py_src\tokenizers\tools\__init__.py -> build\lib.win-amd64-cpython-310\tokenizers\toolscopying py_src\tokenizers\__init__.pyi -> build\lib.win-amd64-cpython-310\tokenizerscopying py_src\tokenizers\models\__init__.pyi -> build\lib.win-amd64-cpython-310\tokenizers\modelscopying py_src\tokenizers\decoders\__init__.pyi -> build\lib.win-amd64-cpython-310\tokenizers\decoderscopying py_src\tokenizers\normalizers\__init__.pyi -> build\lib.win-amd64-cpython-310\tokenizers\normalizerscopying py_src\tokenizers\pre_tokenizers\__init__.pyi -> build\lib.win-amd64-cpython-310\tokenizers\pre_tokenizerscopying py_src\tokenizers\processors\__init__.pyi -> build\lib.win-amd64-cpython-310\tokenizers\processorscopying py_src\tokenizers\trainers\__init__.pyi -> build\lib.win-amd64-cpython-310\tokenizers\trainerscopying py_src\tokenizers\tools\visualizer-styles.css -> build\lib.win-amd64-cpython-310\tokenizers\toolsrunning build_extrunning build_rustcargo rustc --lib --message-format=json-render-diagnostics --manifest-path Cargo.toml --release -v --features pyo3/extension-module --crate-type cdylib --warning: unused manifest key: target.x86_64-apple-darwin.rustflagsUpdating crates.io indexwarning: spurious network error (2 tries remaining): failed to send request: 鎿嶄綔瓒呮椂; class=Os (2)warning: spurious network error (1 tries remaining): failed to send request: 鎿嶄綔瓒呮椂; class=Os (2)error: failed to get `env_logger` as a dependency of package `tokenizers-python v0.10.3 (C:\Users\LENOVO\AppData\Local\Temp\pip-install-bw47mt33\tokenizers_3b1650888a634bdab4e4c98d147e7833)`Caused by:failed to load source for dependency `env_logger`Caused by:Unable to update registry `crates-io`Caused by:failed to fetch `.io-index`Caused by:failed to send request: 鎿嶄綔瓒呮椂; class=Os (2)error: `cargo rustc --lib --message-format=json-render-diagnostics --manifest-path Cargo.toml --release -v --features pyo3/extension-module --crate-type cdylib --` failed with code 101[end of output]note: This error originates from a subprocess, and is likely not a problem with pip.ERROR: Failed building wheel for tokenizers
Failed to build tokenizers

后面我找了网上不少答案，发现它们的回答根本就不统一，后面我问了一下chatGPT，人家的回答如下：

说人话：chatGPT不知道为什么会这样啊？

注意：

其实就是网络问题，跟你的工具版本没关系的，你多试几次，或者找找有没有更快下载的通道

错误信息表明在安装过程中构建tokenizers包的wheel文件出现了问题。错误发生在运行cargo rustc命令时，该命令用于编译Rust代码。

具体的错误信息如下：

error: failed to get `env_logger` as a dependency of package `tokenizers-python v0.10.3`

这个错误表明构建过程无法获取tokenizers包所需的env_logger依赖项。

错误进一步说明了以下内容：

Caused by:Unable to update registry `crates-io`Caused by:failed to fetch `.io-index`Caused by:failed to send request: 鎿嶄綔瓒呮椂
; class=Os (2)

这些消息表明更新注册表和获取所需的依赖项时出现了问题。错误信息failed to send request: 鎿嶄綔瓒呮椂表明可能存在网络问题或者crates.io索引的临时问题。

以下是解决该问题的几个步骤：

检查网络连接：确保您拥有稳定的互联网连接，并能够访问外部资源。
重试安装：有时网络问题可能是暂时的。再次尝试运行安装命令，看看问题是否能够解决。
清除pip缓存：pip会缓存软件包以提高安装速度。然而，缓存文件有时会引发问题。您可以尝试通过运行以下命令清除pip缓存：
```
pip cache purge
```
指定其他软件包源：您可以尝试从其他软件包源安装该软件包。例如，您可以使用--index-url选项来指定另一个软件包索引：
```
pip install --index-url / tokenizers
```
升级pip和setuptools：过时的pip和setuptools版本有时会引发问题。尝试运行以下命令升级它们：
```
pip install --upgrade pip
pip install --upgrade setuptools
```
安装Rust：tokenizers包依赖于Rust。确保您的系统上已安装Rust并且是最新版本。您可以按照官方Rust网站（）上的说明安装Rust。