admin管理员组文章数量:1592447
Test
【Test-Agent----基于Centos7系统部署Test-Agent】
一、部署 Test-Agent
1.1 环境准备
环境基本信息:Centos7.9操作系统,16核64G+1T硬盘,Python3.9.7
1.2 部署 Test-Agent
(1)安装git-lfs
cd /opt
curl -s .rpm.sh | sudo bash
yum install -y git-lfs
git lfs install
(2)下载模型文件
cd /opt/
git clone .git
(3)下载 Test-Agent 源码,并安装依赖
cd /opt
git clone
cd Test-Agent
pip3 install -r requirements.txt
(4)启动控制器controller,默认启动端口 21001
cd /opt/Test-Agent
python3 -m chat.server.controller &
(5)启动Worker
cd /opt/Test-Agent
python3 -m chat.server.model_worker --model-path /opt/TestGPT-7B --device cpu &
(6)启动WEB服务
cd /opt/Test-Agent
python3 -m chat.server.gradio_testgpt &
(7)关闭防火墙
systemctl stop firewalld
(8)然后在浏览器打开比如 192.168.116.100:7860,即可打开WEB页面,如下图所示。
本文标签: Test
版权声明:本文标题:Test 内容由热心网友自发贡献,该文观点仅代表作者本人, 转载请联系作者并注明出处:https://www.elefans.com/dongtai/1716873503a523291.html, 本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。
发表评论