分享我的知乎AI训练营笔记

任务1: 在趋势云部署ChatGLM3-6B

• 任务时间 March 13, 2024
• 趋势云：https://platform.virtaicloud.com/
  • 这个平台的特色在于用户空间中，集成了Jupyter Lab, 可视化远程机器CPU,GPU, Memory等指标，可视化的数据集内容查看, 训练tensorboard可视化查看，都集成在了界面上，方便用户使用
• 学习教材：
  • 用免费GPU线上跑chatGLM、SD项目实践
  • GPU跑AI-流程安排
• 之前在知乎训练营上已经跑过在autodl平台部署chatGL3 + Fine Tune的任务了，该篇笔记在这里：
  • 使用GPU云平台进行Fine Tune实验札记
  • 它包括2部分：实验步骤 / Fine Tune过程代码分析
• 本次打卡：

创建项目

run web_demo_gradio.py

web_demo_gradio 后台消息

web_demo_gradio 运行界面

运行streamlit run web_demo_streamlit.py

加载模型，耗费12G左右GPU显存

运行streamlit web界面

• Question:
  • ChatGLM的权重文件在哪里？ /gemini/pretrain , 这个文件夹是12G;
• Todo:
  • 分析趋势云的部署ChatGLM3的代码

任务2: 部署SD

• 打卡

vim打开stable-diffustion的launch.py

创建项目SD