QLora微调模型

一、配置信息

基座模型：Qwen2.5-0.5B
显卡：最低：4G显存
vcpu：4
mem：16G
共享型实例（ecs.sgn7i-vws-m4.2xlarge）
共享型GPU实例 sgn7i
A10 * 1/6

二、安装GPU驱动

创建实例->镜像->云市场镜像->搜索“深度学习”->-NVIDIA GPU Cloud VM Image with PyTorch->21.04.1