LoRA 现已成为 Hugging Face PEFT(Parameter-Efficient Fine-Tuning)库的核心方法之一。开发者可通过 LoraConfig 指定秩、目标模块、缩放因子等参数,再用 get_peft_model 快速为任意预训练模型注入 LoRA 层。
PEFT 封装了低秩层的注入、可训练参数筛选与检查点保存等细节,开发者只需在标准训练流程中调用相应接口,即可基于 transformers 生态完成 LoRA 微调。
除 PEFT 外,LoRA 也被 diffusers 等库集成,用于扩散模型的微调,并得到多家云与算力平台的支持,便于在云端 GPU 环境中开展训练与部署。