lora代码 文章 进入lora代码技术社区

拿LoRA代码来微调大模型

• 1 简介LoRA上一期介绍了如何复用免费的大模型源代码，来搭配企业的专有数据而训练出形形色色的自用小模型。免费代码既省成本、可靠、省算力、又自有IP，可谓取之不尽、用之不竭的资源，岂不美哉！重头开始训练自己的小模型，是一条鸟语花香之路。然而，基于别人的预训练(Pre-trained) 大模型，搭配自有数据而进行微调(Fine-tuning)，常常更是一条康庄大道。随着LLM 等大模型日益繁荣发展，基于这些大模型的迁移学习(Transfer learning)，将其预训练好的模型加以微调(Fine tune
• 关键字： 202401  LoRA代码  大模型