05 多模态 基于MiniCPM V进行全参微调和lora微调

05 多模态 基于MiniCPM V进行全参微调和lora微调

唐国梁Tommy

54 года назад

429 Просмотров

在本节课中,我们将专注于 MiniCPM-V 模型的微调技术,特别是如何在具体的下游任务中应用预训练的 MiniCPM-Llama3-V 2.5 和 MiniCPM-V 2.0 模型。课程内容包括如何使用 transformers Trainer 和 DeepSpeed 来配置默认的微调脚本。我们将深入探讨如何自定义训练数据集,以及如何修改代码以实现全参数微调。此外,本课还将详细介绍基于 Lora 技术的微调方法,帮助你理解并掌握这些高级微调技术。通过本课程,你将获得在复杂项目中实施模型微调的实战经验和技能。

多模态系列课程相关资料,请在以下GitHub页面自助获取:
https://github.com/Tommy-s-Online-Courses/Multimodality.git

Тэги:

#minicpm #大模型 #多模态 #LLM #Lora #模型微调 #AI
Ссылки и html тэги не поддерживаются


Комментарии: