公告
🔥提供代码、复杂推理、多模态与智能体任务等领域的高质量原创任务数据,可添加:aiFreeCode 咨询
  1. 首页
  2. 青稞Talk
  3. LLaMA Factory:从预训练到RLHF,大模型高效训练框架

LLaMA Factory:从预训练到RLHF,大模型高效训练框架

  • 310 次阅读
  • 0 条评论
直播回放 即将开始

相关资源

演示文稿 (PPT)

直播配套幻灯片

下载

直播平台

点击播放 回放
加载中...
视频号直播二维码

打开微信扫一扫,即可观看回放

无法播放?

7月8日晚7点,青稞Talk第13期,北京航空航天大学博士生郑耀威,将直播分享《LLaMA Factory:从预训练到RLHF,大模型高效训练框架》。

分享嘉宾

郑耀威,北京航空航天大学博士生。以第一作者在ACL、CVPR、AAAI、WWW等国际会议发表多篇论文,担任AAAI、EMNLP、Neural Computation等会议和期刊审稿人。曾获得华为杯数学建模全国一等奖、蓝桥杯全国一等奖、北航榜样、北航博士新生奖学金。大模型训练框架LLaMA Factory作者,GitHub开源项目获得超过2万Stars,受邀至人工智能计算大会、阿里云AI智领者峰会、中国人民大学、智谱AI作大模型主题报告。

主题提纲

LLaMA Factory:从预训练到RLHF,大模型高效训练框架

  • 1、大模型高效训练现状
  • 2、LLaMA Factory 的构建动机与组成模块
    • 上百种大模型的全栈微调适配原理
    • LoRA算子优化加速方法
    • 多种微调Trick集成思路
  • 3、LLaMA Factory 部署实践

成果链接

直播时间

7月8日(周一)19:00 - 20:00

阅读 -- 次

讨论

0 条评论

登录后即可参与讨论、向作者提问

目录
正在直播 B 站

视频号直播二维码

用微信扫一扫,在视频号观看直播