精选文章 LoRA 不必适配所有层:DeepSeek-V4.1-Flash 新架构下的微调新思路 作者:Mind Lab 原文:https://www.mindlab.im/updates/adapting-causal-encoder-decoder-models-with-lora 摘要 新架构改变了 LoRA 该放的位置 DeepSeek-V4.1-Flash 是因果编码器–解码器:共享
青稞Talk MinT: 面向百万级 LoRA 策略的训练与推理基础设施 大模型后训练会带来一个很现实的系统问题:模型会不断产生新版本。一次强化学习实验、一个产品功能、一个客户、一组评测结果,都可能对应一种新的模型行为。基础模型本身又非常大,动辄万亿参数规模。系统如果把每种行为都保存成一份完整模型,再分别加载和部署,成本会很快失控。 MinT 是一套面向这个问题的大模型后