RSI,正在重走深度学习的老路
作者:南冥有一鱼 https://zhuanlan.zhihu.com/p/2093754106439545815 过去一段时间,RSI(Recursive Self-Improvement)正在从一个遥远的设想变成现实。市面上出现了一大批可以动手实验的论文和方法。这些论文有的修改自己的 Skill
作者:南冥有一鱼 https://zhuanlan.zhihu.com/p/2093754106439545815 过去一段时间,RSI(Recursive Self-Improvement)正在从一个遥远的设想变成现实。市面上出现了一大批可以动手实验的论文和方法。这些论文有的修改自己的 Skill
作者:Shilong Liu,Postdoc Princeton,哥大助理教授(拟入职) https://lsl.zone/blog/2026/a-taxonomy-of-self-evolving-agents/ 自进化 Agent(Self-evolving agents)正变得越来越流行。 H
过去一年,OPD 强势改写大模型后训练格局,消融蒸馏与强化学习的技术壁垒,驱动模型从静态对齐迈向自主进化,一众关乎 AI 自我迭代的前沿疑问应运而生。 在 5 月 30 日,#青稞AMA 第 3 期:On-Policy Distillation(OPD) 专题中,青稞社区邀请到了当前 OPD 方向最
作者:storm 原文:https://zhuanlan.zhihu.com/p/2025536259628569667 英文博客:http://yuqianfu.notion.site/revisiting-opd 论文链接:https://huggingface.co/papers/2603.2
A Comprehensive Textbook on AI Agent Infrastructure Design "The model is the agent. The code is the harness. Build great harnesses. The agent will do
作者:Escapist https://zhuanlan.zhihu.com/p/2009410859999437740 Introduction 从 SFT、RLHF/RLVR 到 On-Policy Distillation 大语言模型的后训练在很长一段时间内有两种主要的方式。 第一个是监督微调
作者:一木不 原文:https://zhuanlan.zhihu.com/p/2004306938188537902 关于On-Policy的工作,我感觉大部分在卖概念,没有太本质上的创新,比如一会说On-Policy Distillation是SFT、一会说是RL,但感觉不如就叫它Distilla
作者:Yancheng He, Weixun Wang, and Xiaoyang Li | Project Leader: Weixun Wang English Version:https://www.notion.so/The-Bitter-Lesson-Behind-Building-Age
直播间的观众朋友们,大家好。首先祝大家新年快乐。刚刚过完假回来,今天很高兴受邀来到青稞社区给大家做一个技术分享。主题是关于 MiniMax M2.1 的 Agent 后训练技术。 我先简单介绍一下 MiniMax M2.1。M2.1 是我们在上一代 M2 模型的基础之上,进一步做了后训练优化的模型。
序章:三条哲学 在探讨技术之前,我们需要先确立三条基石性的认知: 人类的本质:人类在生物界的独特性在于高等智慧,而人与动物的分野,在于制造与使用工具的能力。 大模型的定位:ChatGPT 标志着人类首次赋予机器高等智慧。大模型之于现代人类,如同智慧之于原始人类,不仅不可或缺,更不可退化。 Agent
作者: ZxZhao,复旦大学集成电路与系统设计博士 https://zhuanlan.zhihu.com/p/1988221694591128167 大模型部署技术的演进太快了,相信有很多朋友两三年没有关注这个领域,对相关的名词已经是一头雾水了。这篇文章以杂谈的形式,和大家聊聊这里的几个关键技术节
作者:初级程序员 https://zhuanlan.zhihu.com/p/1978480903136245222 本文面向已了解强化学习中策略梯度(policy gradient)、优势函数(advantage)、重要性采样(importance sampling)等概念的读者,重点对大模型强化学
完整PPT下载:【https://t.zsxq.com/gXFFx】 在往期 Talk 分享中,RLinf 团队的林灏、臧宏之分别为大家讲解了 RLinf 的系统设计以及 RLinf VLA 的实践。本期 Talk 我们继续和 RLinf 团队、北京大学博士生陈康一起聊一聊面向流匹配 VLA 的强化
本工作于字节跳动完成。首次发布于2025年9月17日。 原文:https://richardli.xyz/rl-collapse 图1. 我们在Qwen3-14B-Base上进行的四次失败的GRPO TIR实验的奖励(左)和gradient norm(右)。所有实验在每个训练步骤采样 1024条轨
作者: 朵朵菊花向阳开 青稞社区为科研人员提供成果宣传支持,如有优秀研究成果分享推广,欢迎投稿联系:aiFreeCode 感谢青稞社区和知乎的邀请,在几周前有幸作为主持人 host 了一场关于 RSI 的 AMA,直播传送门:https://qingkeai.online/blog/2026-RSI
从5000小时真实触觉数据开源,到\mathcal{N}_0系列触觉具身模型,新智具身早已展开系统性探索。 近日,蚂蚁灵波开源LingBot-Touch之后,触觉模型再次被推到了聚光灯下。行业开始认真讨论一个问题:机器人已经有了视觉,为什么还需要触觉? 答案并不复杂,视觉看似适配各类任务,但“能做”
千里之堤,溃于蚁穴 ——《韩非子·喻老》 ✨ AutoRLBench把真实的 RL 训练事故整理成一套智能体基准:考察 agent 能否发现训练失败、定位根因,并真正修复问题。 💻 GitHub:https://github.com/Thinking-Space/AutoRLBench 📖 博客全文
试想这样一个场景:一位用户请 AI 助手协助准备周五的项目汇报。AI 助手收到要求后,可以整理材料、生成图表、写好讲稿。用户没有继续交代时,它能否发现某张图仍在使用旧数据,或某个关键结论缺少支撑?发现问题后,它应当先准备修改方案,还是立即向用户确认? 这些问题涉及一项容易被任务完成率掩盖的能力:主动
机器人数据不足且难以跨本体复用:夹爪录的“把杯子放进盒子”换到灵巧手上,手型和接触就全变了,机械臂、人形机器人、夹爪、灵巧手动作空间对不上,一批数据往往只能喂一个本体。另一边,人类第一人称视频数量巨大,却与机器人之间存在本体差异。 11月5日,青稞Talk 166 期邀请到 Ropedia W0 一
作者:刘景初 原文:https://zhuanlan.zhihu.com/p/2098528942038823244 10 月 20 日,DeepSeek 开源了线上服务用的推理框架 DeepInfer,它的技术设计我在《技术设计解读》里分析过。不出意料,其他开源推理框架快速跟进。之后一周,vLLM
作者:Shengyu Feng 原文:https://shengyu-feng.github.io/blog/2026/10/13/beyond-RL 青稞社区为科研人员提供成果宣传支持,投稿联系:aiFreeCode 在上一篇博客中,我们讨论了如何将强化学习理解为从基于能量的分布中采样: p(x)
引言 “从抽屉里取出杯子,放到桌上”,人一听就懂,机器人却要拆成好几步:打开抽屉、拿起杯子、把杯子放到桌上。每一步做什么、操作哪个物体、从第几帧开始、到第几帧结束,这些信息才是机器人真正需要学的“分步教程”。 现实是,机器人数据越攒越多,这份教程却几乎没人写。绝大多数数据只有一句任务级指令;少数带子
大语言模型会修漏洞,但它真的修对了吗? 大语言模型已经能够阅读代码、定位问题、生成补丁,还可以在修改后运行测试。看起来,自动漏洞修复似乎已经进入了“让智能体自己完成任务”的阶段。 但漏洞修复有一个容易被忽略的问题:补丁通过测试,并不一定意味着安全问题已经真正解决。 一个智能体可能只针对某个示例输入打
大模型已经成为许多人学习和工作中的帮手。但你有没有想过:它答错一道数学题,和给出一条错误的用药建议,能算同一种错误吗? 如果大模型答错一道数学练习题,你可能只需要重新计算;给错一次出行建议,你可能会错过一趟火车;但如果它给出错误的用药建议,甚至可能会危及生命。这三个错误产生的现实后果显然不同。但在准
一次成功操作、一段纠错反馈,能否成为智能体下一次进步的起点?Cortex 将经验带来的帮助沉淀为长期参数记忆,在学习新内容的同时尽量保留已有能力,为智能体的持续自我改进提供可积累的基础。 一个智能体(Agent)接到任务后,会查阅文档、调用工具、尝试不同方案。在解决问题的过程中,它可能借助文档用对了
Personal Agent,可能是人类实现「永生」的版本答案 一个有点可怕的想法:也许未来人类的死亡,不再意味着一个人的彻底消失。 最近在做 DeepMate,一个围绕人与 Personal Agent 的记忆、身份和社交关系构建的 AI 产品。 在思考 Agent 的长期记忆机制时,突然意识到一
正文 在 RoboDojo 上,Qwen3.8-Flash-Next 通过直接操控机器人的方式拿到 31.39 分。这个分数,比 GPT-6 Astra 此前榜单上公开的 28.97 分更高。Qwen 以约 6.6% 的成本,跑赢 Astra 公开成绩。 一个开源、权重可以下载、单局调用成本只有 1
机器人实时控制面临一对天然矛盾:要判断物体如何运动、任务进行到哪一步,需要足够长的视觉历史;但一旦处理历史,动作就会变慢。更关键的是,给模型历史,它不一定会用。 10月27日,青稞Talk 162 期邀请到 Long-WAM 第一作者、香港大学 ECE 博士生(NVIDIA Research Eff
写在前面 写这篇文章是一次极其耗费心力的长途跋涉。发出了希望能和大家一起交流。 但受限作者个人的认知边界,书中内容难免存在疏漏、偏颇甚至错误之处。技术的探讨在于碰撞与纠错,若各位朋友在阅读时发现笔误、或者是作者思路狭窄未能理解核心奥义,非常欢迎指正交流。 作者:去尘 https://zhuanlan
作者:Mind Lab 原文:https://www.mindlab.im/updates/adapting-causal-encoder-decoder-models-with-lora 摘要 新架构改变了 LoRA 该放的位置 DeepSeek-V4.1-Flash 是因果编码器–解码器:共享
作者:The SGLang Team 原文:https://www.lmsys.org/blog/2026-10-24-dsv41-deepinfer 摘要 在 DeepInfer 自己的基准上打平或领先 4x GB300 和 4x B300 上,prefill 吞吐最高到 1.04 倍;64x G
转眼间已经距离Astra横空出世过去了好几个月了,这段时间也出了非常多的RSI、Harness系统刷爆了仿真,特别是之前被誉为珠峰的Robodojo,平均一周榜首换两三个,还基本上都是Agentic系统。 在这个狂欢下,我们不禁注意到,仍然有若干问题是agent无法解决的,以及一些是即使到GPT7、
作者: Baiqiao Yin https://yyyybq.github.io/blog/phd-blind-man-and-cat/ GPT-6 正在操控一台双臂机器人插花。握着花的那只手臂,腕部相机看不见瓶口;于是它把空着的另一只手臂挪过去,让那只手臂的相机对准瓶口,再把花插进去。 没有人教过
一篇机制拆解笔记。基于 Qwen2.5-7B-Instruct 上的十二次变量分解实验(screening-level:每臂 n=5 paired seeds,不做显著性检验)。 读完应能回答:为什么「把记忆塞进 KV cache」有时好使、有时会把任务框整个塌掉。 做长程 Agent 时,大家都绕
从 DeepSeek-V4 到 Qwen-3.8、Kimi-K3、GLM-5.3,每⼀次超⼤模型的开源都带来性能上的巨⼤跃升。 然⽽,随着模型规模越来越大,多数研究者与开发者只能尝试调用 API,无法在资源受限条件下进行微调,这进一步限制了大家探索前沿模型的特性,也难以把他们适配到自己的业务任务中。
作者:CoworkEnv 团队 青稞社区为科研人员提供成果宣传支持,如有优秀研究成果分享推广,欢迎投稿联系:aiFreeCode 假设你向一个 AI 同事提出请求:找出超过 48 小时仍未关闭的企业客户工单,并向对应的客户经理发送工单升级处理的通知邮件。 要完成这项工作,Agent 需要查询工单、核
作者:Kaichen Zhou 青稞社区为科研人员提供成果宣传支持,如有优秀研究成果分享推广,欢迎投稿联系:aiFreeCode 每任务 30 条遥操作示范,让触觉在视觉更新之间及时修正动作。 在四项真实机器人任务上,T-WLA 将平均成功率从 17.0% 提升至 50.0%,增加 33 个百分点。
昨天,EAGLE-4 发布了,作为前 EAGLE Team 成员,想结合技术报告,聊聊它的设计,以及我参与研发时的一些实验和取舍。 作者:给你你的 https://zhuanlan.zhihu.com/p/2096797064151701313 先简单介绍一下背景:我在 2025 年 8 月至 20
作者:Kaichen Zhou 青稞社区为科研人员提供成果宣传支持,如有优秀研究成果分享推广,欢迎投稿联系:aiFreeCode 每任务 24 条参考轨迹,只引导一个内部特征,动作模型权重保持冻结。 在三项真实机器人任务上,SteerAct 将平均成功率从 31.1% 提升至 52.2%:增加 21
作者:岳博,在香港中文大学(深圳)在读博士 青稞社区为科研人员提供成果宣传支持,如有优秀研究成果分享推广,欢迎投稿联系:aiFreeCode 谈到具身智能,我们很容易想到更强的视觉语言模型、更多的机器人数据,以及更好的控制策略。但有一个问题往往被放在了训练之外:如果机器人的身体本身不适合任务,再聪明
前言 作者:周星星(星仔) 原文:https://zhuanlan.zhihu.com/p/2095863677282996988 大家好,我是星仔。这篇我们聊 OPD(On-Policy Distillation)。 2025 年 10 月,Thinking Machines Lab 在同名博客里
碎碎念 DeepSeek-V4发布CSA的时候,我对比了一下HISA和CSA的异同,跟身边的同学说,CSA相比HISA确确实实的能减少KV Cache,但是效果会比HISA差一些。但是当时也没有想到如何很好的把这种优势通过实验给展示出来。 看到字节Seed团队最新发布的论文《Periodic Wea
当推理模型需要连续生成几万 token 时,GPU 显存里保存的不只是输入问题,还有不断增长的中间推理历史。对于长链式推理(long-chain reasoning),KV Cache 往往成为限制并发和吞吐的重要瓶颈。 压缩 KV Cache 的常见做法是:先判断哪些历史位置最值得保留,再按照固定
一张表格,经过 OCR 和结构解析,变成了整齐的 Markdown。数字看起来齐全,语法也没有问题,但模型仍可能算出一个错误答案:它用到的数字,属于另一组表头;问题限定的高亮单元格,在转换后已经失去了颜色;决定数值含义的单位和脚注,也可能没有进入输入。 当证据在转成文本的过程中发生了变化,后续推理再
只有 1.7B 参数,却在双臂操作基准上超过 6B、8B 模型;四个操作基准,全部拿下论文对比方法中的最高整体成功率。 世界动作模型(World Action Model,WAM)的竞争,迎来了一条值得关注的新路线。 当不少研究还在借助预训练视频模型学习动作与未来画面时,香港中文大学(深圳)团队推出
当你让 personal agent 帮你规划一次出行时,它能否结合过去的交流、近期的搜索和最新的反馈,理解你这次的预算、偏好与实际需求?几个月前你喜欢紧凑的行程,这一次却想轻松休息,agent 就需要识别需求的变化,并据此调整安排。 大模型已经从回答问题走向参与决策与执行。随着它们承担个人助理、复
从 DeepSeek-V4 到 Qwen-3.8、Kimi-K3、GLM-5.3,每⼀次超⼤模型的开源都带来性能上的巨⼤跃升。 然⽽,随着模型规模越来越大,多数研究者与开发者只能尝试调用 API,无法在资源受限条件下进行微调,这进一步限制了大家探索前沿模型的特性,也难以把他们适配到自己的业务任务中。
从VLA到WAM,主流的模型都在通用的基座模型作为base model去改造,但通用基座模型真的靠谱吗? 所谓的具身基模又真的训对了吗? 当一个基座模型被改造成 VLA、承担 System 1 的执行角色时,最需要的究竟是什么能力或数据? 人类整理拥挤的桌面,需要先找到杯子和把手,再决定怎样抓取——
作者:纪牛牛 https://zhuanlan.zhihu.com/p/1924074563257480838 日本顶尖AI实验室Sakana AI发表了一篇论文,就像来自富士山的清新空气一样令人耳目一新。他们提出了对蒸馏方法的全新思考,使用较弱的模型训练出更强的模型,这在过去被认为是不可能的。 今
清华大学车辆学院与人工智能学院团队提出最新研究成果《Self-Adjoint Flow Policy Optimization》,构建了面向在线强化学习的自伴随生成式策略 SAFLOW。论文已被 NeurIPS 2026 接收。OpenReview 评审评分为 5 / 5 / 5 / 4(6 分制)
作者:zqzzq,人大高瓴人工智能学院直博 TL;DR 一句话:RoPE 把位置先验直接写进架构;NoPE 把位置交给模型隐式学习。所以有一个趋势是把两者结合分工。 RoPE 好在哪:用绝对位置的旋转,得到只依赖相对距离的内积(”绝对进、相对出”)。 RoPE 坏在哪:注意力分数本质是一堆不同频率余
AdaFlash 让投机解码在线自我改进,同时减少大模型无效工作,大幅提升高并发下的推理速度 DeepSeek 的 DSpark 让“投机解码推理加速”成为行业热点,尤其是在高并发的工业生产场景中。几乎同期时间,南京大学与华为基础模型团队共同提出的 AdaFlash,从扩散草稿模型的高方差出发,给出
具身智能真正的壁垒在数据。 如果类比大模型的发展,大家都会谈 Scaling Law:模型、算力和数据共同决定模型能力。在机器人领域,也已经有研究观察到了类似的 scaling 趋势——随着数据、模型规模和算力增加,机器人策略的性能也会持续提升。 但问题在于,这三件事情的可扩展性并不对称。 模型架构
作者:叶文萱,tum在读博士 论文:Select to Think: Unlocking SLM Potential with Local Sufficiency Paper: https://proceedings.mlr.press/v306/ye26r.html Code: https://g
在陌生房间里,你向左转身,门从眼前移到了右侧。你知道,门没有动,变的是自己的朝向。但视觉语言模型(VLM)即使能认出每一帧里的门,也未必能准确判断这次转向。再多走几步,它还需要把沿途的变化连起来,才能知道最终到了哪里。 这揭示了空间智能中的一个关键差别:看懂每一帧,不等于理解一个连续变化的世界。现有
作者:Palind 最近的 Score Centering 居然有整整五种解释方法🫠🫠🫠每一个角度都很有趣! 本文详细整理了五个解释 Score Centering(SC)的角度,而且每个都附上了出处链接。本文就是:「五等分的 Score Centering」。😉 TL;DR 视角 对 SC 的解释
作者:王昊,中山大学博士 01. 倒一杯水之前,大脑先做了什么? 倒一杯水,看起来只是一个动作。但手还没伸出去,大脑已经忙了一轮:先认出杯子和水壶在哪,再预想手怎么移过去、水会怎么流进杯子,最后才决定手腕倾斜多少、什么时候停。 心理学家 Kenneth Craik 在 1943 年就写过类似的想法:
本文介绍中国科学院大学人工智能学院、清华大学车辆与运载学院与蚂蚁集团联合完成的最新研究成果《Object-Uni: A Unified Model for Object-Centric Spatial Understanding and Controllable Generation》。论文由谭米宁
作者:苏浩阳,复旦大学Ph.D Claude Code、Codex 让我们看到了编程智能体的潜力,也让一个训练问题变得更加具体:当模型能够连续执行命令、修改文件并根据反馈修正策略时,强化学习如何充分利用这些交互经验?任务最终是否成功提供了监督,但一条轨迹中包含的动作结构与决策差异,远比一个最终分数丰
用 Agent 写代码,一个任务通常不止一次问答。它要读文件、调用工具、修改代码、跑测试,再根据结果继续行动。 在同一个会话里做得越久,积累的历史就越多。之前读过的文件、重复的测试日志、已经结束的任务,都可能继续跟在后面的请求里。当前只想改一个小功能,却要带上越来越多的旧信息。 这段时间,我们围绕这
详细的语言描述,并不等于准确的视觉定位。 让模型框出“餐盘右上角的西兰花”,它可能完整描述了食物类别和相对位置,却仍把相邻的一簇圈进目标框。视觉指代定位要求将语言理解落实到具体区域与精确边界;流畅的解释本身,并不能保证中间空间判断可检查、最终坐标可纠正。 这一落差也要求重新审视后训练的终点。对于已经
做Agentic rl infra也有一段时间了,这期间也一直在跟进国内几家头部大模型公布的RL infra技术细节, 感觉到这个时间点,技术路线已经逐渐趋近收敛, 不太像去年年底那时候agentic rl infra还是刚起步的蛮荒状态。 本文基于 11 份 2025–2026 年公开技术报告与官
TLDR 刚入职就被老板抓来做megakernel,问及怎么做,曰:不知道,问及目标,曰:世界一流水平。 本文关注 GLM-5.2-FP8 在 decode 阶段执行完整 Indexer 的一个 Transformer layer,并优化这一层进入 Sparse FlashMLA 前的计算。 测量范
简介 具身模型(VLA)失手后很难自己改错,而让 VLM 每一步都当指挥又太慢。Spotter 反过来:具身模型一直执行,本地 Qwen 并行盯着,确认出错时才由 VLM 出手修复并反思,修完交还控制。同样步数下成功率更高,成功的回合只多十几秒,本地一个千问就能跑。 论文:Spotter: Let
1. 前言 系统跑得快不快,很多时候不取决于纸面 FLOPS,而取决于真正落地的 kernel 质量。吞吐、效率和成本更多由 kernel 能否充分利用硬件决定,而不是硬件峰值本身 1。这在数据中心里是真金白银的差距:粗略估计,优化后的 kernel 每年在全球至少节省数亿美元 2。在每天数亿次调用
开场:同一笔账的两次报价 2024 年 5 月,DeepSeek-V2 的技术报告里出现了一组不太像论文的数字。相对同门的 DeepSeek 67B 稠密模型,它的训练成本省下 42.5%,KV cache 减少 93.3%,最大生成吞吐提升到 5.76 倍。 三个数字指向三笔不同的账。训练成本是卡
最近的 BPO 与 Score Centering 两个工作热度很高,BPO 的作者也分享对比了两个方法。😉 Score Centering:解释 training–inference mismatch(TIM)为何制造 drift,并消除它。 BPO(Bellman Policy Optimiza
在这里分享一下兜兜转转了大半年的工作,Diffusion Reward Models,拿 diffusion 来做 reward modeling。 TL;DR 人对同一个回答本来就可能有不同意见,Reward Model 为什么最后一定要压成一个分数? 1、 我们先看了下真实的人类标注,发现这种分
工业搜索长期围绕同一条技术主线演进:让结果「找得更全、排得更准、转化更高」。查询理解不断深入,召回覆盖持续扩大,排序目标日益精细,生成式搜索与大模型也在持续拓展系统的能力边界。 但随着系统日趋复杂,真正制约迭代效率的已不只是能否设计出更强的模型,而是:如何在持续变化的真实流量中,稳定地找到并验证可信
模型 核心做法 N-gram 地址映射 注入位置 Context-aware Gate 参数,比例 Over-Tokenized Transformer (OE) Hierarchical N-gram → Feature Hashing → sliced low-dim embeddings →
论文:Bellman Policy Optimization 链接:https://arxiv.org/abs/2609.15987 作者:Zhuoqing Song、Haotian Xu 1. 为什么 RLVR 会变成离策略学习 可验证奖励强化学习(Reinforcement Learning
Adam 的核心操作之一,是利用梯度的二阶矩对更新做归一化。对第 i 个参数坐标,Adam 维护 v_{t,i}\approx \mathbb E[ g_i^2],计算参数更新 \Delta \theta_i\propto-\frac{ m_i}{\sqrt{ v_i}}. 如果把梯度二阶矩写成 H
当全世界都在疯狂给大语言模型堆算力、卷数据、扩上下文时,我们是否曾停下来质疑过那个统治了整个生成式AI时代的底层铁律——Next Token Prediction(下一个词预测)? 人类说话写文章,从不是大脑里机械地蹦出一个字才去想下一个字;我们永远是 “先有概念与意图,后有遣词与造句”。 近日,来
随着 DeepSeek-V4.1-Flash 的发布,YOCO 也重新进入大众视野。在我看来,YOCO 是一篇非常优秀的工作,基于 YOCO,也出现了一些有趣的变种。 YOCO 的 motivation 主要有以下两点: 1、 Prefill–Decode(PD)不对称 Prefill 的主要工作是
核心技巧: 通过离散一致性蒸馏做 warmup、确定初步结构、逐步引入连续一致性蒸馏和分布蒸馏;音视频采用不同 shift、量化策略。 引言 文生视频正在从只有画面走向音视频联合生成。电影片段、游戏 CG 和短视频里的声音需要跟随画面中的动作发生,不仅需要语义对齐,节奏和时间也要同步。文本到视频音频
AgentArk 是一个面向多模态智能体的开放环境框架。核心思路是利用 Coding Agent 持续扩展 task,并让同一批环境同时支持 Agentic RL 训练与评测。 AgentArk:https://github.com/P90-RushB/AgentArk AgentArk Hub:h
近日,由中国科学院信息工程所、小米 MiLM Plus、南开大学、宾汉姆顿大学合作完成的研究成果《UniTranslator: A Unified Multi-modal Framework for End-to-end In-Image Machine Translation》被 ECCV 202
LoRA 第一作者、OpenAI o1 核心成员 Edward Hu 近期加入 Mercor,担任 Head of AI Modeling。他加入后的首批公开成果之一,便是与 SkyRL 团队联合发布的一套面向复杂知识工作 Agent 的强化学习方案。 这项工作并未止步于公布最终结果,而是系统公开了
工具调用、长链推理和环境交互,让 Agent 的每条 rollout 都有自己的节奏:有的很快完成,有的需要多轮交互。训练算法也需要适应这种不规则性,让独立完成的轨迹能够持续进入学习过程。 我们推出 FlashREINFORCE,一个面向 Agentic LLM 的 critic-free、sing
作者:朵朵菊花向阳开 原文:https://zhuanlan.zhihu.com/p/2079700159114507443 青稞社区为科研人员提供成果宣传支持,如有优秀研究成果分享推广,欢迎投稿联系:aiFreeCode 我们很高兴发布 Rethinking OPD 系列工作的第二篇,从数据视角看
今天的具身模型,已经能够看懂环境、理解指令,并把看到的、听到的信息转化为机器人该怎么动的决策。 但机器人最终还是要在物理世界里连续干活——从“眼睛看到”到“大脑决策”再到“手脚动起来”,整套流程都需要在极短的时间内完成闭环,这也是具身智能从 Demo 走向规模化应用,绕不开的核心关卡。 而当一个在云
原文:https://prism-shadow.github.io/awesome-rsi/#blog/understanding-rsi RSI(Recursive Self-Improvement)这个概念最近热度很高。与之相近的表述还有自进化、Self-Evolving、Self-Improv
原文:https://waynejin0918.github.io/how-far-native-ar-video/zh.html 作者:Weiyang Jin,香港大学 语言模型里,自回归的意思其实早就清楚了。预训练拟合的就是 p(w_{1:n})=\prod_i p(w_i\mid w_{<i}
随着大模型Agent逐渐具备自主规划、工具调用、网页访问和多步任务执行能力,Agent安全正在面临新的挑战。 过去,安全对齐往往主要关注模型最终输出是否有害,例如是否拒绝危险请求、是否生成不当内容。但对于能够与外部环境持续交互的Agent而言,风险可能发生在最终回答之前,也可能隐藏在中间决策、工具调
世界模型正在成为空间智能和物理AI的重要技术主线。真正的世界模型不应只是逐帧生成逼真的像素,还需要理解当前视角所处的物理世界朝向、场景的几何结构,并支持对世界的建模与连贯模拟。 在这一方向上,来自南洋理工大学S-Lab和大晓机器人等机构的研究团队近期发布了 Puffin-World。它让同一个模型同
AI能连续生成一分钟视频,就算解决了「长视频」问题吗? 真正的考验,往往发生在主角离开镜头之后。 第一幕,一个穿特定服装的人出现在实验室;第二幕,他离开画面;第三幕再次返回时,模型可能已经给他换了脸、换了衣服,甚至把原本应该回来的物体也一起「忘」了。 原因并不神秘。自回归视频模型通常一段一段生成画面
当AI成为与人长期共生的AGI Being时,默契也将成为人机关系的一部分。 所谓默契,就是你不用反复交代过去,它也知道你为什么此刻提起此事;你的想法改变了,它也能及时跟上。 这种默契需要记忆。即使你没有重新提起过去的经历、偏好和感受,它也能听懂你此刻的话。 但在实时语音里,留给AI寻找这些的时间非
先放最终后训练完成的模型地址: https://modelscope.cn/models/Merkyor/Qwen3.8-27B-EfficientThink-K3-Opus5-Grok4.6-GPT5.6Sol-SFT-SimPO-DFlash2 这件事一开始看起来挺简单。Qwen 3.8 27
引言 MiniMax-H3 是当前开源社区中最受关注的音视频生成模型之一。它是一个通用的多模态生成模型,接收文本、图像、视频、音频等多种输入,直接输出带原生立体声音轨的视频,支持最长 15 秒、最高 2K 分辨率、24 FPS、32 kHz 立体声。 在 Artificial Analysis 的
论文标题:StudentSim: Training LLM-based Student Simulators 论文链接:https://arxiv.org/abs/2609.01591 Huggingface Paper 主页:https://huggingface.co/papers/2609.0
摘要 在大模型(Large Language Models,LLM)预训练中,超参数是影响效果好坏、控制模型训练动态的关键因素。 而学习率(Learning Rate, LR)作为预训练中最重要的超参数之一,却无法精确控制模型参数的演化速率,其最优取值又往往随模型和数据规模的扩大而改变。 本文引入了
进城大之前,暑假写了两个小文章: 首先是Is SwiGLU's Open Positive Tail Necessary? Evidence from Closed-Tail Gating with MemGLU 。这篇文章是一个针对MLP激活门控的小论文:从RELU到SwiGLU,大家似乎默认了开
如果一个 Agent 用几十轮工具调用完成了一项任务,最后只得到一个 0/1 reward,这个 reward 应该怎样分配给前面的决策? 这是长程 Agentic RL 中一个很核心、但也很容易被“最终成功率”掩盖的问题。 一条轨迹最后失败,不等于前面的搜索、文件处理和代码执行全部错误;一条轨迹最
作者:Yucheng,HoloMotion-1作者,目前在地平线机器人实验室负责相关研发工作 https://www.zhihu.com/question/2040119808587457550/answer/2076879019094684474 地平线开源 HoloMotion-1 机器人小脑大
今年,AI 的竞争正在悄悄换一个方向:决定一个 AI 系统能力的,开始不只是模型本身,还有模型外面的那套“工作方式”。 过去,我们想让一个模型变强,通常意味着继续训练它:更多数据、更好的反馈、更大的计算量,本质上都是在改变模型内部的参数。但 Agent 时代正在让另一条路线变得越来越重要:模型可以完
Harness基模JIT-27B,为每个任务写一套“Claude Code” Agent benchmark 通常把模型视为能力的主要来源,但同一模型只要更换记忆组织、规划协议、工具暴露方式或错误恢复流程,最终表现就可能跨越一个明显的档位。 这样的差异来自 Agent Harness:它定义模型在什
Lego-RL 是一套面向 Coding Agent 的强化学习训练框架,也是 LegoX 系列的最新工作,由华为与香港中文大学联合团队完成。 论文:https://arxiv.org/abs/2608.17393 代码:https://github.com/LegoX/Lego-RL 文档:htt
近期最火的一个词,当属 RSI,全名为 Recursive Self-Improvement。简单来说,就是让 LLM / Agent 不仅完成任务,还能利用自己产生的经验、数据、反馈甚至代码,迭代地改进自己。 实际上类似的术语非常多:self-evolve、self-play、self-refin
作者:Yuwei Niu https://x.com/purshow04/status/2089737243267322349 从 Infra 角度看,为什么去掉 Encoder 更好 在过去半年,我研究上的主要叙事成为了尽可能去除 Inductive Bias,我也跟随 @Haiwen 成为了 E
作者:Hongliang Cao https://chlience.com/articles/agentic-rl-research/ 推理 一次模型调用 对于一次典型的 agentic inference,第 i 次模型调用可以分为三个层次:agent harness 维护的内部状态、按照特定协议