具身 ICL 来了创业玩家,上下文成 Scaling 新赛道
22 分钟前
2020 年 GPT-3 的 In-Context Learning(ICL)震动 NLP 界,如今该思路在具身智能领域兴起。8 月,Skild AI 发布机器人基础模型 S1,看一遍任务演示视频即可在不微调的情况下完成新任务。Generalist AI 发布 GEN-1.5,具备 One-Shot Learning 能力。国内创业公司可可矩阵致力于将 ICL 做成具身智能底层范式,其创始人高宇翔曾在傅利叶参与打通全尺寸人形机器人链路。相较于此前具身智能靠堆数据的路线,如今行业开始关注机器人的学习与适应能力,ICL 成为新方向,但具身领域的 ICL 面临视觉理解、多模态、长上下文与记忆三大技术难点。可可矩阵采用将 ICL 前置到预训练阶段的思路,打造「条件表征」实现动态提取信息,秉持「强理解、轻生成」理念,目前简单任务 One-Shot 适配完成率稳定在 80% 以上,还探索 Self-Correction 能力,未来将关注机器人学会新任务的耗时。公司名称源于 COEXIST、COWORK、COLLABORATE、COEVOLVE 四个词。
体验专业版特色功能,拓展更丰富、更全面的相关内容。