旧金山初创公司 Memories.ai 正通过付费众包模式,采集人类操作的第一人称视角视频,用于训练人形机器人。该公司利用摄像头捕捉准备食物、整理货架及设备维修等场景中的细微动作,为机器人提供高保真训练数据。 硬件与平台布局 Memories.ai 推出了全球零工经济平台“Memories Upload”,贡献者可通过有偿录制视频任务协助机器人训练。其自研的可穿戴设备 LUCI Pin 相机重不足 45 克,支持磁吸固定于头部、胸部或手腕。两台相机可配对实现立体拍摄,提供有助于深度估算的视觉信息。 数据显示,在 Beta 测试平台上线的首个月内,该网络已记录超过 100 万小时的第一人称视频。公司计划在 2027 年 3 月前将数据规模扩大至 1000 万小时。Memories.ai 由前 Meta 研究员 Shawn Shen 和 Ben Zhou 创立,并于 2025 年 7 月宣布完成 800 万美元种子轮融资,由 Susa Ventures 领投,三星 Next 等机构参投。 行业趋势与技术路径 利用第一人称视频训练机器人已成为行业共识。人形机器人公司 Figure 通过 Index 平台付费让用户录制日常任务,以训练其 Helix AI 模型;专注具身智能“大脑”的 Physical Intelligence 则尝试将人类视频与遥操作数据结合。Physical Intelligence 联合创始人 Sergey Levine 指出,人类视频能补充机器人自身数据的不足,提供关于现实世界可能性的关键知识。 例如,在学习制作咖啡时,视频能展示握杯姿势、研磨机下的定位及防洒移动技巧。不同厨房环境和工具带来的差异性数据,有助于模型适应更广泛的任务场景。目前,开发人员正致力于将观察到的动作转化为适配机器人身体结构的执行指令。 Nvidia 技术赋能 从海量影像中提取有效细节是技术难点。Nvidia Cosmos 产品与工程总监 Rick Zhuang 表示,识别活动与理解手部具体操作、物体移动存在本质区别,尤其在摄像头移动或物体遮挡时更为复杂。 为此,Memories.ai 采用 Nvidia Metropolis 工具优化视频流处理,并基于 Nvidia Cosmos 模型系列微调视频字幕模型,对动作进行自动标注。此外,公司还针对客户特定任务对 Cosmos 进行后训练(post-training),使开发人员能通过搜索动作快速检索相关示例,无需人工观看数小时录像。Zhuang 评价称,Memories.ai 的核心价值在于使日常人类经验变得可搜索,并服务于机器人学习。 据悉,Memories.ai 的客户包括五家顶级前沿 AI 实验室中的三家,以及多家机器人开发商。受保密协议限制,具体客户名单未公开。CEO Shawn Shen 透露,客户需求正趋向更多样的工作环境、任务类型及摄像机角度(如手腕级视角),以捕捉头部镜头可能遗漏的手部交互细节。 隐私与合规 针对付费录制可能引发的隐私担忧,Memories.ai 建立了严格的合规流程。佩戴者及出镜同事须在录制前签署同意书。在数据跨境或交付客户前,公司使用自动化工具模糊人物面部,并遮盖徽章、屏幕、车牌等敏感信息,同时辅以人工抽样审查,确保隐私安全。 Nvidia 视觉代理物理 AI 生态部门负责人 Adam Scraba 强调,高质量、可追溯的训练数据集对物理 AI 解决方案至关重要,尤其是在处理重工业中高度专业化且高精度的任务时。