Clio: Real-Time Task-Driven Open-Set 3D Scene Graphs
以信息瓶颈按任务选择地图中应保留的对象与粒度,并在机载算力上实时构建层级开放集 3D 场景图。它提醒我们:语义地图的价值不在概念越多越好,而在保留对任务真正有用的概念。
聚焦六本 RoboPaper 期刊中将连续视觉、RGB-D、LiDAR 或融合观测跨帧累积为二维/三维地图的工作。入选地图必须具备全局空间坐标或可优化拓扑、持续更新能力,并能按类别、实例、语言或关系进行后续查询;仅做单帧分割、目标检测、地点识别、纯几何 SLAM、无地图导航或只消费现成地图的论文不纳入。
全量检索 2024-08-22 至 2026-08-22 的 5,180 条去重记录,逐篇核对题名与摘要后保留 33 篇:RA-L 25、T-RO 4、IJRR 2、JFR 2;Science Robotics 与 Autonomous Robots 在本时间窗内未发现满足上述严格定义的文章。
比较对象图、概率体素、分段 CLIP 融合、全景重建与潜特征高斯图如何回答开放词汇查询。
追踪相机位姿、对象关联、回环、跨视角语义融合和全局因子图分别解决哪一种一致性问题。
区分重建静态世界、局部更新对象状态、记录交互事件和回答时空问题四个层次。
从多机器人通信、大范围 LiDAR、稀疏数据结构与不确定性校准判断系统能否长期在线运行。
核心问题从“给每个点一个类别”转向“地图能否保存跨帧语义证据,并在未知词汇、自然语言或多模态目标到来时再查询”。
以信息瓶颈按任务选择地图中应保留的对象与粒度,并在机载算力上实时构建层级开放集 3D 场景图。它提醒我们:语义地图的价值不在概念越多越好,而在保留对任务真正有用的概念。
把视觉语言嵌入递归融合进概率体素图,用 Bayesian Kernel Inference 表达邻域相关性与不确定性;同一地图支持开放词典查询,并在 Matterport3D、SemanticKITTI 和真实室内环境验证。
从连续视觉观测在线更新开放词汇地图,再用语言预测任务相关区域与子目标。虽然评测落在 VLN-CE,它的关键贡献是摆脱静态离线地图,让语义空间记忆随机器人运动持续生长。
把视觉语言乃至音频特征与三维重建融合,使文本、图像或声音查询直接落到空间位置;同一地图还能按机器人形态生成不同障碍图,是“地图作为跨模态空间数据库”的代表。
OVO 从有位姿的 RGB-D 序列检测并跟踪三维分段,跨视角合并 CLIP 描述;既降低内存与计算,也分别接入 Gaussian-SLAM 和 ORB-SLAM2,展示带回环的端到端开放词汇建图。
用连续神经语言场替代在每个网格或节点显式存储嵌入,并以稀疏图做粗规划、语言梯度做目标附近精修;重点是大环境中的内存规模、查询精度与未观测区域泛化。
用全局抽象图负责高层候选检索、局部具体图负责精确到达,并通过对象状态检查在线更新动态变化。双层结构直接回应开放词汇地图在规模、精度与变化适应之间的冲突。
把 GPU 几何重建、开放词汇视觉语言模型和实例级时空融合组成训练免费的在线系统,统一更新几何与语义,并支持未知对象的三维检索、分割、检测和自然语言查询。
从流式 RGB-D 构建潜特征 3DGS 地图,用在线字典把每个高斯的紧凑查询向量还原为任意 VLM 嵌入;GPU 只优化局部活跃图、CPU 保存全局图,以有界显存达到 12–35 FPS。
当地图需要回答“对象属于哪个房间、被谁移动过、现在藏在哪里”时,表示必须从点和体素上升到对象、关系、房间与事件。
仅凭第一视角视频、手部位置与相机位姿跟踪交互对象的六自由度变化,并在线写回可变换场景图;地图因此能回答物体被收进抽屉后的去向,而不必全场重扫。
DovSG 将 RGB-D 序列转为开放词汇对象与空间关系图,并在机器人或人改变环境后只更新受影响的局部子图,避免长期任务中反复完整重建。
以对象节点和空间邻接边构成 COGraph,压缩语义特征后在机器人间传输,再通过地点识别和位移估计合并为全局图;数据量降低超过 80% 且保持查询性能。
把开放场景图定义为导航系统的层级空间记忆,并用可由环境标签自动生成的 schema 组织不同类型场所,使对象、房间和关系在新环境、新目标与不同机器人间保持可查询。
在空间对象与关系之上加入交互事件,把“蓝色杯子”与“清洗杯子”这类动态经历绑定;真实机器人数据表明该图可检索环境状态和历史事件并回答复合时空问题。
在时间滑窗内融合多视角观测,把外观、物理属性和可供性等 VLM 语义写入稳健几何图,再让三维指代从自由文本匹配转为对地图的结构化推理。
从纯视觉检测墙、地面、房间与楼层,并把层级语义实体作为可优化节点紧耦合进 VSLAM;场景图同时改善地图可读性和轨迹估计,平均定位精度提升 15.22%。
用 GNN 从观测到的平面在线推断房间、墙等高层空间概念及不确定性,并把它们自动写成 SLAM 后端的优化因子,让语义抽象直接参与全局几何一致性。
只用单目 RGB,把序列按房间延迟成批重建,再用 Sim(3) 房间级因子图对齐局部地图并校正尺度;同时将开放词汇对象轨迹提升为三维节点,形成全局一致的层级场景图。
这一组关注像素、深度、实例与语义如何和位姿估计共同优化,尤其是 3D Gaussian Splatting 进入在线地图后的跨视角一致性、动态污染与内存问题。
以 3DGS 同时承担实时相机跟踪、稠密几何和语义重建;空间一致特征融合抑制分割误差,轻量编解码器压缩高维语义,虚拟视角剪枝移除异常高斯。
用带实例状态的粒子和 S²MC-PHD 滤波联合估计占据、类别与实例 ID,并以记忆模块处理重现对象;重点是动态场景下传感、分割、跟踪和运动不确定性的统一融合。
TiMoSLAM 用语义关系图贯穿单目对象 SLAM 的数据关联、三维长方体估计与联合优化,避免语义标签和几何特征在各模块间松散对接。
以多层图像金字塔训练 3DGS,并紧耦合 RGB、深度与语义重建损失,目标是在一个全局地图中同时保持局部细节和跨模态一致性。
除主动运动的人和车外,还处理被搬动后静止的被动动态物体;语义掩码扩展、边缘去噪、对象级剔除和高斯密度控制共同减少地图残影。
以双二次曲面估计对象六自由度姿态、以高斯重建对象形状,通过稳健 3D–2D 关联和多视角可见性剪枝维护全局一致的对象级地图。
联合优化稠密高斯与稀疏地标,用跨视角损失把类别一致地融合进对象高斯,并以多级动态过滤保持场景重建和对象交互地图的稳定。
几何与外观仍由 3D 高斯承载,语义则放进独立的粗到细 tri-plane 场并在高斯中心查询;Replica 上达到 97.0% mIoU,同时把语义参数量降约 100 倍。
这一组检验地图能否离开小型室内 RGB-D 数据集:进入室外、长距离、多机器人、稀疏点云、通信受限和不确定感知条件。
支持 RGB-D 或 LiDAR 前端的异构机器人团队,用对象级轻量地图做语义地点识别、跨机器人回环和分布式地图合并,并在空地多平台上实时运行。
以相机—LiDAR 融合构建室外语义几何图,专门处理植被模糊边界、外参漂移、动态干扰与位姿误差;其 2D–3D 关联对 40 mm 平移和 0.18 rad 旋转扰动仍保持分割精度。
移动机器人用消费级 RGB-D 在单次序列内融合实例点云,并在不同生长阶段重新关联同一果实、更新三维模型;这是“地图要跨天持续可查询”的具体案例。
从有位姿的 LiDAR 序列构建八叉树潜特征与浅层隐式场,联合解码 SDF、类别和全景实例;面向 SemanticKITTI 与 SemanticPOSS 这类大尺度室外地图。
全景 LiDAR—相机系统把几何覆盖和语义多视角检查分别建模,通过层级探索规划在减少重复行驶的同时采集足够观测,最终输出点云级稠密语义目标图。
以 OpenVDB 稀疏体数据结构和统一贝叶斯更新同时融合固定类别与开放语言预测,在保持相近精度的同时显著降低内存与观测积分时间。
把证据深度学习的不确定性送入 BKI,用几何对齐核和高斯原语把稀疏、噪声观测融合为连续语义表面,在越野与城市环境中同时改善精度、校准和实时性。
这 33 篇按“地图是跨帧、可优化、可更新、可查询的空间记忆”统一口径筛选;导航成功率只作为下游证据,不替代地图本身的几何一致性、语义一致性、更新效率和查询质量。