论文笔记:UniTraj: Learning a Universal Trajectory Foundation Model from Billion-Scale Worldwide Traces
·
202411 arxiv
1 intro
- 目前轨迹方法的局限
- 任务专属性
- 当前方法往往为特定任务而设计与优化,缺乏跨任务迁移能力
- 区域依赖性
- 很多模型是基于特定地区的数据开发和训练的,因此在应用于其他区域的轨迹数据时效果不佳
- 数据质量敏感性
- 真实世界的轨迹数据具有异质性,采样率、噪声水平以及数据缺失情况各不相同
- 现有模型往往对这些不一致性较为敏感,性能容易下降
- 任务专属性
- ——>论文的贡献
- 构建了首个大规模、高质量、全球分布的轨迹数据集 WorldTrace
- 提出 UniTraj,一个通用人类轨迹基础模型,结合多重重采样与遮蔽策略,能够建模复杂的时空依赖,并适应不同地区与采样条件下的数据异质性。

2 WorldTrace 数据集

- 轨迹数据涵盖 70 个国家,横跨不同的环境与基础设施类型

3.1 数据采集
- WorldTrace 的原始数据来源于 OpenStreetMap(OSM)上的共享轨迹平台
- 筛选了 2021 年至 2023 年间上传的机动车轨迹数据,优先选取带有“机动车”标签的样本
- 通过聚焦于近年的有标签数据,降低了由于设备差异或数据陈旧而导致的质量波动问题,从而构建出更加一致且可靠的数据集
3.2 数据预处理
- 标准化采样频率
- 原始数据采样频率高达 10Hz(每秒 10 个点),导致数据冗余和存储压力大
- 将轨迹重新采样为每秒一个点,既减少了冗余、优化了存储空间,又保留了轨迹的动态特征,确保时间分辨率足以反映运动过程
- 过滤无效数据
- 剔除点数少于 32 或总移动距离小于 100 米的轨迹
- 去除速度超过 120 km/h 的轨迹片段,这类异常多由 GPS 错误或数据异常造成
- 地图匹配校正
- 由于 GPS 信号可能受到建筑物遮挡、多路径干扰或设备噪声影响,采用了地图匹配技术
-
将原始 GPS 点与道路网络进行对齐,从而提高轨迹的几何准确性。
4 通用轨迹建模

4.1 重采样策略

- 在实际中,由于数据采集标准、设备性能与用户行为的不同,轨迹采样率往往存在异质性
- Porto 数据集的采样间隔为 15 秒
- T-drive 数据集平均间隔为 177 秒
- 当用在训练集与测试集采样率不一致的情况下,会严重影响模型的泛化性能
- ——>为了提升模型在现实场景中的适应性,训练时需引入多样化的时间间隔
- 此外,轨迹长度的多样性也带来了平衡数据完整性与计算效率的挑战
-
传统的统一采样方法往往无法兼顾长短轨迹:
-
长轨迹可能数据冗余、计算负担重、易过拟合;
-
短轨迹则可能在采样不足时丢失重要信息,难以学习有效表示。
-
-
-
——>论文引入了两种互补的重采样策略:
-
动态轨迹重采样(Dynamic Trajectory Resampling)
-
间隔一致重采样(Interval Consistent Resampling)
-
4.1.1 动态轨迹重采样
- 基于轨迹长度的对数采样比率函数,动态调整采样率
- 采样比函数:
‘-
该策略带来三项关键好处:
-
控制轨迹长度,减少冗余;
-
降低计算开销,防止过拟合;
-
增强数据多样性,使模型暴露于多种采样频率,提高鲁棒性和泛化能力。
-
- 采样比函数:
4.1.2 间隔一致重采样
- 为配合动态采样策略,进一步引入固定时间间隔采样,确保每条轨迹内部相邻点之间具有统一的时间间隔 Δt。

4.2 轨迹masking


4.3 模型

4.4 训练目标
就是自监督学习的训练目标

4.5 表示提取
仅使用编码器Eθ来提取轨迹的表征
5 实验
5.1 任务适应性分析
评估 UniTraj 在不同轨迹相关任务(如轨迹恢复、预测、分类、生成)中的适配与泛化能力
5.1.1 轨迹恢复
- 随机遮蔽 50% 的轨迹点进行恢复测试
- 设置包括:zero-shot 模式(仅用 WorldTrace 训练)与fine-tuning 模式(WorldTrace 预训练 + 每个数据集微调)

5.1.2轨迹预测任务
根据历史轨迹预测未来点(共 5 个点)

5.1.3 轨迹分类任务
- 判断轨迹属于哪种出行模式(如步行、驾车、骑行等)
- 方法:使用 UniTraj 编码器作为 backbone,添加分类器
-
实验设置:
-
无微调(wo/ft):只训练分类头;
-
微调(ft):微调整个模型;
-

5.1.4 轨迹生成任务
在 ControlTraj 框架中,用 UniTraj 替代原始道路段提取模块

更多推荐




所有评论(0)