随着当前人工智能技术的飞速发展,自动驾驶技术已成为汽车行业的研究热点,对于提高交通安全、增加社会和经济效益都具有重要意义。在多智能体交互的复杂道路交通场景中,做出合理拟人化的决策是保证自动驾驶技术安全性和有效性的重要前提,而对于多智能体交互轨迹的预测是决定智能车决策合理性的关键。本文针对复杂道路交通场景,基于State-Anchor（状态-锚）和Anchor-Free（无锚）的建模思想,分别对机动车、非机动车与行人进行建模分析,设计多任务网络,构建多任务多模概率轨迹预测模型,为自动驾驶汽车后续的行为决策和控制奠定基础。首先,针对当前的行为预测数据集数据类别过于单一且数据样本太少的问题,本文改进了包含道路高清地图和障碍物历史序列的轨迹预测数据集,将场景中的环境信息及各类智能体进行栅格化表示,为后续模型建模提供丰富的语义拓扑和历史序列信息。之后,将机动车、非机动车与行人的轨迹进行聚类分析,对机动车、非机动车与行人的意图不确定性和控制不确定性建模,并基于State-Anchor与Anchor-Free的建模思想搭建机动车、非机动车与行人多模概率轨迹预测模型。通过采用Encoder-InteractionDecoder（编码-交互-解码）的网络架构设计机动车、非机动车与行人的网络模型,完成模型损失函数设计及参数选用。最后,为提高模型预测效率,提出多任务多模概率轨迹预测模型,实现场景中机动车、非机动车与行人的实时并行预测。并将本文模型与当前主流的各单一类别模型进行了定量和定性的分析比较,实证本文模型性能的优异性。通过对模型预测结果进行可视化分析表明,多任务模型可以预测各智能体多条合理的轨迹序列,为后续智能车做出更拟人化的决策提供多条概率化可选轨迹。