12 / 2024-07-23 20:00:47
高效通信的分布式遥感图像智能解译
分布式学习,梯度压缩,高效通信,遥感图像,在轨处理
摘要待审
王子璇 / 西安电子科技大学
谢卫莹 / 西安电子科技大学
李云松 / 西安电子科技大学
遥感数据提供了有关地球表面的细节信息,在对地观测领域产生了显著的影响。遥感图像可以用于目标检测、图像分类和异常检测等下游任务,在城市规划、农业、环境监测等领域具有重要的意义。随着对地观测卫星数量的增长,以及现有成像仪器空间、光谱和时间分辨率的显著提高,我们能够获取的遥感数据量迅速增长,步入了大数据应用和数据驱动的科学发现时代。与此同时,多传感器和多分辨率采集的多样性导致了生成数据集的复杂性,亟需更加先进的智能解译方法。

近年来,深度学习凭借强大的特征提取能力和图像解译能力,已成功应用于遥感领域。然而,如此大体量的遥感数据很难在单节点上进行学习和推理,需要综合多星资源分布式协同解译,以解决分块处理带来的块效应。多星协同必然会伴随着信息的交互与传输,而通信窗口周期和远距离传输导致各节点间的带宽有限和通信较弱,极大的阻碍了多卫星星座在轨的实时处理。

为了缓解分布式学习中的通信压力,许多研究人员都提出了通信压缩的思路,以减少各节点之间的通信量。通信压缩得以广泛应用的根本原因在于分布式深度神经网络的训练对不精确梯度具有鲁棒性。我们综合探讨了多种主流的高效通信梯度压缩算法,主要包括量化、稀疏化、混合方法、低秩分解四大类方法,特别关注其在通信受限的在轨环境下的优劣,并展望了梯度压缩的发展趋势。我们认为在轨分布式学习梯度压缩算法的发展趋势主要集中在以下几个方面:(1)压缩算法优化:需要在保证模型性能的前提下设计出低计算复杂度的压缩方法;(2)通信量优化:在通信带宽有限的情况下,需要对梯度压缩算法进行优化,减少在卫星节点间传输的数据量;(3)通信频率调整:考虑到通信带宽受限,可以通过调整通信频率来减少通信开销;(4)优先级通信机制:可以设计优先级通信机制,根据不同的节点或任务重要性,对通信进行优先级调度,确保关键信息的优先传输。

通过在遥感图像分类、目标检测、多模态场景分类三个下游任务上进行试验对比,并使用TX2平台进行了分布式卫星星座模拟试验,证明了不同方法的适用性和性能差异,为未来在实际应用中选择最合适的梯度压缩方法提供了有力的参考。实验结果表明,应该优先考虑混合梯度压缩方法,混合方法结合了稀疏化方法和量化方法,不仅具有十分灵活的压缩比范围,而且便于我们根据实际情况设计多样的梯度选择方案。在实际应用中,应该综合考虑计算资源、通信带宽、模型性能、实时性等多种因素,选择合适的压缩策略。
重要日期
  • 会议日期

    09月20日

    2024

    09月22日

    2024

  • 08月30日 2024

    初稿截稿日期

  • 09月22日 2024

    注册截止日期

主办单位
山东省人民政府
中国电子学会
承办单位
中国科学院学部
中国科学院空天信创新研究所息
复旦大学
联系方式
移动端
在手机上打开
小程序
打开微信小程序
客服
扫码或点此咨询
Baidu
map