关注华体会智能掌握最新行业动态与资讯
当前位置:首页 >  新闻中心 >  公司新闻

华体会首个面向跨模态遥感数据的生成式预训练大模型发布—新闻—科学网

发布日期:2023-09-26 14:10:56 访问量:53 来源:华体会智能
以深度进修为代表的人工智能技能已经被运用在多种遥感图象解译使命中。遥感数据幅宽容、场景内容繁杂,一幅尺度景图象每每就可达数十亿像素,笼罩上万平方千米,与天然场景数据存于较年夜差异。年夜大都现有的深度神经收集模子是哄骗天然场景图象预练习的权重来举行初始化,于遥感数据解译使命上的机能以及普适性有待进一步晋升。

中国科学院空天信息立异研究院(如下简称 空天院 )牵头研制首个面向跨模态遥感数据的天生式预练习年夜模子 空天 灵眸 (RingMo,Remote Sensing Foundation Model),旨于构建一个通用的多模态多使命模子,为遥感范畴多行业运用提供一套通用便捷、机能优质的解决方案。

该团队深切联合光学、SAR等跨模态遥感数据的成像机理以及方针特征,于模子设计、模子练习、推理优化等标的目的开展技能立异,并于场景分类、检测定位、细粒度辨认、因素提取及变迁检测等典型下流使命中举行了验证。该模子于8个国际尺度数据集上到达了同类领先程度,有用弥补了跨模态天生式预练习模子于遥感专业范畴的空缺。同时,空天院与华为公司深度技能互助,基在昇腾AI根蒂根基软硬件平台,尤为是昇思MindSpo�����APPre AI框架,将结合制造矫捷易用的自监视预练习通用套件,可高效支撑年夜模子并行练习及下流使命的开发。

以遥感特征为研发驱动

差别在现有遥感预练习要领凡是举行有监视或者者对于比式进修的范式, 空天 灵眸 模子依托掩膜自编码布局,是面向繁杂场景且更具通用表征威力的遥感天生式自监视预练习模子。

例如,针对于来自差别平台的遥感数据成像机理以及方针特征纷歧、遥感图象不雅测面积年夜而方针相对于较小、方针尺寸差异较年夜且漫衍不匀称等问题, 空天 灵眸 模子接纳方针特征指导的自监视进修要领,经由过程引入几何、电磁、方针布局等多特征约束,使患上模子主动提取遥感地物通用特性,对于新使命有较强的泛化威力。值患上一提的是, 空天 灵眸 年夜模子接纳了近来比力风行的ViT以及Swin Transformer等Transformer类主干收集,可有用建模遥感数据的局部以及全局特性的依靠瓜葛。

拥有跨模态遥感数据集

现有遥感样本库于标注上依靠在专业职员的手工标绘,人力以及时间成本极高,难以满意年夜模子练习所需的年夜范围、高富厚度、易倏地扩充的遥感数据需求。

为了晋升遥感预练习模子的特性表达威力, 空天 灵眸 模子的练习数据集包罗了200多万幅分辩率为0.1m到30m的遥感影像,别离来历在中国遥感卫星地面站、航空遥感飞机等平台,和高分系列卫星、吉林卫星、QuickBird卫星等传感器。同时,于数据集中包罗了1亿多具备肆意角度漫衍的方针实例,笼罩全世界150多个典型都会、州里和经常使用机场、口岸等场景。所用样本数据具有遥感专业特点,且整个样本集都无需标注,能年夜幅节约练习数据标注成本。

具备运用使命泛化威力

因为差别运用使命的难点差别,所用的数据、方针也各别,现有解译要领需针对于差别下流使命设计公用收集布局,哄骗年夜量带标签数据举行微调,同时获得的遥感模子也经常通用性有余,没有较强的使命泛化威力,只合用在特定运用使命。

空天 灵眸 模子具有遥感数据理解、回复复兴威力,可实现对于跨模态遥感数据的共性语义空间表征。针对于差别的下流使命仅需修改猜测头部收集,便可矫捷倏地迁徙到差别范畴下流使命,简朴微调可顺应多方针细粒度分类、小方针检测辨认、繁杂地物提取等使命。

实现国产化适配

为实现自立立异,空天院与华为深度互助,由北京昇腾人工智能生态立异中央提供技能保障,依托 东数西算 样板项目成都智算中央算力撑持,基在昇腾底座以及昇思MindSporeAI框架对于已经有模子以及练习要领举行了国产化适配,并针对于自监视年夜数据练习方面举行机能优化,为各行各业研究者基在国产化软硬件平台举行遥感预练习和下流使命开发提供无力支撑,鞭策营业上的运用以及落地。

今朝, 空天 灵眸 模子的相干结果已经于遥感范畴顶刊IEEE Transactions on Geoscience and Remote Sensing公然揭晓。同时,该模子于国防保险、三维重修等多个范畴已经开展试用,于方针检测辨认、地物因素分类等方面的实测成果较通用视觉模子有显著晋升。后续拟进一步推广至领土资源、交通、水利等更多行业,为天临空隙一体化运用提供一套解决方案。

相干论文信息:

Xian Sun, Peijin Wang, Wanxuan Lu, Zicong Zhu, Xiaonan Lu, Qibin He, Junxi Li, Xuee Rong, Zhujun Yang, Hao Chang, Qinglin He, Guang Yang, Ruiping Wang, Jiwen Lu, Kun Fu*. RingMo: A Remote Sensing Foundation Model with Masked Image Modeling, in IEEE Transactions on Geoscience and Remote Sensing, 2022, doi: 10.1109/TGRS.2022.3194732.

出格声明:本文转载仅仅是出在流传信息的需要,其实不象征着代表本消息网不雅点或者证明其内容的真实性;如其他媒体、消息网或者小我私家从本消息网转载使用,须保留本消息网注明的 来历 ,并自大版权等法令义务;作者假如不但愿被转载或者者接洽转载稿费等事宜,请与咱们联系。/华体会

Copyright © 2019 华体会智能技术股份有限公司.粤ICP备16017609号

粤公网安备44030402003674号