摘要:目的针对现有点云几何压缩方法存在忽略频域信息、难以平衡感受野和计算复杂度的问题,提出了一种融合频域全局与空域局部特征的点云几何压缩方法,旨在提升压缩性能。方法首先在点云压缩网络中引入了快速傅里叶变换,利用点云的频域信息来构建点云的全局特征,有效地扩大了感受野,避免了注意力机制的高复杂度。同时,设计了一种基于八叉树的卷积,利用八叉树的层次化结构和紧凑表示,高效提取点云的多尺度局部几何特征,克服了基于张量的稀疏卷积计算与内存开销大的缺陷。此外,还提出了一种通道位移卷积,利用通道位移操作,在不改变八叉树卷积核大小的条件下进一步扩大感受野,有效缓解八叉树中感受野随层级增加而受限的问题。结果在8iVFB(8i voxelized full bodies)、Owlii(Owlii dynamic human textured mesh sequence dataset)和MVUB(Microsoft voxelized upper bodies)等公开点云数据集上进行实验验证,以每点比特数(bits per point,bpp)、编解码时间和内存占用作为评价指标。实验结果表明,所提方法在跨数据集和同源数据集测试场景下均取得优于现有方法的压缩性能,在跨数据集场景下平均bpp较基于几何的点云压缩方法G-PCC(geometry-based point cloud compression)和SparsePCGC分别降低43.00%和5.91%,同时相比SparsePCGC显著降低编解码时间和内存占用。结论所提出的方法通过融合频域全局特征建模与空域局部结构增强,有效提升了点云几何结构的表示能力和占用概率预测精度,在保证较低计算复杂度的同时实现了更加高效的点云几何压缩。
摘要:目的结肠镜图像中的肠息肉区域常受低对比度、镜面反光、黏膜纹理相似和边界形态复杂等因素影响,现有分割方法在高频细节提取、弱边界恢复和复杂轮廓建模方面仍存在不足。为提高复杂内镜场景下息肉区域的分割精度,本文提出一种融合频域增强与几何引导的肠息肉医学图像分割网络。方法该网络在编码阶段设计频域增强Transformer块,在多头注意力和前馈网络中引入快速傅里叶变换,将频谱信息嵌入全局上下文建模与局部细节提取过程,以增强对边缘纹理和结构细节的联合表征。在跳跃连接阶段,构建双频带特征融合模块,通过径向频域掩膜分离低频轮廓信息和高频边界响应,减少跨层传递中的边缘细节损失。在解码阶段,设计双阶段几何引导模块,并结合曲率感知几何监督损失,对边界位置、有符号距离场分布和局部曲率变化进行联合优化。结果在Kvasir、ClinicDB、ColonDB、EndoScene和ETIS等5个公开数据集上进行实验,并与现有医学图像分割方法进行对比。本文方法在5个数据集上的平均交并比(intersection over union,IoU)和平均Dice相似系数(Dice similarity coefficient,Dice)分别为78.55%和85.14%,较当前主流方法分别提升0.83和1.37个百分点。结论本文方法能够在保持区域一致性的同时改善边界恢复质量,对低对比度和复杂形态息肉具有较好的分割效果和跨数据集泛化能力。
摘要:目的遥感图像指代分割旨在根据自然语言指令生成目标区域的像素级掩码。然而,通用分割基础模型迁移至遥感场景时,仍面临深层跨模态交互过程中语义约束逐渐衰减、解码阶段层级查询信息利用不充分以及复杂目标边界监督不充分等问题。方法针对上述问题,提出一种用于遥感图像指代分割的语义动态边界增强方法—SDM-SAM2。该框架以SAM2(Segment Anything Model 2)为基础,在图像编码阶段构建阶段感知文本记忆,通过保存并检索不同阶段的文本信息,以维持指代表达约束,从而缓解深层语义传播中的语义衰减问题;在Mask Decoder中引入任务自适应多层查询融合模块,通过可学习层级权重对初始查询和不同解码层查询进行融合,使浅层定位信息与深层语义表征共同参与掩码预测,提升模型对复杂目标的定位与分割能力;同时设计文本加权Sobel边界损失,在连续前景概率图上提取可反向传播的边界响应,并结合文本指定目标对目标轮廓施加显式约束。结果在RefSegRS和RRSIS-D两个数据集上开展实验。完整模型在RefSegRS测试集上取得78.05%的平均交并比(Mean Intersection over Union,mIoU)和84.16%的总体交并比(Overall Intersection over Union,oIoU),在RRSIS-D测试集上取得68.49%的mIoU和78.59%的oIoU。两个数据集上的消融结果表明,阶段感知文本记忆、任务自适应多层查询融合和文本加权Sobel边界损失均能从不同环节改善基础模型;其中,阶段感知文本记忆在两个数据集上均取得最高的单模块mIoU。不同边界算子对比结果表明,Sobel算子取得了三种候选算子中最高的mIoU。结论SDM-SAM2从语义保持、动态解码和边界建模三个方面增强了SAM2对遥感图像指代分割任务的适配能力,能够改善复杂遥感场景下文本指定目标的定位和掩码预测效果。代码链接:https://github.com/3038794185-cloud/SDM-SAM2。
关键词:遥感图像指代分割;SAM2 (Segment Anything Model 2);视觉语言融合;阶段文本记忆;查询融合;边界损失
摘要:目的精准分割牙齿与牙龈对于牙齿正畸及隐形矫治器的设计至关重要,同时可视化的模拟也能显著提升诊断效率,加强医患沟通。然而,现有研究对缺牙和重叠情况下的分割问题关注较少。为此,本文提出一种名为HaTransTooth的混合深度学习框架。方法总体采用“由粗到细”的策略:首先,通过平行投影将三维扫描模型转换为二维深度图像,并利用改进的YOLOv8(you only look once version 8)检测算法实现牙齿的快速检测和编号,有效解决了三维空间中牙齿实例分离的难题,提升了牙位识别的准确率和效率;随后,通过建立的映射关系,将二维检测区反向投影至三维空间,提取出包含单个牙齿及其周边牙龈的三维感兴趣区域(3D regions of interest, 3D ROI);最后,针对每个3D ROI,引入了分层自适应注意力机制的点云转换网络(point cloud transformer,PCT)进行精细分割,同时使用了Focal Loss和Dice Loss的组合损失函数和梯度累积训练策略。结果实验在自行采集的真实病例数据上与经典的7种方法进行了比较,仅是平均准确率(mean accuracy,mACC)位列第二,达到了96.74%,与第一几乎持平,而平均交并比(mean intersection over union,mIoU)和Dice相似系数(the dice similarity coefficient ,DSC)分别比第二名高出4.86%和2.41%。此外还验证了平均表面距离(average symmetric surface distance,ASSD)、召回率(recall,R值)和F1分数(F1 score),均达到了较高水平,具有较高的临床价值。在公开数据集Teeth3DS(teeth 3D scan dataset)上的交叉验证进一步证明了模型的泛化能力。结论本文提出的框架显著提升了对牙齿-牙龈模糊边界的分割精度,并能准确分割具有缺牙和牙齿重叠情况的牙颌,通过实验表明,此框架在多项指标上优于现有主流方法。
摘要:目的场景文字视频问答是多模态理解领域的关键任务,现有多模态大语言模型在处理长视频时受输入帧数限制,直接输入全部视频帧会导致计算开销大,而均匀采样减少视频帧会导致关键文本信息丢失。为了解决以上问题,本文提出一种文本语义协同筛选与区域感知的场景文字视频问答方法,以提升场景文字视频问答的准确性和效率。方法首先,提出基于文本-语义协同的关键帧选择方法,利用多模态大语言模型生成的候选答案作为语义锚点,通过计算其与场景文本的Levenshtein编辑距离精准选择关键帧,并辅以对比语言-图像预训练(contrastive language–image pre-training,CLIP)补充视觉语义相关帧,以解决视频中细粒度文本信息稀疏容易丢失的问题;同时,设计文字区域感知方法,通过基于掩膜的亮度衰减策略构建视觉“聚光灯”效应,抑制无关背景噪声使模型聚焦文本区域,结合推理的置信度差异动态优选答案,从而提升场景文字视频问答的准确率。结果在M4-ViteVQA(multi-category multi-frame multi-resolution multi-modal benchmark for video text visual question answering)、RoadTextVQA(road text video question answering)和NewsVideoQA(news video question answering)三个公开场景文字视频问答数据集上进行充分实验,所提方法在准确率(accuracy,Acc)指标上分别取得 65.55%、72.03% 和 75.54% 的得分,相比均匀采样基线分别提升了 3.04%、0.76% 和 1.08%,优于现有方法。消融实验进一步验证了关键帧选择模块和文字区域感知模块的有效性。结论本文提出的方法有效解决了场景文字视频问答中计算效率与信息完整性的矛盾,通过文本-语义协同选帧策略增强了对细粒度文本的捕获能力,并通过视觉引导抑制背景噪声,从而提升了场景文字视频问答的准确性与鲁棒性。
摘要:目的针对食道病理图像中细胞密集分布、重叠严重及形态复杂等特点,现有检测与实例分割方法难以兼顾目标定位精度与边界表达能力,多任务学习过程中检测与分割分支之间的特征协同不足,影响复杂病理场景下的识别性能。方法提出一种面向食道病理图像细胞检测与实例分割的协同多任务模型DGSeg-YOLO。在统一网络框架下联合完成细胞检测与实例分割任务,设计双向特征交互模块(bidirectional feature interaction module,BFIM),实现检测与分割分支间的跨任务特征融合;设计自适应检测感知分割模块(adaptive detection-aware segmentation module,ADGS),利用BFIM输出的跨任务交互特征生成目标感知权重,并对分割特征进行自适应加权增强;结合难度感知联合损失函数(difficulty-aware joint loss,DAL),动态协调检测与分割任务优化过程,提高模型对复杂样本的学习能力。结果在自建食道病理细胞数据集上的实验结果表明,DGSeg-YOLO在边界框平均精度均值(box mean average precision,Box mAP)@0.5、掩码平均精度均值(mask mean average precision,Mask mAP)@0.5和Dice指标上分别达到0.900、0.909和0.8351,在细胞密集分布及重叠区域具有较好的检测与实例分割性能。消融实验验证了BFIM、ADGS及DAL各模块对模型性能提升的有效性。同时,所提出模型已集成至食道病理智能分析系统,可实现病理细胞的自动检测、实例分割及统计分析,验证了方法在实际应用中的可行性。结论DGSeg-YOLO通过检测与分割任务间的协同特征学习,增强了复杂病理图像中细胞目标的结构表达与边界刻画能力,在保持模型规模适中的同时兼顾检测性能与工程应用需求,可为食道病理细胞自动分析提供一种有效的技术方案。
摘要:在自动驾驶、机器人和医疗检测等应用中,单一RGB模态在夜间、低照度以及遮挡等环境下存在显著性能瓶颈,限制其在实际场景中的鲁棒性。红外、深度、激光雷达等异源信息的引入有效缓解了这一问题,但如何高效集成RGB与异源成分,同时滤除无关信息,成为限制RGB-X跨模态交互的关键。现有融合技术主要采用显式交互的方式,即通过元素加、桥接或外接复杂融合模块的方式进行异构模态集成。近年来,视觉基础模型(Vision Foundation Models, VFMs)和视觉语言模型(Vision Language Models, VLMs)等基础模型的出现,为RGB-X融合技术提供了新的研究思路。相较于现有融合方法,这类基础模型凭借较强的通用表征、跨模态理解与知识迁移能力,为专用融合模型提供了新的设计策略与能力增强方式,进一步拓展了RGB-X跨模态融合的研究路径。本文围绕这一前沿方向,对基础模型驱动下的RGB-X跨模态交互技术进行系统综述。首先,梳理RGB-X感知与融合技术的基本原理;其次,基于融合过程中信息交互所处的表示层级,分别从模态级融合、特征级融合及表征级融合三个层面出发,深入剖析现有通专结合的融合方法及各自技术特点;随后,在公开数据集上对代表性方法进行性能对比分析,并讨论上述融合技术在自动驾驶、智能机器人、医疗影像等核心下游感知领域中的应用进展;最后,总结当前技术面临的挑战并展望未来发展方向。区别于现有综述主要关注传统显式融合策略,本文聚焦通用智能驱动的RGB-X融合新范式,系统梳理相关技术路线、代表方法及应用进展,旨在为大模型时代的RGB-X跨模态交互研究提供技术参考与发展思路。本文的参考文献及文中涉及的算法、数据集与评估指标,已整理汇总于https://github.com/yuyuxiazhu-pixel/RGB-X-fusion-technologies。