面向直播的图像帧智能修复系统的研究与实现

来源 :北京邮电大学 | 被引量 : 0次 | 上传用户:yiquanzou
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的高速发展,短视频直播已经开始深入民生,成为人们工作学习和生活中不可或缺的一部分,包括视频会议、直播上课、直播购物等场景。人们对直播质量的要求也变得越来越高,而网络基础设施的大力建设仍旧难以避免网络信号覆盖不到或者覆盖弱的弱网情况出现。除此之外,直播时的高并发也给企业设备的带宽和吞吐量带来极大压力。这两种情况都会产生直播上行丢包的问题,从而导致直播中图像帧产生花屏,影响用户体验。为了解决上述问题,不同的流媒体传输协议相继被提出,目的都是为了在传输层通过调整拥塞和重传等机制来改善丢包情况。这种方式可以在一定程度上解决企业级问题,但是无法从根本上抵抗弱网环境。还有一些比较通用的方法,比如在发现丢包之后选择丢弃掉相关帧甚至整个帧序列,但这会给直播带来卡顿,同样影响体验。随着深度学习在各个领域的应用日益成熟,利用深度学习对破损的图片以及视频进行修复也开始成为学术界研究的热门和重点方向,并且取得了一定的进展和成果。本文尝试将弱网直播下的丢包修复问题与深度学习的视频修复问题结合起来。首先,本文提出两阶段视频修复算法:第一阶段利用3D卷积获取直播视频的时域信息,并通过下采样减少模型参数;第二阶段在时域信息的引导下,结合视频的空间上下文信息对图像损失部分进行修复并逐步恢复至原像素。这两阶段保证了算法的高效性,满足直播实时性的需求。其次,引入可学习的区域正则化方法作用于视频修复算法,改善了传统正则化方法因受到图像损坏部分像素的影响而导致的正则漂移问题,从而在一定程度上提高了修复的准确性。然后,参考困难样本挖掘思想,视修复的边缘像素为困难样本,避免训练过程受多数的平滑像素主导引起修复的边缘部分模糊。最后,搭建直播流媒体系统,整个系统包括直播上传下载客户端、流媒体处理服务器以及视频修复处理器。这套系统能够模拟整个直播的流程,同时能够模拟弱网环境,验证了所提出的视频修复算法的实时性和准确性。
其他文献
下肢穿戴式外骨骼康复机器人在医疗领域的应用前景十分广阔,与下肢功能障碍患者的生活休戚相关,外骨骼机器人的精确控制可以由对人体动作准确的识别来实现,这有利于外骨骼机器人实用化.本文对下肢康复运动的特点进行分析,介绍了康复运动的步态规划、下肢运动机理、肌电信号的特点,以及sEMG信号及其特征,分析了sEMG信号生成原理、影响sEMG信号的主要因素以及肌电信号的采集系统;对基于sEMG的下肢外骨骼机器人的关键技术做了简单归纳:下肢外骨骼机器人的运动预测、模式识别、康复效果评估等.
随着社交网络的发展,社交网络的用户数量急速增长,用户对个性化服务的需求也日益增加,为社交网络的发展带来了机遇:能够准确捕捉用户特性,建立用户画像并有针对性地提供服务成为社交网络能够吸引更多用户的关键。因此,用户画像方法近年来受到学术界和工业界的广泛关注。然而,新兴的社交网络平台的用户数还不具规模,能够直接用于用户画像分析的数据非常稀少且难以获取,仅凭稀少的数据对用户画像建模具有较大挑战。若能利用发
传统文化是一个民族智慧的结晶,在现代产品设计过程中吸取传统文化精髓,可增强民族文化自信.通过研究江西赣南客家文化,构建赣南客家围屋文化因子系统模型,为现代产品设计传承优秀文化基因提供理论依据.采用层次分析法研究其文化因子之间的关系和层次,构建围屋文化层次结构模型.通过形状文法提取围屋建筑布局、炮楼造型、枪口炮眼造型、主体色彩、建筑材料及意蕴因子,并计算各因子的重要性.依据提取分析计算得出的各因子的重要性排序建立客家围屋文化因子系统模型.在产品设计中应用研究得出的文化因子系统模型,为现代产品设计融入传统文化
医用超低温保存箱是医疗机构、血液中心、疾控部门及生物医药等行业机构配备的科研(生产)设备.基于超低温条件下生物样本保存的长效性,许多国家和地区都建立了以超低温储存技术为基础的生物样本库,超低温保存箱是主要的设备之一.本文就超低温保存箱质量控制方案进行介绍,其主要内容包括超低温保存箱的分类、选用、管理、使用、维保、质量监测、计量校准及确认等,并列举了实际校准案例.
颈椎曲度是评价颈椎功能的重要指标之一,但在临床实际中仍采用手动测量的方式,浪费了医学专家的宝贵时间.本文提出了一种基于超像素分割的半自动颈椎曲度测量方法.首先,利用超像素将椎体从颈椎MR图像中分割出来,然后结合CCL方法测量颈椎曲度.该方法在32名受试者的颈椎MR图像上进行测试,将本文所提颈椎曲度测量方法测得的曲度与真实颈椎曲度进行对比,分别实现了2.980°和1.604°的平均绝对误差.
宫颈癌是全球第二高发的女性癌症,但是如果及时发现,其治愈率几乎为100%.阴道镜检查是临床筛查宫颈上皮内瘤变(CIN)和早期宫颈癌的重要步骤之一,直接影响患者的诊断方案.然而,这种方法取决于阴道镜检查者的观察.本文建立了宫颈图像的数据集,并提出了一种基于Efficientnet的宫颈图像分类的方法.实验结果表明,该模型取得了比经典深度学习方法更好的分类性能,其分类结果准确率可达90.56%.