上海交大集成电路学院吴泳澎教授、张文军院士团队在信息论基础研究领域取得重要进展

来源:上海交通大学 #上海交大# #集成电路学院# #吴泳澎教授#
1680

近日,上海交通大学集成电路学院(信息与电子工程学院)吴泳澎教授、张文军院士团队在信息论基础理论研究领域取得重要进展。

针对具有不同信息价值和保真需求的高斯矢量信源压缩问题,团队突破了现有理论结果的局限,建立了系统完整的率失真理论分析方法,刻画了各自失真约束下高斯矢量信源压缩的信息理论极限,并揭示了信源相关性对最优压缩结构和性能的影响规律。相关研究成果以“On the Gaussian-Quadratic Rate-Distortion Function for Vector Sources with Individual Distortion Constraints”(各自失真约束下矢量高斯信源的率失真函数研究)为题,被信息论领域国际顶级期刊 IEEE Transactions on Information Theory正式接收发表。

研究背景

随着人工智能、物联网和边缘计算的发展,未来通信与信息处理系统面临日益增长的海量异构数据存储、传输与处理需求。由于不同数据分量具有不同的信息价值,关键任务信息通常需要更高的重构精度,因此,如何实现面向不同信息分量的差异化压缩成为重要基础问题。

率失真函数是刻画有损压缩理论极限的核心工具。传统理论结果仅对矢量信源各分量的总和失真进行限制,无法反映不同分量之间差异化的重构精度需求。针对各自失真约束下的高斯矢量信源压缩问题,现有研究主要基于Hadamard不等式推导率失真函数下界,但该下界往往不够紧致,且未能系统刻画最优压缩结构以及信源相关性对压缩性能的影响。

创新成果

针对任意协方差矩阵和任意失真约束,团队研究了实现率失真理论极限的最优重构结构,并刻画了其谱性质与秩特征。结果表明,失真约束会限制最优重构中独立分量的数量;当信源分量之间具有较强相关性时,最优重构可呈现低秩特性,即仅需少量独立分量便可有效重构多个信源分量,从而大幅降低压缩所需的信息维度。

为进一步获得一类具有明确解析形式的率失真函数,团队创新性地提出了具有层次相关性的高斯信源模型,并证明对具有两类相关性的信源模型的研究可为更一般的层次相关模型提供理论基础。针对两类相关结构和两类失真约束,将二维失真区域划分为七个子区域,推导了各区域内精确的闭式率失真函数及对应的最优失真分配方案。

图1 给定信源在不同失真约束下的最优重构区域

结果表明,各自失真约束下的最优压缩不仅取决于各分量允许的重构误差,还取决于不同分量之间、最优重构误差之间的相关结构。不同失真区域对应不同的最优重构有效维度和失真分配方式。

图2 八维高斯信源下本文得到的解析结果(实线)与Hadamard下界(虚线)的比较

理论分析进一步表明,充分利用信源内部相关性能够显著降低压缩开销。在相同重构质量要求下,信源分量之间的相关性越强,平均每个信源分量所需的压缩速率越低。相关结果定量刻画了信源相关性对压缩速率的影响,为降低数据存储、传输与处理开销提供了理论依据。

图3 不同相关性下单位分量压缩速率随信源维度的变化

期刊介绍IEEE Transactions on Information Theory主要发表与信息传输、处理和利用相关的基础理论研究成果,是该领域具有重要国际影响力和学术权威性的代表性期刊。论文作者信息论文作者包括上海交通大学集成电路学院(信息与电子工程学院)博士生陈书奥(第一作者),吴泳澎教授(通讯作者),中国工程院院士张文军教授,香港理工大学高俊园博士,鹏城实验室施雨轩博士,德国国家科学院院士、美国国家工程院院士、德国柏林工业大学Giuseppe Caire教授,以及美国科学院与工程院两院院士、普林斯顿大学H. Vincent Poor教授。吴泳澎,上海交通大学集成电路学院(信息与电子工程学院)研究员,长期从事安全、超可靠和低时延通信理论与方法研究。目前已在IEEE期刊发表论文100余篇,多篇论文入选ESI热点论文和高被引论文,并获多项IEEE国际会议最佳论文奖。曾获中国通信学会自然科学一等奖(排名第一)、国家自然科学基金优秀青年科学基金、IEEE通信学会亚太区杰出青年研究学者奖、华为技术成果转化二等奖等荣誉。现任IEEE Transactions on Information Theory和 IEEE Wireless Communications 编委,兼任IMT-2030(6G)新一代多址接入技术任务组副组长、上海市5G/6G专家委员会特聘专家,主持国家自然科学基金、国家重点研发计划子课题及多项产学研合作项目。张文军,中国工程院院士、上海交通大学集成电路学院(信息与电子工程学院)讲席教授、图像通信与网络工程研究所所长、未来媒体网络协同创新中心主任,中国电子学会会士、IEEE Fellow。长期从事图像编码与通信、媒体网络融合、宽带无线传输和视听电子系统芯片设计等领域研究,主持研制国内首套高清电视广播原型系统,参与制定数字电视广播国家标准和媒体网络国际标准,推动数字电视核心接收芯片国产化。以第一完成人获得国家科技进步二等奖四项、中国专利金奖一项,并获何梁何利科技进步奖、上海市科技功臣等荣誉。

责编: 集小微
来源:上海交通大学 #上海交大# #集成电路学院# #吴泳澎教授#
THE END
关闭
加载

PDF 加载中...