分析压缩感知

2023-10-26

1.引言
  信号采样是模拟的物理世界通向数字的信息世界之必备手段。多年来,指导信号采样的理论基础一直是着名的Nyquist 采样定理。定理指出,只有当采样速率达到信号带宽的两倍以上时,才能由采样信号精确重建原始信号。可见,带宽是Nyquist 采样定理对采样的本质要求。但是,对于超宽带通信和信号处理、核磁共振成像、雷达遥感成像、传感器网络等实际应用,信号的带宽变得越来越大,人们对信号的采样速率、传输速度和存储空间的要求也变得越来越高。为了缓解对信号传输速度和存储空间的压力,当前常见的解决方案是信号压缩,如基于小波变换的JPEG2000 标准。但是,信号压缩实际上是一种严重的资源浪费,因为大量的采样数据在压缩过程中被丢弃了,而它们对于信号来说是不重要的或者只是冗余信息。从这个意义而言,我们得到以下结论:带宽不能本质地表达信号的信息,基于信号带宽的Nyquist 采样机制是冗余的或者说是非信息的。

  一个很自然的问题是:是否存在或者能否提出一种基于信息的采样理论框架,使得采样过程既能保持信号信息,又能只需远少于Nyquist 采样定理所要求的采样数目就可精确或近似精确重建原始信号?简言之,能否同时实现信号的采样与压缩?与信号带宽相比,稀疏性能够直观地而且相对本质地表达信号的信息。事实上,稀疏性在现代信号处理领域一直起着至关重要的作用,例如基于稀疏性的逼近、基于稀疏性的估计、基于稀疏性的压缩、基于稀疏性的降维等。不同于Nyquist 信号采样机制,Candès、Tao、Romberg、Donoho 等人。

  近年来基于信号稀疏性提出一种称为压缩感知(compressed sensing)或压缩采样(compressivesampling)的新兴采样理论,成功实现了信号的同时采样与压缩。

  简单地说,压缩感知理论指出:当信号在某个变换域是稀疏的或可压缩的,可以利用与变换矩阵非相干的测量矩阵将变换系数线性投影为低维观测向量,同时这种投影保持了重建信号所需的信息,通过进一步求解稀疏最优化问题就能够从低维观测向量精确地或高概率精确地重建原始高维信号。在该理论框架下,采样速率不再取决于信号的带宽,而在很大程度上取决于两个基本准则:稀疏性和非相干性,或者稀疏性和等距约束性。当前,压缩感知理论主要涉及三个核心问题:
  (1) 具有稀疏表示能力的过完备字典设计;
(2) 满足非相干性或等距约束性准则的测量矩阵设计;
  (3) 快速鲁棒的信号重建算法设计。

  上迅速兴起的热门研究方向。目前,学者们已经在模拟-信息采样、合成孔径雷达成像、遥感成像、核磁共振成像、深空探测成像、无线传感器网络、信源编码、人脸识别、语音识别、探地雷达成像等诸多领域对压缩感知展开了广泛的应用研究。

  值得注意的是,Rice 大学已经成功设计出了一种基于压缩感知的新型单像素相机,在实践中为取代传统相机迈出了实质性的一步。

  目前,压缩感知理论的相关工作尚有很多亟待解决的问题,尤其是国内关于压缩感知理论的基础研究基本处于空白。为此,本文围绕稀疏字典设计、测量矩阵设计、重建算法设计三个核心问题,对压缩感知的基本理论和实现方法进行了系统阐述,同时指出了压缩感知有待解决的若干理论推广和关键技术。本文结构安排如下:第2 部分基于非相干性和和等距约束性准则系统阐述了压缩感知的基本理论;第3 部分系统介绍了压缩感知的三个层面的核心技术,即稀疏字典设计、测量矩阵设计、重建算法设计;第4 部分指出压缩感知有待解决的若干关键问题;第5 部分对全文作了总结。

  2.压缩感知理论的基本框架
  2.1 信号的稀疏性定义 (可压缩信号) 称信号 N x ∈ ?? 在Ψ 域是可压缩的,如果变换向量s 大部分分量的取值很小,只有少部分分量的取值很大;或者说只要少部分取值大的分量就能很好地逼近原始信号x 。

  例如,尽管很多信号自身取值都是非零的,但是在小波正交基下,信号大部分小波系数的取值都很小,只有少量的小波系数取值很大,这些大系数承载了信号的绝大部分信息。小波变换的这种稀疏性或可压缩性已被成功地用于现代图像压缩标准—JPEG2000。这种通过稀疏变换实现压缩的方法称为变换编码[1]。变换编码在现代数据获取系统中一直发挥着重要的作用,例如数码相机、数码摄相机。但是,这种采样再压缩的数据获取过程造成了严重的资源浪费,尤其对于核磁共振成像、雷达遥感成像等特殊应用。例如,百万级像素的传感器只使用了压缩后的几百Kbyte 数据。

  2.2 压缩感知问题描述考虑一般的采样问题[23]:

  2.3 压缩感知基本理论
  在压缩感知理论中,采样速率不再取决于信号带宽,而在很大程度上取决于两个基本准则,即稀疏性和非相干性,或者,稀疏性和等距约束性。

  2.3.1 基于稀疏性和非相干性
  准则的压缩感知理论定理 1 显示了非相干正交基对(Φ% ,Ψ)对于压缩感知的重要性。不等式指出,μ (Φ% ,Ψ)越小,压缩采样所需的测量个数就会越少,意味着压缩测量yk 包含x的信息就会越多。特别地,当μ (Φ% ,Ψ)趋近于1 时,压缩感知只需O(K ? log N)个压缩测量就能以大概率精确重建原始信号。从信号重建过程来看,只需求解约束的l1范数最小化这个凸最优化问题;从数值解的精度来看,压缩采样的O(K ? log N)个压缩测量在很大概率上没有损失原始信号的信息。

  定理1 存在的不足之处是:只适用于K -稀疏信号,而实际信号如自然图像往往是可压缩的;最优化问题的解有不精确的可能。

  2.3.2 基于稀疏性和等距约束性
  准则的压缩感知理论定理 3 通过收紧等距约束常数的范围,使得Θ 的任意2K 列组成的子矩阵更趋于近似正交,将压缩感知松弛转化为约束1l 范数最小化的凸最优化问题,不仅保证了压缩感知的理论完备性,而且在数值计算上保证了压缩感知的可行性。当信号x 在Ψ 域是K -稀疏的,真实解s只有K 个非零项,则s? = s。换句话说,当Θ的2K 阶等距约束常数小于0.414,约束最优化问题(10)能够利用M ?? N 个压缩测量精确重建原始信号。定理3 不仅适用于K -稀疏信号,而且适用于可压缩信号。当信号是可压缩的,(11)式给出了近似解与真实解的误差范围,完全由某个固定常数C 和s的N ? K 个最小绝对值分量决定。同时,测量矩阵设计部分将指出,测量次数M 与稀疏性K 和信号长度N 之间的具体关系将由稀疏矩阵Ψ 和测量矩阵Φ 共同决定。

  3.压缩感知的核心问题
  3.1 压缩感知的稀疏字典设计信号 x 的稀疏性或可压缩性是压缩感知的重要前提和理论基础。因此,压缩感知理论首要的研究任务就是信号的稀疏表示研究。稀疏字典设计是压缩感知的核心问题之一,在于:

  只有选择合适的稀疏字典,才能保证表示系数具有足够的稀疏性或衰减性,才能在减少压缩测量的同时保证压缩感知的重建精度。

  目前,稀疏字典主要包括正交基字典、紧框架字典、过完备字典。正交基字典主要是计算调和分析中的正交变换系统,如Wavelet 变换;紧框架字典主要是以Ridgelet、CurveletBandletContourlet 为代表的图像几何多分辨率表示或者称Beyond Wavelet 变换;在过完备字典中,用于稀疏表示的不再是“单一基”,而是通过构造或学习得到的冗余原子库,通过提高变换系统的冗余性增强信号逼近的灵活性,提高对图像等复杂信号的稀疏表示能力。

  1993 年,Mallat 和Zhang首次提出了基于过完备字典的稀疏分解思想,指出了过完备字典对于信号稀疏表示的必要性和重要性。基于过完备字典的稀疏分解依然是当前信号稀疏表示研究的热点和难点。过完备字典由称为过完备原子库的冗余系统构成,原子不必再是“单一基”函数。过完备字典的构造或学习应遵循基本准则:字典中的原子应能尽量匹配信号本身固有的各种不同特征。在这种准则下,稀疏字典必定是非正交的且是冗余的,正是通过增加原子个数提高变换系统的冗余性来增强信号逼近的灵活性,进而提高图像等复杂信号的稀疏表示能力。当字典中的原子个数大于信号维数N 且包含N 个线性无关向量张成整个信号空间时,字典称为过完备的。基于过完备字典的稀疏分解使得信号能量集中在极少数原子上,正是这些具有非零系数的原子匹配了信号的不同特征。

  设计适合特定信号的过完备字典,目前主要包括人工构造和训练学习两大类方法。基于构造方法的过完备字典设计是主流,主要包括:Wavelet 和局部Cosine 函数的级联、各向同性的Gabor 字典、各向异性的Refinement-Gaussian 混合字典、各向异性的Gabor 感知多成份字典等。虽然Wavelet 能够稀疏表示信号中的点奇异特征、局部Cosine 函数能够有效表征纹理特征,但是由于Wavelet 的可分离性与各向同性,Wavelet 和局部Cosine 函数的级联不能有效刻画图像中的边缘轮廓等线奇异特征。各向同性的Gabor 字典能够有效刻画纹理特征。但是,由于Gabor 原子的各向同性和单频带宽,也不适于有效刻画图像中的边缘轮廓等线奇异特征。各向异性的Refinement-Gaussian 混合字典采用Gauss 函数及其二阶导数作为原子的生成函数,能够有效表征图像中边缘轮廓结构,但是没有能够有效刻画纹理特征的原子。各向异性的Gabor 感知多成分字典基于视觉感知的“有效编码假设”,以二维Gabor 函数作为字典原子的生成函数,依据视觉皮层中神经元的响应特性和组织方式以及图像的多成分特性,约束生成函数中自由参数的取值范围,通过对生成函数进行平移、旋转、伸缩等几何变换生成一系列原子,遵循了过完备字典构造应该遵循的基本准则。基于学习的过完备字典是过完备字典设计问题的难点和热点,涌现的典型学习算法主要有:其中,K-SVD 这类学习算法具有代表性,稀疏表示效果好,计算复杂度低,但不足之处是缺乏严格的理论支撑。基于过完备字典的稀疏表示的另一个方面是设计快速有效的稀疏分解算法。由于压缩感知信号重建问题追求的同样是稀疏解,因此某种程度上这里的稀疏分解算法可以推广应用到压缩感知问题。为了避免重复,稀疏分解的相关算法将在下文予以介绍。国内关于稀疏表示也展开了广泛的理论和应用研究。例如,谢胜利等人基于稀疏表示思想开展自适应的盲分离算法研究;尹忠科等人利用快速傅立叶变换实现匹配追踪的快速算法研究。

  3.2 压缩感知的测量矩阵设计测量
  矩阵设计是压缩采样理论的核心,直接决定了压缩采样理论是否能够成功实现。由于压缩测量个数和信号重建精度以及信号稀疏性有着密切的联系,因此测量矩阵的设计应该与稀疏字典的设计统筹考虑。从原理的角度看,测量矩阵的设计要以非相干性或等距约束性为基本准则,既要减少压缩测量个数又要确保压缩感知的信号重建精度。从技术的角度看,测量矩阵的设计包括两个方面:一是测量矩阵的元素,Candès 等人给出了随机生成的设计策略;二是测量矩阵的维数,压缩测量个数M 与信号稀疏性K 和信号长度N 应该满足一定的关系。

  3.2.1 基于非相干性准则的测量
  矩阵设计稀疏信号的非相干压缩感知定理要求非相干的正交基对(Φ% ,Ψ)。理想情况下,当正交基对具有最大非相干性,即μ (Φ% ,Ψ) = 1,压缩感知信号重建问题(7)只需O(K ? log N)个压缩测量就能以大概率精确重建原始信号。典型的例子是,正交基对(Φ% ,Ψ)由Delta基函数和Fourier基函数设计获得[2][4][6][23]。由定理1 知,若信号N x∈?? 本身是K -稀疏的,当k?% 取为Fourier基函数( ) 1/ 2 i 2 kj / Nk j N e π ? ? ? % = ,ψ j取为Delta 基函数ψ j (k ) = δ ( j ? k) ,则只要在Fourier 域任意随机均匀地选取M = O(K ? log N)个变换系数sΩ,|Ω|=M (即随机测量),就能保证很大概率地精确重建原始信号;如果信号N x ∈ ?? 在Fourier 基函数下是K -稀疏的,当k?% 取为Delta 基函数( ) ( ) k ?% j = δ j ? k ,ψ j取为Fourier 基函数( ) 1/ 2 i 2 jk / Nj k N e π ψ ? = ,则只要在时域任意随机均匀地选取M = O(K ? log N)个信号值,就能保证很大概率地精确重建原始信号。

  一般地,信号重建问题(7)需要M = O(μ 2 (Φ% ,Ψ) ? K ? log N)个随机压缩测量才能很大概率地精确重建原始信号[2][23]。例如,当Φ% 取为Noiselet,Ψ取为Harr Wavelet,μ (Φ% ,Ψ) = 2 ;Ψ取为Daubechies D4 Wavelet,μ (Φ% ,Ψ) = 2.2;Ψ取为Daubechies D8 Wavelet,μ (Φ% ,Ψ)=2.9。

  事实上,当Ψ取为任意固定正交矩阵,Φ% 取为某种随机正交矩阵,Φ% 与Ψ在很大程度上是非相干的[23]。例如,在单位球上随机均匀独立地选取N 个正交单位向量,通过这种随机方式获得的正交基Φ% 与任意固定正交基Ψ的相干性大约为2log N ;如果Φ% 的所有元素都是独立同分布选取的,例如服从Gaussian分布或Bernoulli分布,Φ% 与Ψ的相干性也是非常小的。

  3.2.2 基于等距约束性准则的测量
  矩阵设计由定理 3、4 知,信息算子Θ 或者测量矩阵Φ 要满足RIP 条件。注意的是,在这些定理中, Φ 既可以是随机矩阵也可以是确定性矩阵。从这个意义上讲,基于稀疏性和RIP 准则的压缩感知理论具有一般性。这里主要介绍随机测量矩阵[5],[23]。

  首先,对于(3.2.1)讨论的非相干正交基对(Φ% ,Ψ),只要满足M ≥ C ? K(log N)4,其中,C为某个固定常数,则Θ = Q Φ% Ψ 将很大概率地满足RIP。如果希望信息算子不满足RIP的概率小于O(n ) ?β ,其中β > 0,则要求M ≥ C ? K(log N)5。

  其次,(3.2.1)部分随机产生正交基Φ% 的方法同样适用于测量矩阵Φ,例如:
  (1) 在?? M的单位球上均匀独立地选取N 正交单位向量生成Φ ;
  (2) 独立同分布地从均值为零方差为1/M 的正态分布生成Φ;
  (3) 独立同分布地从取值为±1/ M 对称的伯努利(Bernoulli)分布生成Φ 。

  对于任意固定的正交基Ψ和随机产生的测量矩阵Φ,如果M ≥ C ? K log(N / K),其中,C 为某个固定常数,则Θ = Φ Ψ 很大概率地满足RIP。可见,当Ψ为正交基时,上述测量矩阵Φ在某种意义上具有普适性。主要在于:随机矩阵在正交变换下具有旋转不变性,Θ = Φ Ψ的随机性没有因为Φ 乘上Ψ 而改变。对于定理5、6,存在类似的结论,感兴趣的读者可以阅读参考文献。

  3.2 压缩感知的重建算法设计
  作为不适定的数学反问题,压缩感知信号重建在理论上存在着无数多个可行解。但是,上文压缩感知相关定理指出,非相干性或等距约束性准则为近似精确或精确重建提供了理论上的保证。压缩感知的第三个核心问题是重建算法的设计。重建算法的设计应该遵循如下基本准则:算法应该利用尽可能少的压缩测量快速、稳定、精确或近似精确地重建原始信号。

  定理 2 指出,当信号在变换域是K -稀疏的,如果Θ 的2K 阶约束等距常数小于1,那么压缩感知的信号重建可以转化为约束0l 范数最小化的非凸最优化问题求解。但是,由于0l 范数的高度非凸性, 0l 范数最小化是个需要组合搜索的NP-hard 问题。当N 很大时,不仅在数值计算上无法有效实现,而且抗噪能力很差。为此,学者们陆续提出了多种近似等价的信号重建算法。简单地说,主要包括三类方法:松弛方法、贪婪方法、非凸方法。需要指出的是,由于稀疏表示追求的同样是稀疏解,因此这三类算法也适用于信号的稀疏表示问题。

  松弛方法最典型的就是基于1l 范数最小化。例如,定理3 显示,当Θ 的等距约束常数满足收紧的RIP 条件,非凸0l 范数最小化与松弛的1l 范数最小化是等价的。典型的1l 范数最小化求解方法是基于线性规划的基追踪算法(BP)。但是,BP 算法在实际应用中存在两个明显的问题:一方面,当压缩测量个数M ≥ cK ,c ≈ log(N / K)时,计算复杂度的量级为( O N 3);另一方面, 1l 范数不能区分指示稀疏系数的位置,将导致低尺度的能量迁移到高尺度的可能,在高频区域出现震荡等伪人工现象。为了降低计算复杂度,文献陆续报道了内点法、最小角回归(LARs)、梯度投影(GPSR、软/硬迭代阈值等多种稀疏重建算法。总的来说,此类方法但是重建精度高,需要的压缩测量个数少O(K ? log(N / K)),但是计算复杂度相对较高。

  第二类方法就是贪婪方法,基本思想是通过每次迭代时进行局部最优化寻找各个非零系数。主要包括:匹配追踪(MP)[49]、正交匹配追踪(OMP)[75-77]、近似OMP 的梯度追踪(GP)、正则正交匹配追踪(ROMP)、树形匹配追踪(TMP)、分段匹配追踪(StOMP)、子空间追踪(SP)、压缩感知匹配追踪(CoSaMP)、稀疏性自适应匹配追踪(SAMP)[81]等。贪婪方法计算复杂度相对较低,但是与松弛方法相比,需要更多的压缩测量O(K ? log N),重建精度相对较低。例如,当压缩测量个数满足M ≥ cK ,c ≈ 2 ? log N 时,OMP能够以较高的概率重构信号,计算复杂度为O ( NK 2)。因此,与BP 算法相比,OMP 是以较多的压缩测量换取较快的计算速度。又如,Donoho 等人提出的StOMP 以牺牲计算精度为代价进一步提高OMP的计算速度。在上述9 种贪婪算法中,由于SAMP 不需要稀疏度先验,因此在实用性和有效性上由于其它贪婪算法。

  第三类方法就是非凸方法。该类方法所需的压缩测量个数、计算复杂度、信号重构精度总体上介于松弛和贪婪两类方法之间。典型的正则算法有,基于pl (0<p<1)范数的FOCUSS算法和迭代重新加权算法。最近,Ji 等人基于Gaussian 和Gamma、Babacan 等人基于Laplacian 和Gamma 分别提出了多层Bayesian CS 信号重建算法,通过第II 类最大似然估计法求解相关参数和稀疏系数。

  4.有待研究的几个关键问题
  压缩感知经过近年来的迅猛发展,已基本形成了自己的理论框架,包括基础理论、实现方法和实际应用。但是,压缩感知理论还有很多亟待解决的问题,为此本文列出了压缩感知有待解决的几个关键问题。

  4.1 基础理论层面
  1. 非 1l 范数驱动的压缩感知信号重建理论。根据上文讨论, 1l 范数最小化已经成功应用于非相干性准则驱动的稀疏信号压缩感知理论和等距约束性准则驱动的可压缩信号压缩感知理论。具体表现在:当要精确或近似精确重建原始信号,基于1l 范数最小化的相关定理对稀疏字典Ψ 、测量矩阵Φ 、压缩测量个数M、信号重建精度等都有了明确的界定。基于贪婪方法和非凸方法的信号重建虽然有很多优点,但是在理论上一直存在诸多不完备之处。

  突出表现在:在特定稀疏字典和测量矩阵下,大多贪婪和非凸重建算法没有给出对应信号重建精度所需的压缩测量个数M。

  2. 基于非正交稀疏字典的压缩感知信号重建理论。在等距约束性准则驱动的可压缩信号压缩感知定理中,关于稀疏字典Ψ和测量矩阵Φ仅要求两者乘积Θ = Φ Ψ 满足RIP。但是,测量矩阵设计部分关于压缩测量个数M 的界定还额外附加了假设条件,即稀疏字典Ψ 是正交基。当测量矩阵Φ依然通过三种方式生成,但是稀疏字典Ψ不再正交时,Θ = Φ Ψ 是否满足RIP?压缩测量个数M 的下限是否不变?由于过完备的稀疏字典才能保证表示系数具有足够的稀疏性或衰减性,进而能够在减少压缩测量的同时保证压缩感知的重建精度,所以需要设计鲁棒的测量矩阵Φ 使之与过完备稀疏字典依然满足RIP,同时需要重新估计压缩测量个数M 的下限,这时所需的压缩测量定会减少。

  3. 自然图像的自适应压缩感知信号重建理论。虽然基于线性投影的压缩感知理论能够直接应用于自然图像这样的复杂高维信号,但是由于没有考虑到自然图像的固有特性,诸如结构多成分性、高阶统计性等,对于自然图像压缩采样本身没有特殊的指导作用。事实上,相对于一维离散信号,自然图像的复杂性和高维性使之需要自适应的压缩采样和重建算法。

  例如,基于图像多成分性的特点能够提高重建图像的峰值信噪比和视觉效果。注意到,压缩感知理论的大部分文献中,测量矩阵Φ 都是线性的且设计好的,不需根据观测信号自适应地变化。对于自然图像,假如能够实现非线性自适应的压缩测量,压缩感知的压缩性能势必会获得大幅度的提高。目前,自然图像的自适应压缩感知信号重建理论基本空白。这项工作对压缩感知的理论推广和实际应用都具有重要意义。

  4.2 实现方法层面1. 基于学习的自然图像过完备字典设计。目前,基于构造方法的自然图像过完备字典设计具有很好的理论支撑,正则化几何方法、几何多尺度分析、基于信息论的“有效编码假设”为其奠定了坚实广阔的理论基础。但是,从国际上关于过完备字典设计的整体情况看,基于学习的自然图像过完备字典设计的工作非常少,主要在于:设计难度大、性能要求高,同时缺乏严格的理论支撑。这项工作对于稀疏字典和压缩感知都将是重要的理论完善。

  2. 硬件易实现的确定性测量矩阵设计。在等距约束性准则驱动的可压缩信号压缩感知定理3、4 中,要求稀疏字典Ψ和测量矩阵Φ的乘积Θ = Φ Ψ 满足RIP。其中,稀疏字典Ψ可以是正交的也可以是非正交的,测量矩阵Φ 可以是随机的也可以是确定的。但是,面向应用且硬件易实现的测量矩阵应该具有以下基本特点:满足等距约束性、压缩测量个数少、采样计算成本低、存储矩阵的空间小、以及测量矩阵最好是确定性的。设计出硬件容易实现的测量矩阵和快速稳定的重建算法是将压缩感知理论推向实用的关键。

  3. 噪声情形大尺度问题的快速鲁棒重建算法设计。快速稳定的信号重建算法是将压缩感知理论推向实用的关键技术之一,特别适用于纠错编码、核磁共振成像、NMR 波谱研究等大尺度问题。通常,基于1l 最小化松弛算法的计算复杂度相对较高。因而,在非1l 范数最小化驱动的压缩感知理论完善工作的基础上,希望能够基于稀疏性自适应的贪婪迭代和基于多层超先验建模的非凸迭代思想设计适于噪声情形大尺度问题的快速鲁棒重建算法。

  
  5.总结
  压缩最初由美国威斯康星大学的Mistretta 教授等人提出:能否通过减少采样数据缩短核磁共振成像的时间并且能够利用这些有限量的数据重建原始图像。对于这个问题,威斯康星大学的研究人员最初采用传统图像重建算法进行实验。结果显示[88],重建图像的分辨率不仅低,而且边缘模糊,人工效应也很明显。完全出乎意料地,加利福尼亚科技学院的Candès 教授及其团队仅仅基于惩罚的思想完美重建出了原始图像,同时证明了:只需随机选取信号M ≥ 2K个Fourier 表示系数,就能唯一精确重建原始图像[3]。正是这个意外的发现触发了压缩感知理论的思想来源。压缩感知的诞生,堪称世纪之作。在这里,向奠定压缩感知基础理论的三位科学家表示致敬,他们分别是:加利福尼亚科技学院应用与计算数学系教授Emmanuel J. Candès、加利福尼亚大学数学系教授Terence Tao、乔治亚科技学院电子与计算机工程系的Justin Romberg!

  压缩感知理论自诞生之日就有着极强的生命力,已经对信号处理、理论数学、计算数学、计算机科学、信息论、概率论、电子工程、光学工程等诸多领域产生了重要影响。压缩感知的新颖性在于:只需远少于传统Nyquist 采样定理所要求的采样数就能精确或高概率精确重建原始信号。采样速率不再取决于信号带宽,而在很大程度上取决于稀疏性和非相干性准则,或者稀疏性和等距约束性准则。本文围绕压缩感知的稀疏字典设计、测量矩阵设计、重建算法设计三个核心问题,对其基本理论和主要方法进行了系统阐述。同时,在基础理论和实现方法两个层面提出了压缩感知有待解决的若干理论问题与关键技术,具体包括:
  (1) 非1l 范数驱动的压缩感知信号重建理论;
  (2) 基于非正交稀疏字典的压缩感知信号重建理论;
  (3) 自然图像的自适应压缩感知信号重建理论;
  (4) 基于学习的自然图像过完备字典设计;
  (5) 硬件易实现的确定性测量矩阵设计;
  (6) 噪声情形大尺度问题的快速鲁棒重建算法设计。

  总之,不管是基础理论还是重建算法,都必须以把压缩感知理论推向实用为准则。至于压缩感知理论能否应用于某种实际领域,要看是否有将大量信息蕴含于少量采样数据的迫切需要,例如:提高应用系统的性能、缩短数据获取的时间、降低数据获取的耗能、减少数据的存储空间、提高数据的传输速度等等。最后,需要指出的是:压缩感知理论不是普适的。对于随机信号或者噪声信号等非结构性的信号,压缩感知理论肯定不适用。特别地,对于某些实际应用,Nyquist 采样还是首选有效的方法,因为目前压缩感知理论可能存在某些暂时不能解释也不能克服的局限性。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

分析压缩感知 的相关文章

  • Babel转码器详解

    Babel转码器详解 Babel是一个广为使用的ES6转码器 可以将ES6代码转为ES5代码 从而在浏览器或其他环境运行 这意味着可以用ES6的方式编写程序而不用担心环境是否支持 Babel的配置文件是 babelrc 存放在根目录下 使用
  • 已解决 ZeroDivisionError: float division by zero 。

    问题 在使用YOLO算法系列时 需要将xml文件转换为txt文件 我在转换时遇到了这个问题ZeroDivisionError float division by zer 解决方法 简单的解决方法 找到报错的位置 将w h的值后面各加上一个极
  • Python进行ARMA模型建模

    import pandas as pd import matplotlib pyplot as plt import seaborn as sns import statsmodels api as sm from statsmodels
  • 使用Virtuoso和hspice进行电路输入与模拟

    总述 在这一次实验里 我学习了电路模拟的基本办法 具体而言是virtuoso和hspice 还有custom waveform软件基本功能的使用 达到了通过电路模拟验证延迟 验证功耗 验证逻辑功能的目的 反相器的设计 反相器是可以将输入信号
  • DBeaver 连接 Google BigQuery

    DBeaver 连接 Google BigQuery 毕业设计要用到Google BigQuery 但是想要用DBeaver进行远程连接 实在用不惯浏览器端的界面 结果发现DBeaver 真 的 可 以 DBeaver提供了Google B
  • Mysql Redo Log日志

    Mysql Redo Log日志 数据日志与数据落盘机制 Redo log写入磁盘时 必须进行一次操作系统fsync操作 防止redo log只是写入操作系统磁盘缓存中 参数innodb flush log at trx commit可以控
  • C++ 动态内存

    了解动态内存在 C 中是如何工作的是成为一名合格的 C 程序员必不可少的 C 程序中的内存分为两个部分 栈 在函数内部声明的所有变量都将占用栈内存 堆 这是程序中未使用的内存 在程序运行时可用于动态分配内存 很多时候 您无法提前预知需要多少
  • 公司名称注册,公司名称查询,企业名称注册事项

    公司名称的构成 名称一般由四部分依次组成 行政区划 字号 行业特点 组织形式 登记管辖 工商行政管理机关对企业名称实行分级登记管理 国家工商总局登记管辖范围 一 冠以 中国 中华 全国 国家 国际 字样的 二 在名称中间使用 中国 中华 全
  • Python中的三引号''' '''的用法

    链接 https blog csdn net GreenHandCGL article details 79703863
  • ERP仓库管理的操作与设计--开源软件诞生20

    赤龙ERP库房管理讲解 第20篇 用日志记录 开源软件 的诞生 点亮星标 祈盼着一个鼓励 博主开源地址 码云 https gitee com redragon redragon erp GitHub https github com red
  • minkwindow安装

    装库要记住三件事 官网 csdn 耐心 装库太慢就边看剧边装 不要影响心态 首先上官网 GitHub NVIDIA MinkowskiEngine Minkowski Engine is an auto diff neural networ
  • 国产超低功耗华大单片机HC32L136开发板上手入门

    今天介绍下国产超低功耗华大单片机HC32L136开发板上手后的入门操作 开发板可以在华大MCU应用交流群 164973950 免费申请 HC32L136开发板 如下图所示 分为板载调试模块 左半部分 和MCU开发电路 右半部分 二者中间通过
  • 当你的sklearn用不了mean_absolute_percentage_error函数

    今天将一份写好的python机器学习程序换了个电脑跑的时候 出现了如下报错 ImportError cannot import name mean absolute percentage error from sklearn metrics
  • 解决K8s安装中节点初始化时 [kubelet-check] The HTTP call equal to ‘curl -sSL http://localhost:10248/healthz‘ 问题.

    问题描述 安装K8s时 在节点初始化过程中出现 kubelet check The HTTP call equal to curl sSL http localhost 10248 healthz failed with error Get
  • WINDOWS 10 设置WSL 2

    确保已安装 WSL 可以在此处找到相关说明 并且运行的是 Windows 10内部版本 18917或更高版本 可以通过在 PowerShell 中运行以下命令来执行此操作 PowerShell dism exe online enable
  • 分布式深度学习part1:神经网络的分布式训练

    这篇文章是关于神经网络分布式训练的三部系列文章中的第一篇 在第1部中 我们将了解如何通过GPU上的分布式计算显著地加速深度学习模型的训练 并讨论一些挑战并调查当前关于该主题的研究 我们还将考虑神经网络的分布式训练是否适用于特定用例 介绍 在
  • stm32关于通用定时器的周期、频率计算公式

    以下内容针对正点原子的定时器中断实验 定时器时基单元包含 计数器寄存器 TIMx CNT 预分频器寄存器 TIMx PSC 该寄存器用设置对时钟进行分频 然后提供给计数器 作为计数器的时钟 自动装载寄存器 TIMx ARR 定时器的时钟来源
  • 【适合小白】开发一个区块链应用

    前言 本篇教程是小编基于FISCO BCOS官网的教程撰写的 有不明白的地方也可以去官网上的教程看看 在开发区块链应用之前 首先得完成搭建第一个区块链应用 目的是为了搭建节点跟启动控制台 1 了解应用需求 区块链天然具有防篡改 可追溯等特性

随机推荐

  • MQTT协议学习

    MQTT协议是目前物联网最主要的协议 它的设计主要是运用于 低带宽 低网速 差网络环境能够保证数据的正常传输 MQTT协议基于TCP IP协议 运用订阅发布模式 解除应用之间的耦合关系 客户端与客户端之间只需要知道服务器位置 就可以传输数据
  • Github管理项目代码相关git命令

    1 Git global setup git config global user name username git config global user email user email 2 Create a new repositor
  • .classpath .project ch2.iml这三个文件如何理解?

    这三个文件通常出现在Java开发中使用的集成开发环境 IDE 项目中 如Eclipse或IntelliJ IDEA 它们在项目的组织和配置方面发挥着重要的作用 classpath 文件 classpath 是 Eclipse 项目的配置文件
  • Wireshark使用小心得

    Wireshark工作使用小结 基本概念 wireshark是个开源的好用软件 用来分析数据包 数据包 通常就是四层信息 物理层数据帧 数据链路层以太帧头部 网络层IP包头部 传输层TCP包头部 最后就是应用层信息 基础功能使用 打开软件界
  • 范数介绍及C++/OpenCV/Eigen的三种实现

    有时我们需要衡量一个向量的大小 在机器学习中 我们经常使用被称为范数 norm 的函数衡量向量大小 形式上 Lp范数定义如下 范数 包括Lp范数 是将向量映射到非负值的函数 直观上来说 向量x的范数衡量从原点到点x的距离 更严格地说 范数是
  • 失业的程序员(五):商战之前

    本系列前章 失业的程序员 一 二 三 四 一 关于裸奔 早几年出现了很多新名词 如裸婚 蜗居 蚁族 而像我们这种没背景 没后台 没资金的程序员创业那简直可以称为裸奔 创业是否成功的标准实在太多 不能只拿钱来衡量因为很多人会说你铜臭 不能只拿
  • MYSQL的存储过程

    存储过程 存储过程是事先经过编译并存储在数据库中的一段 SQL 语句的集合 调用存储过程可以简化应用开发人员的很多工作 减少数据在数据库和应用服务器之间的传输 对于提高数据处理的效率是有好处的 存储过程思想上很简单 就是数据库 SQL 语言
  • IAR编译器问题的总结

    之前做项目都是用keil编译器比较多 也基本上用得很顺手 但是最近又开始用IAR编译器 结果这次真是被它折磨得快要崩溃 现在把问题总结如下 IAR编译器版本 IAR2 10 4 IAR编译器默认的优化设置一定要注意 这个是之前做的一个项目
  • Kotlin协程源码简单聊一聊,浅浅看看表层

    今日科技快讯 近日 经历了一次停办 两次规模严重缩水之后 2023年世界移动通信大会 MWC 终于再现往日盛况 有来自200多个国家和地区的2000多家厂商参加 并在此次展会上发布了最新的产品与科技 仅中国就有100余家厂商参展 每年的MW
  • 详解前端性能优化之原生JS实现图片懒加载效果(通过IntersectionObserver内置构造函数实现)

    相信你作为一名用户 使用一款app 在首次打开页面时卡顿超过3秒时就会有退出的想法 所以我们在日常开发中 通常需要使用一些手段实现对性能的优化 来使得页面加载更快 用户体验更好 这其中有许多方式 其中最常用的无非是按需加载了 今天就带大家重
  • 硬盘配置raid5时碰见unconfiguration bad问题记录

    环境 长城服务器 昆仑bios 问题描述 系统装了四个SSD盘 但在BIOS配置raid的 Driver Manager 驱动识别界面中四块硬盘中的三块都是坏的 显示unconfiguration bad 并且在后面的raid配置界面中识别
  • MES系统质量追溯功能,到底在追什么?

    今天我们就来分析一下生产企业的产品质量追溯问题 以及MES系统中产品追溯的应用 我们知道 生产质量管理是MES系统中十分重要的一部分 因为长期以来 车间质量管理部门希望车间的加工水平持续保持在最佳状态 对加工过程产生的质量问题能得到及时的发
  • 河北某日报移动端python数据采集 eds加密新闻内容

    写在最前面 此移动端采用EDS 的js加密 核心的js加密代码 贴在 个人爱好尝试破解 仅提供技术交流用 目标地址 抓取的详情页地址 var e 4Qjir8b019EIXH0FBzIJIuElne7uRYd6AB7qOIQg TdtJrw
  • Java日期计算溢出问题

    先看下面的代码 SimpleDateFormat fmt new SimpleDateFormat yyyy MM dd final Date beginDate fmt parse 2013 8 1 for int i 0 i lt 30
  • 【Docker】ERROR: Could not find a version that satisfies the requirement pytest==5.0.1

    1 背景 背景参考 Docker elasticsearch 监控工具 elasticsearch HQ lcc lcc soft es elasticsearch HQ 3 5 12 pip install r requirements
  • Java解决Oracle中ORA-12542:TNS无监听程序ORA-12542:TNS:监听程序无法识别连接符中请求的服务

    环境 WINDOWS2003 ORACLE 10G 第一次安装完ORACLE后使用SQLPLUS链接都是没问题的 但重启服务器就报了异常 ORA 12541 TNS 无监听程序 这里肯定是监听器出了问题 但没有做任何变动 只是重启了服务器
  • 音频特征(2):时域图、频谱图、语谱图(时频谱图)

    文章目录 时域和频域 1 概述 2 时域 波形和频域 用几张对比图来区分 2 1 时域和频域 2 2 区分 时频谱图 语谱图 傅里叶变换的典型用途是将信号分解成频率谱 显示与频率对应的幅值大小 时域和频域 1 概述 1 什么是信号的时域和频
  • Zabbix实践(四) zabbix的通知推送解决方案

    zabbix 监控建立起来后 可以使用zabbix自带的推送接口 进行消息的推送 本节 说明一下采用OneAlert产品作为 zabbix的下游 进行消息推送 OneAlert 是一款集成了各种推送和接收消息的软件 个人版本免费 其他版本
  • TypeScript-初识

    引言 TypeScript 静态类检查器 提供了 JavaScript 的所有功能 并且在这些功能之上添加了一层 TypeScript 的类型系统 TypeScript 会在执行前检查程序是否有错误 并根据值的种类进行检查 一 定义属性 c
  • 分析压缩感知

    1 引言 信号采样是模拟的物理世界通向数字的信息世界之必备手段 多年来 指导信号采样的理论基础一直是着名的Nyquist 采样定理 定理指出 只有当采样速率达到信号带宽的两倍以上时 才能由采样信号精确重建原始信号 可见 带宽是Nyquist