图像复原是指根据对图像降质成因的知识建立降质模型,从客观的角度对降质图像进 行处理,恢复原图像。图像复原与图像增强有着密切的联系和区别,它们的目的都是在某 种意义上改善图像的质量,但二者的处理方法和评价标准不同。图像增强一般根据人类主 观感受,使图像具有好的视觉效果,在图像增强过程中,并不分析图像降质的原因,也不要 求接近原图像;而图像复原则是图像降质的逆过程,利用图像降质过程中的全部或部分先 验知识建立图像降质模型,通过求解图像降质过程的逆过程来恢复原图像,使估计图像尽 可能地逼近原图像。对图像复原可以从不同的角度进行分类,根据图像复原所用的最优化 准则,可将图像复原方法分为最小均方误差(minimum mean square error,MMSE)估计、 最大后验(Maximum a Posteriori,MAP)估计/极大似然(maximum likelihood,ML)估 计和最小二乘(least squares,LS)估计方法;根据图像所处理的域,可将图像复原方法分 为频域方法和空域方法;按照图像复原是否附加约束条件限制,可将图像复原方法分为无 约束复原方法和约束复原方法。 5.1 图像降质模型 由成像系统获取图像的过程为正问题,那么相应的逆问题是由观测的降质图像以及成 像系统特性对原图像进行估计。图像复原的基础是图像降质模型,根据对降质系统和噪声 的全部或部分信息或假设,对图像降质过程进行建模,求解降质模型的逆过程,获取原图 像的最优估计。 5.1.1 图像降质/复原过程 在图像获取、传输和处理的过程中,由于成像系统、记录设备、传输介质和后期处理 的原因,造成图像质量下降,这种现象称为图像降质。引起图像降质的因素很多,大致可 以归纳为系统带宽限制产生的频率混叠、大气湍流效应产生的高斯模糊、镜头聚焦不准产 生的光学散焦模糊、成像系统与场景之间的相对运动产生的运动模糊、光电转换器件的非 线性、随机噪声干扰等。目前图像复原已经应用于天文学、医学成像等诸多领域。 对于线性空间移不变系统,且加性噪声的情况,在空域中图像降质过程通常建模为如 下的卷积形式: g (x, y) = h (x, y) . f (x, y) + η (x, y) (5-1) 式中,g (x, y) 表示观测图像,即模糊、有噪的降质图像;h (x, y) 表示系统冲激响应、点扩 散函数(point spread function, PSF)或模糊核,造成采集的图像发生模糊;f (x, y) 表示 原图像,可以认为是在理想图像获取条件下所成的图像,它实际上并不存在;η (x, y) 表示 加性噪声项。 式 (5-1) 描述了图像降质过程,原图像受到模糊和噪声的作用,形成观测图像。5.1.2 节 将证明线性空间移不变系统的输出响应 g (x, y) 可以表示为系统输入 f (x, y) 与点扩散函 数 h (x, y) 的卷积形式。 143 如图 5-1 所示,图像降质过程通过降质函数 h (x, y) 和加性噪声 η (x, y) 来建模,图中, f (x, y) 为原图像,h (x, y) 为降质函数,g (x, y) 为降质图像,η (x, y) 为加性噪声,. f (x, y) 为复原图像。若将图像降质过程看作正问题,则图像复原是逆问题,它的任务是给定降质图 像 g (x, y),以及降质函数 h (x, y) 和加性噪声 η (x, y) 的所有或部分信息,根据建立的图像 降质模型,对原图像 f (x, y) 进行估计,使复原图像 . f (x, y) 尽可能地逼近原图像 f (x, y)。 图 5-1 图像降质与复原模型 图像复原的关键在于降质模型的建立,要求降质模型准确反映图像降质的成因。但是, 给定降质模型,从降质图像 g (x, y) 恢复原图像 f (x, y) 的逆问题并不是直接的。即使降质 模型是精确的,仅依赖于降质模型求解逆问题仍是困难的。有关降质函数 h (x, y) 和加性 噪声 η (x, y) 的信息越多,复原图像 . f (x, y) 会越接近原图像 f (x, y)。 由于降质图像是原图像与点扩散函数的卷积,因此图像复原也称为图像解卷积(image deconvolution)。根据降质函数是否可用,图像复原分为两类:若点扩散函数 h (x, y) 或点 扩散函数的估计 .h (x, y) 是已知的,则从降质图像 g (x, y) 恢复原图像 f (x, y) 称为非盲复 原或非盲解卷积;若点扩散函数 h (x, y) 是未知的,则称为盲复原或盲解卷积。 在零延拓的基础上,将尺寸为 M × N 的 g (x, y)、f (x, y) 和 η (x, y) 中所有元素按列 堆叠表示为 MN 维列向量 g、f 和 ηà。式 (5-1) 可用矩阵向量形式表示为 g = Hf + η (5-2) 式中,H ∈ RMN×MN 称为降质矩阵,g ∈ RMN、f ∈ RMN 和 η ∈ RMN 分别为降质图像、 原图像和噪声的列向量表示。在二维离散系统中,线性移不变系统的降质矩阵 H 是循环 块块循环矩阵(block circulant matrix with circulant blocks,BCCB)。MATLAB 图像处 理工具箱中的 convmtx2 函数实现卷积模板到降质矩阵的转换。 根据卷积定理和傅里叶变换的性质,图像 f (x, y) 与点扩散函数 h (x, y) 的空域卷积等 效于它们傅里叶变换的频域乘积。式 (5-1) 的频域表示形式为 G(u, v) = H (u, v) F (u, v) + N (u, v) (5-3) 式中,H (u, v) 称为系统传递函数,它是系统冲激响应 h (x, y) 的傅里叶变换;G(u, v)、 F (u, v) 和 N (u, v) 分别为降质图像 g (x, y)、原图像 f (x, y) 和加性噪声 η (x, y) 的傅里 à 为了矩阵和向量进行乘积运算,图像处理中常用的处理方式是将矩阵表示的图像按列堆叠为列向量,本章中涉及的变 量 g、f 和 η 均为列向量。 144 叶变换。当 h (x, y) 称为点扩散函数时,H (u, v) 也称为光学传递函数(optical transfer function, OTF)。MATLAB 图像处理工具箱中的 psf2otf 函数实现从点扩散函数转换为光 学传递函数。 当图像中噪声是唯一的降质因素时,f (x, y) 因噪声 η (x, y) 干扰而产生降质图像 g (x, y), 在空域中降质模型可以表示为 g (x, y) = f (x, y) + η (x, y) (5-4) 其中,g (x, y) 为有噪图像,f (x, y) 为原图像,η (x, y) 为加性噪声。为了在噪声存在的情 况下恢复图像,包括由传感器或周围环境引起的噪声,有必要了解噪声的统计特性,以及 噪声与图像之间的相关性质。通常假设加性噪声是独立同分布的,即独立于空间坐标,并 且加性噪声与图像本身不相关。 当图像中的降质因素仅为噪声时,根据噪声的特性去除图像中的噪声,称为图像去噪。 从图像复原的角度,图像去噪也就是从噪声或野点中恢复或重建原(无噪)图像。在缺乏 噪声统计特性先验知识的情况下去除图像中的噪声称为盲图像去噪。 5.1.2 线性移不变降质模型:卷积 对于二维离散信号来说,单位冲激函数à的形式为 δ (x, y) =8<: 1, x = 0; y = 0 0, 其他 (5-5) δ 函数的定义表明,δ 函数只有在坐标 (0, 0) 处函数值为 1,在坐标 (0, 0) 以外各处函数值 均为 0。在光学中,冲激为一个光点,因此,δ (x, y) 也表示在点 (0, 0) 且亮度值为 1 的点 光源。 任意数字图像 f (x, y) 可以看成由自身亮度的点光源组成的二维阵列,如图 5-2(a)所 示,可表示为点光源的加权和的形式: f (x, y) = +∞ X α=.∞ +∞ X β=.∞ f (α, β) δ (x . α, y . β) (5-6) 式中,δ (x . α, y . β) 是单位冲激的位移,在坐标 (α, β) 处函数值为 1,在其他各处函数值 均为 0。图像 f (x, y) 在坐标 (α, β) 处的亮度值实际上是 f (x, y) 在单位冲激函数 δ (x, y) 的非零值位移至 (α, β) 处的取值 f (α, β)。 系统冲激响应á是指系统 H 对激励为单位冲激函数 δ (x, y) 的输出响应,一般用 h (x, y) 表示为 h (x, y) = H[δ (x, y)] (5-7) à 在离散系统中,单位冲激函数通常称为单位脉冲函数、单位采样函数、狄拉克 δ 函数。 á 在离散系统中,冲激响应通常称为单位脉冲响应、单位采样响应。 145 当输入信号为 δ (x, y) 时,系统的冲激响应包含了系统的所有信息。由于在光学中常用点 光源表示空间上的单位冲激信号 δ (x, y),系统的冲激响应 h (x, y) 也称为点扩散函数。这 一名称源于所有物理光学系统在一定程度上会模糊(扩散)光点,模糊程度由光学部件的 质量决定。 将任意的输入信号 f (x, y) 分解成单位冲激的加权和后,就可以计算任何线性移不变 系统对任意输入信号的响应 g (x, y) = H[f (x, y)]。若降质系统 H 是线性的,则系统对加 权采样信号的响应是相应加权输出的和,有 g (x, y) = H[f (x, y)] = H" +∞ X α=.∞ +∞ X β=.∞ f (α, β) δ (x . α, y . β)# .1 === +∞ X α=.∞ +∞ X β=.∞ H[f (α, β) δ (x . α, y . β)] .2 === +∞ X α=.∞ +∞ X β=.∞ f (α, β)H[δ (x . α, y . β)] = +∞ X α=.∞ +∞ X β=.∞ f (α, β) h (x, y; α, β) (5-8) .1 和 .2 分别应用了线性算子的叠加性和齐次性。叠加性表明,系统对信号之和的作用等 效于系统对信号分别作用之和;齐次性表明,系统对常数与任意信号相乘的作用等效于常 数与系统对该信号作用的乘积。 当系统 H 为空间移不变系统时,即系统的冲激响应 h (x, y) 与位置无关,即 h (x, y; α, β) = H[δ (x . α, y . β)] = h (x . α, y . β) (5-9) 于是,线性空间移不变降质模型可表示为 g (x, y) = +∞ X α=.∞ +∞ X β=.∞ f (α, β) h (x . α, y . β) ≡ h (x, y) . f (x, y) (5-10) 式中,. 表示卷积运算。任意输入信号都可以分解并表示为单位冲激的加权和。由于系统 的线性移不变性,系统对任意输入信号的响应可以表示为单位冲激响应的形式。卷积是将 系统的单位冲激响应、任意的输入信号与输出信号关联起来的一般表达形式。因此,当给 定系统冲激响应时,可以计算线性移不变系统对任意输入信号的输出。 式 (5-10) 中卷积公式的物理意义可理解为冲激响应函数所有移位 h (x . α, y . β) 的 加权和,权系数是信号在对应位置 (α, β) 处的强度。直观上来看,某个函数与单位冲激的 卷积,相当于在单位冲激的位置处复制该函数。图 5-2(b)中对应在位置 (3, 6)、(8, 2)、 (9, 9) 处显示了三个移位、加权的高斯模糊核函数à。 à 高斯模糊核函数的数学表达式参见式 (5-21)。 146 图 5-2 线性移不变系统对任意输入响应的解释 式 (5-10) 表明,线性空间移不变系统 H 的输出响应 g (x, y) 可表示为输入图像 f (x, y) 与系统冲激响应 h (x, y) 的卷积,线性移不变系统的特性完全可以由单位冲激函数的响应 进行描述。式 (5-1) 中的图像降质模型建立在线性空间移不变系统的基础上,给定降质图 像 g (x, y) 和系统冲激响应 h (x, y),通过求解式 (5-1) 估计原图像 f (x, y) 的逆过程称为解 卷积。 5.2 图像降质的参数估计 图像降质的参数估计方法事先对待估计的噪声或模糊类型作出假设,然后根据这个假 设选择合适的模型,利用降质图像来估计模型参数。参数估计方法通常用在复原过程之前 对模型参数进行估计。这种方法使降质模型的估计相对简单,但是估计的准确性依赖于假 设的模型是否符合真实的噪声分布或点扩散函数。而对于复杂问题,通常不能用现有的参 数模型来描述,因此参数估计的方法并不灵活。 5.2.1 典型噪声类型 图像在获取、传输或处理过程中,会不可避免地引入各种噪声。图像噪声是指图像的 像素值与真实场景存在误差,从视觉上看,噪声表现为图像中与其邻域像素不同的异常像 素。根据不同的角度有多种噪声分类的方法。从硬件的角度,更多关注噪声产生的原因,将 图像噪声划分为内部噪声和外部噪声,外部噪声是指成像系统外部干扰引起的噪声(信道 噪声等),而内部噪声是指由成像系统内部引起的噪声(电子电路噪声、传感器噪声等)。从 通信的角度,通常分为加性噪声和乘性噪声,加性噪声是指噪声独立于信号,而乘性噪声 是指噪声是关于信号的函数。从图像处理的角度来说,着重关注图像噪声的统计特性,通 过建立数学模型,有助于运用数学手段处理相应的噪声。本节根据噪声的统计特性对随机 噪声进行分类。 随机图像噪声表现为图像中随机出现的野点,通常是一种空间不相关的离散孤立像素 的变化现象。一般使用随机变量表示随机图像噪声,可以用概率密度函数或分布律来描述 147 噪声分布。图像中的噪声根据其概率特征主要分为高斯噪声(Gaussian noise)、泊松噪声 (Poisson noise)、均匀噪声(uniform noise)和脉冲噪声(impulsive noise)等形式。泊松 噪声是由图像数据生成的,将观测像素看作随机变量 G = G(g),它是离散型随机变量,使 用随机变量的分布律(图像中像素取各个可能值的概率)来描述。其他类型噪声使用随机 变量 H = H (η) 表示噪声,连续型随机变量用概率密度函数描述随机噪声,离散型随机变 量用分布律描述随机噪声。 1. 高斯噪声 正态分布的连续型随机变量 H 具有概率密度函数: p (η) = 1 √2πσ e.(η.μ)2 2σ2 (5-11) 正态分布也称为高斯分布,正态分布的概率密度函数中的两个参数 μ 和 σ > 0 分别是该分 布的数学期望(均值)和标准差,因而正态分布完全可由数学期望和方差所确定。 图 5-3(a)给出了标准差 σ 取不同值的高斯函数曲线,均值 μ 反映了对称轴的位置,方差 σ2 反映了偏离均值 μ 的离散程度,P (|x . μ| < σ) = 0.6827,P (|x . μ| < 2σ) = 0.9543, P (|x . μ| < 3σ) = 0.9973à。正态分布取值落在三倍标准差之外的概率小于 3%0,在实际 问题中常认为相应的事件是不会发生的,基本上可以将区间 (μ . 3σ, μ + 3σ) 看作正态分 布随机变量实际可能的取值区间,这称为正态分布的 3σ 原则。 在感光器件接收和输出过程中,电子电路中的电荷转移、信号放大、模/数转换等环节 产生的读出噪声或传感器温度过高产生的热噪声是加性的正态分布噪声。根据中心极限定 理,独立同分布的随机变量无论服从什么分布,当样本数充分大时,其算术平均近似地服 从正态分布。因此,正态分布在概率论中占有重要的地位,在实际应用中通常假设噪声为 高斯噪声。 2. 泊松噪声 泊松分布是随机变量的离散概率分布,由法国数学家西莫恩·德尼·泊松(Siméon Denis Poisson)在 1838 年时发表。泊松分布是描述单位时间内随机事件发生次数的概率分布,其 分布律为 P {G = g} = λge.λ g! , g = 0, 1, 2, · · · (5-12) 式中,λ > 0 为速率参数,表示单位时间内随机事件发生的次数。λ 的取值越大,表明随机 事件发生得更多或更快。泊松分布的数学期望 E (H) 与方差 Var (H) 相等: E (H) = Var (H) = λ (5-13) 泊松分布只含一个参数 λ,只要知道它的数学期望或方差就能完全确定它的分布。随着单 位时间内随机事件发生次数的增加,泊松分布会逐渐近似于均值和方差都等于 λ 的正态分 布。因此,只要单位时间内,随机时间的平均发生次数 λ 足够大,就可以将泊松分布看作 à 3.7.1.1 节中给出了正态分布随机变量一倍、二倍、三倍标准差取值区间的图形显示。 148 均值和方差都等于 λ 的正态分布。图 5-3(b)给出了参数 λ 取不同值的泊松分布的分布 律,由图中可见,对于较大的 λ 取值,泊松分布能够很好地用正态分布逼近。 光电散粒噪声是成像系统的感光器件对光信号进行光电转换时产生的与成像场景有关 的噪声。由于光是由离散的光子构成的(光的粒子性),光电散粒噪声来源于光子流的随机 特性,入射光子数是随机的,因此接收光信号形成电荷也是一个随机过程。由于入射光子 数服从泊松分布,光电散粒噪声服从与光子计数过程的数字特征有关的泊松分布。光电散 粒噪声与捕获的光子数有关,因而与入射光的光强相关,强度越高,噪声级越大。这种噪 声主要出现在低照度环境光的成像中,较慢的快门速度或较高的感光度(ISO)容易引入泊 松分布的传感器噪声。 3. 均匀噪声 连续型均匀分布的随机变量 H 具有概率密度函数: p (η) =8> <> : 1 b . a , a < η < b 0, 其他 (5-14) 均匀分布随机变量的取值 η 落在区间 (a, b) 内的概率只与区间长度有关,而与区间的位置 无关。均匀分布的数学期望 E (H) 和方差 Var (H) 分别为 E (H) = a + b 2 (5-15) Var (H) = (b . a) 2 12 (5-16) 图 5-3(c)给出了均匀分布概率密度函数的曲线。 量化会产生量化误差,由于其随机性,有时将其建模为加性随机信号,称为量化噪声。 通常情况下,信号远大于最低有效位。在这种情况下,量化误差与信号没有显著相关性,具 有近似均匀的分布。在实际问题中,当无法区分随机变量在 (a, b) 区间内取不同值的可能 性时,近似假定随机变量服从 (a, b) 上的均匀分布。 图 5-3 随机噪声的概率密度函数或分布律 149 图 5-3(续) 4. 脉冲噪声 图像采集或传输过程引入的脉冲噪声会随机改变图像中的一部分像素值,不受脉冲噪 声干扰的像素保持原来的灰度值。脉冲噪声一般有两种类型:固定值脉冲噪声(椒盐噪声) 和随机值脉冲噪声。固定值脉冲噪声在灰度图像中为最小灰度值或最大灰度值,而随机值 脉冲噪声为图像灰度级范围内的任意值。脉冲噪声与其邻域像素之间不存在相关性,一般 具有较大的幅值差异。 脉冲噪声是离散型随机变量,固定值脉冲噪声的取值 η 只可能为 ±δ 和 0,其分布律 可表示为 P {H = +δ} = Pmax (5-17) P {H = .δ} = Pmin (5-18) P {H = 0} = 1 . Pmin . Pmax (5-19) 式中,+δ 和 .δ 分别表示正脉冲和负脉冲。脉冲噪声是一种稀疏噪声,其分布律如图 5-3(d) 所示。图像中的像素随机受脉冲噪声的干扰,正脉冲和负脉冲发生的概率分别为 Pmax 或 Pmin。若 Pmax 或 Pmin 为零,则脉冲噪声称为单极脉冲噪声。若 Pmax 和 Pmin 均不为零, 则脉冲噪声称为双极脉冲噪声。 设 f (x, y) 表示原图像,脉冲噪声直接改变图像中的像素值,降质模型可以表示为 g (x, y) =8> >><> >>: gmax, η (x, y) = +δ gmin, η (x, y) = .δ f(x, y), η (x, y) = 0 (5-20) 式中,g (x, y) 表示有噪观测图像,gmax 表示图像中的最大灰度值,gmin 表示图像中的最 小灰度值。式 (5-20) 表明图像中概率 Pmax 的像素受正脉冲干扰改变为最大值 gmax,概率 Pmin 的像素受负脉冲干扰改变为最小值 gmin,概率 1.Pmin .Pmax 的其他像素保持不变。 当 Pmin 和 Pmax 近似相等时,在图像中表现为随机分布的黑色或者白色的像素。因此,在 图像处理中这种噪声常称为椒盐噪声,黑点(胡椒点)为椒噪声,白点(盐粒点)为盐噪 声。对于一幅 8 位灰度级图像,gmin = 0 为椒噪声,gmax = 255 为盐噪声。 150 脉冲噪声的成因可能是传感器的坏点、大幅度电磁干扰、模/数转换器、继电器状态改 变或码元传输错误等,这些因素都会引起脉冲噪声对图像的干扰。例如,在信道传输过程 中,信号以二进制码元传输,在电压发生瞬态变化的情况下产生脉冲,信号的最高位受到 干扰而改变,信号幅值很可能超出传感器的动态范围;在传感器数字化的过程中,系统的 强干扰可能产生正脉冲或负脉冲叠加在图像信号上,由于脉冲信号的强度大,成像传感器 的动态范围有限,迫使受正脉冲叠加的像素值截断为数字化允许的最大值,受负脉冲叠加 的像素值截断为数字化允许的最小值。 5.2.2 噪声参数估计 若已知噪声服从某种随机分布,则通过估计随机变量的概率密度函数或分布律的参数, 即可描述噪声的分布,如高斯噪声均值和方差、椒盐噪声概率等统计特征的信息。 一般可以从传感器的技术说明中获知噪声概率分布的参数,但对于特殊的成像设备需 要估计这些参数。比较图 5-3 所示的概率分布与图 5-4 所示的直方图可以看到,有噪图像 的灰度分布非常接近于对应类型噪声的概率分布。当成像系统可以利用时,一种简单的系 统噪声特性估计方法是在平坦环境中采集图像,直接测量噪声。例如,简单地对光照均匀 的纯色灰色板成像,通过测定观测图像中亮度相对恒定区域的协方差,估计图像噪声的协 方差函数或矩阵。 根据直方图的形状确定最匹配的概率分布。若直方图形状接近高斯函数,则通过均值 和方差两个参数可以完全确定正态分布的概率密度函数。对于均匀分布噪声,也可以通过 均值和方差联立求解概率密度函数的参数。不同于其他类型噪声的参数估计方法,椒盐噪 声的参数是黑像素和白像素出现的实际概率。为了估计椒盐噪声的参数,黑像素和白像素 必须是可见的,即要求对图像中相对恒定的中间灰度区域计算其灰度直方图,对应于黑像 素和白像素的尖峰高度是脉冲噪声概率模型中 Pmin 和 Pmax 的估计值。 例 5-1 有噪图像及其直方图 图 5-4(a)左侧是由三个灰度恒定区域所组成的图像,灰度值分别为 0.1、0.5 和 0.8, 灰度值从黑到白发生三次跃变,有利于分析图像中噪声的特性,右侧为其概率直方图。图 5-4(b)~(e)左侧分别为高斯噪声、泊松噪声、均匀噪声和椒盐噪声图像,右侧为对应 的概率直方图。图 5-4(b)和图 5-4(d)分别对图 5-4(a)加上均值 μ 为 0、标准差 σ 为 0.05 的高斯噪声,以及 a 为 .0.1、b 为 0.15 的均匀噪声(加性噪声)。图 5-4(c) 所示的泊松分布噪声是从图 5-4(a)的数据中生成的,而不是向数据中添加噪声。泊松分 布的数学期望与方差相等,都等于参数 λ,因此,图像的像素值越大,则噪声级越大。例 如,像素值为 200,则噪声的方差也为 200,由于用归一化的数值表示像素,因此,将像 素值乘以 255(8 位灰度级表示)作为均值和方差生成泊松分布,对应的输出像素将再除 以 255,归一化到 [0, 1] 区间。图 5-4(e)是对图 5-4(a)中加入概率为 0.1 的椒盐噪声, 椒噪声和盐噪声的概率分别为 0.05,即分别随机位置抽取 5%的像素,将像素值赋值为 0 和 1。 151