Raphael's Home

从小波到压缩PLAN 小波的实际应用 压缩特性 如何选择小波 小波的实际应用 前置内容的小结 多分辨率分析 定义为一系列嵌套的希尔伯特子空间 ${Vj}{j \in \mathbb{Z}}$，描述了尺度 $2^j$ 上的函数行为，配备一个函数 $\theta$，它在 $V_0$ 上生成一个 Riesz 基。 由 $\theta$ 推导出一个尺度函数 $\phi$，满足如下性质： 对于每个 $j \in \mathbb{Z}$， \left\{ \frac{1}{\sqrt{2^j}} \phi \left( \cdot - \frac{2^j n}{2^j} \right) \right\}_{n \in \mathbb{Z}} 是 $V_j$ 的希尔伯特基。 共轭镜像滤波器 $h = (hn){n \in \mathbb{Z}}$ （低通滤波器）和 $g = (gn){n \in \mathbb{Z}}$ （高通滤波器），满足以下条件： \begin{cases} h_n = \left(\frac{1}{\sqrt{2}} \phi(\cdot ...

从多分辨率到小波PLAN 尺度函数（Scaling functions） 小波（Wavelets） Mallat 和 Meyer 定理的证明（Proof of the Mallat and Meyer’s theorem） 遗留问题 Riesz 基没有正交性质 → 正交投影到 $P_{V_j}$ 上是不实际的。 如何从 Riesz 基构造一个希尔伯特基（Hilbert basis）？ 我们希望构造一个函数序列 $\phi_{j, n}$，使得 P_{V_j} f = \sum_{-\infty}^{\infty}\left(f, \phi_{j, n}\right) \phi_{j, n}尺度函数 Scaling functions 定理 设 $(Vj){j ∈ ℤ}$ 是一个多分辨率，并定义一个尺度函数（scaling function） $φ ∈ L^2(ℝ)$，其傅里叶变换满足：对于所有 $ω ∈ ℝ$， \hat{\phi}(\omega) = \frac{\hat{\theta}(\omega)}{\left(\sum_{k=-\infty}^{+\infty} ...

从采样定理到多分辨率PLAN 近似和近似误差 Shannon-Whittaker 定理及其推广 多分辨率 近似和近似误差 数据的表示方式 数据属于向量空间（$\mathbb{N}, \mathbb{R}, \mathbb{R}^d$） 对于连续或者离散的信号或图像，可使用希尔伯特空间的元素（正交投影定理 + 希尔伯特基（Hilbert basis）） 希尔伯特空间是满足向量加法和数乘的运算规则。定义了具备正定性，线性和共轭对称性的内积。却空间中的每个柯西序列都收敛于空间中的某个元素。 如果两个向量$x$，$y$满足$\langle x, y\rangle=0$，则称它们是正交的。构成空间的基的正交向量系统被称为希尔伯特基。 数据存在压缩的可能 自然表示法 Natural representation 图像是一个像素矩阵，每个像素通过一个颜色空间（color space，例如 RGB、CMYK、Lab、CIE XYZ 等）以规定的比特数进行编码（例如，RGB 颜色空间中，每个像素需要$3\times 8 = 24$位。 考虑一部1080p的电影，每一帧的大小为：$19 ...

TFCT, MDCT, 感知音频编码 在前一章，我们定义了块傅里叶基，这使得能够设计图像压缩算法。所使用的方法基于块基（block-based basis），但这种方法并不适用于音频。事实上，量化会在块的边界上出现不愉快的不连续性。在本章中，将看到两种能够避免此问题的表示方法。 时频表示与巴利安-洛（Balian-Low）定理 时间-频率族 一个时间频率族通常由一个窗口函数$g(t) \in L_2$定义，其向量由以下形式给出： g_{m n}(t)=e^{i 2 \pi m b t} g(t-a n)其中，$g(t)$表示平移之后的窗口函数，表示在时间上的平移。$e^{i 2 \pi m b t}$是一个复指数函数，表示频率平移，即调制。 当$a = 1,b = 1,g = 1{[0,1]}$时，函数转变为$g{m n}(t)=e^{i 2 \pi m t} 1_{[t- n,t-n+1]}$，也就是在前一章我们定义过的块傅里叶基。 这样的基由于$g$ 的不连续性，并不具有信号分解的有趣特性。这些不连续性与$g$ 的傅里叶变换（TF）衰减缓慢相关，我们在上一章提到过这个问题。 ...

块傅里叶基和JPEG 块傅里叶基，是一种用于表示信号的时间-频率基。这些基的使用有两种主要的理由：其一，基于函数分解的正则性，系数呈递减趋势；其二，可将其解释为卡尔霍宁-洛厄夫 (Karhunen-Loève) 基（或某种近似），用于特定的随机过程建模。 连续时间 傅里叶级数 复指数函数族 $e_n(t)=\exp (i 2 \pi n t)$ （其中 $n \in \mathbb{Z}$ ) 是定义在 $L_2(0,1)$ 上的一个正交基。这使得可以在 $L_2(0,1)$ 空间中定义傅里叶级数: F_n=\int_0^1 f e_n^* d t =\int_0^1 f(t) \exp (-i 2 \pi n t) d t重建公式 (Reconstruction)： f=\sum_{n \in \mathbb{Z}} F_n e_n傅里叶级数按 $L_2$ 意义上收敛，即： \lim _{N \rightarrow \infty}\left\|f-\sum_{n=-N}^N F_n e_n\right\|_2^2=0但这并不保证简单或一致收敛。分解系数 $F_n$ 的递减 ...

量化 无损压缩算法大致由两个步骤组成：改变信号的表示以减少样本的熵（Entropy），以及熵编码（Entropic Coding）。有损压缩算法在表示变换和编码之间插入了一个量化（Quantification）步骤。它在信号表示中引入了误差，但同时也能更大程度地减少熵，这比无损情况下的效果更明显。 均匀量化 连续信号通常具有无限多的可能值，例如一个音频信号的幅度可能是任意的实数。然而，数字系统只能处理有限的值集合，例如整数或固定的小数位数。因此，在数字化过程中，需要对信号的幅度进行近似，使其符合离散值集合的要求。这个近似过程就是量化。 最简单的量化方法是均匀量化器$Q_\Delta$: Q_{\Delta}(x)=\Delta R(x / \Delta)其中$R$表示四舍五入，$\Delta$是量化步长。 例如对区间$[-1,1]$以步长$\Delta = 0.5$进行量化后，有： $Q_\Delta(-1) = 0.5R(-1/0.5) = -1$ $Q_\Delta(-0.74) = 0.5R(-0.74/0.5) = -0.5$ $Q_\Delta(-0.4) = 0. ...

熵和霍夫曼编码编码 编码的目的是表示一系列符号 ($s_n$)，其中 $s_n$ 取自有限集合 𝒳。 这些符号可以是字母（文本编码）、整数（图像像素值）、音频信号的样本等。需要编码的符号类型并不重要。假设我们知道每个符号的出现概率，并且这些符号是独立生成的。每个符号由其代码表示，代码是一系列位（0或1），其长度可能可变。符号序列通过各个符号代码的串联来表示。 若编码操作是单射的，则称该编码是可解码déchiffrable的。 称一个编码为前缀码code préfixe，当且仅当没有一个编码是另一个编码的前缀。这是编码可解码的充分条件。 记编码为 $φ$，其长度 $|φ|$ 表达如下：$|\phi|=\sum_{k=1}^K p_k\left|\phi\left(x_k\right)\right|$其中，$p_k$ 是符号 $x_k$ 的出现概率，$|φ(x_k)|$ 是与符号相关的代码字长度。 现存的编码 布莱叶编码（Code Braille） 为了让盲人能够阅读，布莱叶编码用 6 个点（6 位）来表示字母。 莫尔斯电码（Code Morse） 莫尔斯电码通过点和划的序列以及 ...

基于线性预测的编码 编码是存储或者传输语音信号，同时保证其可理解性的一种方式。在电话通信，语音合成中都有应用。基于线性预测的语音编码是以语音物理生成模型为基础的。这些是从模型中估计出的参数，它们被传输、存储，然后用于重建。这种重建并不是为了重新合成与输入信号非常接近的信号，而是为了生成一个具有与原始信号相似统计属性（尤其是功率谱密度）的信号。这种方法足以让编码在感知上保持真实。 PLAN 语音研究（信号，音系学 phonologique，语义学 sémantique） 构建参数化模型 参数估计 实现细节 限制与扩展 应用 语音生成模型 语音的生成可以建模为： 一个源，产生一个通常是周期性或随机的信号；有声的声音对应于周期性情况，无声的声音则对应于随机情况。 一个滤波器，作用于该信号。 常见的声源是气流通过声带的运动（频率周期性的开合产生的声音，或者如果声带接近但未闭合则会产生随机湍流），以及由于气流通过声道狭窄区域（例如舌头和上颚、牙齿之间、舌头等）而产生的湍流。 滤波器是通过声道（嘴、鼻等）的传播，这种传播形式是可变的。 模型及参数估计 我们优先关注无声的情况，可以很好地 ...

降噪：维纳滤波降噪 Débruitage 在许多情况下，去噪信号是必要的。实际上，信号（如声音、图像、振动等）的测量不可避免地会受到不确定性的影响。例如以下噪声来源： 热噪声（例如，原子波动等） 脉冲噪声（如图像中的坏点像素） 量化噪声 干扰信号 等等 建模 将所得的测量建模为： y = x+b其中，$x$是目标信号，$b$是噪音，$y$是测量值。我们目的是根据现有信息获得$x$的估计值： \hat{x}=f(y)在本文中，我们将假设观察信号 $x$ 是随机变量 $\mathbf{X}$ 的一个实现，同样地，$b$ 和 $y$ 是随机变量 $\mathbf{B}$ 和 $\mathbf{Y}$ 的实现。 假设$\mathbf{X}$ 和 $\mathbf{B}$ 是独立的。 文中出现的所有随机变量都属于 $L^2$ 空间且均值为零。 我们通过概率分布获得关于 $\mathbf{X}$ 的信息，这属于贝叶斯框架 我们的目标是最小化估计误差，这被称为估计器的“风险”（Risque），定义如下： r(f, \mathbf{X})=E\left(\|\mathb ...

Transformer01 gpt模型的原理与实现从RNN到Transformer 2017年，谷歌的研究人员发表了一篇论文，提出了一种用于序列建模的新型神经网络架构，称为Transformer。这种架构在机器翻译任务中，在翻译质量和训练成本方面都优于循环神经网络（RNN）。 与此同时，一种名为ULMFiT的有效迁移学习方法展示了在一个非常大且多样的语料库上训练长短期记忆（LSTM）网络，能够在仅有少量标注数据的情况下生成最先进的文本分类器。 这些进展成为了当今两个最著名的Transformer模型的催化剂：生成式预训练Transformer（GPT）和双向编码器表示Transformer（BERT）。通过将Transformer架构与无监督学习相结合，这些模型消除了从头开始训练特定任务架构的需求，并在几乎所有的自然语言处理基准 Transformer的诞生依赖于三项技术的先后开创： 编码器-解码器架构 注意力机制 迁移学习 编码器-解码器架构 Encoder-Decoder Framework 编码器-解码器架构早在循环神经网络中iu已经得到广泛应用。循环神经网络是一种“有记忆 ...