泛函分析 on Chen Kai Blog

核方法（三）：RKHS——核方法的理论灵魂

Sat, 04 Dec 2021 09:00:00 +0000

如果你曾在某节课上听到老师写下 “RKHS” 三个字母就感觉血压升高，那这篇文章是写给你的。RKHS 不是一个由三个吓人字母组成的秘密俱乐部——它就是一个函数空间。一旦你看清楚里面装的是什么东西，核方法就不再是魔法，而是你已经熟悉的那种线性代数。

核方法（二）：数学基础——正定核与 Mercer 定理

Mon, 29 Nov 2021 09:00:00 +0000

写核 SVM 的第一周，我自信地造了一个相似度函数 tanh(1.5 * x.dot(y) - 2.0)：对称、有界、看起来一切都很正常。然后 sklearn 给我吐了一句 ValueError: kernel matrix is not positive semidefinite，模型效果比瞎猜还差。

泛函分析（九）：无界算子 —— 当有界性失效时

Sun, 17 Oct 2021 09:00:00 +0000

当算子拒绝在整个空间上定义#

我第一次写下“位置算子 $$X$$ 在 $L^2(\mathbb{R})$ 上”这句话时没多想——直到我试图把它平方。 $$(Xf)(x) = xf(x)$$ 看起来人畜无害，但 $$f(x) = 1/(1+|x|)$$ 满足 $f \in L^2(\mathbb{R})$ ，而 $$Xf(x) = x/(1+|x|)$$ 在无穷远处不衰减为零，根本不在 $$L^2$$ 中。也就是说， $$X$$ 把 $$L^2$$ 中的某些元素送出 $$L^2$$ 之外。它甚至不是“有界但范数大”——它是“在某些点根本没定义”。整个之前关于有界算子的理论在这里失效。

泛函分析（二）：赋范空间与Banach空间

Sun, 03 Oct 2021 09:00:00 +0000

度量不够用的那一刻#

我第一次写下“两个函数之间的距离”时，就把度量空间当成 $\mathbb{R}^n$ 的脱壳版本来用——直到我想做最朴素的事：把两个向量加起来，再问加完之后离原点有多远。度量公理里没有“加法”这件事；它只回答“两点相距多少”。我可以在度量空间里收敛，却不能在度量空间里把收敛的两个序列相加再统一估计范数。这个小小的失能让我意识到，度量并不知道自己活在向量空间上。