https://www.chenk.top/zh/tags/convex-optimization/Recent content in Convex Optimization on Chen Kai BlogHugozh-CNFri, 23 Jan 2026 09:00:00 +0000https://www.chenk.top/zh/ml-math-derivations/04-%E5%87%B8%E4%BC%98%E5%8C%96%E7%90%86%E8%AE%BA/Fri, 23 Jan 2026 09:00:00 +0000https://www.chenk.top/zh/ml-math-derivations/04-%E5%87%B8%E4%BC%98%E5%8C%96%E7%90%86%E8%AE%BA/<h2 id="本章概览" class="heading-anchor">本章概览<a href="#%e6%9c%ac%e7%ab%a0%e6%a6%82%e8%a7%88" class="heading-link" aria-label="Permalink to this section" title="Copy link to this section">#</a> </h2><p>1947 年，George Dantzig 提出了单纯形法，用于解决线性规划问题，现代优化理论由此诞生。八十年过去了，优化已成为机器学习的核心驱动力——无论是通过一行代码实现的线性回归，还是拥有 700 亿参数的语言模型，每个训练完成的模型本质上都是某个优化问题的答案。</p>https://www.chenk.top/zh/linear-algebra/11-%E7%9F%A9%E9%98%B5%E5%BE%AE%E7%A7%AF%E5%88%86%E4%B8%8E%E4%BC%98%E5%8C%96/Wed, 12 Mar 2025 09:00:00 +0000https://www.chenk.top/zh/linear-algebra/11-%E7%9F%A9%E9%98%B5%E5%BE%AE%E7%A7%AF%E5%88%86%E4%B8%8E%E4%BC%98%E5%8C%96/<h2 id="从淋浴龙头到神经网络" class="heading-anchor">从淋浴龙头到神经网络<a href="#%e4%bb%8e%e6%b7%8b%e6%b5%b4%e9%be%99%e5%a4%b4%e5%88%b0%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c" class="heading-link" aria-label="Permalink to this section" title="Copy link to this section">#</a> </h2><p>每天早上，你都在训练一个微型神经网络：水太冷时，你会拧一下水龙头旋钮——这是一个<strong>参数</strong>；一秒钟后，你感受到新的水温——这是<strong>误差信号</strong>；接着再拧一次。经过三四次调整，水温就刚刚好。</p>