HeatKernel

Heat Kernel（热核）是数学和物理中一个重要的概念，广泛应用于图论、几何、热传导和机器学习领域。它可以看作是解决热扩散或随机游走问题的工具。在图学习、多视图聚类等领域，Heat Kernel 通常用于构造图的相似性矩阵或权重矩阵。

---

Heat Kernel 的定义

Heat Kernel $K_t(x,y)$ 描述了热量从点 $x$ 传递到点 $y$ 的概率密度，经过了时间 $t$。它来源于热传导方程：

$$\frac{\partial u}{\partial t}=\Delta u,$$

其中：

• $u(x,t)$ 是温度分布函数。
• $\Delta$ 是拉普拉斯算子（Laplace Operator）。

Heat Kernel 是热传导方程的基本解。对于欧几里得空间，标准形式为：

$$K_t(x,y)=\frac{1}{(4\pi t{)}^{d/2}}\exp \left(-\frac{\Vert x-y{\Vert }^2}{4t}\right),$$

其中：

• $d$ 是空间的维度。
• $\Vert x-y\Vert$ 是 $x$ 和 $y$ 之间的欧几里得距离。

在图上，Heat Kernel 的定义与拉普拉斯矩阵相关（离散形式）。

---

Heat Kernel 在图上的定义

对于图 $G=(V,E)$，设 $L$ 是图的拉普拉斯矩阵，Heat Kernel $H_t$ 定义为：

$$H_t=\exp (-tL),$$

其中：

• $t>0$ 是热扩散的时间尺度。
• $\exp (-tL)$ 是矩阵指数函数，定义为 $\exp (-tL)={\sum }_{k=0}^{\infty }\frac{(-tL{)}^k}{k!}$。

含义

• Heat Kernel 描述了热量或信息在图节点之间的传播过程。
• $H_t(i,j)$ 表示在时间 $t$ 后，热量从节点 $i$ 传递到节点 $j$ 的概率密度。

---

Heat Kernel 的性质

1. 平滑性：
   • 热核能够自然地平滑信号或权重。较大的 $t$ 对应于更强的平滑效果。
2. 局部性：
   • $t$ 较小时，Heat Kernel 强调局部结构；$t$ 越大，扩散范围越大。
3. 正定性：
   • Heat Kernel 是一个正定矩阵，适合用于构造图的相似性矩阵。

---

Heat Kernel 在机器学习中的应用

1. 构造相似性矩阵： 在图学习或谱聚类中，用 Heat Kernel 构造节点之间的相似性矩阵。定义为：

   $$W_{ij}=\exp \left(-\frac{\Vert x_i-x_j{\Vert }^2}{2{\sigma }^2}\right),$$

   这是 Heat Kernel 的一种变体形式，其中 $\sigma$ 控制扩散范围。

2. 谱分析： Heat Kernel 可以用于图的谱分析，帮助揭示数据的局部和全局结构。

3. 多视图聚类：

   • Heat Kernel 被用于多个视图中图的相似性融合，以捕捉多视图之间的一致性。

4. 流形学习： 在流形学习方法中，Heat Kernel 被用来构造图以刻画数据的低维流形结构。

---

与 Gaussian Kernel 的关系

Heat Kernel 和 Gaussian Kernel 形式上非常类似。它们的数学表达式本质上是一样的，区别在于：

• Heat Kernel 的时间尺度 $t$ 控制扩散过程。
• Gaussian Kernel 通常用固定的带宽 $\sigma$ 来衡量相似性。

---

直观解释

• 热扩散： Heat Kernel 模拟了热量如何从一个点扩散到整个图中，扩散速度由 $t$ 控制。
• 平滑作用： 它强调局部信息，随着 $t$ 的增加逐渐融合全局结构。