2025-06-06 SSH：把本地的公钥添加到远程的 ~/.ssh/authorized_keys 即可免密登录。 2025-06-07 用 pyplot 可以在浏览器里可视化三维点云。代码如下： 12import plotly.io as piopio.renderers.default = "browser" 剩下部分让大模型写就好了。 对于三维的任务，每

本笔记为北京大学 2024 年秋季学期《机器学习》（04632036）的课程笔记。该课程由张牧涵老师开设。张老师的课程讲述非常精彩且有特点，全程板书且穿插了不少 insights。 本来头两讲是在 iPad 上进行笔记记录的，第三节课发现直接用 Markdown 可以跟得上，遂将笔记整理于此。 笔记按知识模块形式呈现如下，其中无监督学习部分由于篇幅过大拆成了两篇。已于 2025 年 2 月 9 日

紧急预习用的，比较草，有 AIGC，自用。 REINFORCE 之前的类似 DQN 的方法是对价值函数用神经网络来近似，这里考虑直接对策略用网络。 我们的目标是，找到最佳的参数 θ∗\theta^*θ∗： θ∗=arg⁡max⁡θEτ∼pθ(τ)[∑tr(st,at)]\theta^* = \arg\max_{\theta} E_{\tau \sim p_{\theta}(\tau)} \lef

0218 Lab 代码量较大（几千行），需要注意实现 Design Doc TacOS：基于 Rust，指令集是 RISCV 本地测试点和测评测试点一致 Design Doc 不用卷字数 五个 lab，两次考试（期中期末） 考勤 5%，Lab 30%，期中 25%，期末 40% lab：4% + 6.5% + 6.5% + 6.5% + 6.5% 0220 四个基本概念：线程

本文主要涉及无监督学习中的生成式模型，介绍了 VAE 与 DDPM。 在阅读本篇之前建议先阅读10-无监督学习。 张老师关于 VAE 的推导和讲解非常精彩，强烈建议动手跟着推一遍。 一键回城。 VAE（变分自编码器，Variational Autoencoder） 引入 在上篇笔记中的 MoG 其实已经是种生成式模型了，但其只能用于处理成簇/低维的数据（会面临维度灾难：高维下数据点之间的欧

Chap. 7 Linking 关于编译器驱动程序： cpp [other args] main.c /tmp/main.i 是预处理器，main.i 是 ASCII 中间文件。 cc1 /tmp.main.i -Og [other args] -o /tmp/main.s 是编译器，main.s 是 ASCII 汇编代码。 as [other args] -o /tmp/main.o /tm

本文主要涉及无监督学习中的降维/聚类方法，介绍了 PCA、k-means 与 EM 算法。 一键回城。 无监督学习简介 之前我们学习的都是有监督学习，我们的目标是最小化一个损失函数 L(f(x),y)L(f(x),y)L(f(x),y)，或者最大似然 P(y∣x)P(y|x)P(y∣x)。比如回归问题中的线性回归与 GPR，分类问题中的逻辑回归、SVM 与 NN 等。 而无监督学习可以理解为

一键回城。 概览 核心思想：将若干（弱）的模型组合在一起以获得一个强的模型。这些模型需要尽可能 diversed（因为如果都一样的话就起不到增强的效果了） 回顾偏差-方差分解： ED[(f(x;D)−y)2]=ED[(f(x,D)−f‾(x))2]+(f‾(x)−y)2\mathbb{E}_D[(f(x;D) - y)^2] = \mathbb{E}_D[(f(x,D) - \overlin

一键回城。 决策树 回忆：我们之前的很多模型都可以写成 y=wTx+by = w^Tx+by=wTx+b，决策逻辑（二分类）：f(x)≥0f(x)\ge0f(x)≥0 时预测为 111，否则预测为 000。 事实上这个逻辑可以写成一个树。 我们之前学习的模型多为线性模型，为了应对非线性性，我们可以考虑引入决策树。 决策树定义：一棵包含根节点、内部节点、叶子节点和有向边的树，每个非叶节点会将

本文主要涉及高斯过程相关的推导以及应用。 一键回城。 作者的概率统计知识相当菜，在课后费了好大劲才搞懂这一节的内容，如有错误欢迎随时指出，吾必当感激不尽！ 多元高斯分布（Multivariate Gaussian Distribution） 考虑多元高斯分布 N(x∣μ,Σ)\mathcal{N}(x\mid \mu,\Sigma) N(x∣μ,Σ) μ∈Rd\mu \in \mathbb{