你好，我是Kuo，一名热爱学习与分享的学生。 欢迎来到我的个人空间，这是我的第一篇博客。在这里，我将用文字记录下我的学习旅程——从点滴的知识笔记，到实践中的踩坑总结；从灵光一现的思考，到持续成长的痕迹。   这不仅是一个技术笔记的归档地，更是我思维成长的见证。这个博客是我与自己对话的方式，也是我向世界分享所学的窗口。每一篇文章，都是我对“理解”的一次尝试。 也许内容还很稚嫩，但正是这些不完美，

逻辑回归到Softmax回归 1.分类问题 一个新算法的诞生要么用来改善已有的算法模型，要么就是首次提出用来解决一类新的问题，而逻辑回归模型恰恰属于后者，它是用来解决一类新的问题——分类（Classification）。什么是分类问题呢？ 现在有两堆样本点，需要建立一个模型来对新输入的样本进行预测，判断其应该属于哪个类别，即二分类问题（Binary Classification），如图所示。线性回

梯度下降与反向传播 线性回归刚好是一个很简单的优化问题。 与我们将在本书中所讲到的其他大部分模型不同，线性回归的解可以用一个公式简单地表达出来， 这类解叫作解析解。像线性回归这样的简单问题存在解析解，但并不是所有的问题都存在解析解。 解析解可以进行很好的数学分析，但解析解对问题的限制很严格，导致它无法广泛应用在深度学习里。即使在我们无法得到解析解的情况下，我们仍然可以有效地训练模型。 在许多任务上

线性回归 1.线性回归模型 回归（regression）是能为一个或多个自变量与因变量之间关系建模的一类方法。 在自然科学和社会科学领域，回归经常用来表示输入和输出之间的关系。 以房价预测为例， 我们希望根据房屋的面积（平方英尺）和房龄（年）来估算房屋价格（美元）。 为了开发一个能预测房价的模型，我们需要收集一个真实的数据集。 这个数据集包括了房屋的销售价格、面积和房龄。

AI 三大经典模型学习笔记 ——BERT · 深度强化学习 · 扩散模型 （参考：李沐、王树森、李宏毅课程） 1. BERT 模型实战（李沐） 1.1 背景与核心思想 概览与动机 BERT（Bidirectional Encoder Representations from Transformers）是用大量未标注语料通过自监督学习预训练出通用语言表示的模型。 目标：学习上下文敏感的

自注意力机制与Transformer(二) 1.编码器（Encoder) 把输入序列（如词向量序列）编码成一组上下文相关的特征向量，供解码器使用。 一个 Encoder 由 N 层（通常为 6 层） 堆叠而成。 每一层包含两个子层： 多头自注意力层（Multi-Head Self-Attention） 前馈全连接层（Feed Forward Network） 每个子层都有： 残差连

自注意力机制与Transformer 1.自注意力机制 1.1自注意力机制的提出 由于传统的 RNN-based Encoder-Decoder 架构在建模过程中，下一个时刻的计算过程会依赖于上一个时刻的输出，而这种固有的属性就限制了传统的Encoder-Decoder 模型不能以并行的方式进行计算。 在Seq2Seq任务中，源输入序列的不同部分通常都具有不同的重要性，然而传统RNN-based

三、机器人运动学 一、运动学与动力学概念 运动学（Kinematics） 研究“运动本身”，不考虑产生运动的力。 主要关注： 位置 x\mathbf{x}x 速度 v=dxdt\mathbf{v} = \dfrac{d\mathbf{x}}{dt}v=dtdx​ 加速度 a=dvdt=d2xdt2\mathbf{a} = \dfrac{d\mathbf{v}}{dt} = \dfrac{d^2\

C++提高编程 本阶段主要针对C++==泛型编程==和==STL==技术做详细讲解，探讨C++更深层的使用 1 模板 1.1 模板的概念 模板就是建立通用的模具，大大提高复用性 例如生活中的模板 一寸照片模板： PPT模板： 模板的特点： 模板不可以直接使用，它只是一个框架 模板的通用并不是万能的 1.2 函数模板 C++另一种编程思想称为 ==泛型编程== ，主要利用的技术就是

C++核心编程 本阶段主要针对C++==面向对象==编程技术做详细讲解，探讨C++中的核心和精髓。 1 内存分区模型 C++程序在执行时，将内存大方向划分为4个区域 代码区：存放函数体的二进制代码，由操作系统进行管理的 全局区：存放全局变量和静态变量以及常量 栈区：由编译器自动分配释放, 存放函数的参数值,局部变量等 堆区：由程序员分配和释放,若程序员不释放,程序结束时由操作系统回收 内存四区