Something about Transfusion(更新中)
前言本篇文章简要介绍和分析最新发布的Transfusion——一种通过离散和连续数据训练多模态模型的方法。
(更新中)《统计学习方法》Notes(2)
前言本篇博客基于《统计学习方法》后半部分无监督学习的相关内容,主要记录一些书中的重点内容以及自己的一点总结,以及一些方法的代码实现举例。博客中所有相关代码在https://github.com/Aron00123/Statistical-Learning-Methods-Codes.git
聚类方法聚类指针对给定的样本,根据它们的特征的相似度或距离,将其归并到若干个“类”或“簇”的数据分析问题。聚类又分为硬聚类与软聚类——每个样本只分类到一个类别称为硬聚类,可以分到多个类别称为软聚类。硬聚类时,每个样本属于某一类;软聚类时,每一个样本依概率属于每一个类。
下面给出一些常用距离的定义:
闵可夫斯基距离
给定样本集合X,X是m维实数向量空间中点的集合,其中,则
d_{ij} = (\sum_{k=1}^{m}|x_{ki} - x_{kj} |^p)^{\frac{1}{p}}其中,为2时称作欧式距离。
马哈拉诺比斯距离
给定样本集合X,是m维实数向量空间中点的集合,其协方差矩阵记作S,则
d_{ij} = [(x_i - x_j)^TS^{-1}(x_i-x_j)]^{\fr ...
《统计学习方法》Notes(1)
前言本篇博客基于《统计学习方法》前半部分监督学习的相关内容,主要记录一些书中的重点内容以及自己的一点总结,以及一些方法的代码实现举例。博客中所有相关代码在https://github.com/Aron00123/Statistical-Learning-Methods-Codes.git
感知机感知机的学习算法
原始形式
输入:训练数据集,其中;学习率。
输出:w,b;感知机模型。
(1)选取初值
(2)在训练集中选取数据
(3)若,
w\leftarrow w+\eta y_ix_i
b\leftarrow b+ \eta y_i(4)转至(2),直至训练机中没有误分类点。
对偶形式
输入:训练数据集,其中;学习率。
输出:;感知机模型。其中。
(1)
(2)在训练集中选取数据
(3)如果
\alpha_i\leftarrow \alpha_i + \eta
b\leftarrow b+\eta y_i(4)转至(2)直到没有误分类数据。
K邻近算法算法内容
k近邻法
输入:训练数据集,其中;
输出:实例x所属的类y。
(1)根据给定的距离度量,在训练集T中找出与x ...
《Neural Networks and Deep Learning》Notes
前言本系列学习笔记基于《Neural Networks and Deep Learning》。本人在之前对于深度学习方面有一定的了解与实战,但是阅读此书算是第一次比较系统的进行学习。本篇记录阅读过程中的一些总结与思考。本篇博客所有代码已同步到https://github.com/Aron00123/NN-DLlearning.git
Chapter 1Perceptrons & Sigmoid NeuronPerceptrons(感知器)通常由多个二进制输入和一个二进制输出构成,每个输入与一个权重值配对(权重值为实数),输入组成的向量与对应权重组成的向量经过点积生成一个结果,当结果高于某个特定值时输出为1,否则输出为0。多个、多层感知器组成的网络可以做出较为复杂、微妙的决定,每层感知器的输入是上一层感知器的输出(除了第一层)。
Sigmoid Neuron与Perceptrons类似,主要区别在于输入与输出不再局限于二进制数字,而是0和1之间的任何值。具体来说,其中。当z趋于正无穷时,趋近于1,负无穷趋近于0。由于sigmoid函数的平滑性,使得可以对权重进行微调来 ...
BUAA CO CPU
前言本篇博客记录北航计算机组成课程P3至P7的流水线CPU迭代以及相关思考题。
CPU设计文档概述本次通过Verilog设计流水线CPU架构支持了基本要求的指令指令。首先给出基本框架图:(内部转发实现后W到D级的转发不需要再实现)。以下是到P6为止的电路图(P7加了几个模块太懒了没画QAQ)。
总电路图
P7总电路如下:
123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148 ...
Finite-State Machine
前言在Verilog等HDL中,有限状态机(Finite-State Machine)是一个比较重要的知识点,而且在软件工程、编译器设计等其他领域也是一个值得注意的方面。本文讨论的是有限状态机在Logisim、Verilog以及MIPS汇编中的具体实现。在本文的后面也会讨论同步复位以及异步复位的问题。
关于FSM有限状态机的构成包括输入、状态转移与输出。本文主要讨论的有限状态机有两种——Moore型状态机以及Mealy型状态机。
关于状态转移逻辑状态转移是状态机中最主要的部分,这一部分代表着状态机的主要运作机理。状态转移逻辑的构成主要包括当前状态、输入以及下一状态,也就是。创建状态转移关系时尤其要注意次态的指向问题,比如字符串匹配电路,当字符串成功匹配时如果后半部分可以作为下一次匹配的前缀,则次态的指向不应该为初始状态,而是前缀匹配的状态(具体题目的要求可能不同,需要具体分析)。通常情况下,Mealy机的状态可能比Moore机状态要少,这是因为Mealy机的输出还与输入有关系,可以在相同状态下根据不同的输入得到不同的输出。
关于输出内容输出的内容与输入和状态的关系是两种状态机的主要区别 ...