0%

SVM


Preface

​ SVM (Support Vector Machine 支持向量机) 曾一度导致深度学习的退潮(1995)。Geoffrey Hinton提出BP之后,遇到了sigmoid激活函数梯度消失问题,恰好此时Vapnik提出统计学习理论,正式提出非线性SVM并将其应用,使得这个分类器盛行了20年?直到DL的梅开三度。 恰好大三下学期有《模式识别》课,且有学长说他考前每天必推一遍SVM原理,不如现在趁《运筹学》还热着,尝试自己推导一遍,并实现这一个经典算法。

Figure 1. 深度学习的发展历程 以及95年SVM带来的冲击(图源不明)
Read more »

Capsule


Preface

​ Geoffrey Hinton (他的团队 ? 挂名论文 ? ) 在2017年提出了一种有别与传统深度网络结构的网络。相对于Convolution层纯参数卷积核表示,Capsule网络的基本结构是胶囊,每个胶囊都有表征一定的空间结构的能力。与其说是胶囊网络,个人对这种网络结构的理解是:向量神经网络。本文是对论文 Dynamic Routing Between Capsules 【arxiv链接🔗】 的总结,也包含了复现论文中遇到过的问题的分析。

Read more »

Volume2D


Preface

​ 最近玩Minecraft1.12时发现了一个极其棒的光影包,体积光(虚假的体积光,不是用光线追踪做的)做的极其漂亮,使我对这个游戏重新产生了兴趣。

Figure 1. 我的世界光影

​ 实际上,个人之前就对体积光有很大的兴趣,拍照的时候也很喜欢寻找存在"Gods' Ray"的场景,没有就将其强行用PS的径向模糊绘制出来。对于游戏内部的光影,我也很想自己实现一个光线效果(大一写的游戏Ethians alpha 1.1🔗中有阴影计算的算法(FOV shadow casting),但结果是基于栅格的,而不是基于像素的)。综合以上的想法 + 想精进一下C++ STL技术,我设计了一个这样的问题。

Read more »

CycleGAN


Preface

​ GAN常用作风格迁移或者是object transfiguration,但是普通的GAN实际上并不能很好地胜任这些任务。原始的GAN是从一个隐含向量z(常服从一个简单的多维分布)映射到一个具有丰富信息的更高维空间的过程,而这种映射往往“arbitrary”,它可以乱射(随机性的生成)。比如在object transfiguration中,A->B集合映射过程可以通过此网络实现,但B集合进入网络后,生成出来的(例应是原始的B)却与原始B相差很远。当然,在object transfiguration中,更加有挑战性的问题是,对于pix2pix论文提出的成对图像转换而言,成对图像一般很难获得。如果只有两个集合A / B,A / B内的对象为不同属性的,那么在没有预先产生匹配关系的情况如何将A / B集合内的物体互相映射呢?

Read more »

Typora & Markdown


Why?

​ 此文撰写的目的是:

  • 归纳Typora(Markdown编辑器) 的基本使用(常用的都能找到)
  • 给我Raven的安利。
效率工具,绝不白启

Read more »