Cyrus' Blog

初学微积分的时候，看到课本上证明所谓的“一阶微分形式不变性”看得云里雾里，想着“d𝑦=𝑓′(𝑥)d𝑥竟然也需要证？”．但当我仔细看了看微积分中导数𝑓′(𝑥)，微分d𝑥的定义，明晰了以前一直混淆的概念，发现这确实需要证明．不禁又一次感叹微积分的严谨（上一次是理解𝜀 − 𝛿语言时）．"

课程介绍 Deep Learning for Computer Vision是一门介绍深度学习在计算机视觉中的应用的课程，本课程中介绍了如何实现、训练和调试自己的神经网络，并详细展示了计算机视觉的前沿研究。课程中还包括一些训练和微调视觉识别任务网络的实用工程技巧。CS231n是斯坦福大学的版本，由于这门课程在网络上最新的版本是2017年比较早，因此我选择了教学大纲基本相同，但有额外扩充内容的另一门课程，密歇根大学的EECS498/598，这门课在网上公开的最新版本是FA2019。 课程相关链接： https://web.archive.org/web/20230328031120/https://web.eecs.umich.edu/~justincj/teaching/eecs498/FA2020/ http://cs231n.stanford.edu/schedule.html 课后作业答案 下面是我的作业解答链接 https://github.com/cyrus28214/EECS598-solutions Lecture 1 对计算机视觉做了简单的引入，主要介绍了计算机视觉的 ...

前言 有时候，写前端代码更像是一种体力活。在前端的世界，你经常需要写出重复嵌套的HTML元素，冗长的CSS样式。俗话说：不会偷懒的程序员不是好程序员，如果你还在手写HTML和CSS代码，那你必须要知道Emmet，这个可以显著加快你的代码速度的插件。 介绍 Emmet是一个可以极大加速web开发工作流的工具。Emmet为HTML/XML和CSS设计了一套便于记忆和使用的缩写，你只需要键入这些缩写，就可以自动展开成相应的代码。 安装 Emmet支持几乎所有的编辑器。包括VSCode、Sublime、Atom、WebStorm、Vim、Emacs等等。 如果你是用的是宇宙第一编辑器——VSCode，那么你不需要做任何事，因为VSCode默认集成了Emmet，不需要安装任何VSCode扩展。Emmet功能会在html、xml、css、sass、php等类型的文件中启用。详见https://code.visualstudio.com/docs/editor/emmet#_how-to-expand-emmet-abbreviations-and-snippets 如果你是其他编辑器的用户，这 ...

概念 OSI模型（Open Systems Interconnection model）是由国际标准化组织（ISO）制定的一种用将各个计算机连接成网络的标准框架。 OSI模型将通信系统中的数据流划分成8层，从上至下分别是应用层、表示层、会话层、传输层、网络层、数据链路层、物理层。每一层都在下一层的基础上构建，为其上一层提供功能。从一台计算机发送信息到另一台计算机时，这些信息会从N层开始，向N-1层传递，直到物理层，使用物理的线路进行传输，传输到另一台计算机后，再从低至高解析数据，直到第N层，再交给某个应用程序处理。 OSI是一种概念模型，这意味着OSI并没有规定具体的实现，而只是描述了一些概念，用来为实际的标准制定和开发提供参考。也就是说，对于同一层可能有多种不同的协议来实现。 应用层（Application Layer） 应用层是最贴近用户的一层，应用程序通过网络传输数据，根据程序的功能，处理数据、为用户提供图形界面、发送数据等。直接为网络应用提供服务。 具体的应用举例：浏览器、QQ 应用层的网络协议有：HTTP（上网协议）、FTP（文件传输协议）、SMTP（电子邮件传输协议）等 ...

身份验证 Web应用经常需要对用户进行身份验证，才能判定用户的权限，决定用户能访问哪些资源。比如只有你才能看到自己的私密QQ相册，比如只有老师才能看到智学网中全班同学的成绩，同学只能看到自己的。 身份验证需要在服务器和客户端之间交换和保存数据，比如当你登录了一个网站，你并不希望下次登录的时候还要输入账号密码，需要建立一些机制，保存这个登录的状态，告诉服务器“是我，我不久前刚刚登录过”。于是就有了以下这些概念。 Cookie cookie，就是曲奇饼干一小段储存在客户端（浏览器）的数据。cookie可以用来保存状态，不仅仅是账户的登录状态，也可能包括一些设置、浏览记录等。 cookie是由服务器生成，储存在客户端的数据。目的是为了保存一些状态，让服务器知道这次请求和之前的请求发送自相同的客户端。 机制 当服务器想要向客户端添加cookie的时候，服务器会在response headers中添加Set-Cookie项，然后浏览器会保存Set-Cookie中的值。之后每次访问相同站点的时候，都会带上相同的数据，放在Cookie中。当然，服务器那里也要保存一份cookie，用于比对验证。 用 ...

理论基础 详见奇异值分解 奇异值分解（SVD）可以将任意矩阵分解为A=u1σ1v1∗+u2σ2v2∗+⋯+urσrvr∗=UΣVT\boldsymbol{A}=\boldsymbol{u}_1\sigma_1\boldsymbol{v}^* _1 + \boldsymbol{u}_2\sigma_2\boldsymbol{v}^* _2 + \dots + \boldsymbol{u}_r\sigma_r\boldsymbol{v}^*_r=\boldsymbol{U \Sigma V}^\mathrm{T}A=u1​σ1​v1∗​+u2​σ2​v2∗​+⋯+ur​σr​vr∗​=UΣVT的形式。并且越靠近后面的项越不重要，去除它们就可以用更小的空间储存一个与原来矩阵相近的矩阵。 若将图像看作RGB三通道的三个矩阵，对图像SVD并保留前kkk项，就可以实现图像压缩。 效果展示&分析 可以看到，当压缩率在0.5以上时，图像基本保持原本的细节，压缩率0.5以下时，逐渐丢失了细节。 画出σk\sigma_kσk​曲线。可以看到σk\sigma_kσk​随kkk的增加先急剧降低，后 ...

前置知识 见另一篇博客：谱定理的证明 奇异值分解（SVD） 奇异值分解（singular value decomposition, SVD），说的是任意矩阵A∈Cm×n\boldsymbol{A} \in \mathbb{C}^{m\times n}A∈Cm×n，都可以分解成以下形式 A=u1σ1v1∗+u2σ2v2∗+⋯+urσrvr∗=(u1…u2um)(diag(σ1,σ2,…,σr)000)(v1∗v2∗⋮vn∗)=UΣV∗\begin{align*} \boldsymbol{A}&=\boldsymbol{u}_1\sigma_1\boldsymbol{v}^* _1 + \boldsymbol{u}_2\sigma_2\boldsymbol{v}^* _2 + \dots + \boldsymbol{u}_r\sigma_r\boldsymbol{v}^*_r \\ &= \left(\begin{array}{c} \boldsymbol{u}_1 & \dots & \boldsymbol{u}_2 & \boldsymbol{ ...

回顾特征值分解/对角化 定义 对于n×nn \times nn×n的方阵A\boldsymbol{A}A，如果有下面的等式： Ax=λx\boldsymbol{Ax}=\lambda \boldsymbol{x} Ax=λx 其中x\boldsymbol{x}x为非零向量。 我们就称x\boldsymbol{x}x是x\boldsymbol{x}x的一个特征向量（eigenvector），λ\lambdaλ是x\boldsymbol{x}x的一个特征值（eigenvalue）。 求解 Ax=λIx(A−λI)x=0det⁡(A−λI)=0\begin{align*} \boldsymbol{Ax} &= \lambda \boldsymbol{Ix} \\ (\boldsymbol{A} - \lambda \boldsymbol{I})\boldsymbol{x} &= \boldsymbol{0} \\ \det(\boldsymbol{A} - \lambda \boldsymbol{I}) &= 0 \\ \end{align*}Ax(A−λI)xdet ...