Softmax 是一种机器学习中常用的归一化函数。我们可以从它的名字来理解其含义。
Softmax 和普通的max 函数不同,它更加“软”,max 函数给出一组数据中唯一的最
大值,而Softmax 则会将向量归一化,归一化后的向量就可以视作一组概率分布,具
有实际意义。Softmax 中的指数的性质使输入中越大的数值对应越大的概率,并拉开
差距,让最大值显得更加突出。