关于Vanilla Transformer的种种细节
从结构、注意力到 FFN、位置编码与初始化,记录 Vanilla Transformer 的若干细节。
Writing
学习笔记、问题与随想,按时间排列。
从结构、注意力到 FFN、位置编码与初始化,记录 Vanilla Transformer 的若干细节。
从似然、Score Function 到 Fisher Information 的简要整理。
从梯度下降到 Momentum、AdaGrad、RMSProp 与 Adam 的整理。
从换元积分、二维连续随机变量一路推导到 F 分布。
数理统计讲义中参数假设检验部分的学习笔记。
数理统计中总体、样本、统计量与抽样分布的课堂笔记。
关于刻奇、反刻奇与公共表达的一次记录。
从统计假设检验、效力分析到 PU Learning 的整理。
记录 PU Learning 两步法中可靠负样本、训练与模型选择的思路。
梳理 PU Learning 的数据设定、假设、评价与常见方法。
感谢 Gridea 让这个博客得以开始。