Dropout

丢弃法

  Dropout (丢弃法) 是指在深度网络的训练中,以一定的概率随机地“临时丢弃”一部分神经元节点。具体来讲,Dropout 作用于每份小批量训练数据,由于其随机丢弃部分神经元的机制,相当于每次迭代都在训练不同结构的神经网络。 [Read More]

局外人

「法」阿尔贝·加缪

  看完《局外人》,感觉真的是一部很难总结的小说,然而默尔索的形象却十分地典型,让人印象深刻。默尔索对周围事物有着惊人的钝感,让人感觉近乎荒诞,但他对自己的不积极却有其理性的态度。看介绍说这本小说是存在主义的代表作品,或许硬是去强调阅读后总结出收获没有太大必要,阅读也不应该如此,多学习五柳先生的境界:“好读书,不求甚解;每有会意,便欣然忘食。”

LaTex

本文记录一下在使用 latex 的问题和解决方法。 [Read More]
Tags: Tools

Random Features for Large-Scale Kernel Machines

  最近要在组会上汇报一篇这篇文章,于是就做了更多了解。 Random Features for Large-Scale Kernel Machines 是 2007 年的 NIPS 文章,在 2017 年的时候这篇文章获得的 Test-of-time Award,作为解决大规模 Kernel Machines 的算法,可见其有效性,我们将简要做一介绍。这篇文章的作者在 2017 年获奖时做报告的时候还提出了一个富有争议性的观点,“Machine Learning is Alchemy.”,这个论点被 Yann Lecun 抨击了,各有己见吧。 [Read More]