• Tag Archives: cnn

cnn

卷积神经网络

卷积神经网络(Convolutional Neural Networks:CNN)是人工神经网络(ANN)的一种,是深度学习的一种学习算法。它在图像识别和分类、自然语言处理广告系统中都有应用。

有意思是,卷积神经网络的提出其实就是来自于生物视觉模型。1981年的诺贝尔医学奖,颁发给了David Hubel、Torsten Wiesel。他们的工作给人们呈现了视觉系统是如何将来自外界的视觉信号传递到视皮层,并通过一系列处理过程(包括边界检测、运动检测、立体深度检测和颜色检测),最后在大脑中构建出一幅视觉图像。这个发现激发了人们对于神经系统的进一步思考,神经-中枢-大脑的工作过程,或许是一个不断迭代、不断抽象的过程。如下图所示,从原始信号摄入开始(瞳孔摄入像素Pixels),首先进行初步处理(大脑皮层某些细胞发现边缘和方向),抽象(大脑判定眼前的物体的形状是圆形的),然后进一步抽象(大脑进一步判定该物体是只气球)。

convolutional deep belief network

六十年代的生理学的发现,促成了计算机人工智能在四十年后的突破性发展。1989年,Yann LeCun (纽约大学教授,现Facebook AI研究室主任) 提出了卷积神经网络,这是第一个真正成功训练多层网络结构的学习算法,但在当时的计算能力下效果欠佳。直到2006年,Geoffrey Hinton提出基于深信度网(Deep Belief Net)和限制波尔兹曼机(Restricted Boltzmann Machine)的学习算法,重新点燃了人工智能领域对于神经网络的热情。

卷积神经网络现在计算机视觉领域表现出众。ImageNet Classification with Deep Convolutional Neural Networks,这篇发表于NIPS2012的文章,是Hinton与其学生为了回应别人对于Deep Learning的质疑而将CNN结合GPU并行技术用于Imagenet Challenge(图像识别目前最大的数据库,被誉为计算机视觉圣杯),最终取得了非常惊人的结果。他们的算法在2012年取得世界最好结果,使分类错误率从26.2%下降到16%。2013年Matthew Zeiler的算法继续将错误率下降到11.2%。Matthew Zeiler还创立了Clarifai,让我们可以有机会使用他们的图像识别算法对图片标注分类或图像搜索。

imageNet classification with CNN
The convnet from Krizhevsky et al.'s NIPS 2012 ImageNet classification paper.

在月初Kaggle结束的Galaxy Zoo challenge中,参赛者要对星系图像进行分类(Spiral/Elliptical, Merging/Not merging, Clockwise/Anti-clockwise),获胜的算法也是使用了卷积神经网络。Sander Dieleman已放出了代码和详尽的文档: My solution for the Galaxy Zoo challenge

2014年3月,Facebook刚刚公布了他们在CVPR2014的文章:DeepFace: Closing the Gap to Human-Level Performance in Face Verification。他们用四百万人脸图片训练了一个九层的卷积神经网络来获得脸部特征,神经网络处理的参数高达1.2亿。他们在著名的公共测试数据集LFW(labeled face in the wild,1:1地判断是否两个照片是一个人)上达到了97.25%的正确率。这个数字已经基本接近人眼的辨识水平。北京Face++团队的算法达到97.27%的正确率,在美图秀秀中就有应用,他们的主页提供了API、demo展示和论文。现在的最新进展是,香港中文大学基于 Fisher Discriminant Analysis的算法将Face Verification正确率提高到98.52%,超过了人类水平(97.53%)。

faceplusplus system overview
System overview in Face++ paper in ICCV2013

除了计算机视觉领域,卷积神经网络在人工智能和robotics也有很大潜力。Hinton的另外一个学生创立了人工智能公司DeepMind,没有商业产品,只凭一篇论文,就已被Google招聘式收购。 他们使用深度学习(CNN)结合强化学习(Reinforcement Learning),在Stella模拟机上让机器自己玩了7个Atari 2600的游戏,结果不仅战胜了其他机器人,甚至在其中3个游戏中超越了人类游戏专家。很有意思,具体可以见InfoQ的看DeepMind如何用Reinforcement learning玩游戏,以及论文原文Playing Atari with Deep Reinforcement Learning

CNN主播用了什么羞辱词

有人骂了你,你一定要知道,对方使用了什么样的词骂了你。这样,你就可以决定怎么样回应。此外,你还要弄明白,骂你的人为什么要骂你,是对你有成见,还是你有什么问题在对方那里没有得到很好地解决?还有一种可能,就是指桑骂槐。另外就是,被骂的对象到底是你还是另有其人。最近,CNN主播(卡弗帝)Cafferty在一挡名为“The Situation Room”节目里,使用了几个非常不被中国人熟悉的英语单词,来描述他心中的中国政府形象,这引起了外交部的严重抗议。

那么,他使用的是什么英语单词呢?他到底是怎么说的?他使用了“goons and thugs”两个单词。并接着说,中国生产的产品是“junk”。显然这三个单词并不是我们多数中国人所熟悉的。

先说goon一词。
它的根本含义到底是什么,这个词羞辱人的程度为多少?
根据《兰登书屋词典》,这个词的基本含义为:“1920年到1925年期间,gooney一词的缩短形式,gony是最初该词形式,意为‘笨人’。出自E.C.色加(1894年生-1938年卒)美国卡通画家的系列作品《顶针剧场》。其中有个滑稽人物名叫Alice。该人就被称作goon。现该词通常应用于俚语里,多指‘笨蛋’,‘憋脚人物’或‘雇佣流氓’等意。”
根据《美国传统词典》定义:“受雇暴徒,恐吓或伤害反对者。”
根据《字源词典》定义:该词源于simpleton(1580年首次出现的词),来源已经不能考证。Goon一词后被海员大量使用,指信天翁或相似的大而笨拙的鸟(1839年)。被用做“受雇暴徒”一词含义源于1938年的E.C.色加的作品。英国也有人因此获得灵感,编写出《笨蛋秀》。

再来看thug一词。
根据《兰登书屋词典》,其意义为“残暴的,邪恶的流氓,强盗,或凶手”。其来源为1800年到1810年间,印度语“thag”一词,意为“恶棍,流氓,骗子”。
据说,在1810年时,印度一群杀人凶手和强盗勒死了很多人。自此,该词被列入英语词典之中。

最后来看描写中国人产品的“junk”一词。
该词有很多意思,不过含义都有些相近。
1、泛指任何旧的或废弃的材料,如旧金属,废纸或破布等。
2、泛指任何没有价值的,没有意义的或可轻视的东西、废物等。
该词于1480年到1490年间被创造出来。原源不清。

当然,CNN已经做出反应。CNN说Cafferty是个大嘴,他曾在过去许多年间,在节目中痛批过很多国家的政府,包括美国政府和美国领导人。但用上面这样的词来形容中国政府,已经引起众多中国人愤怒。当然他后来一再表明,自己没有冒犯中国人民的意思。

他的原话如下:
"I don't know if China is any different, but our relationship with China is certainly different,"“我不知道中国是不是有什么不同。但我们与中国的关系绝对是不同的。”
"We're in hock to the Chinese up to our eyeballs because of the war in Iraq, for one thing. They're holding hundreds of billions of dollars worth of our paper. We are also running hundreds of billions of dollars' worth of trade deficits with them, as we continue to import their junk with the lead paint on them and the poisoned pet food and export, you know, jobs to places where you can pay workers a dollar a month to turn out the stuff that we're buying from Wal-Mart."“有一件事可以肯定的是,由于在伊拉克打仗,我们已经把身上几乎所有的东西都典当给了中国。他们手拿着我们数以千百亿的美元。我们手上拿的却是数以千百亿价值的贸易逆差。可我们还在继续进口他们的垃圾,上面有超标的铅,还有宠物食品也毒,另外还有,你知道,我们把就业机会也给出口了,出口到那些地方,你每月只要付几个小钱,他们就能把我们在沃尔玛要买的东西给造出来。”
"So I think our relationship with China has certainly changed, I think they're basically the same bunch of goons and thugs they've been for the last 50 years." “所以,我想,我们与中国的关系真的是改变了。我想,他们基本上还是那群过去50年间一直没有什么改变的goons和thugs。”

close