50年前,英国小伙立志创造AI,如今他却是发誓要毁灭AI的战士
欢迎来到:自说自话的总裁
最近,AI毁灭人类的说法又兴起了,是马斯克说的,他转变真的很大。
这是他去年(24年)3月还说,(原声一小段),大意是,虽然AI教父杰弗里·辛顿(GeoffreyHinton)认为AI毁灭人类的概率为10%-20%,但自己比较乐观,可是,这是他1年后,今年(25年)2月28日的最新说法,又说我们良好利用AI的概率,只剩下80%,也就是20%的概率会被不良好利用,造成灾难咯?
果然,他又补充说,自己之所以,启动GrokAI就是为了在AI毁灭中,用GrokAI稍稍与之抗衡一下,帮人类多争取一点时间……
所以,马老板的末日场景中是AI大军与GrokAI激战,而人类则躲在GrokAI身后,向火星撤退?
这怕不是丧尸片看多了吧,然而,也就是在马斯克说这疯人疯语的同时,今年2月,还有这样一款名叫克隆(Clone)的全肌肉骨骼人形AI机器人诞生了,当他被吊着开始跳舞时,这感觉,自己看啊,相信大家都对《EVA》中的亚当、使徒和末日感一点儿都不陌生……
我们的末日图景,当真是被这样一群白色丧尸一般的使徒大军追杀,它们是AI,比我们聪明,比我们强壮,比我们更加理性,也比我们更懂人性?
我们如何反抗?
就像AI教父曾经说过的一样,如果是青蛙创造了人类,那人类会在乎青蛙的感受吗?
或许,这一切末日的根源,就在这位号称“AI教父”的老木匠身上,他一生都在与主流抗争,甚至不惜去当木匠也要捍卫理想,而他的理想是什么?
就是创造天网,创造AI啊,可当他60来岁,真的让AI觉醒的那一刻,他却后悔了,开始到处宣扬AI威胁论。
哪怕大家都觉得他想多了,甚至诺贝尔奖评审团为表彰他觉醒AI,将2024年的诺贝尔物理学奖授予他,又将2024年的诺贝尔化学奖授予他的爱徒——开发ALPHAgo和ALPHAfold的天才科学家——哈萨比斯。
哪怕哈萨比斯也很乐观,说自己一定会让AI成为人类的帮手,而非敌人,要让AI帮我们每个人都活到150岁。
可是,怪老头儿辛顿却依旧预言,30年内,AI毁灭人类的概率为10%-20%。
另一个层面,他是黄仁勋的贵人,如果没有他的慧眼识珠,英伟达GPU很可能至今都还只用来打游戏。
他也是伊尔亚(IlyaSutskever)的贵人,是他将伊尔亚从一个炸薯条的成人大学学生,一举提拔成OpenAI的首席科学家,还顺手拯救了OpenAI,帮他从马斯克那儿帮OpenAI要来了关键投资,当然,这也包括他徒孙哈萨比斯的DeepMind公司,因为,DeepMind的原始投资,也是他当年出面找马斯克要来了的……
是不是很像是一切早有安排?
当他不知道自己在创造什么时,他完成了一切,而当他幡然醒悟时,他却说,一切都已经晚了,自己没有解决方案,只能把问题留给更聪明的年轻人……
于是,他的爱徒,OpenAI创始人兼首席科学家——伊尔亚,在几年前,OpenAI发表ChatGPT一炮而红之后,愤然与OpenAI决裂,创办了天网之盾(SafeSuperintelligence(SSI))公司,专门防止AI风险。
还有他的另一个爱徒——MetaAI的负责人——杨立昆,却公然指责老爷子太迂腐,该退休了,AI发展根本没有什么风险……
所以,你相信谁?
是Deepmind的活到150岁?
还是OpenAI的人类毁灭者?
又或者是,马斯克的AI雇佣军?
伊尔亚的天网之盾?
还是像杨立昆说得一样,这都太迂腐了,你们乐观点儿行不行?
这大概就是如今AI江湖中的恩怨八卦,具体我们何去何从?
或许,一切故事,都因这位AI教父而起,而看清他,我们就能看清未来几年的走向与图景……
最差,也能再买个英伟达的股票吧……
好了,不扯远了,有关他的故事,我们从一张疯狂的合影说起……
时间回到1871年,伦敦白丽照相馆(WHITELEY,PHOTO)中,布尔夫妇,为五个女儿和外甥拍下了这张合影。
我们先说照片外的老布尔(GeorgeBoole),不要怀疑,他就是那位支配你高数恐惧的乔治·布尔,统治人类代数和逻辑学200余年,也是现代计算机与数字逻辑学的奠基人。
画面中央,是他的老婆,也是个数学家,但重点是姓埃佛勒斯(Everest),也就是珠峰英文名的那个埃佛勒斯(MountEverest),这是他叔叔当年探险、测量,并命名的……
然后,夫妇俩生了五个女儿,依次是,老五安瑟(EthelBoole),世界名著《牛虻méng》的作者。
老四露西(LucyBoole),伦敦皇家医学院教授,英国化学学会首位女院士,当今制药领域的奠基人之一。
老三艾丽卡(AliciaBoole),数学家,提出了多面体(Polytope)的概念,四维空间的奠基人之一。
老二玛格丽特(MargaretBoole)虽然没当科学家,但把儿子培养成了量子专家,长崎爆炸的那颗钚弹核心,就是他设计的……
以及最后,老大玛丽(MaryHinton),诗人,嫁给了科学怪才——查尔斯·辛顿(CharlesHinton),这也是四维空间的奠基人之一,而她俩的这个儿子,就是我们故事主角——杰弗里·辛顿的爷爷,他这爷爷,是一个很厉害的生物学家,然后,他爸爸又是一个很厉害昆虫专家,英国皇家学会会员。
另外,辛顿家族这边,也是学术世家,比如,小辛顿的表叔是著名的马克思主义者——韩丁。
表姑是在延安窑洞里结婚的核物理学家——寒春,等等等等,我们就不展开说了。
55世纪购彩平台这家谱够吓人吧?
但也可想而知,如果你在这样一个家族里读不好书,那将意味着什么?
然而,我们的主角儿小辛顿,就是这样一个主儿……
辛顿曾回忆说,你们认为,我一生都在与主流作对。
其实,这种叛逆的根源在我很小时就已经种下了。
原来,辛顿的父母都是无神论者,可当时的英国,重点学校却全是教会开得啊。
没办法,父母一方面让小辛顿记住,宗教全是胡说八道,另一方面又为了鸡娃,10岁时,不得不把小辛顿送进一所顶尖的教会学校读书,而且要从小学一直读到高中毕业……
这你就说有多拧巴吧,小辛顿在这里感到了彻底的孤立和格格不入,他说,自己曾在一堂宗教课上忍无可忍,举手发言反驳老师,说所有的好东西都是上帝给的?
好东西和上帝有什么因果关系?
老师被怼到无语,只能反问,那你说好东西不是上帝给的,又是谁给的?
结果小辛顿大声的说——RUSSIA,俄国啊……
真的,说到这里我都不知道怎么说了,辛顿出生于1947年,发生这事儿时应该是1960年左右,正在冷战啊。
只能说,老家够硬,小孩儿就够霸气……
接着,高中时期,叛逆的辛顿成了学校里的朋克小王子,据说没有老师干管他,他的伙伴儿也都是一些叛逆的差生,但这其中,有个名叫伊曼·哈维(InmanHarvey)的人不一样,属于那种整天和你逃课出去打游戏,但成绩却总比你好上一大截的家伙。
他有一次跟辛顿说,你知道吗?
我们的大脑是一种全息投影的储存模式,哪怕把脑瓜子挖掉一勺,也不影响记忆和思考,吧啦吧啦一大堆,听得辛顿对他崇拜至极,甚至发誓要追随他,一起去大学研究大脑。
果然,这老哥们儿后来顺利考入剑桥大学数学系,至今都是可进化机器人领域的翘楚。
而我们的小辛顿呢?
不用想了,就像人大附中最差的都能保送人大一样,辛顿也被保送进了剑桥,读物理和化学专业。
可是,辛顿只读了一个月就退学了,理由是,当时我18岁,第一次离家,学习很难,又没姑娘,我很郁闷……
真的,又没姑娘,我反复看了好几个采访,辛老爷子就是这么说的……
好吧,如此抽象的大学室友,大家不妨对号脑补一下……
接着,辛顿跑去伦敦混社会,一边当木工一边读大量的俄国文学作品,而且还全是压抑文学,像是《罪与罚》和《卡拉马佐夫兄弟》,这期间,估计是实在架不住爹妈唠叨,一年后,他重返剑桥,学建筑专业,可这次更夸张,仅仅读了一天就又不读了,难道是建筑系姑娘更少?
原来,他后来自己说,我去学建筑之前,在一家建筑师的工作室里呆了一个夏天,我们本以为我会和他一样,在剑桥的桌子前,设计一些宏伟的建筑,然而,我到剑桥后发现,他们全在讲,这超预算了啊,我们是要用个便宜点儿的地板还是便宜点儿的门把手?
去他的,这是建筑系?
很快,辛顿转到了剑桥大学的生理学系,本来也上了几节课就准备告辞,但听说到第三学期,老师会讲大脑是如何工作的,这个他感兴趣啊,自己当初最喜欢大脑了。
可是,到了第三个学期,老师说,诸位听好了,大脑是这样工作的:
1,它有数万亿个神经元细胞;
2,神经元细胞有树突和轴突;
3,轴突传出化学信号和电信号,树突接受;
4,没了,下课。
这你,逗我玩儿吧?
辛顿听后直接暴走认为你们这帮生理学菜鸡,根本不可能搞懂大脑,要搞懂大脑,还得靠哲学。
于是,辛顿又转到哲学系去了……
可哲学是一个强调思辨的专业,而思辨、叛逆这个辛顿在行啊,没几天他就和导师吵得不可开交,很快便得出结论——去他的哲学,菜鸡而已。
就这样,辛顿又来到了他认为最有可能接近大脑的专业——心理学。
这次真不能换了啊,马上要毕业了啊,赶紧的,不知道是不是在老爹的安排下,他于1970年以剑桥大学国王学院实验心理学“荣誉学士”的身份毕业了……
真的,学士还能有荣誉等级,可见他当时顶着了多大的家族压力,我好像听到有人在说,我们布尔家,我们辛顿家,200年了,竟然出了个荣誉学士……
然而,这一切改变不了辛顿的决心,他后来说,我可能有一种「学术多动症」,无法安心学习。
但很显然,他始终知道,他要研究大脑,只不过,当时的各种学科都无法理解大脑而已……
本来,想研究大脑,只要你乖,别整天怼导师,那些祖上四代的大神亲戚们谁不能给你安排安排?
然而,辛顿却再次选择叛逆,他跑去伦敦,干木匠活儿糊口……
但说来也巧,辛顿这次似乎真的叛逆对了。
因为,就在他做木匠那会儿,有关人工智能的研究有了进展,学术圈分出三个学派:
1,行为主义(Actionism):认为人工智能也应该和人类一样,先对环境观察,然后做出动作,得到环境反馈,判断是正反馈还是负反馈,随后,将这一过程存储、学习,在做出新的动作,让环境再次反馈,这样让智能一点点存储、学习并进化,因此,这一派也叫进化主义(Evolutionism),听上去完美,但实操起来苦难重重,现在我们的硬件水平都还不太够,在当时就更别提了,因此,当时这一学派的研究的方向主要集中在高达,机甲这一块,甚至可以说,我们的机甲片就来源于这一思想。
2,符号主义(Symbolicism):认为一切出逻辑出发,只需要用辛顿祖上布尔教授的符号逻辑,编程、模拟,就能让计算机拥有智能,比如,著名的国际象棋计算机——深蓝(DEEPBLUE)就是这个主义的产物,通过把每颗子价值化,每一步逻辑化,再用程序穷举、运算、对比,完成了对人类国际象棋大师的击杀。
按理说这是辛顿祖上的学派,自己想要研究,加入进去,随便混混也能有所成就,但是,这可是叛逆的辛顿,祖上能当饭吃吗?
又没有姑娘,我偏不研究这个方向……
那就只剩下当时刚刚兴起了非主流方向了
3,连接主义(Connectionism):这个主义来自图灵,图灵曾称呼自己的研究是一场模拟游戏——我们既然搞不清大脑的原理,那就不要搞清,只需要模仿上帝,让计算机像人脑一样工作就好。
这段图灵的故事我们专门说过,真的,就像冥冥中有安排一样,图灵和辛顿都是英国人,都有世家贵族的气质,都因为朋友而发誓破解大脑之谜,可图灵是一个安静,喜欢一个人跑步的人,辛顿却是另一个极端的叛逆,两人不约而同的认为,与其破解上帝,不如模仿上帝,我们用计算机模仿一个人脑神经元工作的黑盒就好,让它开始运作,它就能随着硬件的升级,训练的增强,慢慢发展出智能。
这大概就叫神经网络吧,当时没人看好,听上去就像玄学一样。
结果,辛顿却忽然听说,爱丁堡大学有个希金斯教授(
ChristopherLonguet-Higgins),正在研究神经网络,于是,他二话不说,扔下木匠工具,立刻前往爱丁堡,拜在教授门下,这年,他25岁,踌躇满志。
然而,万万没想到,自己刚刚到实验室,就遇上了无比恐怖的一幕……
时间回到1972年的秋天,教授希金斯忽然把大家全都叫来,围成一圈,没有说话,而是环视众人,辛顿才刚来没几天啊,就碰上这么肃杀的阵仗,有点儿不明白。
但忽然,他听见学长、学姐们开始纷纷应和,有的说对对对,我们现在的硬件根本无法模拟大脑。
有的说,要行得通,图灵当年就干了,怎么还轮得着我们呢?
而最理智的学长们则直接甩出了当时的名言——不要模仿上帝。
这是一句对人工智能神作《感知机》的总结,这本书当时很火。
本来,感知机(Perceptrons)这是美国那边,开发出的一种神经网络机器,一度很火,因为它证明了,神经网络可以在无限次的训练循环中学习任何任务,只要这些任务是你的大数据参数能够体现的。
可是,不知不觉中,感知机这都开发出来10多年了,却还停留在理论证明阶段,不少人在这条路上感到绝望,因为,当时的硬件限制是一方面,还有一方面严重的问题,那就是当时哪儿来什么大数据去训练你的神经网络参数啊,磁盘还是8英寸的样子,容量不超过1MB,就算你用1亿张磁盘叠出了1亿MB,这也就是100TB的容量而已,虽然够训练了,但你这100TB的数据量难道靠手打打入电脑吗?
所以,1969年的《感知机》出版,几乎就给连接主义和神经网络判了死刑——不要模仿上帝,虽然线路可行,但人类,毕竟是人类而已……
说完这些,不一会儿,实验室里又安静了,希金斯教授也果然拿出了一本《感知机》放在桌上,此时无声胜有声啊,大家都明白,我们的教授叛变了,要带我们一起奔向光明的符号主义。
大家甚至有点儿高兴,因为,符号主义好发论文,好毕业啊。
然而,我们的辛顿这时在想什么?
我当然不知道,但我可以肯定,他心中一定是万马狂奔。
何去何从,是再一次掀桌子开怼?
还是立刻二话不说,甩他一脸,然后潇洒的回去当木匠?
我在读这段故事的时候,脑海里一直有一个辛顿老爹手眼通天的形象,虽然各种资料里从来没提过他老爹和家族,但是,不信你试试,别说剑桥、爱丁堡了,你随便找个三流大学,能四年换五个专业?
还说到希金斯实验室读硕士就读?
不可能的啊,天才如牛顿,当年都没这个待遇。
所以,很可能,希金斯教授也是顾命大臣,早就被辛顿爹妈、家族打过招呼,帮我们好好管教这逆子。
果然,接下来,希金斯教授看着即将爆发的辛顿,总算说话了,他说,当然,你们也可以用作品来证明,符号主义是错的,神经网络可行,尤其是你,辛顿,我看的出来你想这么干。
辛顿回复说,半年,你给我半年,我绝对能证明符号主义的肤浅。
好,就这样,希金斯教授一个江湖套路就降服了辛顿。
可半年之后又怎么办呢?
很快半年时间到了,希金斯就像把这事儿忘了一样,提都不提。
是辛顿主动跑来找教授,教授都没说话,辛顿就开口了,再给我半年,我证明你是错的。
OK,就这样轻松,希金斯再次给自己续命半年。
辛顿就像一条鲢鱼,虽然每天都要在实验室里和各种学长、学弟大吵大闹,但这也好,拓宽思路,激发讨论,希金斯教授默默的把控着这一切。
于是,又过了半年,辛顿又来了,又把给我半年时间的话重复一遍。
希金斯不愧是教育大家,将计就计,半年就半年,我等得起。
就这样,半年半年又半年,人家后来的好几届学弟学妹都毕业了啊,辛顿还在每天为,什么的神经网络和学弟学妹们大吵大闹……
就这样,一直半年了整整12个轮回,6年过去了,这都1978年了啊,希金斯教授实在有点儿扛不住。
总之,在辛顿没有任何显著学术成就的情况下,他被希金斯教授强行毕业了,获得了爱丁堡大学人工智能专业的Ph.D,这怎么看着,就真有点儿扫地出门的味道啊。
但此处不留爷,必有留爷处,听说,美国那边有不少大学都在研究神经网络,于是,辛顿决定去美国发展。
起初,大约有4年时间,辛顿又干黄过两所大学的职务。
直到1982年,辛顿入职卡内基梅隆大学,他却忽然发现,这么顺?
要钱有钱,要人有人,想找个权威怼两句都找不到,因为,整个大学,神经网络几乎只有自己在研究啊。
可明明美国这边的同事,也已经给神经网络判了死刑啊,又为什么自己还能如此顺风顺水?
甚至1年后,梅隆大学直接给了自己计算机系副教授的职称。
自己这个反骨仔,忽然有点儿受宠若惊啊。
这年辛顿36岁,可谓爱情事业双丰收,因为,他在美国,终于找到了姑娘,名叫罗莎(RosalindZalin)比自己大4岁,是坚定的社会主义者,也是加州大学的分子生物学家。
两人在1983年正式结婚,家庭美满,事业上升,辛顿这把宝刀,似乎终于被装入了刀鞘,同时,研究上也突飞猛进,到了1986年,沉寂、或者说坚持了20年的辛顿终于在沉默中爆发。
他和另外两名同事,用这篇《通过反向传播误差来学习》的论文引爆了整个人工智能领域,因为它证明了,神经网络不仅有单层,还可以用多层结构用来进行机器自主的深度学习,同时,这种多层神经网络的结构也将让我们曾经以为不可能实现的天顶星级运算力大幅降低,甚至成为现实。
具体说来,这叫做,反向传播算法,就是根据错误结果和正确结果之间的误差,让神经网络自动调整算法参数,提高下一次回答正确的可能性,比如,后来我们的AlphaGo、ChatGPT都是基于这种多层神经网络结构开发的,虽然当时算力还达不到,可大家都知道,根据摩尔定律,每18个月,算力翻番,这种算力很快就能实现。
因此,一夜之间,研究大地震,所有人都在说,难道这么多年我们错怪了神经网络?
难道辛顿是对的?
毫无疑问,这是对一个叛逆者的最大认可,辛顿似乎终于要迎来自己逆风飞翔的时刻,然而,可怕的现实却再一次将他击倒……
如果是你在被白眼了20年后,终于有一天用事实说话,让那些白眼者忽然对你投来了敬佩的目光,你会为了某些东西而放弃这一切吗?
恐怕很难,但辛顿却在1987年,忽然离开了梅隆大学,举家搬迁到加拿大,再次隐居。
原来,只因为他发现,这些年的顺风顺水,全因为,梅隆大学给自己的是军方资金,当美军得知辛顿教授的神经网络成功时,立刻表示,我们将加大投资,请为我们研究武器。
2023年,辛顿曾在采访中说,当时我大部分AI研究资金来自五角大楼。
这与我反对将AI用于军事的价值观冲突,因此我选择离开。
看似淡淡的回答,而这背后可是辛顿一生当中,最宝贵20年的坚持啊,他为信仰抛弃这一切,就像一个俄国革命家一样……
他来到了加拿大高级研究学院(CIFAR)准备重新开始,至于资金和生活费?
自己还可以抽空去多伦多大学教书。
就这样,你无法想象没有国家、军方和大资金的支持,你想用1987年的电脑玩儿深度学习?
你还要等多久?
当时,辛顿手下有一个博士生——法国小伙儿,杨立昆,他是后来MetaAI的掌门人,他当时就帮辛顿算过,如果摩尔定律不出意外,那么这一等待的时间将是50年,也就是2037年,到时候,你可都是90岁的老朽了啊,你等得起吗?
杨立昆等不起,第二年(1988年)就跑去贝尔实验室投奔银行金主爸爸了。
可辛顿却知道,自己在等待一个奇迹的降生,而这个奇迹就叫做——英伟达……
时间来到2002年,英伟达还在帮Xbox赶制GPU,而就在这个时候,某个星期天,据辛顿回忆说,我正在办公室敲代码,忽然听见有人敲门,敲得很急,我开门一看,是个年轻的学生。
他说自己整个暑假都在炸薯条,对机器学习很感兴趣,想来我实验室工作……
辛顿本想婉拒,于是说,那我们约个时间聊聊吧,可小伙儿却说,何不就约现在?
聊完后,辛顿给他那篇自己的成名作《反向学习》,让他看看了下周末再来找自己。
结果,到了约定的时间,小伙儿过来说,我没看懂。
一时间辛顿有些失望,心里还暗想,看着挺聪明的一小伙儿啊,怎么连这么简单的链式算法都看不懂。
然而,正当辛顿说出这一疑问时,小伙儿立刻说,不不不,我不是这个没看懂,我是说,我不懂这论文作者为何不给里面的那个合理化函数优化器加一个梯度?
这明明可以更高效啊。
就这一句话,让辛顿惊为天人,你是何方神圣?
而那小伙儿答,我叫伊尔亚·苏茨克维(IlyaSutskever),来自以色列,读过两年成人大学……
就这样,炸薯条的伊尔亚成了辛顿的首席爱徒,而仅仅四六年后,这爱徒又说,老师,您打不打游戏?
我知道一家名叫英伟达的公司,正在生产GPU,大家都用它打游戏,但我认为,GPU如果用来训练神经网络,那效率会提高数十倍啊。
GPU就像一个个小房间,和CPU比,里面坐着的都是菜鸟,但这些菜鸟帮我们反向学习完全够了啊,您何不试试?
可是,一张游戏显卡怪老贵的,实验室没经费啊,于是,辛顿决定亲自刷脸付款,他给英伟达发邮件说,我向1000名机器学习专家推荐你家显卡,你能送一张给我吗?
结果,那边回复说,不行吗?
辛顿亲口说,开玩笑的,那么边没回不行,而是根本回都不回邮件……
后来,当我把这个故事告诉黄仁勋的时候,他马上送了一张显卡给我。
不扯远了,故事回到2009年,当刷脸付款失败后,实验室斥「巨资」购买了一块1900尝试训练,结果立刻提升了30倍效率。
辛顿似乎看到了自己一直等待的奇迹——就是你啊,英伟达GPU。
就这样,歪打正着,黄仁勋也即将被辛顿捧上神坛,而此时,黄仁勋还根本不知道这一切,还在和台积电抠吃成本呢,他正在破产的边缘徘徊。
然而,一切在2012年,突然天翻地覆……
黄仁勋当时为何濒临破产?
因为,他投入数十亿美元开发的CUDA通用计算机显卡被市场重挫,又贵兼容性又差,根本卖不出去。
最要命的是你一个游戏显卡,竟然有1-2秒,数千毫秒的延迟啊,你这还打啥游戏?
可黄仁勋不知道的是,就在2012年,英伟达穷途末路之时,辛顿实验室中,伊尔亚正在用CUDA训练他们的视觉识别AI,训练结果奇好,我这儿可不管你什么兼不兼容,延不延迟的,只要房间够多,算力够足就好。
结果,CUDA帮伊尔亚一举拿下视觉识别大赛(ILSVRC)第一名,英伟达CUDA显卡被证明,就是为AI而生的神卡。
当然,这会让的黄仁勋还要再挣扎几个月,各大科研机构还需要时间依次反应过来,来找黄仁勋买成堆成堆的显卡……
可是,时间不等人,自己好不容易又等待了25年才等来的奇迹,哪能让别人再抢先一步呢?
辛顿也需要成堆成堆的显卡,可黄仁勋当时又不给他刷脸支付,于是,辛顿只能向自己曾经那个商业嗅觉敏锐的徒弟——杨立昆求助,可杨立昆这会儿也不好过,贝尔实验室都黄了。
但不要紧,辛老师,你可能不认识吴恩达,但我告诉你,他可是你的精神徒孙,也是我们深度学习教派的拥趸,他现在正在主管谷歌大脑(GoogleBrain),用得就是咱的深度学习,你创建一个公司,他绝对收购。
就这样,仅仅成立4个月的DNN公司被谷歌斥资4400万美元收购,啥都没有,就相当于4400万美元买了几篇论文而已,但这足够了,辛顿用着4400万成了黄仁勋的大客户,深度学习背后的那个AI也终于将在这4400万美元的支持中觉醒了……
难道一切都是天意?
但紧接着,接下来的故事,更加天意……
时间来到2014年,辛顿的另一个好徒孙——哈萨比斯创立的DeepMind没钱了,不得不卖身。
这个故事我们聊聊频道专门说过,当时谷歌CEO开价6.5亿,而Facebook的扎克伯格一听,立刻两倍,不管谷歌给多少,反正我给两倍。
然而,为什么哈萨比斯最后没有把公司卖给扎克伯格呢?
其实,这是因为他继承了辛顿的,怎么说?
白魔法?
他给收购开出了一份《道德与安全审查协议》就是不能让自己干那些可能不道德会危害人类安全的事情。
可什么事儿道德,什么事儿危害人类安全?
完全没标准啊,这就相当于在指着谷歌CEO的鼻子说,爱买买,不买滚,而且哪怕你买了,你也不能管我……
这差点儿没把谷歌内部一众高层给气炸了。
但辛顿却非常欣赏这份《协议》,因为,他早在1987年就意识到了AI的危险,这东西势必比人类更聪明,如果用它来制造武器,那是自己绝不会接受的。
可如今用它来搞搞谷歌大脑?
搞搞图片识别呢?
或许还行吧,但徒孙哈萨比斯开出了一份安全协议,这证明他看得很远,很聪明。
于是,在辛顿的担保和游说下,谷歌最终接受了协议,达成了收购。
这也就是我们2016年看到的AlphaGo,击败了李世石和柯洁,让人类在围棋上也被碾压,真的是惊为天人啊。
与此同时,2015年,辛顿也鼓励爱徒伊尔亚自立门户,与几个朋友创立了非营利组织——OpenAI,本来,OpenAI继承的也是白魔法,可是,当2022年OpenAI发布ChatGPT震惊世界以后,辛顿意识到,那个魔王出现了——它叫做,资本、商业和竞争。
就像AI在借助商业竞争让自己彻底逃出牢笼一样,2023年1月,微软眼看着自己随手投的OpenAI搞出了ChatGPT,就立刻在追加了100亿美元的投资,而就是在这种大背景中,辛顿意识到,这将是一场各大商业集团的AI军备竞赛。
糟了,我当初还把所有的训练模型全开源了……
用辛顿的话说,他开源的那些东西,就像是奥本海默他们当年最难获得的那些浓缩铀,为什么制造原子弹的原理现在大家都知道了,可依旧没几个国家能造呢?
因为,各大国早就封禁了浓缩铀这一关键原料的制备方法和设备。
而现在,这场全新的AI军备竞赛中,这些东西却是开源的……
很快,竞赛就将从商业集团蔓延到国家层面,2023年1月,辛顿忽然意识到,自己亲手创造的怪物,就这样不知不觉中逃出了牢笼……
虽然,他知道自己无力回天,但他当即做出了两个决定:
1,爱徒伊尔亚,你立刻离开OpenAI,我这里还有不外传的终极白魔法,你赶紧拿去做一家天网之盾公司,能帮人类续几秒是几秒吧;
2,我自己也必须再次穿上反骨仔的战衣,此后余生只干一件事儿,那就是不遗余力的狂喷AI,毁灭AI,我必须让世人警示,这是灭世级的灾难。
于是,2023年5月,师徒两人毫无留恋,一个离开了躺在100亿美元现金上的OpenAI;
一个则在反叛了足足43年后,好不容易迎来自己被认可,获得诺贝尔奖的时代,选择了继续反抗,离开谷歌,狂喷自己……
我忽然想到了《孤勇者》这首儿歌,想到了那句:孤身走暗巷,对峙过绝望,披着破烂的衣裳,却敢堵命运的枪……
我都为老爷子感到几分悲凉,可人类的未来究竟何去何从?
2024年春天,马斯克致电老朋友辛顿,辛顿这些年也确实应该帮马斯克赚了不少。
不说辛顿有没有在2012年就让老马持续买入英伟达股票,至少公开可查的,辛顿的两个爱徒、徒孙创办OpenAI和DeepMind时,他都让老马参与早期投资。
可是,就在2024年6月,辛顿却说,马斯克邀请我加入他的xAI科学顾问委员会,讨论AI安全问题。
可我们通话20分钟后,我就挂断了,马斯克渴望成为焦点,我不再认为他是我的朋友。
接着,到了2024年12月,辛顿却又和老马站到了一个战壕里,他公开支持老马起诉OpenAI,因为,马斯克是早期投资者,有决策权,可OpenAI已经黑化,不受控了,难道是辛顿想在借马斯克之手再影响OpenAI的决策?
还是说,这期间,老马的xAI白魔法大军的想法打动了辛顿,两人决定联手?
然而,翻脸比翻书还快,就在我写这稿子的同时2025年3月,辛顿就在X上炮轰老马,联名上千名科学家签署公开信,要求英国皇家学会(RoyalSociety)开除马斯克的会籍,因为他对美国科学机构造成了巨大的损害,这是因为老马查账惹得祸吗?
不知道,反正马斯克回怼说,只有胆小、缺乏安全感的人,才会关心什么会员资格。
历史是真正的评判者,永远都是。
您的上述评论是轻率无知、残忍和虚假的。
老马也很鬼,话风一转,最后又说,但话说回来,哪些具体行为需要改正?
我会犯错误,但会努力快速改正。
看来,老马还是敬重辛顿。
可另一位——大弟子杨立昆,却似乎走上了彻底欺师灭祖的道路,这是2024年5月杨立昆的言论,他说辛顿应该退休了,他职业生涯的目标就是发现大脑的学习原理,结果他误打误撞搞出反向学习算法,发现了大脑的秘密。
也许因此,辛顿的人生目标消失了,虽然他贡献很大,可他现在却变得偏激,认为AI有主观体验,它们能真切感受到自己所说的话,我完全不同意这个观点,我认为他错了,我不明白他为什么这么说,可能是因为他已经退休了,觉得自己不能再为这个领域做贡献了……
面对大弟子的公开质疑,辛顿则在一次采访中故意透露出终极杀手锏——就像杨立昆说得一样,我离开谷歌时,已经75岁了,无论如何都到了应该退休的年纪。
但同时,我也是为了用行动来警告AI的危险,而且也只有我离开了谷歌才能自由发言,至于害怕AI的原因,则是因为我正在尝试找到AI耗能的终极解决方案。
它的功耗应该降至人脑耗能的30瓦,而非现在动辄上百万瓦的规模。
所以,这是在说什么?
老辛顿这是也要白袍变黑袍了吗?
开发出和人脑一样只耗能30瓦的人工智能?
那和灭绝人类有什么两样?
然而,转念一想,这会不会才是真正的天网之盾呢?
未来挡在我们前面的,难道真的是一群和我们一样,靠生物电就能驱动的白袍AI?
我专门查了一下,辛顿的这个研究方向,其实就是更进一步模仿大脑。
我们的大脑之所以耗能低,是因为我们不去记住很多细节信息,而是很抽象的记住大量的经验,可是如果当真AI放弃了自己的高耗能,高记忆量,来变得和我们人类一样用“心”思考,用“经验”抽象时,它们又和我们还有什么两样呢?
或许,唯一的区别,就是它们可以更容易的实现硅基永生,上传意识,而这,就是哈萨比斯也在说,我们都能活到150岁的真相吗?
或许,这最后的末日预言让人更加不适,变为数据,不断的转生到一具具新造的肉体当中。
这会不会比毁灭本身更可怕呢?
因为上帝给予过我们世界上唯一平等的东西——死亡,现在也要被剥夺了……
真的不能在往下说了,故事忽然变得阴暗。
一切当真是AI早已预谋好的图景吗?
最后,本周的会员频道,我们再来分享一个光明一点的结局吧,大家想过没有,既然我们是靠着模仿上帝而创造了AI,那么理论上,上帝创造我们时植入了多少爱心、友善和臣服,那我们模仿上帝所创造出来的AI也应该拥有同样的本心啊。
或许,当AI真的越来越像人,我们看到的将是另一幅无比感人的故事。
就像早在1976年,科幻大师阿西莫夫就写过的一样《两百岁人》,那也许才是一个真实的AI与人类的故事。
黄仁勋GPU训练出来的,或许真的只是机器?
好了,今天的故事就分享到这里,谢谢大家。
最后夫人说,只懂杀戮的是机器,智慧必然有爱心,可人性是一半杀戮,一半爱心,难道我们是残次品?
(完结)