内容来源:笔记侠(ID:Notesman)
责编 | 金木研 排版 | 五月
第 8603篇深度好文:4530 字 | 10 分钟阅读
宏观趋势
笔记君说:
就在昨天,2024年的诺贝尔物理学奖公布,授予了约翰-霍普菲尔德(John J. Hopfield)和图灵奖得主、AI教父杰弗里-辛顿(Geoffrey E. Hinton),"以表彰他们利用人工神经网络进行机器学习的奠基性发现和发明"。
在接受电话采访时,就连杰弗里·辛顿本人都怀疑 “我怎么能确定这不是个恶作剧电话?”
而这一结果,也引发了网友们的讨论:有些人调侃地表示,物理学不存在了。也有人表示,这次颁奖可能会引起一系列连锁反应。
其实,物理学界也不是没什么新的研究成果,可谁知道直接“跨服”颁给了人工神经网络和机器学习领域。
究竟是为什么?
原因可能有很多,但不可否认的是,我们现在进入了一个极端复杂、相互融合的时代,物理不再是单纯的物理,计算机也不是单纯的计算机,开始相互有所交叉。
一、为什么诺贝尔物理学奖,
颁给了AI专家?
约翰·霍普菲尔德和杰弗里·辛顿俩人,自上世纪80年代起就在人工神经网络领域做出了重要工作。
人工神经网络,顾名思义,源于对大脑工作原理的模仿。科学家们设想大脑的神经元可以通过计算节点的方式进行重现,这些节点通过类似神经突触的连接传递信息。
这样的网络经过训练,可以增强某些连接,抑制另一些,从而使系统在处理复杂数据时具备学习与记忆能力,成为现代人工智能的基础。
1980年代,拥有物理学背景的霍普菲尔德,开始着手将物理学概念引入人工神经网络领域。
他观察到大脑中的神经元之间通过复杂的连接进行信息传递和处理,于是他开始思考如何用计算机模拟这种工作方式。经过无数次的尝试和探索,他提出了霍普菲尔德网络。
霍普菲尔德网络是一种人工神经网络模型,它模拟了大脑神经元的工作方式,具有存储和检索信息的能力。
这个网络就像是一个超级智能的记忆盒子,当我们把一些信息 “放” 进去后,它能够根据这些信息的特征,在需要的时候准确地 “找” 出来。
接着,以霍普菲尔德网络为基础,杰弗里·辛顿又将人工神经网络推进到了全新的高度。
他利用霍普菲尔德神经网络的联想记忆功能,发明了新的神经网络玻尔兹曼机。
通过模拟物理系统中的粒子的运动,玻尔兹曼机能学习数据的概率分布,帮助机器学习到数据中的规律。
霍普菲尔德网络与玻尔兹曼机|图片来源:瑞典皇家科学院
最后,得益于自20世纪80年代以来的工作,约翰·霍普菲尔德和杰弗里·辛顿帮助奠定了大约2010年开始的机器学习革命的基础,间接推动了机器学习与人工神经网络领域的发展。
而随着科学科技的快速发展,我们也迎来一个极端复杂的时代,A行业的问题能够从B行业找到答案的情况,会越来越多。
二、极端复杂的时代,来了
知名经济学家朱嘉明,曾在笔记侠PPE(政经哲)莫干山站分享了他对复杂时代的看法,他认为世界会变得越来越复杂,我们到了需要复杂科学的时候。
1.复杂科学
复杂科学针对的是复杂系统,我们在复杂系统之中,这个系统每时每刻变得更加复杂,人类将越来越敏感。混沌是源于复杂科学中的一个概念。
内卷是没有错的,内卷是人类在复杂系统面前的无可奈何,在不得不内卷的情况下,如何超脱和适应复杂性?
复杂性原来就存在,复杂科学总结了复杂性。描述复杂系统的公式是:复杂行为=简单规则+丰富关联。
所有今天的赢家是找到最简单的规则,然后找到复杂的环境进行关联。
复杂科学,源于1930年,提出“局部+局部〉整体”,“1+1〉2”,即中国的“一生二、二生三、三生万物”。
人类从未在复杂性面前变得如此谦卑,这个世界潮起潮落,参数不断增加和改变,冲突、政策不断混合在一起,没有人能概括和穷尽复杂科学,但不代表我们不能接受复杂性。
我们仅仅是越来越复杂的系统中 一个小小的小点而已,如果不理解这一点,你就是虚妄的,不会再有其他的机会。
2.人类发展历史:从简单到复杂的历史
纵观人类发展历史,就是一个从简单到复杂的历史。
从狩猎阶段的原始社会,到农耕社会,都属于复杂程度低的社会。农业社会以几百年、上千年为周期的,那时候人们掌握的知识也不用那么多,懂得节气就能协调农业生产的问题。
① 狩猎社会的要素是人、工具、动物、动物生存条件。
最原始的阶段是 人类狩猎阶段,一边是人类,一边是可以被人类食用的动物,中间只有一个环节,射杀。人本身、人的工具、动物、能使动物生存的条件,就这四个元素了。
② 农耕社会是基于光和作用之上的社会形态,要素包括土壤、天气、农民、种子、水利、男耕女织、区域化经济,是靠天吃饭。
复杂程度和人类参与成反比,复杂程度低,人类参与的面积、宽度和深度就更大。
农耕社会是人类参与广度、深度、持续性能力最长的人类社会形态,是一个学习成本最低的社会。如果有一点知识,无非是对天的认识,最后变成对节气的认识。能理解 24 节气,就知道怎么协调人与自然的关系。
这个社会在一定程度上是简单的,也是残忍的,如果发生严重天灾,就会产生严重饥荒,就会有很多人饿死。
农耕社会的极端状况下,人类都不可能整体性灭亡,因为一直都不存在覆盖全球人类所有居住地的同时发生的灾难,永远有幸存者,这样让人类留存下来,相对稳定。
简单和长度也成正比。越简单的社会,持续时间也越长。农耕社会动不动就是几百年、上千年。
③ 工业社会是从机械进入规模生产,到电机化、信息化、自动化的过程,经济活动变得极端复杂。
因为机器和机械参与了人类活动,生产地点不再受天气影响,于是有了生产线、管理、市场贸易,不断分裂出更多部门和行业,这是无穷尽的,今天的工业还在分裂出新工业和新行业。
复杂性最大的特点是反线性,所以这是工业迅速膨胀的原因。工业的每一个创新都会产生工业集群和产业集群。工业是把信息系统、物理系统、软硬件结合在一起的系统,驱动力是创新。
我们身体的所有感觉都不是计划出来的,并不存在大脑指挥神经,而这套理论就是人工智能的本质。因此工业社会不存在终极,没人可以把一个行业说清楚,这是结构和机制的复杂性。
3.极端复杂时代,来自科技的全方位和日益紧迫的挑战
21世纪有那么多因素使得时代变得复杂。
但有一个元素压倒一切——就是科技进步,它有自己的生命力,科技本身的发展已经改变了时代的环境。
复杂时代的第一个挑战:数字化
数字化的本质是人类经济活动被计算机改变,计算机让人类活动代码化,计算机语言是代码语言,数字化是人类所有活动代码化的过程,它将在量子时代到来的时候结束。
数据成为生产要素,现在讲数据管理其实没有办法解决一个问题,就是会遇到数据的存储和开发,以及从GPU到GPU的挑战,数据持续的无可遏制的膨胀,人类将被数据淹没。
微信短信已经成为非常困扰的事情,人类正在丧失对人类产生大数据的管理能力,解决数据问题靠什么?
靠算力。
讲芯片不可避免要提到台积电。3纳米,支撑数字时代不可逾越的技术。GPU将人工智能结合在一起,然后产生了英伟达。
英伟达如果是一个国家,是2万亿美元的市场规模,在全球可以排名第13名,在墨西哥之前,俄罗斯之后。
英伟达支撑人工智能的应用市场占比80%。
我们看到今天这个世界变得越来越严肃,芯片走到了摩尔定律的物理极限。参照性变了,我们进入到一个突破物理极限的数字和人工智能物质基础的时代。
当芯片无限小的时候,有很多问题必须去突破和解决。数字化转型绝对不是口号。
复杂时代的第二个挑战:人工智能
2006年,辛顿和他的学生正式提出深度学习(Deeping Learning)的概念,被称为深度学习之年,辛顿被称为深度学习之父;
2009年,谷歌开始研发无人驾驶技术;
2011年,苹果推出Siri语音技术;
2014年,聊天机器人“EugeneGoostman”通过图灵测试,亚马逊推出虚拟助手;
2016年,谷歌DeepMind的AlphaGo计算机程序战胜围棋冠军李世石;汉森机器人公司首次推出了一款名为索菲亚的防人机器人;
2017年,谷歌论文提出Transformer结构,为GhatGPT和DALL-E等生成式人工智能模型提供了技术突破的思路;
2018年,图灵奖授予三位科学家:本吉奥、辛顿和杨乐昆,基于在人工智能的深度学习贡献;
2020年,微软推出T-NLG,一种生成式语言模型;OpenAI发布了GPT-3语言模型,完成人类几乎无法完成的语言任务;
2021年,OpenAI发布DALL(可从文本生成图像的人工智能模型;谷歌引入了LaMDA大语言模型;
2022年,Stability AI发布Stable Diffusion,基于文本描述生成图像的工具。OpenAI发布突破性的ChatGPT,用户数量在5天内突破100万;
2023年,ChatGPT升级至GPT 4。DALL-E2进化为DALL-E3。Alphabet发布了由LaMDA提供支持的生成工具Bard;
2024年2月,OpenAI发布Sora。
图灵提出“凡是能被计算的,都能够被机器人实现”,他1950年提出“机器是可以思考的”。图灵机就是模拟了人在特定环境中如果让大脑无限运行,就可以解决的所有问题。
哥德尔、冯·诺依曼等人看到图灵机,给予高度评价,哥德尔说图灵机是最令人信服的。绝大多数人不是夸大人工智能,而是低估人工智能。
先有人工智能的观念和思想,再有人工智能的技术的发展。1943年,把神经生物学和计算机结合产生了所谓的MP模型,推动了1956年夏天一个人工智能的2个月研讨会,确定人工智能未来发展的三条路线:符号主义AI、连接主义AI、深度学习主义AI。
连接路线产生了深度学习,把深度学习理论模型化在2012年。
人工智能当前的竞争是深度学习领域。
人工智能的再次崛起,很大部分都要归结于深度学习的崛起,而作为深度学习三巨头之一的辛顿贡献了很大的部分。
2006年,辛顿对外发布自己的那三篇关于深度学习的论文。他没想到的是,仅仅一个源自实验室未被证明的设想,让人工智能现在已经变成了超过万亿美元的大行业。
他的研究成果得以直接推动人工智能在图像识别、语音识别、自然语言处理等众多领域的广泛应用,让计算机能够像人类一样学习和处理信息,极大地提升了人工智能的智能化水平。
可以说,辛顿的工作不仅改变了人工智能的发展轨迹,还深刻地影响了我们的生活。
如今,我们能够轻松地使用智能手机进行人脸识别、与语音助手交流、阅读机器翻译的文章等,这些都离不开辛顿的卓越贡献。
所以,2024 年诺贝尔物理学奖授予辛顿具有重大意义。这一奖项既是对辛顿个人成就的高度认可,更是对深度学习领域的一次至关重要的肯定。
2024年,天翻地覆。人工智能已经到了不能想象的程度,全新时代到来,我们正在经历一个巨变时代,奥特曼说GPT发展到7的时候,会产生新物种,会有元意识。而社会和经济的巨大变化,来自计算机世界的新物理规律:人工智能。
“现在,整个人类正处在非常关键的时刻。可能2043年,可能2035年,可能2039年,就是技术奇点。时间非常紧迫。人类需要行动起来,形成避免被科技绑架和迎接历史文明转型大潮。”
关注定位学习网公众号,更多精彩...