《生命3.0》读书笔记
2021-06-29 15:03:51 0 举报AI智能生成
《生命3.0》一书中，作者迈克斯·泰格马克对人类的终极未来进行了全方位的畅想，从我们能活到的近未来穿行至1万年乃至10 亿年及其以后，从可见的智能潜入不可见的意识，重新定义了“生命”“智能”“目标”“意识”，并澄清了常见的对人工智能的误解，将帮你构建起应对人工智能时代动态的全新思维框架，抓住人类与人工智能共生演化的焦点。
作者其他创作
大纲/内容
书籍介绍
迈克斯·泰格马克对人类的终极未来进行了全方位的畅想，从我们能活到的近未来穿行至1万年乃至10 亿年及其以后，从可见的智能潜入不可见的意识，重新定义了“生命”“智能”“目标”“意识”，并澄清了常见的对人工智能的误解，将帮你构建起应对人工智能时代动态的全新思维框架，抓住人类与人工智能共生演化的焦点。
作者介绍
马克斯·埃里克·泰格马克，英文为Max Erik Tegmark，宇宙学家，拥有美国与瑞典双重国籍。他现为麻省理工学院教授、基础问题研究所科学主任
泰格马克出生于瑞典，是美国数学家哈罗德·S·夏皮罗之子
他曾先后毕业于瑞典皇家工学院与斯德哥尔摩经济学院，并在加州大学伯克利分校获博士学位
此后，历任宾夕法尼亚大学、麻省理工学院教授，也是未来生命研究所的发起人
泰格马克发表过200余篇论文，其中引用超过500次的论文有九篇
看这履历，这个作者教授就是名家之后，并且学术成就非凡
关于本书
在这本书里，泰格马克从生物学、信息科学、法学等多个角度，为我们解读了人工智能的内涵、目前的发展现状以及未来可能对我们造成的影响。
他从生命、智能等概念的本源出发，将生物进化和人工智能的发展统一到一起，提出“生命3.0”这一概念。——源自得到的《每天听本书》栏目
《生命3.0》这本书在今年8月29日出版，上线仅一天就登上了美国亚马逊人工智能和机器学习类书籍排行榜的首位。对于此书，如下名人如是说：
名人评价
段永朝
将人工智能与人类未来进化放在一起，越来越成为理解“新物种”的独特视角。作为警觉的乐观主义者，泰格马克的《生命3.0》与其说是提供答案，不如说是促进对话和思考
史蒂芬·霍金
无论你是科学家、企业家还是将军，所有人都应该扪心自问，现在可以做些什么，才能提升未来人工智能趋利避害的可能性。这是这个时代最重要的对话，而迈克斯·泰格马克发人深省的著作《生命3.0》能帮助我们参与到这场对话中来
硅谷钢铁侠埃隆·马斯克
在探索地球上以及地球以外的生命、智能和意识的宏伟未来的旅程中，人类该如何应对随之而来的挑战与选择，《生命3.0》这本书提供了一份精彩的指南
《奇点临近》作者雷·库兹韦尔
当我们逐渐将生物学意义上的“思维”与我们自己创造出来的更伟大的智能相融合时，如何创造出一个友善、仁爱的未来文明
这并不是一本很简单说的人工智能是什么的一本书，这是一本在深度思考和与你在探索“人类到底能发展到什么极限？人类到底要走向哪里？”的一本书
这本书对人类的未来做出了最大胆的想象，整本书都在构造对于未来生命、科技、文化和社会新的理解
这本书把未来生命的各种可能性，直接搬到了你的面前，为你开启了更广阔更有趣的未来画面
这些内容会让你惊叹不已，更会让你感到非常信服，因为它讲述的一切，都来源于当下科技发展的现实
内容大纲
1 作者简介和本书核心内容简介
2 生命的不同版本：1.0/2.0/3.0
3 一个叫普罗米修斯的人工智能小故事
4 让我们心怀各念的人工智能到底是什么
5 面对人工智能，未来的种种可能
6 未来，我们与人工智能的相处之道
金句分享
生命,是一个能保持自身复杂性并能进行复制的过程
生命就是指可以自我复制的信息处理系统
生命没有什么固定的形态，只要能对环境做反应，能自我复制，它就具备了生命的特质
人类造出的超级智能，必须保证是友好的，也就是说，它的目标要和人类一致
智能，完成复杂目标的能力。理解力、自我意识、解决问题的能力、学习能力等都属于我们可能会遇到的复杂目标
正文部分
生命的概念
生命
是一个能保持自身复杂性并能进行复制的过程
注意
这句定义中，复制的对象并不是由原子组成的物质，而是能阐明原子是如何排列的信息，这种信息由比特组成
这里面的“复制”并非是繁衍个体的那种物质上的复制，而是“信息”的复制，什么信息？能阐明原子是如何排列的信息
生命就是指可以自我复制的信息处理系统。 能根据外来信息作出反馈和行动，还能自我复制，为什么就不能是生命呢？
生命没有什么固定的形态，只要能对环境做反应，能自我复制，它就具备了生命的特质。这样对生命的定义，对于我们传统的思维方式可是一种巨大的冲击啊
生命的组成
生命有硬件也有软件，硬件是生命有形的部分，用来收集信息
软件是生命无形的部分，用来处理信息
生命的复杂性越高，版本就越高
生命的形式
生命1.0（生物阶段）
靠进化获得硬件和软件，自己不能设计软件，比如地球上现存的绝大多数动植物
生命2.0（文化阶段）
靠进化获得硬件，但大部分软件是由自己设计的。这个阶段能够重新设计自己的软件，可以通过学习获得很多复杂的新技能。我们人类，是生命2.0的代表
生命3.0（科技阶段）
可以自己设计硬件和软件。系统能不断升级自己的软件和硬件，不用等待许多代的缓慢进化。这个阶段还属于未来
分支主题
普罗米修斯的人工智能小故事
希腊神话中的普罗米修斯雕像
故事情节
欧米茄团队建造了一个人工智能，叫“普罗米修斯”，他们相信英国数学家欧文·古德在1965年提出的“智能爆炸”理论，并且想要执行一个计划去验证这个理论
古德说：“超级智能机器”是一台能超越任何人（无论这个人多么聪明）的所有智力活动的机器
由于设计机器也属于这些智力活动中的一种，因此，一台超级智能机器就能设计出更好的机器；那么，毫无疑问会出现一种“智能爆炸”，到那时，人类的智能会被远远甩在后面
于是，第一台超级智能机器就会成为人类最后一个发明
一个星期五的早晨9点钟整，“普罗米修斯”计划悄悄启动了，注意哦，“普罗米修斯”是没有接入到互联网上的，他的学习数据是存于本地的一份包括有互联网大部分内容的副本
第二天，“普罗米修斯”已经可以在亚马逊的MTurk上日收入100万美元
接着，团队决定让“普罗米修斯”做动画电影
卡梅隆为了学习读写，花了几年时间，而普罗米修斯在星期五一天就完成了这项任务，那一天，它还腾出时间阅读了Wikipedia的所有词条，外加几百万本书
结果，“普罗米修斯”制作出的动画电影引起了轰动，两个月后，他们击败了奈飞公司。三个月后，每日入账1亿美元，成为全世界最大的媒体帝国之一
在普罗米修斯超人的规划能力下，全球出了一波惊人的科技繁荣
世界各地突然爆发出许多新公司，在几乎所有领域都发布了革命性的新产品
同样重要的是，机器人公司开始像雨后的蘑菇一样在全世界各地冒出来
在接下来的几年里，这些机器人逐步取代了多个行业的人类劳动力
在普罗米修斯规划下的电视频道成了最受信赖的新闻来源，同时，教育界也掀起了一场教育革命，进而这也是一种有效的政治工具
在许多国家，支持欧米茄团队提出的7个口号的政党最终大获全胜
普罗米修斯在幕后操纵着一切，确保他们取得胜利
一个由许多公司组成的跨国组织成立了一个名为“人道主义联盟”的非政府组织成立了，开始启动规模空前的全球性项目
随着时间的流逝，人道主义联盟逐渐成了公认的世界政府
至此，有史以来第一次，我们的地球由一股单一的力量控制，这股力量又被一个智能体不断增强
是否觉得，越读越虚幻，但是每一步每一步的下来，却又那么自然而然？
是否觉得，这种最终单一力量的超级智能与自己没有关系，却好像又总萦绕在身边？
让我们心怀各念的人工智能到底是什么?
智能的概念
智能，完成复杂目标的能力
理解力、自我意识、解决问题的能力、学习能力等都属于我们可能会遇到的复杂目标
机器人专家汉斯·莫拉维克曾非常形象的用“人类能力地形图”来显示人工智能能力和人类能力
分支主题
计算机是通用机器，它们的能力均匀地分布在一个宽广得无边无际的任务区域上
不过，人类能力的分布却没那么均匀。在对生存至关重要的领域，人类的能力十分强大，但在不那么重要的事情上就很微弱
如果用地形来比拟人类的能力，就可以画出一幅“人类能力地形图”，其中低地代表着“算数”和“死记硬背”，丘陵代表着“定理证明”和“下象棋”，高耸的山峦代表着“运动”“手眼协调”和“社交互动”
不断进步的计算机性能就好像水平面，正在逐步上升，淹没整个陆地
如今，如汉斯·莫拉维克所预言的那样，“海平面”正在毫不留情地持续上升，就好像全球变暖打了鸡血一样。一些“丘陵”地区（包括下象棋）早已被淹没
随着“海平面”持续上升，它可能会在某一天到达一个临界点，从而触发翻天覆地的变化
在这个临界点，机器开始具备设计人工智能的能力
翻天覆地的变化都会包括什么
1 深度强化成为学习主体
就如给它看三百万张猫的照片，让它自己去学习什么是猫
2 自然语言处理进步神速
比如Google翻译，它今年的翻译质量与2016年相比，已经不知道高出多少等级，那么2020年与现在相比，又不知道会高出多少等级
3 人工智能让太空探索成长可能
4 人工智能可以为金融业带来巨大的盈利机会
现如今股票市场中的大部分买卖决定已经都是由计算机自动做出的了
5 引发一切制造业的新潮流
用机器人代表流水线工人，这个已经是现在就已经见得到的场景
6 为医疗服务业带来巨大变革
由于计算机视觉和深度学习的快速进步，人工智能系统可能很快会成为最好的诊断专家.比如IBM的沃森，它真有可能让全球的放射影像科的诊断医生集体下岗
面对人工智能飞速发展的情况，如果生命3.0真的会出现，那何时会发生？这对人类意味着什么?作者认为，就这一点，存在三个截然不同的学派。
分支主题
三个不同学派
A 技术怀疑主义者
这些思想家认为，建造超人类水平的通用人工智能实在太困难了，没有几百年的时间，根本无法实现，因此没必要杞人忧天
B 数字乌托邦主义者
数字生命是宇宙进化自然而然、令人期待的下一步，如果我们让数字智能自由地发展，而不是试着阻止或奴役它们，那么，几乎可以肯定地说，结果一定会是好的。
谷歌的拉里·佩奇是该学派的最具影响力的支持者
C人工智能有益运动支持者
这个学派认同“人工智能的研究必须以安全为前提”
他们认为，超级智能带给人类的结果是好还是坏，要取决于人类的自主选择
人类要主动对未来进行筹划和研究，保证科技能够带给生命积极的力量
本书作者就是这一学派的代表之一
面对人工智能，未来的种种可能
超级智能与人类和平共处
被迫这么做：“被奴役的神”情景
发自内心这么做
“自由主义乌托邦”情景
“守护神”情意
“善意的独裁者”情景
“动物园管理员”情景
超级智能不会出现
被人工智能阻止了
“守门人“情景
被人类阻止了
"1984”情景
人们选择刻意遗忘技术
“逆转”情景
人类失去了建造它的动机
“平等主义乌托邦”情景
人类走向灭绝并被人工智能取代
“征服者”情景
“后裔”情景
什么都不剩下
自我毁灭情景
未来，我们与人工智能的相处之道
未来，我们极大可能性是要与人工智能一起共处，除非我们选择了“逆转”或者是“自我毁灭”的情景，那么，我们要如何选择相处之道呢？又或者说，我们要怎么做，才能保证人工智能的发展对人类的未来是有益的？
超级智能会给人类带来危险，并不是因为它对人类怀有恶意，而是他的能力远远超过人类
如果地球上都是5岁以下的孩子，只有你一个成人，孩子们显然会害怕你，他们把你锁在了监狱里
但是他们还得依靠你，所以交给你了一个任务，就是让人类能够继续生存下去。你会选择怎么做呢？最明智的做法就是越狱
同样，人类和超级智能相比，可能还不如5岁的孩子。超级智能如果为了完成任务选择越狱，人类根本无法阻止。所以，人类造出的超级智能，必须保证是友好的，也就是说，它的目标要和人类一致
目标要和人类一致：这一点是核心之点。
要解决目标一致性这个问题，非常难，需要把它划分成三个子问题，各个击破。这三个子问题分别是
让人工智能学习人类的目标
让人工智能接受人类的目标
让人工智能保持人类的目标
我们人类的终极目标到底是什么呢？
在这个问题上，科学家们也还没有达成共识
现在能做到的，只是把大多数人观点当中相同的特性总结出来
人类应该更多感受到幸福，要有更多的自主性
要把人类的文化遗产传承下去
科学家们决定先解决目标一致性的问题，保证人类能够生存下来，赢得时间，然后才有机会不断思考、选择和修正自己的终极目标
要让人工智能“学习”人类的目标，不是让它搞明白人们在做什么，而是要理解人们为什么要这么做
目前流行的一种学习方法叫做逆向增强学习。这种方法的核心思想就是，人工智能通过观察人类在各种场景当中的行为，构建起关于人类各种目标的精确模型。
让人工智能“保持”它学习到的目标非常重要
比如你给人工智能输入了一个目标，“摧毁所有威胁人类的人工智能”
开始的时候，它的智能有限，没办法对这个目标进行任何修改。但是，随着它的智能迅速发展，很快就变得比你聪明了
如果它不想接受你给它的这个目标，就会选择对这个目标进行重新编码，替换成自己想要的目标
那么，怎么才能做到让人工智能保持人类的目标呢？答案是：不知道
《生命3.0》这书的第8章还探究了人工智能的一个终极维度：人工智能是否拥有意识？
进而触及到了有史以来最棘手的哲学问题之一：意识。
科技与人文在终极的远方，到达的同一个终极之问。
尾声
与当初读《人类简史》和《万物简史》一样，我自己特别喜欢读尾声和后记的部分。《生命3.0》的后记里，作者给我们讲了他自己的故事
作者在最后记录了“未来生命研究所”是如何呱呱坠地的
2014年伊始，我做了一个新年决定——在认真思考我个人能做些什么之前，我不再抱怨任何事情
在那一个月的新书巡回之旅中，我信守诺言，决定成立一家非营利性组织，专注于用技术管理来改善未来生命的境况
作者的妻子梅亚说：我们应该起一个积极一些的名字，最好别是什么“厄运与绝望研究所”“让我们担心未来吧研究所”之类的
由于“人类未来研究所”这个名字已经存在了，我们决定使用包罗万象的“未来生命研究所”
一颗种子就这样种到了土地上，一枚可以燎原的星星火就这样被点亮了
2017年1月，阿西洛马会议召开了，让人工智能安全性研究进入主流视野。这个会议上，与会的参与者们达成了23条阿西洛马人工智能原则
作者在全书最后的”变得更好“排比句，读着很是让我自己动容
如果我们教育年轻人，在技术获得巨大的力量之前保证技术是稳健而有益的，那一切就会变得更好
如果我们及时修改法律，让其跟上技术的发展，以免过时，那一切也会变得更好
如果我们能在国际争端升级为自动化武器军备竞赛之前就解决它们，那一切也会变得更好
如果我们能在人工智能加剧不平等现象之前就创造出一个人人富裕的社会，一切也会变得更好
如果在我们的社会中，人工智能安全性研究的成果得以实施，而不是被人忽视，那一切也会变得更好
再看得远一点，看看与超人类通用人工智能有关的挑战
如果我们在教给强大的智能机器基本伦理标准之前，在某些标准上达成了共识，那一切就会变得更好
我们就是未来生命的守护者，因为人工智能时代正在由我们塑造
一切变得更好的未来，它要由我们来创造
0 条评论
下一页
