《终极算法》读书笔记
2022-09-13 16:46:03 0 举报AI智能生成
概念算法入门
作者其他创作
大纲/内容
推荐序
终极算法
多明戈斯一直致力于融合各种机器学习算法的优势，提出一种可以解决所有应用问题的通用算法，即终极算法。
第一章 机器学习革命
学习算法入门
每个算法都会有输入和输出：数据输入计算机，算法会利用数据完成接下来的事，然后结果就出来了。
机器学习则颠倒了这个顺序：输入数据和想要的结果，输出的则是算法，即把数据转换成结果的算法。
学习算法能够制作其他算法。
机器学习则颠倒了这个顺序：输入数据和想要的结果，输出的则是算法，即把数据转换成结果的算法。
学习算法能够制作其他算法。
机器学习不同领域名字
模式识别
统计建模
数据挖掘
知识发现
预测分析
数据科学
适应系统
自组织系统
...
机器学习是人工智能（AI）的子域
为何商业拥护机器学习
公司发展三个阶段
第一阶段，所有事情都由人工完成。
第二阶段，人和事变得复杂繁多，需要用到计算机。
第三阶段，没有足够的程序员和顾问满足公司的需要，寻求机器学习的帮助。
给科学方法增压
机器学习是“打了类固醇”的科学方法，也遵循同样的过程：产生假设、验证、放弃或完善。
科学家可能会花费毕生精力来提出或验证几百个假设，而机器学习系统却能在一秒钟内做完这些事。
机器学习使科学的发现过程自动化。
10亿个比尔·克林顿
在未来，只要选民模式准确，当选官员就可以每天询问选民上千次想要什么，然后根据询问结果来办事，不用在现实中纠缠选民。
学习算法与国家安全
在网络空间之外，学习算法是保护国家的壁垒。
我们将走向何方
第二章 终极算法
中心假设
所有知识，无论是过去的、现在的还是未来的，都有可能通过单个通用学习算法来从数据中获得。
我将该学习算法称为“终极算法”。
存在论证
来自神经科学的论证
自始至终，大脑构造中发生的运算也同样相似。大脑中的所有信息都以同样方式（通过神经元的放电模式）来表示。
来自进化论的论证
生物多样性源于单一机制：自然选择。
进化论是一种算法。
上帝创造的不是物种，而是创造物种的算法。
来自物理学的论证
终极算法就是该统一性的完美表达：如果所有知识共同遵循一个模式，那么终极算法就存在，反之则不存在。
来自统计学的论证
根据一个统计学流派的观点，所有形式的学习都是基于一个简单的公式——如我们所知，就是贝叶斯定理。
贝叶斯定理就是将数据变成知识的机器。
来自计算机科学的论证
问题的关键是必须找到第一个这样的公式，就像图灵找到通用计算机的第一个公式那样。
不存在论证
机器学习算法与知识工程师
天鹅咬了机器人
无论你的算法有多聪明，总有它无法掌握的东西。
机器学习算法的首要任务就是区别可预测的事与不可预测的事。
终极算法的目标是要学习一切能认知的东西，这比塔勒布和其他人想象的要广阔得多。
机器学习能从数据中找到统计规律，但它绝不会发现更深刻的东西，如牛顿定律。
终极算法是狐狸，还是刺猬
终极算法和我日常生活看到的不一样。我尝试用许多学习算法的数百种变形来解决所有给定的问题，而且对各类不同问题都会有更好的算法，那么单个算法（我们说的终极算法）怎么可能代替所有这些算法？
终极算法与算法的关系，就如同手指与钢笔、剑、螺丝刀、叉子的关系。
以赛亚·伯林明确提出的那样，有些思想家就是狐狸——他们知道许多微小的事情；而有些思想家则是刺猬——他们知道一件大事。学习算法也是同样的情况。
当今学习算法最大的问题，不是它们数量太多，而是尽管它们有用，却不能完成我们让它们做的所有事情。
我们正面临什么危机
许多领域迫切需要通用学习算法，包括与生死有关的领域以及普通领域等。
终极算法对技术的影不仅限于人工智能。
很多时候，我们得考虑，如果终极算法落入坏人手中，它会做些什么。
第一道防线就是确保好人第一个拿到它，或者如果它不明白谁是好人，就要保证它是开源的。
第二道防线就是要意识到，无论学习算法有多好用，也只是在获得数据时好用。控制了数据的人也就控制了学习算法。
新的万有理论
终极算法会给出所有学科的统一思想，并有潜力提出一套新的万有理论。
理论是关于世界是什么的一系列约束条件，而不是对世界的完整描述。
为了获得对世界的完整描述，你必须将理论和数据结合起来。
未达标准的终极算法候选项
如果终极算法存在，它是什么？
简单的候选项
看起来很明显的一种候选项就是记忆：只要记住你见过的所有东西，过一段时间，你就好像见过世上的一切东西，所以也就无所不知了。
另外一个候选项就是微处理器。
一个更加极端的候选项就是普通的“或非门”
复杂的候选项
那些所有可以回应搜索的良好的数据引擎，或者统计软件包里的简单算法
终极算法就是等式U(X)=0
机器学习的五大学派
图例
五大学派示意图
第三张 符号学派：休谟的归纳问题
第四章 联结学派：大脑如何学习
第五章 进化学派：自然的学习算法
第六章 贝叶斯学派：在贝叶斯教堂里
第七章 类推学派：像什么就是什么
第八章 无师自通
第九章 解开迷惑
第十章 建立在机器学习之上的世界
0 条评论
下一页
