张钹、朱军、苏航作者清华大学人工智能研究院来源

清华张钹院士专刊文章:迈向第三代人工智能(全文收录)

在这篇评述文章中,清华大学人工智能研究院院长、中国科学院院士张钹教授阐述了自己对于「第三代人工智能」的看法。他认为,第三代 AI 发展的思路是把第一代的知识驱动和第二代的数据驱动结合起来,通过利用知识、数据、算法和算力等 4 个要素,构造更强大的 AI,目前存在双空间模型与单一空间模型两个方案。本文对这篇评述进行了全文刊载。

全文链接:http://scis.scichina.com/cn/2020/SSI-2020-0204.pdf

人工智能(ArtificialIntelligence,简称 AI)在 60 多年的发展历史中,一直存在两个相互竞争的范式,即符号主义与连接主义(或称亚符号主义)。符号主义(即第一代人工智能)到上个世纪八十年代之前一直主导着 AI 的发展,而连接主义(即第二代人工智能)从上个世纪九十年代逐步发展,到本世纪初进入高潮,大有替代符号主义之势。但是今天看来,这两种范式只是从不同的侧面模拟人类的心智 (或大脑),具有各自的片面性,不可能触及人类真正的智能。

清华大学人工智能研究院院长、中国科学院院士张钹教授在「纪念《中国科学》创刊 70 周年专刊」上发表署名文章,首次全面阐述第三代人工智能的理念,提出第三代人工智能的发展路径是融合第一代的知识驱动和第二代的数据驱动的人工智能, 同时利用知识、数据、算法和算力等 4 个要素, 建立新的可解释和鲁棒的 AI 理论与方法,发展安全、可信、可靠和可扩展的 AI 技术,这是发展 AI 的必经之路。

自 2018 年成立以来,清华大学人工智能研究院本着「一个核心、两个融合」的发展战略,大力推动人工智能的基础理论和基本方法的源头性和颠覆性创新,在人工智能基础理论、关键技术和产学研合作等诸方面取得了创新成果。人工智能的序幕刚刚拉开,正剧正在上演。基础研究是科技创新的源头,尤其在当前复杂多变的国际环境下,更需要提升我国的原始创新能力,久久为功,努力实现人工智能领域更多「从 0 到 1」的突破。

以下全文刊载张钹院士的文章《迈向第三代人工智能》。

1 第一代人工智能

人类的智能行为是怎么产生的, 纽威尔 (A.Newell)、西蒙 (H.A.Simon) 等 [1∼4] 提出以下模拟人类大脑的符号模型, 即物理符号系统假设。这种系统包括:

(1) 一组任意的符号集, 一组操作符号的规则集; 
(2) 这些操作是纯语法(syntax)的,即只涉及符号的形式不涉及语义,操作的内容包括符号的组合和重组;
(3)这些语法具有系统性的语义解释,即它所指向的对象和所描述的事态。

1955 年麦卡锡 (J.McCarthy) 和明斯基 (M.L.Minsky) 等学者[5],在达特茅斯人工智能夏季研究项目 (the Dartmouth Summer Research Projecton ArtificialIntelligence) 的建议中, 明确提出符号 AI(artificialintelligence) 的基本思路:「人类思维的很大一部分是按照推理和猜想规则对‘词’(words)进行操作所组成的」。根据这一思路,他们提出了基于知识与经验的推理模型,因此我们又把符号 AI 称为知识驱动方法。

符号 AI 的开创者最初把注意力放在研究推理(搜索)的通用方法上,如「手段–目的分析」(meanendanalysis)、「分而治之」(divideandconquer)、「试错」(trialanderror)法等,试图通过通用的方法解决范围广泛的现实问题。由于通用方法是一种弱方法,实际上只能解决「玩具世界」中的简单问题,如机器人摆放积木,下简单的井字棋(tic-tac-toe)等,与解决复杂现实问题相差很远。寻求通用 AI 的努力遭到了失败,符号 AI 于 20 世纪 70 年代初跌入低谷。

幸运的是,斯坦福大学教授费根堡姆(E. A. Feigenbaum)等及时改变了思路,认为知识,特别是特定领域的知识才是人类智能的基础,提出知识工程(knowledgeengineering)与专家系统(expertsystems)等一系列强 AI 方法,给符号 AI 带来了希望。他们开发了专家系统 DENDRAL(有机化学结构分析系统,1965∼1975)[6],随后其他学者相继开发了 MYCIN(血液传染病诊断和抗菌素处方,1971∼1977)[7],XCON(计算机硬件组合系统)等。不过早期的专家系统规模都较小,难以实用。

直到 1997 年 5 月 IBM 的深蓝(deepblue)国际象棋程序打败世界冠军卡斯帕诺夫(Kasparov),符号 AI 才真正解决大规模复杂系统的开发问题。费根堡姆和雷蒂(R. Raddy)作为设计与构造大型人工智能系统的先驱,共同获得 1994 年 ACM 图灵奖。

符号 AI 同样可以应用于机器学习,把「机器学习」看成是基于知识的(归纳)推理。下面以归纳逻辑编程(inductivelogicprogramming,ILP)[8]为例说明符号 AI 的学习机制。在 ILP 中正负样本(具体示例)、背景知识和学习结果(假设)都以一阶逻辑子句(程序)形式表示。学习过程是在假设空间中寻找一个假设,这个假设应尽可能多地包含正例,尽量不包含负例,而且要与背景知识一致。一般情况下假设空间很大,学习十分困难,不过有了背景知识之后,就可以极大地限制假设空间,使学习变成可行。显然,背景知识越多,学习速度越快,效果也越好。

为解决不确定问题,近年来,发展了概率归纳逻辑编程方法(probabilisticinductivelogicprogramming,PILP)[9]。基于知识的学习,由于有背景知识,可以实现小样本学习,而且也很容易推广到不同的领域,学习的鲁棒性也很强。以迁移学习(transferlearning)[10]为例,可以将学习得到的模型从一种场景更新或者迁移到另一场景,实现跨领域和跨任务的推广。

具体做法如下,首先,从学习训练的环境(包括训练数据与方法)出发,发现哪些(即具有某种通用性)知识可以跨域或者跨任务进行迁移,哪些只是针对单个域或单个任务的特定知识,并利用通用知识帮助提升目标域或目标任务的性能。这些通用知识主要通过以下 4 种渠道迁移到目标域中去,即源域中可利用的实例,源域和目标域中可共享的特征,源域模型可利用的部分,源域中实体之间的特定规则。可见,知识在迁移学习中起关键的作用,因此,符号 AI 易于跨领域和跨任务推广。

在创建符号 AI 中做出重大贡献的学者中,除费根堡姆和雷蒂(1994)之外,还有明斯基(1969),麦卡锡(1971),纽威尔和西蒙(1975)共 6 位先后获得图灵奖(括号中的数字表示获奖的年份)。总之,第一代 AI 的成功来自于以下 3 个基本要素。以深蓝程序为例,第 1 是知识与经验,「深蓝」从象棋大师已经下过的 70 万盘棋局和大量 5∼6 个棋子的残局中,总结出下棋的规则。另外,在象棋大师与深蓝对弈的过程中,通过调试「评价函数」中的 6000 个参数,把大师的经验引进程序。第 2 是算法,深蓝采用α−β剪枝算法,有效提高搜索效率。第 3 是算力(计算能力),为了达到实时的要求,深蓝使用 IBM RS/6000 SP2, 11.38 G FLOPS(浮点运算 / 秒),每秒可检查 2 亿步,或 3 分钟运行 5 千万盘棋局(positions)。

符号 AI 有坚实的认知心理学基础,把符号系统作为人类高级心智活动的模型,其优势是,由于符号具有可组合性(compositionality),可从简单的原子符号组合成复杂的符号串。每个符号都对应着一定的语义,客观上反映了语义对象的可组合性,比如,由简单部件组合成整体等,可组合性是推理的基础,因此符号 AI 与人类理性智能一样具有可解释性和容易理解。符号 AI 也存在明显的局限性,目前已有的方法只能解决完全信息和结构化环境下的确定性问题,其中最具代表性的成果是 IBM「深蓝」国际象棋程序,它只是在完全信息博弈(决策)中战胜人类,这是博弈中最简单的情况。而人类的认知行为(cognitivebehavior),如决策等都是在信息不完全和非结构化环境下完成的,符号 AI 距离解决这类问题还很远。

以自然语言形式表示(离散符号)的人类知识,计算机难以处理,必须寻找计算机易于处理的表示形式,这就是知识表示问题。我们已有的知识表示方法,如产生式规则(productionrules),逻辑程序(logicprogram)等,虽然计算机易于处理(如推理等),但都较简单,表现能力有限,难以刻画复杂和不确定的知识,推理也只限于逻辑推理等确定性的推理方法。更加复杂的知识表示与推理形式都在探讨之中,如知识图谱(knowledgegraph)[11]、概率推理等[12]。符号 AI 缺乏数学基础,除数理逻辑之外,其他数学工具很难使用,这也是符号 AI 难以在计算机上高效执行的重要原因。

基于知识驱动的强 AI 只能就事论事地解决特定问题,有没有广泛适用的弱方法,即通用 AI,目前还是一个值得探讨的问题。此外,从原始数据(包括文本、图像、语音和视频)中获取知识目前主要靠人工,效率很低,需要探索有效的自动获取方法。此外,真正的智能系统需要常识,常识如何获取、表达和推理还是一个有待解决的问题。常识的数量巨大,构造一个实用的常识库,无异于一项 AI 的「曼哈顿工程」,费时费力。

2 第二代人工智能


感官信息(视觉、听觉和触觉等)是如何存储在记忆中并影响人类行为的? 有两种基本观点,一种观点是,这些信息以某种编码的方式表示在(记忆)神经网络中,符号 AI 属于这一学派。另一种观点是,感官的刺激并不存储在记忆中,而是在神经网络中建立起「刺激–响应」的连接(通道),通过这个「连接」保证智能行为的产生,这是连接主义的主张,连接主义 AI 就是建立在这个主张之上。

1958 年罗森布拉特(Rosenblatt)按照连接主义的思路,建立一个人工神经网络(artificialneuralnetwork,ANN)的雏形——感知机(perceptron)[13,14]。感知机的灵感来自于两个方面,一是 1943 年麦卡洛克(McCulloch)和皮特(Pitts)提出的神经元数学模型——「阈值逻辑」线路,它将神经元的输入转换成离散值,通常称为 M-P 模型[15]。二是来自于 1949 年赫布(D. O. Hebb)提出的 Hebb 学习率,即「同时发放的神经元连接在一起」[16]。感知机如图 1 所示。


其中 b 为阈值,w 为权值。

AI 的创建者从一开始就关注连接主义的思路。1955 年麦卡锡等在达特茅斯(Dartmouth)AI 研究建议中写道「如何安排一组(假想的)神经元使之形成概念 ······ 已经获得部分的结果,但问题是需要更多的理论工作」[5],并把它列为会议的研讨内容之一。由感知机组成的 ANN 只有一个隐蔽层,过于简单。明斯基等 [17] 于 1969 年出版的书《感知机》中指出,感知机只能解决线性可分问题,而且即使增加隐层的数量,由于没有有效的学习算法,感知机也很难实用。明斯基对感知机的批评是致命的,使刚刚起步的连接主义 AI 跌入低谷达 10 多年之久。在困难的时期里,在许多学者的共同努力下,30 多年来无论在神经网络模型还是学习算法上均取得重大进步,逐步形成了深度学习的成熟理论与技术。

其中重要的进展有,第 1,梯度下降法(gradientdescent),这本来是一个古老的算法,法国数学家柯西(Cauchy)[18]早在 1847 年就已经提出; 到 1983 年俄国数学家尤里 · 涅斯捷诺夫(YuriiNesterov)[19]做了改进,提出了加强版,使它更加好用。第 2,反向传播(backpropagation,BP)算法,这是为 ANN 量身定制的,1970 年由芬兰学生 SeppoLinnainmaa 在他的硕士论文中首先提出; 1986 年鲁梅哈特(D.E.Rumelhart)和辛顿(G.Hinton)等做了系统的分析与肯定 [20]。「梯度下降」和「BP」两个算法为 ANN 的学习训练注入新的动力,它们和「阈值逻辑」、「Hebb 学习率」一起构成 ANN 的 4 大支柱。

除 4 大支柱之外,还有一系列重要工作,其中包括更好的损失函数,如交叉熵损失函数(cross-entropycostfunction)[21]; 算法的改进,如防止过拟合正则化方法(regularization)[22]; 新的网络形式,如 1980 年日本福岛邦彦(Fukushima)的卷积神经网络(convolutionneuralnetworks,CNN)[23,24],递归神经网络(recurrentneuralnetworks,RNN)[25],长短程记忆神经网络(longshort-termmemoryneuralnetworks,LSTM)[26],辛顿的深度信念网络(deepbeliefnets,DBN)[27] 等。这些工作共同开启了以深度学习(deeplearning)为基础的第二代 AI 的新纪元[28]。

第二代 AI 的学习理论有坚实的数学基础,为了说明这个基础,下面举一个简单的有监督学习的例子,有监督学习可以形式化为以下的函数回归问题: 从数据库 D 中提取样本,对样本所反映的输入–输出关系 f:X→Y 做出估计,即从备选函数族(假设空间)F={fθ:X−→Y;θ∈A}中选出一个函数 f^∗使它平均逼近于真实 f。在深度学习中这个备选函数族由深度神经网络表示:


参数学习中有 3 项基本假设。(1)独立性假设: 损失函数和备选函数族 F(或者神经网络结构)的选择与数据无关。(2)大容量假设: 样本(x_i,y_i)数量巨大(n→∞)。(3)完备性假设: 训练样本完备且无噪声。

如果上述假设均能满足,f^∗将随样本数的增加最后收敛于真实函数 f。由此可见,如果拥有一定质量的大数据,由于深度神经网络的通用性(universality),它可以逼近任意的函数,因此利用深度学习找到数据背后的函数具有理论的保证。这个论断在许多实际应用中得到了印证,比如,在标准图像库 ImageNet(2 万类别,1 千 4 百万张图片)上的机器识别性能,2011 年误识率高达 50%,到 2015 年微软公司利用深度学习方法,误识率大幅度地降到 3.57%,比人类的误识率 5.1% 还要低 [29]。低噪声背景下的语音识别率,2001 年之前基本上停留在 80% 左右,到了 2017 年识别率达到 95% 以上,满足商品化的要求。

2016 年 3 月谷歌围棋程序 AlphaGo 打败世界冠军李世石,是第二代 AI 巅峰之作,因为在 2015 年之前计算机围棋程序最高只达到业余五段!更加令人惊奇的是,这些超越人类性能成果的取得,并不需要领域知识的帮助,只需输入图像原始像素、语音原始波形和围棋棋盘的布局(图像)!

深度学习的成功来自于以下 3 个要素:一是数据,以 AlphaGo 为例,其中 AlphaGo-Zero 通过强化学习自学了亿级的棋局,而人类在千年的围棋史中,下过的有效棋局只不过 3000 万盘。二是算法,包括蒙特卡洛树搜索(Monte-Carlotreesearch)[30]、深度学习强化学习(reinforcementlearning)[31] 等。三是算力,运行 AlphaGo 的机器是由 1920 个 CPU 和 280 个 GPU 组成的分布系统。因此第二代 AI 又称数据驱动方法。

在创建第二代 AI 中做出重大贡献的学者中,有以下 5 位获得图灵奖。他们是菲丽恩特(L. G. Valiant,2010)、珀尔(J. Pearl,2011)、本杰奥(Y. Bengio,2018)、辛顿(G. Hinton,2018)、杨立昆(Y. LeCun,2018)等。

早在 2014 年,深度学习的诸多缺陷不断地被发现,预示着这条道路遇到了瓶颈。下面仅以基于深度学习的图像识别的一个例子说明这个问题(材料引自本团队的工作)。文献 [32] 表示利用基于动量的迭代快速梯度符号法(momentumiterativefastgradientsignmethod,MI-FGSM)对 Inceptionv3 深度网络模型实施攻击的结果。无噪声的原始图像——阿尔卑斯山(Alps),模型以 94.39% 的置信度得到正确的分类。利用 MI-FGSM 方法经 10 次迭代之后生成攻击噪声,将此攻击噪声加进原图像后得到攻击样本。由于加入的噪声很小,生成的攻击样本与原始图几乎没有差异,人类无法察觉,但 Inceptionv3 模型却以 99.99% 的置信度识别为「狗」。

深度学习为何如此脆弱,这样容易受攻击,被欺骗和不安全,原因只能从机器学习理论本身去寻找。机器学习的成功与否与 3 项假设密切相关,由于观察与测量数据的不确定性,所获取的数据一定不完备和含有噪声,这种情况下,神经网络结构(备选函数族)的选择极为重要,如果网络过于简单,则存在欠拟合(under-fitting)风险,如果网络结构过于复杂,则出现过拟合(overfitting)现象。虽然通过各种正则化的手段,一定程度上可以降低过拟合的风险,但是如果数据的质量差,则必然会导致推广能力的严重下降。

此外,深度学习的「黑箱」性质是造成深度学习推广能力差的另一个原因,以图像识别为例,通过深度学习只能发现重复出现的局部片段(模式),很难发现具有语义的部件。文献 [33] 描述了利用深度网络模型 VGG-16 对「鸟」原始图像进行分类,从该模型 pool5 层 147 号神经元的响应可以看出,该神经元最强烈的响应是「鸟」头部的某个局部特征,机器正利用这个局部特征作为区分「鸟」的主要依据,显然它不是「鸟」的不变语义特征。因此对于语义完全不同的对抗样本(人物、啤酒瓶和马等),由于具有与「鸟」头部相似的片段,VGG-16 模型 pool5 层 147 号神经元同样产生强烈的响应,于是机器就把这些对抗样本错误地判断为「鸟」。

3 第三代人工智能

第一代知识驱动的 AI,利用知识、算法和算力 3 个要素构造 AI,第二代数据驱动的 AI,利用数据、算法与算力 3 个要素构造 AI。由于第一、二代 AI 只是从一个侧面模拟人类的智能行为,因此存在各自的局限性。为了建立一个全面反映人类智能的 AI,需要建立鲁棒与可解释的 AI 理论与方法,发展安全、可信、可靠与可扩展的 AI 技术,即第三代 AI。其发展的思路是,把第一代的知识驱动和第二代的数据驱动结合起来,通过同时利用知识、数据、算法和算力等 4 个要素,构造更强大的 AI。目前存在双空间模型与单一空间模型两个方案。

3.1 双空间模型


双空间模型如图 2 所示,它是一种类脑模型,符号空间模拟大脑的认知行为,亚符号(向量)空间模拟大脑的感知行为。这两层处理在大脑中是无缝融合的,如果能在计算机上实现这种融合,AI 就有可能达到与人类相似的智能,从根本上解决目前 AI 存在的不可解释和鲁棒性差的问题。为了实现这种目标,需要解决以下 3 个问题。

3.1.1 知识与推理

知识 (包括常识) 与推理是理性智能的基础, 在第一代 AI 中, 以物理符号系统模拟人类的理性 智能, 取得显著的进展, 但无论在知识表示还是推理方法上都有大量的问题需要进一步探讨。下面以 IBMDeepQA 项目[34] 为例说明最近的进展, 之所以选择这个例子是因为基于 DeepQA 构成的 Watson 对话系统, 在 2011 年 2 月美国电视 「危险边缘」 智力竞赛节目中, 以压倒优势战胜全美冠军 K. 詹宁斯 (KenJennings) 和 B. 拉特 (BradRutter), 表明 Watson 是一个成功的 AI 系统。Watson 关于知识 表示和推理方法的以下经验值得借鉴: (1) 从大量非结构化的文本自动生成结构化知识表示的方法, (2) 基于知识质量的评分表示知识不确定性的方法, (3) 基于多种推理的融合实现不确定性推理的方法。


Watson 系统将 「问答」(question-answer) 看成是基于知识的从 「问题」 到 「答案」 的推理, 为了达 到人类的答题水平, 计算机需要拥有与人类冠军一样甚至更多的知识。其中包括百科全书、主题词表、 词典、专线新闻报道、文学作品等互联网上数量巨大 (相当于 2 亿页的纸质材料) 的文本, 这些文本是 非结构化的, 而且质量参差不齐, 需要把这些非结构化的文本自动转换为结构化且易于处理的表达形 式。Watson 系统使用的表达形式为 「扩展语料库」(expendedcorpus) , 它的生成步骤如下。首先给出 基线语料库 (baselinecorpus) 判别种子文件 (seeddocuments) , 根据种子文件从网上收集相关文件 并 并 从中挖掘 「文本核 」(textnuggets) , 对文本核做评分 按 按照评分结果集成为最后的 「扩展语料库」。

除自动生成的扩展语料库之外, Watson 的知识库中还包括已有的语料库, 如 dbPedia, WordNet, Yago 等, 以及人工编制的部分库。Watson 采用多种推理机制 (多达百种) 将 「问题」 转换为 「答案」(见图 3)。先对 「问题」 做分析、分类和分解, 根据分解的结果从答案源 (语料库) 中搜索假设与候选答 案, 经初步过滤之后, 筛选出 100 个左右候选答案。再从证据源中收集证据, 对候选答案进行评分, 评 估过程同时考虑数据源的可靠性, 依据评分结果合成出几种候选答案, 按照置信度大小进行排序, 最后输出排序后的答案。

此外,Watson 还通过 155 场与人类现场对决和 8000 次的实验,学习对「问题」(自然语言)的理解。

3.1.2 感知

符号主义用符号系统作为人类心智的模型, 以实现与人类相似的推理能力。但从认知的角度看, 二者却有本质上的不同, 即存在 「符号基础问题」(symbolgroundingproblem)[35]。在物理符号系统中, 客观世界的 「对象」 和 「关系」 等用符号表示, 但符号本身并无语义, 我们只好人为地给它们规定语义, 也就是说是外部强加的 「寄生语义」(parasiticsemantics) , 机器本身并不知道。这与人类大脑中存在的 「内在语义 」(intrinsicsemantics) 完全不同, 人类大脑中的 「内在语义」, 特别是 「原子概念」 和 「常识」, 除极少数先天之外, 主要是通过感官 (视听等) 或者感官与动作的结合自我习得的, 即将感官图符式 (iconic) 表示或反映语义不变性的分类 (categorical) 表示转化为符号表示。这本来是深度学习要完成的任务, 但很可惜, 目前深度学习的模型并不能完成这项使命。因为深度学习所处理的空间是特征空间, 与语义空间差别很大, 它只能学到没有明确语义的 「局部片段」, 这些片段不具备可组合性, 因此不 能用来作为 「物体」 的 「内在语义」 表示。换句话讲, 目前的深度学习只能做到 「感觉」(sensation) , 达不到感知 为 为达到感知的水平 , 机器必须通过自我学习获取 「物体」 的语义部件 (semanticparts) , 如 「狗」 的腿、头、尾等,才有可能通过这些部件的组合形成 「狗」 的不变 「内在语义」。解决这个问题的基本思路是利用知识为引导,将感觉的信息从向量特征空间提升到符号语义空间,如图 2 所示。这方面已经有不少的研究工作 [36∼39] ,下面以本团队的工作阐述这方面工作的初步进展。

文献 [40] 描述如何利用一个三元生成对抗网络 (triplegenerativeadversarialnetworks , Triple-GAN) 提高图像分类性能的方法。三元生成对抗网络由 3 部分组成: 分类器、生成器和鉴别器,分别用于条件化图像生成和半监督学习中的分类。生成器在给定真实标签的情况下生成伪数据,分类器在给定真实数据的情况下生成伪标签,鉴别器的作用是区分数据标签对是否来自真实标记的数据集。如果设计好合适的效用函数,利用三元生成对抗网络,可以通过无监督(或弱监督)学习,让生成器(网络)学到样本中「物体」的表示(即先验知识),同时利用这个先验知识改善分类器的性能。

此项研究表明,通过 ANN 的无监督学习可以学到「物体」的先验知识,这就是「物体」(符号)的「内在语义」。利用这个具有「内在语义」的先验知识提高分类器的识别率,从根本上解决计算机视觉中存在的「检测」(where)与「识别」(what)之间的矛盾,实现小样本学习,提高鲁棒性和推广能力。

还可以从另外的角度思考,先回到深度学习所使用的人工神经网络(图 4),以视觉为例,它与人类的视觉神经网络相比过于简单了,既没有反馈连接,同层之间的横向连接和抑制连接,也没有稀疏放电、记忆和注意等机制。如果我们能够将这些机制引进 ANN,将会逐步提高计算机视觉感知能力。由于我们对大脑视神经网络的工作原理了解得很少,目前只能沿着「脑启发计算」(brianinspiredcomputing)的道路一步一步地往前探索。


目前有一些试探性的工作,有些效果但都不够显著。下面介绍本团队的一项研究。如文献 [41] 所述,将稀疏放电的原理运用到 ANN 各层的计算中。网络共 6 层,包括 Gabor 滤波和 Max 池化等,在各层的优化计算中加上「稀疏」正则约束项,稀疏性的要求迫使 ANN 选择最具代表性的特征。如果用背景简单的「人类」「小汽车」「大象」和「鸟」等图像作为训练样本训练网络,那么神经网络的输出层就会出现代表这些「类别」的神经元,分别对人脸、小汽车、大象和鸟的轮廓做出响应,即提取了「整个物体」的语义信息,形成部分的「内在语义」。

这种方法也只能提取部分的语义信息,还不能做到提取不同层面上的语义信息,如「整体」、「部件」和「子部件」等,达到符号化的水平,因此仍有许多工作有待研究。

3.1.3 强化学习

上面说过通过感官信息有可能学到一些基本知识(概念),不过仅仅依靠感官信息还不够,比如「常识概念」,如「吃饭」「睡觉」等仅依靠感官难以获取,只有通过与环境的交互,即亲身经验之后才能获得,这是人类最基本的学习行为,也是通往真正 AI 的重要道路。强化学习(reinforcementlearning)就是用来模拟人类的这种学习行为,它通过「交互–试错」机制,与环境不断进行交互进而学习到有效的策略,很大程度上反映了人脑做出决定的反馈系统运行机理,成为当前人工智能突破的重要方法,在视频游戏[42,43]、棋牌游戏[44,45]、机器人导航与控制[46,47]、人机交互等领域取得了诸多成果,并在一些任务上接近甚至超越了人类的水平[48,49]。

强化学习通常看成是离散时间的随机控制过程,即智能体与环境的交互过程。智能体从起始状态出发,取得起始观察值,在 t 时刻,智能体根据其内部的推理机制采取行动之后,获得回报,并转移到下一个状态,得到新的观察强化学习的目标是,选择策略π(s,a)使累计回报预期 V^π(s):S→R 最优。如果我们考虑简单的马尔可夫(Markov)决策过程,即后一个状态仅取决于前一个状态,并且环境完全可观察,即观察值 o 等于状态值 s,即 O=S; 并假设策略稳定不变。如图 5 所示。以 AlphaZero 为例,智能体不依赖人类的标注数据,仅仅通过自我博弈式的环境交互积累数据,实现自身策略的不断改进,最终在围棋任务上达到了超越人类顶级大师的水平,代表强化学习算法的一个巨大进步[45]。



强化学习算法在选择行为策略的过程中,需要考虑环境模型的不确定性和目标的长远性。具体的,通过值函数也就是未来累积奖励的期望衡量不同策略的性能,即


其中γ∈[0,1]是折扣因子。值函数可以写成贝尔曼方程(Bellmanequation)的形式。该方程表示了相邻状态之间的关系,可以利用其将决策过程划分成多个不同的阶段,其中某一阶段的最优决策问题可以利用贝尔曼方程转化为下一阶段最优决策的子问题。

强化学习的核心目标就是选择最优的策略,使得预期的累计奖励最大,即值函数取得最优值


需要指出的是,尽管强化学习围棋、视频游戏等任务上获得了极大的成功,但是这些任务从本质上是相对「简单」的,其任务的环境是完全可观察的、反馈是确定的、状态主要是离散的、规则是明确的,同时可以相对比较廉价地得到大量的数据,这些都是目前人工智能算法所擅长的。但是在不确定性、不完全信息、数据或者知识匮乏的场景下,目前强化学习算法的性能往往会出现大幅度的下降,这也是目前强化学习所面临的重要挑战。其中的典型问题如下所述。

(1)部分观测马氏决策过程中强化学习: 在真实的问题中,系统往往无法感知环境状态的全部信息,因此不仅需要考虑动作的不确定性,同时也需要考虑状态的不确定性。这就导致了部分感知强化学习往往不满足马尔可夫环境假设。尽管相关的研究者近年来进行了大量的探索,但是部分观测马氏决策(partiallyobservableMarkovdecisionprocess,POMDP)仍然是强化学习中比较有挑战的问题。

(2)领域知识在强化学习中的融合机制: 如何实现领域知识的融合在强化学习中同样是重要科学问题。对提高收敛速度、降低采样复杂度、改善模型迁移性和算法鲁棒性等具有重要意义。本团队针对这一问题,在领域知识指导的动作空间抽象压缩 [50]、结构设计[51] 等方面进行了初步探索,但是如何实现领域知识和强化学习框架的高效融合仍然是亟待解决的问题。

(3)强化学习博弈论的结合: 博弈论强化学习的结合是近年来领域内研究的热点问题。二者的结合可以让多智能体之间的竞争和合作关系的建模变得更加直观和清晰,这其中包含了多智能体之间的零和 / 非零和、完全信息 / 非完全信息等多种不同的任务类型,尤其是在对抗性的任务中更具有研究和应用价值[43]。本团队前期在这方面也进行了探索性的研究,将智能体对环境的探索建模成智能体和环境之间的博弈过程[52],也是目前第一个在扩展型博弈、参数未知的场景下能够从理论上保证收敛的算法。

除此之外,强化学习所面临的难题还包括仿真环境和真实环境的差异、探索和利用的矛盾、基于模型的强化学习算法等诸多难点的问题,相比于监督学习所获得的成功而言,强化学习的研究还处于相对较为初级的阶段。

3.2 单一空间模型

单一空间模型是以深度学习为基础,将所有的处理都放在亚符号(向量)空间,这显然是为了利用计算机的计算能力,提高处理速度。问题在于深度学习与大脑的学习机制不同,在许多方面表现不佳,如可解释性和鲁棒性等。关键是要克服深度学习所带来的缺陷,如图 6 所示。下面讨论几个关键问题。


3.2.1 符号表示的向量化

知识通常以自然语言的离散符号形式表示,为了实现单一空间模型,首先要将符号表示的词、短语、句子和篇章等转换为向量,或者将知识图谱转换为向量表示。关键是「词」的变换,即词嵌入(wordembedding)。目前「词嵌入」已有各种方法,如 Word2Vec[53]和 GloVe[54]等。

下面介绍 Word2Vec 中采用的 Skip-gram[55]策略,用来说明词是如何由符号转换为向量的。

其中 w 是给定的目标词,c 是从其上下文中任选的一个词,p(c|w;θ)是给定词 w 下,词 c 出现的概率。D 是从语料库中提取的所有 w−c 对,θ是模型参数,式(5)进一步参数化后,得到

其中是词 c 和词 w 的向量表示,C 是所有可用文本。参数,i=1,2,...d,共 | C|×|W|×d 个。调整这些参数使式(5)最大化,最后得到所有词 w∈W 的向量表示


这些词向量具有以下良好的性质,即「语义相似的词,其词向量也很相似」(见图 7)。变换后的词向量之所以具有上述良好的性质,出自嵌入过程的以下假设,两个词在上下文中同现的频率越高,这两个词的语义越可能接近,或者越可能存在语义上的某种关联。嵌入词向量的这些特性,表明它带有语义信息,因此称嵌入空间为准语义空间。式(5)是难计算的,可以采用深度神经网络等做近似计算。利用类似的嵌入法也可以把「短语」「句子」和「篇章」或者知识图谱等转换到具有准语义的向量空间中去[56]。


向量形式的知识表示具有上述良好的性质,且可以与数据一样,使用大量的数学工具,包括深度学习方法,因此被大量应用于文本处理,如机器翻译等,取得明显的效果。下面以神经机器翻译(neuralmachinetranslation)为例予以说明[57,58]。

神经机器翻译的基本思路是,给定源句子(比如中文),寻找目标句(比如英文)。神经翻译的任务是,计算词一级翻译概率的乘积,

其中θ是一组模型参数是部分翻译结果。词一级的翻译概率可用 softmax 函数 f(·)定义:


其中是目标句中第 j 个词的向量表示,v_x 是源句子的向量表示,是部分翻译句的向量表示,y=y_j,j=1,2...,J 是要找的目标句。

神经翻译模型的构造: 给定训练样本为一组「源句–目标句」对,模型训练的目标是最大化 log 似然:

即选择一组模型参数θ,使目标函数最大化。利用这个模型,通过式(7)计算(翻译)目标句子。这种翻译方法尽管可以得到比传统方法错误率还低的翻译结果,但它具有深度学习方法的共性缺陷,如不可解释、会发生重大错误、鲁棒性差等。为克服这些缺陷,需要加入知识,通过先验知识或后验正则化等方式引入语言知识等。

3.2.2 深度学习方法的改进

基于深度学习的 AI 具有不可解释和鲁棒性差等缺陷,目前有许多改进工作。下面介绍本团队的一些工作。

(1)可解释性问题。可解释人工智能算法的研究近年来引起众多研究人员的关注。而人类理解机器决策过程的核心难点是跨越数据特征空间和人类语义空间之间的鸿沟[59]。无论是早期的以手工特征为基础的算法,还是当前以特征学习为代表的深度学习,其核心思想都是将观测样本映射到特征空间中,进而在特征空间进行分析,发现样本在特征空间不同区域内的规律,从而达到算法要实现的任务目标(如分类、回归等)。与之不同的是,人类的分析和决策是利用自身的背景知识,在语义空间当中完成。但是数据特征空间和人类的语义空间在结构和内涵上存在显著的区别,而可解释人工智能的最终就是要在二者之间架起一座桥梁,进而跨越二者之间的鸿沟。

总体而言,相关的研究主要分为(i)模型的后解释技术(post-hocexplanation),也就是给定了人工智能的模型,通过可视化、交互技术等方式,分析给定模型的工作机理,为其决策结果寻找解释途径;(ii)可解释模型,即通过发展新的网络架构、损失函数、训练方式等,发展具有内在可解释性的新型人工智能模型。从整体来说,两类方法目前都在发展过程中,在可解释性的研究中具有重要作用。

可视分析是人工智能算法可解释的一种直观的思路。既然深度学习是「黑箱」学习法,内部的工作机理是不透明的,「不可解释」,如果利用可视化,打开「黑箱」,一切不就清楚了吗? 为了帮助机器学习专家更加理解卷积神经网络的工作机理,我们开发了 CNNVis 这一可视分析工具[60]。CNNVis 旨在帮助专家更好地理解与诊断深度卷积神经网络,作为一种混合可视化方法,综合应用了基于双聚类技术的边绑定方法,以及矩形布局算法、矩阵重排算法和有向无环图布局算法等。作为可视化领域的首批深度学习可视分析工作,该工作在工业界和学术界都引起了广泛关注。在此基础上,为了分析复杂神经网络的训练过程,我们以深度生成模型(对抗生成网络(generativeadversarialnetworks,GAN)和变分自编码器(variationalauto-encoder,VAE))为例,研究了如何帮助机器学习专家诊断训练过程中出现的常见问题。

解释模型的另外一个思路是利用部分统计分析的技巧,针对神经网络决策过程中的参数冗余性,对神经网络内部最后决策起到关键作用的子成分进行分析,得到复杂模型内部对决策起到最关键作用的核心部分。为了更高效发掘子网络,我们借鉴了网络剪枝(networkpruning)思路,提出一种普适的提取子网络的方法,而无需对模型从头进行训练[61]。具体来说,我们对网络中每一层都附加一组控制门(controlgate)变量,在知识蒸馏[62](knowledgedistillation)准则下优化该组变量控制各层输出通道,用以确定关键子网络。具体来说,令 p(y | x;θ)为具有权重参数θ的原始模型对于单个样本 X 所做出的预测概率。而我们想要提取参数为θ_s 的关键子网络,其预测输出应为 q(y | x;θ_s),应该与原模型输出结果在 Kullback-Leibler 散度度量下接近。因此总体最小化目标函数

其中Ω(θ_s)为稀疏正则项,即鼓励模型通过尽量少的激活神经元达到和原网络相似的性能。通过对关键子网络可视化分析,我们观察到对于样本特定子网络,各层控制门值表征形式随着层级增高而展现出类别区分特性。实验结果表明,对于类别特定子网络,其整体表征形式与类别语义之间有着密切联系。

以上方法更多的关注是模型的后解释,也就是给定一个深度学习模型「强行」寻求对其决策过程的解释,而这种解释是否符合神经网络的内在机理仍然是需要讨论的问题。由于深度学习模型的不可解释性是由于机器推理的特征空间和人类可理解的空间存在着本质的区别,因此深度学习要想实现可解释性就需要把机器特征空间和人类的语义空间联系起来。本团队也在此方面进行了探索性研究[63],主要针对如何将人类的先验知识融入到深度学习模型的训练中,使特征具有更加明确的语义内涵,从而能够做到决策的追溯。具体的,在图文的联合分析中,我们利用文本信息中抽取出来的人类可理解的主题信息指导神经网络的训练过程,并对文本和图像 / 视频数据进行协同训练,引导神经网络训练得到人类可以理解的语义特征。具体的,我们通过在神经网络目标函数中引入可解释的正则约束:

其中第 1 项是相关任务的损失函数,第 2 项是可解释正则约束。通过这种方法,可以在文本数据引导下,通过不同模态数据之间的信息互补性,利用可解释正则约束,提升深度学习模型的可解释性。

(2)鲁棒性问题。由于对抗攻击给深度学习模型带来的潜在的恶意风险,其攻击不但精准且带有很强的传递性,给深度学习模型的实际应用带来了严重的安全隐患,迫切需要增强深度学习模型自身的安全性,发展相应的深度学习防御算法,降低恶意攻击带来的潜在威胁[64]。具体来说,目前的深度学习防御算法主要有两类思路。

第 1 是基于样本 / 模型输入控制的对抗防御。这类方法的核心是在模型的训练或者使用阶段,通过对训练样本的去噪、增广、对抗检测等方法,降低对抗攻击造成的危害。其中去噪器由于不改变模型自身的结构和性质,具有「即插即用」的性质,引起了广泛的关注。但是由于对抗噪声的特殊属性,其形成的干扰效应往往可以随着神经网络的加深逐步放大,因此在普通的高斯噪声(Gaussiannoise)上具有良好滤除效果的自编码器往往不能很好地滤除对抗噪声。

针对这一问题,本团队提出了基于高层表示引导的去噪器(HGD)[65],通过高层特征的约束使得对抗样本与正常样本引起目标模型的上层神经元响应尽可能一致。将传统像素级去噪网络 DAE(denoisingautoencoder)与 U-net 网络结构进行结合,到负噪声输出,用对抗样本加上负噪声可以得到去噪图片,即。研究表明该方法不仅去掉了一部分对抗扰动,还增加了一部分「反对抗扰动」,取得了非常好的防御效果,获得「NIPS2017 对抗性攻防竞赛」中对抗防御任务冠军,以及 2018 年在拉斯维加斯(LasVegas)举办的 CAADCTF 对抗样本邀请赛冠军。

第 2 是基于模型增强的对抗防御。这类方法的核心是通过修改网络的结构、模型的激活函数损失函数等,训练更加鲁棒的深度学习模型,从而提高对对抗攻击的防御能力。其中集成模型(ensemble)是近年来出现的一类典型的防御方法。针对经典集成防御由于各个子模型的相似性导致防御性能下降的问题,本团队提出自适应多样性增强训练方法(adaptivediversitypromotingtraining,ADP)[66]。相比于经典集成模型,ADP 方法在训练函数中额外引入了多样性正则项,鼓励每个子模型在正确类别上决策一致,而在其他类别上预测不一致。由于其他类别包括所有潜在的对抗样本的目标类别,所以这种不一致性可以使得各个子模型难以被同时欺骗,从而增强集成模型的鲁棒性。具体来讲,在 ADP 方法中,为了保证每个子模型的最大预测都对应于正确的类别,这种多样性定义在每个子模型输出的非最大预测上,当不同子模型的非最大预测向量相互正交时,这种多样性取得最大值。具体的,其训练的目标函数

其中,;为每个子模型 k 的交叉熵(cross-entropy)损失函数。ADP_α,β(x,y)=α·H(F)+β·log(ED)是模型集成多样性的度量,鼓励不同的子模型形成尽量差异化的决策边界。实验结果表明,通过鼓励不同子模型的差异化决策性质,有效地提升了模型的对抗鲁棒性。但是,总体而言,目前多数的对抗防御方法是基于经验主义的,研究表明很多防御对抗样本的方法在很短的时间就会被后来的攻击算法攻破。其重要原因之一是深度学习只是在做简单的函数拟合,缺乏像人一样对问题的理解能力[67]。因此通过理解机器学习模型的内部工作机理,发展数据驱动和知识驱动融合的第三代人工智能理论框架,将成为提高人工智能算法鲁棒性的重要途径。

但是,总体而言,目前多数的对抗防御方法是基于经验主义的,研究表明很多防御对抗样本的方法在很短的时间就会被后来的攻击算法攻破。其重要原因之一是深度学习只是在做简单的函数拟合,缺乏像人一样对问题的理解能力[67]。因此通过理解机器学习模型的内部工作机理,发展数据驱动和知识驱动融合的第三代人工智能理论框架,将成为提高人工智能算法鲁棒性的重要途径。

3.2.3 贝叶斯深度学习

如图 6 所示,图像和语音等信息是在特征空间中处理的,这些特征语义信息很少,需要提取含有更多语义的特征,其中的一种解决办法是将知识引入深度学习。下面以贝叶斯深度学习为例,说明这一思路。

我们前面说过深度神经网络没有考虑数据观测的不确定性,这种不确定性的存在,以及对于数据背后物理背景的无知,使我们对深度学习结果的正确性难以判断。同时,在数据量有限但模型逐渐变大(如包括十亿甚至千亿参数)的过程中,模型的不确定性也变得更严重——存在很多模型在训练集上表现都很好,但在测试集上的表现差别很大。贝叶斯学习充分考虑了先验知识以及模型和数据的不确定性,而且还能从不断提供的数据(证据)中,加深对数据的了解,即根据新的证据实现增量式的学习,充分发挥知识在学习中的作用。不仅可以对学习结果的可信度做出判断,也因此提高了学习的效率和准确度。

贝叶斯学习(Bayesianlearning)定义: 给定观测数据 d∈D,按贝叶斯规则计算每个假设的概率,

其中 D 是所有数据[12,68]。给定 d

是对未知量 X 的预测,即通过观测数据确定各个假设的概率,再从各个假设确定未知量 X 的分布。其中的关键是假设先验 p(h_i)和给定假设 h_i 下数据 d 的似然 p(d|h_i)。贝叶斯预测(式(13))不管样本量大小,均可达到最优,但当假设空间很大时,式(13)的加法计算量太大(在连续情况下为积分),难以实际应用。通常需要采用近似算法,主要有两类近似方法——变分推断和蒙特卡洛采样[69]。另外,还有一些常见的简化有,(1)对 X 的预测不是利用所有的假设,而只利用其中让 p(h_i|d)最大化的一个 h_i,称为最大化后验(maximumaposteriori,MAP)假设。(2)假定 p(h_i)是均匀分布,问题就简化为,选择一个让 p(d|h_i)最大化的 hi,称为最大化似然(maximumlikelihood,ML)假设。(3)如果不是所有数据都可以观测,即存在隐变量,通常采用 EM(expectationmaximization)算法[70]。该算法分为两步(式(14)),E 步: 利用观测的数据 x 和θ^(i),计算 p(Z=z|x;θ^(i));M 步: 利用计算出来的 z 和 x,计算模型参数θ^(i+1)。两个步骤交替进行,找到最终的模型参数θ:


贝叶斯准则 (式 (12)) 是一个从先验分布和似然函数推断后验分布的过程, 为了更灵活地考虑知识, 我 们团队提出了正则化贝叶斯 (regularized Bayesian inference, RegBayes) [71] , 它基于贝叶斯定理的信息 论描述 [72] , 通过引入后验正则化, 在变分优化的框架下可以灵活地考虑领域知识 (如基于逻辑表达式 的知识 [73] ) 或者学习任务优化的目标 (如最大间隔损失 [74] ) 等.

更进一步的, 贝叶斯深度学习是将贝叶斯学习的基本原理与深度神经网络的表示学习有机融合的 一类方法, 融合主要体现在两个方面, (1) 用贝叶斯方法更好地学习深度神经网络 (如贝叶斯神经网络高斯过程等), 包括计算预测的不确定性、避免过拟合等; (2) 用深度神经网络作为非线性函数变换定 义更加丰富灵活的贝叶斯模型, 如图 8 所示, 包括深度生成模型 (如 GAN, VAE, 基于可逆变换的流模 型等). 其中第 1 种融合早在 20 世纪 90 年代就被霍普菲尔德 (J. Hopfield) 和辛顿指导博士生系统研究过 [75, 76] , 当时的算力和数据都很有限, 稍微大一点的神经网络都面临着严重的过拟合, 因此, 那时 候就开始研究用贝叶斯方法保护神经网络, 并且选择合适的网络结构. 随着神经网络的加深, 贝叶斯 方法又引起了很多研究兴趣, 主要进展包括对深度贝叶斯神经网络进行高效的 (近似) 计算, 需要克服 的主要困难是深度网络过参数化 (over-parametrization) 带来的维数灾难. 在这方面, 我们团队进行了 深入研究, 先后提出了隐式变分推断 (implicit variational inference) 算法 [77, 78] , 在泛函空间进行粒子 优化的推断算法 (functional variational inference) [79] 等.


对于第 2 种融合, 我们知道一个简单分布的随机变量 z 经过函数 f 变化之后, 得到的变量 x = f(z), 具有更复杂的分布, 当 f 是一个双射变换时, 我们可以得到 x 分布的解析形式


但是, 在处理复杂数据时, f 是未知的, 因此, 我们希望从数据中进行学习. 利用深度神经网络的强大拟合能 力, 我们将 f 定义成一个深度神经网络, 通过一定的准则学习最优的 f_θ. 如图 8 所示, 这种想法被证明是非常有效的, 已经发展了包括 VAE, GAN 以及基于流的模型 (flow-based models), 即使在完全无 监督训练下, 这些模型都可以产生高质量的自然图片或人脸等.

具体的, 这几种模型的区别在于定义 x 的变化函数, 在 VAE 中, 


其中 ϵ 是一个噪声变量 (如白噪声对应的标准高斯分布); 在 GAN 和基于流的模型中, 没有显式的噪声变量。这种区别带来了参数估计上的不同, VAE 和基于流的模型采用最大似然估计, 而 GAN 定义了对抗学习的目标——「最大最小博弈」。同样的, 这些模型虽然功能强大, 但是给推断和学习也带来了很多挑战。例如, GAN 网络的训练过程经常是不稳定的, 会遇到梯度消失或梯度爆炸等问题, 我们团队最新的成果利用控制论对这一问题进行了分析研究, 提出了有效的反馈机制, 能够让 GAN 的训练更平稳[80]。此外, 基于可逆变换的流模型往往受限于维数的约束, 为此, 我们提出了自适应数据增广的流模型 [81] , 显著提升这类模型的表达能力。

基于上述介绍, 能够看出贝叶斯深度学习提供了一种强大的建模语言, 将不确定性建模和推断与深度表示学习有机融合, 其关键挑战在于推断和学习算法。幸运的是, 近年来, 在算法方面取得了很多突破进展 (如上所述)。同时, 也发展了性能良好的概率编程库, 支持贝叶斯深度学习模型的开发和部 署。例如, 我们团队研制的「珠算」[82]1) , 是最早的系统支持贝叶斯深度学习的开源库之一。在应用方面, 贝叶斯深度学习的方法已经在时间序列预测、半监督学习、无监督学习小样本学习、持续学习 等复杂场景下, 取得良好的效果.

3.2.4 单一空间中的计算

如图 6 所示, 我们要在单一的向量空间中, 对来自文本的嵌入向量和来自视听觉的特征向量进行 计算, 存在一定的难度. 因为文本中以符号表示的词, 经嵌入之后变成向量时损失了大量语义, 从视听觉中提取的特征, 虽然我们尽量获取更多的语义, 但一般情况多属底层特征, 语义含量很少.

我们将以视觉问答 [83∼85] 为例介绍这方面的初步尝试. 在视觉问答中既有图像又有文本, 需要在单一的向量空间中同时处理, 涉及单一空间模型的使用。以本团队关于 「篇章级图文问答」 研究工作为例予以说明[85] 。如图 9 所示, 根据给定的图片, 回答以下问题, 「在大陆地壳下面有多少层 (类型)?」, 除问题以文本形式表示之外, 还有一个与图片相关的篇章「板块运动」。


首先通过词嵌入 (采用 Word2Vec 中的 Skip-gram 策略), 将 「问题」 与 「篇章」 中的以离散符号表示的词转换为向量. 图片经 ResNet 网络处理后, 取 res5c 层的特征作为输出 [55] , 它是一组高维空间的特征向量。然后将「问题」和「篇章」中的词向量与「图片」输出的特征向量做融合, 以预测「答案」。为了更好地融合, 通过注意机制, 先找出「问题」 和 「篇章」中的「关键词」, 这些关键词能够更好地反映「问题」的主题 (语义)。再依据关键词通过「空间注意机制」找出图片中关键区域的特征, 因为这些特征更符合关键词向量所表达的主题, 因此融合效果会更好。这里采用的融合方法是双线性池化 (multi modal bilinear pooling) 方法。「图文问答」是选择题, 备选方案有 「1」, 「2」, 「3」三种, 将融合后的向量与备选方案的向量相比较, 取最接近的一个向量作为输出, 这里是 「2」 (向量)。

图文问答目前达到的水平与人类相比相差很远, 以「选择题」为例, 目前达到的水平只比随机猜测略好。

4 总结

为了实现第三代 AI 的目标, 我们采用三空间融合的模型,即融合双空间与单空间两种模型,如图 10 所示。双空间模型采用类脑的工作机制,如果实现的话,机器就会像人类大脑的行为一样,具有可解释性与鲁棒性。此外,当把感觉(视觉、听觉等)信号提升为感知(符号)时, 机器就具备一定的理解能力,因此也解决了可解释和鲁棒的问题。当机器中的基本概念(符号)可由感知产生时,符号就有了基础 (根基),符号与符号推理就有了内在的语义,从根本上解决了机器行为的可解释与鲁棒性的问题。单空间模型以深度学习为基础,存在不可解释与不鲁棒的缺陷,如果经过改进提高了其可解释性与鲁棒性,就从另外一个方向迈向第三代 AI.


双空间模型模仿了大脑的工作机制,但由于我们对大脑的工作机制了解得很少,这条道路存在某些不确定性,比如,机器通过与环境的交互学习 (强化学习) 所建立的「内在语义」, 与人类通过感知所获取的「内在语义」是否一样,机器是否也能具有意识? 等,目前还不能肯定。尽管存在这些困难,但我们相信机器只要朝这个方向迈出一步,就会更接近于真正的 AI。单一空间模型是以深度学习为基础,优点是充分利用计算机的算力,在一些方面会表现出比人类优越的性能。但深度学习存在一些根本性的缺点,通过算法的改进究竟能得到多大程度的进步,也存在不确定性,需要进一步探索。但是,我们也相信对于深度学习的每一步改进,都将推动 AI 向前发展。

考虑以上这些不确定性,为了实现第三代 AI 的目标,最好的策略是同时沿着这两条路线前进,即三空间的融合,如图 10 所示。这种策略的好处是,既最大限度地借鉴大脑的工作机制,又充分利用计算机的算力,二者的结合,有望建造更加强大的 AI。



入门张钹清华人工智能研究院
4
相关数据
清华大学机构

清华大学(Tsinghua University),简称“清华”,由中华人民共和国教育部直属,中央直管副部级建制,位列“211工程”、“985工程”、“世界一流大学和一流学科”,入选“基础学科拔尖学生培养试验计划”、“高等学校创新能力提升计划”、“高等学校学科创新引智计划”,为九校联盟、中国大学校长联谊会、东亚研究型大学协会、亚洲大学联盟、环太平洋大学联盟、清华—剑桥—MIT低碳大学联盟成员,被誉为“红色工程师的摇篮”。 清华大学的前身清华学堂始建于1911年,因水木清华而得名,是清政府设立的留美预备学校,其建校的资金源于1908年美国退还的部分庚子赔款。1912年更名为清华学校。1928年更名为国立清华大学。1937年抗日战争全面爆发后南迁长沙,与北京大学、南开大学组建国立长沙临时大学,1938年迁至昆明改名为国立西南联合大学。1946年迁回清华园。1949年中华人民共和国成立,清华大学进入了新的发展阶段。1952年全国高等学校院系调整后成为多科性工业大学。1978年以来逐步恢复和发展为综合性的研究型大学。

相关技术
IBM机构

是美国一家跨国科技公司及咨询公司,总部位于纽约州阿蒙克市。IBM主要客户是政府和企业。IBM生产并销售计算机硬件及软件,并且为系统架构和网络托管提供咨询服务。截止2013年,IBM已在全球拥有12个研究实验室和大量的软件开发基地。IBM虽然是一家商业公司,但在材料、化学、物理等科学领域却也有很高的成就,利用这些学术研究为基础,发明很多产品。比较有名的IBM发明的产品包括硬盘、自动柜员机、通用产品代码、SQL、关系数据库管理系统、DRAM及沃森。

https://www.ibm.com/us-en/
相关技术
杨立昆人物

杨立昆(法语:Yann Le Cun,英语:Yann LeCun,1960年7月8日-)是一位计算机科学家,他在机器学习、计算机视觉、移动机器人和计算神经科学等领域都有很多贡献。他最著名的工作是在光学字符识别和计算机视觉上使用卷积神经网络 (CNN),他也被称为卷积网络之父。他同Léon Bottou和Patrick Haffner等人一起创建了DjVu图像压缩技术。他同Léon Bottou一起开发了Lush语言。

深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

近似计算技术

近似计算是一种计算技术,它返回可能不准确的结果而不是保证的准确结果,并且可以用于近似结果足以满足其目的的应用。

池化技术

池化(Pooling)是卷积神经网络中的一个重要的概念,它实际上是一种形式的降采样。有多种不同形式的非线性池化函数,而其中“最大池化(Max pooling)”是最为常见的。它是将输入的图像划分为若干个矩形区域,对每个子区域输出最大值。直觉上,这种机制能够有效的原因在于,在发现一个特征之后,它的精确位置远不及它和其他特征的相对位置的关系重要。池化层会不断地减小数据的空间大小,因此参数的数量和计算量也会下降,这在一定程度上也控制了过拟合。通常来说,CNN的卷积层之间都会周期性地插入池化层。

结构化知识表示技术

知识表示的方法主要可分为结构化和非结构化的方法, see knowledge representation for more details

AlphaZero技术

DeepMind 提出的 AlphaZero 不仅征服了围棋,也在将棋、国际象棋等复杂游戏中实现了超越人类的表现。DeepMind 推出的 AlphaGo 曾在围棋项目中取得了超越人类的表现,其研究曾经两次登上 Nature。2018 年 12 月,AlphaGo 的「完全自我博弈加强版」AlphaZero 的论文又登上另一大顶级期刊 Science 的封面。在论文中,AlphaZero 不仅征服了围棋,也在将棋、国际象棋等复杂游戏中实现了超越人类的表现。

专家系统技术

专家系统(ES)是人工智能最活跃和最广泛的领域之一。专家系统定义为:使用人类专家推理的计算机模型来处理现实世界中需要专家作出解释的复杂问题,并得出与专家相同的结论。简言之,如图1所示,专家系统可视作“知识库(knowledge base)”和“推理机(inference machine)” 的结合。

半监督学习技术

半监督学习属于无监督学习(没有任何标记的训练数据)和监督学习(完全标记的训练数据)之间。许多机器学习研究人员发现,将未标记数据与少量标记数据结合使用可以显着提高学习准确性。对于学习问题的标记数据的获取通常需要熟练的人类代理(例如转录音频片段)或物理实验(例如,确定蛋白质的3D结构或确定在特定位置处是否存在油)。因此与标签处理相关的成本可能使得完全标注的训练集不可行,而获取未标记的数据相对便宜。在这种情况下,半监督学习可能具有很大的实用价值。半监督学习对机器学习也是理论上的兴趣,也是人类学习的典范。

激活函数技术

在 计算网络中, 一个节点的激活函数定义了该节点在给定的输入或输入的集合下的输出。标准的计算机芯片电路可以看作是根据输入得到"开"(1)或"关"(0)输出的数字网络激活函数。这与神经网络中的线性感知机的行为类似。 一种函数(例如 ReLU 或 S 型函数),用于对上一层的所有输入求加权和,然后生成一个输出值(通常为非线性值),并将其传递给下一层。

权重技术

线性模型中特征的系数,或深度网络中的边。训练线性模型的目标是确定每个特征的理想权重。如果权重为 0,则相应的特征对模型来说没有任何贡献。

欠拟合技术

使用太少参数,以致于不能很好的拟合数据,称为拟合不足(欠拟合)现象

交叉熵技术

交叉熵(Cross Entropy)是Loss函数的一种(也称为损失函数或代价函数),用于描述模型预测值与真实值的差距大小

视觉问答技术

机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

感知技术

知觉或感知是外界刺激作用于感官时,脑对外界的整体的看法和理解,为我们对外界的感官信息进行组织和解释。在认知科学中,也可看作一组程序,包括获取信息、理解信息、筛选信息、组织信息。与感觉不同,知觉反映的是由对象的各样属性及关系构成的整体。

高斯分布技术

正态分布是一个非常常见的连续概率分布。由于中心极限定理(Central Limit Theorem)的广泛应用,正态分布在统计学上非常重要。中心极限定理表明,由一组独立同分布,并且具有有限的数学期望和方差的随机变量X1,X2,X3,...Xn构成的平均随机变量Y近似的服从正态分布当n趋近于无穷。另外众多物理计量是由许多独立随机过程的和构成,因而往往也具有正态分布。

维数灾难技术

维数灾难(英语:curse of dimensionality,又名维度的诅咒)是一个最早由理查德·贝尔曼(Richard E. Bellman)在考虑优化问题时首次提出来的术语,用来描述当(数学)空间维度增加时,分析和组织高维空间(通常有成百上千维),因体积指数增加而遇到各种问题场景。这样的难题在低维空间中不会遇到,如物理空间通常只用三维来建模。

GloVe技术

Stanford开发的用于词向量表示的一个库/工具

神经机器翻译技术

2013 年,Nal Kalchbrenner 和 Phil Blunsom 提出了一种用于机器翻译的新型端到端编码器-解码器结构 [4]。该模型可以使用卷积神经网络(CNN)将给定的一段源文本编码成一个连续的向量,然后再使用循环神经网络(RNN)作为解码器将该状态向量转换成目标语言。他们的研究成果可以说是神经机器翻译(NMT)的诞生;神经机器翻译是一种使用深度学习神经网络获取自然语言之间的映射关系的方法。NMT 的非线性映射不同于线性的 SMT 模型,而且是使用了连接编码器和解码器的状态向量来描述语义的等价关系。此外,RNN 应该还能得到无限长句子背后的信息,从而解决所谓的「长距离重新排序(long distance reordering)」问题。

VGG技术

2014年,牛津大学提出了另一种深度卷积网络VGG-Net,它相比于AlexNet有更小的卷积核和更深的层级。AlexNet前面几层用了11×11和5×5的卷积核以在图像上获取更大的感受野,而VGG采用更小的卷积核与更深的网络提升参数效率。VGG-Net 的泛化性能较好,常用于图像特征的抽取目标检测候选框生成等。VGG最大的问题就在于参数数量,VGG-19基本上是参数量最多的卷积网络架构。VGG-Net的参数主要出现在后面两个全连接层,每一层都有4096个神经元,可想而至这之间的参数会有多么庞大。

变分自编码器技术

变分自编码器可用于对先验数据分布进行建模。从名字上就可以看出,它包括两部分:编码器和解码器。编码器将数据分布的高级特征映射到数据的低级表征,低级表征叫作本征向量(latent vector)。解码器吸收数据的低级表征,然后输出同样数据的高级表征。变分编码器是自动编码器的升级版本,其结构跟自动编码器是类似的,也由编码器和解码器构成。在自动编码器中,需要输入一张图片,然后将一张图片编码之后得到一个隐含向量,这比原始方法的随机取一个随机噪声更好,因为这包含着原图片的信息,然后隐含向量解码得到与原图片对应的照片。但是这样其实并不能任意生成图片,因为没有办法自己去构造隐藏向量,所以它需要通过一张图片输入编码才知道得到的隐含向量是什么,这时就可以通过变分自动编码器来解决这个问题。解决办法就是在编码过程给它增加一些限制,迫使其生成的隐含向量能够粗略的遵循一个标准正态分布,这就是其与一般的自动编码器最大的不同。这样生成一张新图片就比较容易,只需要给它一个标准正态分布的随机隐含向量,这样通过解码器就能够生成想要的图片,而不需要给它一张原始图片先编码。

物理符号系统技术

物理符号系统又叫做符号的实体集合构成,它是一台随时间运行处理符号集合结构体的机器。 物理包括了两个重要的特征:这个系统严苛遵从物理规律-系统是由工程系统和工程元件构成,所以这个系统是稳定的;尽管使用符号这个词来表明我们原来的意图,当系统并不局限于人类符号系统。 所谓符号就是模式。任一模式,只要他能与其他模式相区别,就是一个符号。对符号进行操作就是对符号进行比较,从中找出相同的和不同的符号。物理符号系统的基本任务和功能就是辨认相同的符号和区别不同的符号。为此,这种系统就必须能够辨别出不同符号之前的实质差别。符号既可以是物理符号,也可以是头脑中的抽象符号,或者是电子计算机中的电子运动模式,还可以是头脑中神经元的某些运动方式。 一个物理符号系统包含了很多主体,这些主体被称作符号,符号是物理发生在当主体的另外一种类型的组件发生的模式,也叫做表达或者符号结构体。因此一个符号结构体就是关于某一个物理物理方式相关的符号的集合。在任意一个时刻,系统都包含了由许多系统结构组成的集合。除了这些结构意外,系统还包括了用来产生其他表达的操作过程,这些操作包括创造,修改,再生产和销毁。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

变分推断技术

see Variational Bayesian methods (approximation)

词嵌入技术

词嵌入是自然语言处理(NLP)中语言模型与表征学习技术的统称。概念上而言,它是指把一个维数为所有词的数量的高维空间嵌入到一个维数低得多的连续向量空间中,每个单词或词组被映射为实数域上的向量。

参数技术

在数学和统计学裡,参数(英语:parameter)是使用通用变量来建立函数和变量之间关系(当这种关系很难用方程来阐述时)的一个数量。

剪枝技术

剪枝顾名思义,就是删去一些不重要的节点,来减小计算或搜索的复杂度。剪枝在很多算法中都有很好的应用,如:决策树,神经网络,搜索算法,数据库的设计等。在决策树和神经网络中,剪枝可以有效缓解过拟合问题并减小计算复杂度;在搜索算法中,可以减小搜索范围,提高搜索效率。

最大似然估计技术

极大似然估计是统计学中用来估计概率模型参数的一种方法

收敛技术

在数学,计算机科学和逻辑学中,收敛指的是不同的变换序列在有限的时间内达到一个结论(变换终止),并且得出的结论是独立于达到它的路径(他们是融合的)。 通俗来说,收敛通常是指在训练期间达到的一种状态,即经过一定次数的迭代之后,训练损失和验证损失在每次迭代中的变化都非常小或根本没有变化。也就是说,如果采用当前数据进行额外的训练将无法改进模型,模型即达到收敛状态。在深度学习中,损失值有时会在最终下降之前的多次迭代中保持不变或几乎保持不变,暂时形成收敛的假象。

有向无环图技术

在图论中,如果一个有向图从任意顶点出发无法经过若干条边回到该点,则这个图是一个有向无环图(DAG图)。 因为有向图中一个点经过两种路线到达另一个点未必形成环,因此有向无环图未必能转化成树,但任何有向树均为有向无环图。

贝叶斯模型技术

贝叶斯模型基于贝叶斯定理,即:P(A|B)=P(B|A)*P(A)/P(B)。经典的贝叶斯模型包括朴素贝叶斯、贝叶斯网络和动态贝叶斯网络(DBN);它们主要用于基于给定条件查找事件的概率。

学习率技术

在使用不同优化器(例如随机梯度下降,Adam)神经网络相关训练中,学习速率作为一个超参数控制了权重更新的幅度,以及训练的速度和精度。学习速率太大容易导致目标(代价)函数波动较大从而难以找到最优,而弱学习速率设置太小,则会导致收敛过慢耗时太长

Skip-gram技术

CBOW和skip-gram是word2vec的核心概念。CBOW模型是用词的前后几个词来预测这个词,skip-gram的输入是当前词的词向量,而输出是周围词的词向量。

损失函数技术

在数学优化,统计学,计量经济学,决策理论,机器学习和计算神经科学等领域,损失函数或成本函数是将一或多个变量的一个事件或值映射为可以直观地表示某种与之相关“成本”的实数的函数。

逻辑推理技术

逻辑推理中有三种方式:演绎推理、归纳推理和溯因推理。它包括给定前提、结论和规则

知识库技术

知识库是用于知识管理的一种特殊的数据库,以便于有关领域知识的采集、整理以及提取。知识库中的知识源于领域专家,它是求解问题所需领域知识的集合,包括基本事实、规则和其它有关信息。

计算机视觉技术

计算机视觉(CV)是指机器感知环境的能力。这一技术类别中的经典任务有图像形成、图像处理、图像提取和图像的三维推理。目标识别和面部识别也是很重要的研究领域。

知识图谱技术

知识图谱本质上是语义网络,是一种基于图的数据结构,由节点(Point)和边(Edge)组成。在知识图谱里,每个节点表示现实世界中存在的“实体”,每条边为实体与实体之间的“关系”。知识图谱是关系的最有效的表示方式。通俗地讲,知识图谱就是把所有不同种类的信息(Heterogeneous Information)连接在一起而得到的一个关系网络。知识图谱提供了从“关系”的角度去分析问题的能力。 知识图谱这个概念最早由Google提出,主要是用来优化现有的搜索引擎。不同于基于关键词搜索的传统搜索引擎,知识图谱可用来更好地查询复杂的关联信息,从语义层面理解用户意图,改进搜索质量。比如在Google的搜索框里输入Bill Gates的时候,搜索结果页面的右侧还会出现Bill Gates相关的信息比如出生年月,家庭情况等等。

数据库技术

数据库,简而言之可视为电子化的文件柜——存储电子文件的处所,用户可以对文件中的数据运行新增、截取、更新、删除等操作。 所谓“数据库”系以一定方式储存在一起、能予多个用户共享、具有尽可能小的冗余度、与应用程序彼此独立的数据集合。

机器翻译技术

机器翻译(MT)是利用机器的力量「自动将一种自然语言(源语言)的文本翻译成另一种语言(目标语言)」。机器翻译方法通常可分成三大类:基于规则的机器翻译(RBMT)、统计机器翻译(SMT)和神经机器翻译(NMT)。

神经网络技术

(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。

高斯过程技术

深度生成模型技术

深度生成模型基本都是以某种方式寻找并表达(多变量)数据的概率分布。有基于无向图模型(马尔可夫模型)的联合概率分布模型,另外就是基于有向图模型(贝叶斯模型)的条件概率分布。前者的模型是构建隐含层(latent)和显示层(visible)的联合概率,然后去采样。基于有向图的则是寻找latent和visible之间的条件概率分布,也就是给定一个随机采样的隐含层,模型可以生成数据。 生成模型的训练是一个非监督过程,输入只需要无标签的数据。除了可以生成数据,还可以用于半监督的学习。比如,先利用大量无标签数据训练好模型,然后利用模型去提取数据特征(即从数据层到隐含层的编码过程),之后用数据特征结合标签去训练最终的网络模型。另一种方法是利用生成模型网络中的参数去初始化监督训练中的网络模型,当然,两个模型需要结构一致。

梯度下降技术

梯度下降是用于查找函数最小值的一阶迭代优化算法。 要使用梯度下降找到函数的局部最小值,可以采用与当前点的函数梯度(或近似梯度)的负值成比例的步骤。 如果采取的步骤与梯度的正值成比例,则接近该函数的局部最大值,被称为梯度上升。

决策边界技术

在具有两类的统计分类问题中,决策边界或决策曲面是一个超曲面,它将底层的向量空间分成两组,每组一个。分类器会将决策边界一侧的所有点分为属于一个类,而另一侧属于另一个类。也即二元分类或多类别分类问题中,模型学到的类别之间的分界线。

卷积神经网络技术

卷积神经网路(Convolutional Neural Network, CNN)是一种前馈神经网络,它的人工神经元可以响应一部分覆盖范围内的周围单元,对于大型图像处理有出色表现。卷积神经网路由一个或多个卷积层和顶端的全连通层(对应经典的神经网路)组成,同时也包括关联权重和池化层(pooling layer)。这一结构使得卷积神经网路能够利用输入数据的二维结构。与其他深度学习结构相比,卷积神经网路在图像和语音识别方面能够给出更好的结果。这一模型也可以使用反向传播算法进行训练。相比较其他深度、前馈神经网路,卷积神经网路需要考量的参数更少,使之成为一种颇具吸引力的深度学习结构。 卷积网络是一种专门用于处理具有已知的、网格状拓扑的数据的神经网络。例如时间序列数据,它可以被认为是以一定时间间隔采样的一维网格,又如图像数据,其可以被认为是二维像素网格。

映射技术

映射指的是具有某种特殊结构的函数,或泛指类函数思想的范畴论中的态射。 逻辑和图论中也有一些不太常规的用法。其数学定义为:两个非空集合A与B间存在着对应关系f,而且对于A中的每一个元素x,B中总有有唯一的一个元素y与它对应,就这种对应为从A到B的映射,记作f:A→B。其中,y称为元素x在映射f下的象,记作:y=f(x)。x称为y关于映射f的原象*。*集合A中所有元素的象的集合称为映射f的值域,记作f(A)。同样的,在机器学习中,映射就是输入与输出之间的对应关系。

监督学习技术

监督式学习(Supervised learning),是机器学习中的一个方法,可以由标记好的训练集中学到或建立一个模式(函数 / learning model),并依此模式推测新的实例。训练集是由一系列的训练范例组成,每个训练范例则由输入对象(通常是向量)和预期输出所组成。函数的输出可以是一个连续的值(称为回归分析),或是预测一个分类标签(称作分类)。

DENDRAL技术

Dendral是20世纪60年代的人工智能(AI)项目,以及它生产的计算机软件专家系统。其主要目的是研究科学中的假设形成和发现。

语料库技术

语料库一词在语言学上意指大量的文本,通常经过整理,具有既定格式与标记;事实上,语料库英文 "text corpus" 的涵意即为"body of text"。

逻辑技术

人工智能领域用逻辑来理解智能推理问题;它可以提供用于分析编程语言的技术,也可用作分析、表征知识或编程的工具。目前人们常用的逻辑分支有命题逻辑(Propositional Logic )以及一阶逻辑(FOL)等谓词逻辑。

先验知识技术

先验(apriori ;也译作 先天)在拉丁文中指“来自先前的东西”,或稍稍引申指“在经验之前”。近代西方传统中,认为先验指无需经验或先于经验获得的知识。先验知识不依赖于经验,比如,数学式子2+2=4;恒真命题“所有的单身汉一定没有结婚”;以及来自纯粹理性的推断“本体论证明”

贝尔曼方程技术

“贝尔曼方程(Bellman Equation)”也被称作“动态规划方程(Dynamic Programming Equation)”,由理查·贝尔曼(Richard Bellman)发现。贝尔曼方程是动态规划(Dynamic Programming)这种数学最佳化方法能够达到最佳化的必要条件。此方程将“决策问题在特定时间点的值”以“来自初始选择的报酬 及 由初始选择衍生的决策问题的值”的形式表示。藉这个方式将动态最佳化问题变成较简单的子问题,而这些子问题遵守由贝尔曼所提出的“最佳化原理”。

目标函数技术

目标函数f(x)就是用设计变量来表示的所追求的目标形式,所以目标函数就是设计变量的函数,是一个标量。从工程意义讲,目标函数是系统的性能标准,比如,一个结构的最轻重量、最低造价、最合理形式;一件产品的最短生产时间、最小能量消耗;一个实验的最佳配方等等,建立目标函数的过程就是寻找设计变量与目标的关系的过程,目标函数和设计变量的关系可用曲线、曲面或超曲面表示。

迁移学习技术

迁移学习是一种机器学习方法,就是把为任务 A 开发的模型作为初始点,重新使用在为任务 B 开发模型的过程中。迁移学习是通过从已学习的相关任务中转移知识来改进学习的新任务,虽然大多数机器学习算法都是为了解决单个任务而设计的,但是促进迁移学习的算法的开发是机器学习社区持续关注的话题。 迁移学习对人类来说很常见,例如,我们可能会发现学习识别苹果可能有助于识别梨,或者学习弹奏电子琴可能有助于学习钢琴。

一阶逻辑技术

一阶逻辑是使用于数学、哲学、语言学及计算机科学中的一种形式系统。 过去一百多年,一阶逻辑出现过许多种名称,包括:一阶断言演算、低阶断言演算、量化理论或断言逻辑。一阶逻辑和命题逻辑的不同之处在于,一阶逻辑有使用量化变数。

过拟合技术

过拟合是指为了得到一致假设而使假设变得过度严格。避免过拟合是分类器设计中的一个核心任务。通常采用增大数据量和测试样本集的方法对分类器性能进行评价。

博弈论技术

博弈论,又译为对策论,或者赛局理论,应用数学的一个分支,1944年冯·诺伊曼与奥斯卡·摩根斯特恩合著《博弈论与经济行为》,标志着现代系统博弈理论的的初步形成,因此他被称为“博弈论之父”。博弈论被认为是20世纪经济学最伟大的成果之一

归纳逻辑编程技术

归纳逻辑编程(ILP)是机器学习的一个子领域,它使用逻辑编程统一表示背景知识和假设。 例如给定已使用编码表示的背景知识和用逻辑数据库表示的一组示例,ILP系统将可以推导出假设的逻辑程序。

神经元技术

(人工)神经元是一个类比于生物神经元的数学计算模型,是神经网络的基本组成单元。 对于生物神经网络,每个神经元与其他神经元相连,当它“兴奋”时会向相连的神经元发送化学物质,从而改变这些神经元的电位;神经元的“兴奋”由其电位决定,当它的电位超过一个“阈值”(threshold)便会被激活,亦即“兴奋”。 目前最常见的神经元模型是基于1943年 Warren McCulloch 和 Walter Pitts提出的“M-P 神经元模型”。 在这个模型中,神经元通过带权重的连接接处理来自n个其他神经元的输入信号,其总输入值将与神经元的阈值进行比较,最后通过“激活函数”(activation function)产生神经元的输出。

图像生成技术

图像生成(合成)是从现有数据集生成新图像的任务。

语音识别技术

自动语音识别是一种将口头语音转换为实时可读文本的技术。自动语音识别也称为语音识别(Speech Recognition)或计算机语音识别(Computer Speech Recognition)。自动语音识别是一个多学科交叉的领域,它与声学、语音学、语言学、数字信号处理理论、信息论、计算机科学等众多学科紧密相连。由于语音信号的多样性和复杂性,目前的语音识别系统只能在一定的限制条件下获得满意的性能,或者说只能应用于某些特定的场合。自动语音识别在人工智能领域占据着极其重要的位置。

似然函数技术

在数理统计学中,似然函数是一种关于统计模型中的参数的函数,表示模型参数中的似然性。 似然函数在统计推断中有重大作用,如在最大似然估计和费雪信息之中的应用等等。“ 似然性”与“或然性”或“概率”意思相近,都是指某种事件发生的可能性,但是在统计学中,“似然性”和“或然性”或“概率”又有明确的区分。

正则化技术

当模型的复杂度增大时,训练误差会逐渐减小并趋向于0;而测试误差会先减小,达到最小值后又增大。当选择的模型复杂度过大时,过拟合现象就会发生。这样,在学习时就要防止过拟合。进行最优模型的选择,即选择复杂度适当的模型,以达到使测试误差最小的学习目的。

对话系统技术

对话系统大致被分成两类: 任务为导向的对话系统,帮助用户去完成特定任务,比如找商品,订住宿,订餐厅等。实现任务为导向的对话系统,主要有两类方式,流水线方法和端到端方法。非任务导向的对话系统,与用户进行互动并提供回答,简单的说,就是在开放领域的闲聊。实现非任务导向对话系统也主要可分为两类,生成方法和基于检索的方法。

对抗样本技术

对抗样本是一类被设计来混淆机器学习器的样本,它们看上去与真实样本的几乎相同(无法用肉眼分辨),但其中噪声的加入却会导致机器学习模型做出错误的分类判断。

MYCIN技术

MYCIN是一个早期专家系统(人工智能程序),用于治疗血液感染。 MYCIN的研发工作始于1972年加州斯坦福大学的研究。其尝试根据报告的症状和医学检查结果来诊断患者。 该程序可以向患者要求进一步的信息,并建议进行额外的实验检查,以做出可能的诊断,从而推荐一个疗程。 如果有要求,MYCIN也会解释导致诊断和推荐的原因。MYCIN使用约500条生产规则,其与人类血液感染专家的能力大致相同,甚至比全科医生要好。

动量技术

优化器的一种,是模拟物理里动量的概念,其在相关方向可以加速SGD,抑制振荡,从而加快收敛

生成对抗网络技术

生成对抗网络是一种无监督学习方法,是一种通过用对抗网络来训练生成模型的架构。它由两个网络组成:用来拟合数据分布的生成网络G,和用来判断输入是否“真实”的判别网络D。在训练过程中,生成网络-G通过接受一个随机的噪声来尽量模仿训练集中的真实图片去“欺骗”D,而D则尽可能的分辨真实数据和生成网络的输出,从而形成两个网络的博弈过程。理想的情况下,博弈的结果会得到一个可以“以假乱真”的生成模型。

知识蒸馏技术

Hinton 的工作引入了知识蒸馏压缩框架,即通过遵循“学生-教师”的范式减少深度网络的训练量,这种“学生-教师”的范式,即通过软化“教师”的输出而惩罚“学生”。为了完成这一点,学生学要训练以预测教师的输出,即真实的分类标签。这种方法十分简单,但它同样在各种图像分类任务中表现出较好的结果。

隐变量技术

在统计学中,隐变量或潜变量指的是不可观测的随机变量。隐变量可以通过使用数学模型依据观测得的数据被推断出来。

WordNet技术

WordNet是由普林斯顿大学心理学家、语言学家和计算机工程师联合设计的一种基于认知语言学的英语词典。它不是光把单词以字母顺序排列,而是按照单词的意义组成一个“单词的网络”。

控制论技术

控制论是一门跨学科研究, 它用于研究控制系统的结构,局限和发展。在21世纪,控制论的定义变得更加宽泛,主要用于指代“对任何使用科学技术的系统的控制”。由于这一定义过于宽泛,许多相关人士不再使用“控制论”一词。 控制论与对系统的研究有关,如自动化系统、物理系统、生物系统、认知系统、以及社会系统等等。

图像分类技术

图像分类,根据各自在图像信息中所反映的不同特征,把不同类别的目标区分开来的图像处理方法。它利用计算机对图像进行定量分析,把图像或图像中的每个像元或区域划归为若干个类别中的某一种,以代替人的视觉判读。

强化学习技术

强化学习是一种试错方法,其目标是让软件智能体在特定环境中能够采取回报最大化的行为。强化学习在马尔可夫决策过程环境中主要使用的技术是动态规划(Dynamic Programming)。流行的强化学习方法包括自适应动态规划(ADP)、时间差分(TD)学习、状态-动作-回报-状态-动作(SARSA)算法、Q 学习、深度强化学习(DQN);其应用包括下棋类游戏、机器人控制和工作调度等。

时间序列预测技术

时间序列预测法其实是一种回归预测方法,属于定量预测,其基本原理是;一方面承认事物发展的延续性,运用过去时间序列的数据进行统计分析,推测出事物的发展趋势;另一方面充分考虑到偶然因素影响而产生的随机性,为了消除随机波动的影响,利用历史数据进行统计分析,并对数据进行适当处理,进行趋势预测。

人机交互技术

人机交互,是一门研究系统与用户之间的交互关系的学问。系统可以是各种各样的机器,也可以是计算机化的系统和软件。人机交互界面通常是指用户可见的部分。用户通过人机交互界面与系统交流,并进行操作。小如收音机的播放按键,大至飞机上的仪表板、或是发电厂的控制室。

贝叶斯学习技术

基于贝叶斯概率定理的学习方法

深度神经网络技术

深度神经网络(DNN)是深度学习的一种框架,它是一种具备至少一个隐层的神经网络。与浅层神经网络类似,深度神经网络也能够为复杂非线性系统提供建模,但多出的层次为模型提供了更高的抽象层次,因而提高了模型的能力。

聚类技术

将物理或抽象对象的集合分成由类似的对象组成的多个类的过程被称为聚类。由聚类所生成的簇是一组数据对象的集合,这些对象与同一个簇中的对象彼此相似,与其他簇中的对象相异。“物以类聚,人以群分”,在自然科学和社会科学中,存在着大量的分类问题。聚类分析又称群分析,它是研究(样品或指标)分类问题的一种统计分析方法。聚类分析起源于分类学,但是聚类不等于分类。聚类与分类的不同在于,聚类所要求划分的类是未知的。聚类分析内容非常丰富,有系统聚类法、有序样品聚类法、动态聚类法、模糊聚类法、图论聚类法、聚类预报法等。

围棋技术

围棋是一种策略性棋类,使用格状棋盘及黑白二色棋子进行对弈。起源于中国,中国古时有“弈”、“碁”、“手谈”等多种称谓,属琴棋书画四艺之一。西方称之为“Go”,是源自日语“碁”的发音。

小样本学习技术

人类非常擅长通过极少量的样本识别一个新物体,比如小孩子只需要书中的一些图片就可以认识什么是“斑马”,什么是“犀牛”。在人类的快速学习能力的启发下,研究人员希望机器学习模型在学习了一定类别的大量数据后,对于新的类别,只需要少量的样本就能快速学习,这就是 Few-shot Learning 要解决的问题。

生成对抗技术

生成对抗是训练生成对抗网络时,两个神经网络相互博弈的过程。两个网络相互对抗、不断调整参数,最终目的是使判别网络无法判断生成网络的输出结果是否真实。

对抗防御技术

生成对抗网络中应对对抗样本攻击的防御机制。常用方法有:移除训练数据集的对抗样本噪音,对训练过程的下降法进行调整等。

量化技术

深度学习中的量化是指,用低位宽数字的神经网络近似使用了浮点数的神经网络的过程。

暂无评论
暂无评论~