迪克体育移动版

　　特伦斯·谢诺夫斯基：确实存在这样的可能性，但是这种攻击很难做到。就像黑客攻击电脑，普通人没有这样的能力，有资源、有技术的专家有可能做到，所以人们会在电脑上安装安全程序来保护电脑不受攻击。人工智能也将会有相应的程序来保护不受外界攻击，解决这种安全问题只能用技术来对抗技术。这也是技术发展中通用的准测，有人发明了导弹，就有人发明防御导弹的技术，技术就是如此不断地进步。人工智能技术跟以前的技术发展没有两样，绝大多数被应用在好的方面，极少数被应用在坏的方面，人们需要做的是在好坏之间做好监管，让其应用在坏的方面时越来越难，

　　每一项新技术也常会带来预料不到的后果。因特网在上个世纪90年代进入公众的生活，那时没人预料到会有什么样的负面影响，结果它带来了诸如假新闻传播、沉迷网络、隐私泄露等问题。每一项技术都可以有好的应用或者坏的应用，怎么使用取决于监管。对于沉迷于网络的人，可以限定其每天使用网络的时间；对于滥用用户隐私的公司，可以限定他们使用用户数据的权限……对于人工智能的应用，也应该有规范和监管。比如，2015年，3722位人工智能研究人员共同签署了一封公开信，呼吁通过法令禁止超出人类合理控制范围的自动攻击性武器，尽管全面的禁令未必能达到预想的效果。

　　界面新闻：当人工智能应用越来越广泛，对人们的生活影响力越来越大，我们格外需要了解人工智能是如何做出决定的。如果人工智能只是用于下围棋，知道不知道AlphaGo如何决定下一步怎么走也许并不重要，但是如果利用人工智能来决定重大事项，比如医疗诊断、贷款申请，了解其是如何做出决定的就非常重要，不然人们有理由不信任它。未来该如何提高人工智能的可解释性？

　　特伦斯·谢诺夫斯基：现在关于这个话题有很多讨论和研究，但是我想说，提高人工智能的可解释性需要视情况而定。比如，人类的大脑做出了一个决定，有时候你并不需要知道大脑是怎么做出的，那为什么一定要知道人工智能的决定是怎么做出的呢？但在有些情况下确实需要增强人工智能的可解释性。科研工作者正在努力解决这个问题，一些非常优秀的数学家正在尝试用数学的方式来解释深度学习，同样的方式也可以帮助了解大脑是如何运行的，我的下一本书里可能涵盖这些内容。

　　很多人担心的人工智能存在偏倚。我们可以通过平衡输入的数据，来减少输出结果的偏倚。例如，有公司提供基于面部识别的犯罪分子识别系统，黑人误判比白人误判要多，因为用于训练的数据库里白人面孔更多，数据越多，准确率就越高。这样的偏倚可以通过纠正数据库偏差来解决。

　　也有人担心使用人工智能时，人们会以公平为代价来优化利润。例如，在利用人工智能技术处理住房贷款申请时，少数群体会被系统拒绝。这里的问题不在于系统，而在于我们需要将公平性作为算法考虑的一个因素，在公平和利润之间找到平衡，保护未被充分代表的少数群体的利益。人文和社科领域的伦理观点应该为这些权衡提供指导。

　　界面新闻：人工智能未来会对人类造成威胁吗？

　　特伦斯·谢诺夫斯基：如果人类对人工智能加以监管，就不会发生。核武器的发明曾经是一种毁灭全世界的威胁，但至少目前为止，我们有能力阻止这种情况的发生。重组DNA技术问世的时候，人们担心人工改造的致命生物会带来难以估量的痛苦和死亡，但基因工程现在已经是一项成熟的技术，我们能和它的产物共存。我们也将适应人工智能带来的变化，并与之共存。

　　界面新闻：深度学习是模拟人类的大脑进行运算和学习，如果我们更加了解大脑，深度学习和人工智能会有怎样的发展？

　　特伦斯·谢诺夫斯基：我们对大脑的了解还很有限，还在探索了解的过程中，尚未找到像DNA解释生命本质那样的概念框架来解释大脑如何运转。利用人工智能技术，可以更好的研究大脑。也许，我们在理解深度学习如何解决实际问题方面的进展时，会找到研究大脑的新线索，从而解开大脑运转和进化的奥秘，破解智能难题。

　　当我们更加了解大脑后，可以在人工智能上模拟大脑的运转和进化能力，从而有更好的人工智能技术。

　　界面新闻：您以为人工智能和人类智能最后的区别只是是否拥有精神和意识吗？

　　特伦斯·谢诺夫斯基：人工智能在不断的进化，会越来越复杂，有时进化的变化不可预知，人工智能能否拥有意识我想30年内会有答案。创造意识要比理解意识更容易。那时，我们将有和我们互动的机器，就像现在和他人互动一样。

　　界面新闻：人工智能和人类智能将会是怎样的关系？

　　特伦斯·谢诺夫斯基：会相互促进彼此的进化。自20世纪30年代首次测试智力以来，全人类平均的IQ分数每10年会上升三个点，这个趋势被称为“弗林效应”。环境会影响基因调控，从而影响大脑内在的连接。随着人类越来越多地生活在人造环境中，大脑正在以某种超越自然进化轨道的方式被塑造。当国际象棋和围棋的计算机程序达到冠军级别后，玩这些游戏的人数一直在增加，机器也提高了人类玩家的智能。不仅是游戏，从艺术到科学，人工智能都会让人类智能更聪明。当人类更加聪明，也会反过来帮助人工智能进化得更快。

　　自然界存在着各种形式的智能，从微小的细菌到复杂的人类智能，人工智能也将以各种形式出现，并将在智能图谱中占据特殊位置。人工智能在未来有可能为生物智能提供一个新的概念框架。