人工智能正在逐步隐藏其外形、显露其核心。而关于人工智能科技的确切影响与工作，人类对它的观察和理解也变得越加具有挑战性。即使是专家们自己也并不总能完全理解人工智能系统是如何运行的。
实际上，随着人工智能影响力的增强，我们理解人工智能影响力的局限则变得越来越多。这对人类能动性和人工智能的未来意味着什么?
逃离智能
在不远的将来，人工智能将普遍的对人类而言会变得无法触及、不能分辨和不可思议。
首先，人工智能并不必然需要一个看得见摸得着的具象外形。它可以通过各种中间人来展现自己，比如通过图形用户界面或者语音界面。我们已经都不需要看一眼就信任Spotify的推荐，或者与Siri和Alexa聊天，就好像它们是受召唤而出的精神体，是没有可触外形的智能。
其次，人工智能以通过图灵测试(the Turingtest)或者更相关的变体测试而变得隐身。那些能够模拟人类层次的沟通、认知和情绪能力的人工智能系统，会在人群中无法被分辨。因此，人工智能的「人工性」对我们来说也就变得无法察觉。
第三，也最为重要的是，当人工智能的影响和科技动态的细节超越了人类的感知和理解，人工智能就逃离了人类的监视。我们能感觉得到智能系统的存在和影响，但是我们再也无法完全理解这些系统在做什么，它们如何达到它们的目标或者什么是它们确切的影响。
这就意味着，人工智能科技将会很快超越克拉克第三基本定律(Clarke’sthirdlaw)，处于一种「任何足够先进的科技都无异于魔术。」的境地。实际上，我们将再也没有机会分辨出这些魔术——甚至连是否有魔术发生都意识不到。
不可思议的智能
据此，我们能够察觉到人工智能的体现和存在，但是智能本身对于人类感官而言将变得不可知。如今，人工智能的发展过程中有两个明显特质。
首先，大多数算法系统和近期人工智能科技的进步都是黑盒;对大多数人来说它们是难以接近，深不可测并且不可控的。
因此，想要观察或评估人工智能系统是如何在线上和线下塑造你的生活还是很困难，不论是你的最新歌曲推荐还是个人保险政策，更不用说那些影响着全球市场经济的充满计算的股市交易了，它几乎影响着现代生活的每一个方面。
具体来说，当智能系统的行动变得更全面地与个人、社会、文化、政治和经济的系统交织起来时，要辨别机器智能本身的实际影响和结果就变得极具挑战性。
其次，人工智能科技正变得十分复杂，以至于它们很难被理解——甚至对于设计和开发它们的专家来说也是如此。机器学习专家PedroDomingos在他的新书《TheMasterAlgorithm》里指出，回溯到20世纪50年代，科学家们就已经创造出了一种人类所不能完全理解的算法。
相反，这个开发还没有改变这一进程。以人工智能发展的现有节奏，就连经验丰富的专家们也不时觉得难以跟进。
今天，各类的机器学习系统已经能够在不同领域提供让人以外的深刻见解了，从个人化科技到粒子物理学，从烹饪菜谱和古怪的异国游戏到犯罪预防和生物工程。具体而言，专业系统可以推动生物学的科学发现，或者帮你选择到达下个会议地点最优的路径。
当一个智能系统变得更通用、更能够自我学习和自我调整时，人类跟踪它准确的动态就更困难。随着开发的深入，当一个超快的自我学习、自我组装的人工智能系统开始比人类以往任何时候都更快地开发并建造自己的时候，它将永远地脱离我们的智力。最终，人工智能系统将会基于它们自己的行为成为领衔专家，比人类曾经任何时候都更好地预测它们自己的未来。
因此，老练的人工智能科技将会基于一系列任何人类——甚至专家都不能理解的互动上，提供合理并正确的洞察。如果是这样，我们是否能继续在没有人工智能的帮助下，得出确切的科学结论或考虑周全的决定呢?
交织着的智能
就像任何重大的科技革新和其在主流中的融入，人工智能正在从一颗晦涩的好奇心成为一个强有力的实用体。结果是，明日世界最有价值的资产也许会是一个人类不能完全理解或控制的智能系统。
在这同时，人工智能正成为一个史无前例的文化科技现象，影响着我们评估和定义「智能」本身的方式。据此而言，人类智能可能无法对智能本身做出最相关的测量。人工智能里的「人工」两个字也开始失去意义了。
今天，人类智能在塑造着人工智能，而越来越多的人工智能也开始塑造人类智能。当人工智能系统的影响增强，更多人就需要去理解它们的工作和影响。为了实现这一点，我们需要能增强人类智能，从而让我们能与多样的智能系统样本可持续地互动。
首先，增强人类研究员、设计师和工程师的能力以追赶他们所建造的人工智能科技，这很重要。除了更好的实践、工具和技术外，多样的跨学科团队亦能帮助我们更好地理解智能系统的工作方式和影响。
第二，尽可能多的人需要拥有与自己团队里的人工智能互动的能力。新的学习游戏正让孩子学习到编程和机器人学，并了解智能系统与其可能性。像AlgorithmicAngels这样的系统，通过呈现智能系统在我们日常生活中的影响，并让人们决定它们在个人层面的互动，让「机器中的幽灵(the ghost in the machine)」更触手可及、不可辨识，但更易理解。
黑盒中的秘密需要被揭露出来，从而在机构间产生更大规模的合作。让人工智能「民主化」可以为更多人创造出更多的方式来设计和开发出智能系统的新方案。就像编码和媒介素养(medialiteracy)在今天是必不可少的技能一样，能够理解并使用智能系统也会成为将来的必备技能。
人工智能技术将为沿着这个方向进化成为一个平台，一个像互联网一样的基础设施，这个平台可以让人们自行决定如何优化人工智能，或者是如何为它的设计和开发做出贡献。就像物联网一样，这样的人工智能网络将会在不同环境和领域激发更多体验和应用，向专家和开发者等开放，这将显著改变人们理解人工智能以及和智能系统进行互动的方式。人类智能和机器智能将以前所未见的方式交织在一起。
物理现实和数字现实的边界正在消散。当人类和智能系统的关系变得更加亲密无间时，他们之间的边界可能会开始消散。「人工」将会在「智能」之前率先消失，从而使人工智能这一概念变得不相关，并且被淘汰。
