认知偏差如何影响人工智能?

对人类认知最基本层面的研究，称为基本认知加工，也称为认知科学。心理学、神经学和认知神经科学是认知科学的主要研究领域，其的许多发现对人工智能有着重要的应用，即机器学习学科。

有趣的是，神经生理学和微观测绘的研究支持这样一个观点:复杂的心理操作可以在系统层面上解释。人工智能系统以多种方式运作，就像我们大脑的简化版。

人工智能每天都在变得更加智能。如果人工智能达到与人类相似的智力水平，其将受到与人类相同的限制。人类对人类层次认知的解释和形成使人工智能系统在机器学习中的计算复杂化。直觉和大脑研究的原理表明，人们在表达事实之前就有特定的解释偏好。但如果我们过度依赖人工智能，就有可能会低估人类行为的重要性。此外，即使人工智能系统在以无数种方式改进，我们仍然不完全了解人类如何在这些领域完成类似但更困难的任务。即使我们试图定义什么是“人”，区别也变得越来越模糊。

可用性启发法断言，人们通常更依赖于确认他们当前想法的数据，当其涉及到人工智能选择时，是一个显著的认知偏差。当面对相互冲突或模棱两可的数据时，我们往往倾向于对给定证据做出最相关或最符合逻辑的解释。这种策略在某些情况下可能有效，但在许多情况下，可能会导致无法打破的失败循环。当算法严重依赖启发式进行决策，并最终依赖于无关或过时的信息时，就会发生内存泄漏。这就是一个典型的例子。

人类在做决定时更喜欢使用启发式方法，这很容易观察，但这些偏见是自动的和无意识的，使之难以识别。我们有充分的理由认为，自狩猎采集文化的时代以来，人类在日常生活中就一直在利用偏见。人类今天拥有的许多技能，比如语言和数学，都是在各种学习策略的帮助下获得的，比如镜像。学习信息并不难，我们的大脑可以迅速解码。

断言偏见在人类决策中仍然起着很小的作用是不正确的。尽管不断开发改进的过滤方法，但目前还没有一个解决人工智能进步的单一方案。我们知道人工智能和人类的思想都很容易出错。这意味着，任何人工智能系统都不会在任何计算中完全取代一个人，无论神经网络在预测下一步行动过程中的发展程度如何。

由于认知偏见根植于人类本性，不太可能消失，人工智能系统将需要考虑它们。完美的人工智能系统是无法制造出来的。目前正在使用的方法只能加强、优化和改进，同时使系统的其他部分具有类似于人的质量。越是了解认知偏差，就愈能有效地使用机器学习和人工智能。