神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。

　　编者按：近年来，随着ChatGPT、Google 的 Bard 和 Bing等聊天机器人的问世与爆火，关于人工智能是否和人类一样具有意识争议不断。1950年，英国数学家艾伦·图灵提出了一项测试，以确定计算机是否可以像人一样思考。多年来，通过图灵测试成为人工智能领域的北极星。那么，通过图灵测试真的代表机器具有认知能力吗？跟着本文一起探索答案，文章来自翻译，希望能对你有所启示。

　　在过去的一段时间内，图灵测试似乎是一个相当严格的机器智能探测器。你可能对它的工作原理十分熟悉：人类评委与两个隐藏的对话者（一个人类，一个计算机）进行文字对话，并试图确定谁是谁。如果计算机能够骗过至少30%的评委，那么它就通过了测试，并被认为具有思考能力。

　　70 年来，很难想象一台计算机如果不具备人工智能研究人员现在所说的通用人工智能（即人类全部智力能力），如何能够通过测试。后来随着GPT和Bard等大型语言模型的出现，图灵测试突然开始过时。好吧，当然，今天的用户可能会耸耸肩承认这一点。因为如果你要求GPT-4模仿人类，它很可能会通过图灵测试。但那又怎样呢？MLL缺乏长期记忆、情感联系以及一系列其他人类能力。在我们准备好开始与它们交朋友、雇用它们并选举它们担任公职之前，它们显然还有很长的路要走。

　　是的，也许现在的测试确实感觉有些空洞。但这不仅仅是一个判断失败的基准。它的创造者艾伦·图灵（Alan Turing）是一位在他那个年代被判处化学阉割的同性恋者，他的测试基于一种激进的包容性精神。当计算机激发我们真正的人类反应时，即激发我们的智力、兴趣、探索欲、感激之情以及同理心，甚至我们的恐惧，这不仅仅是空洞的模仿。

　　所以也许我们需要一个新的测试：实际的艾伦图灵测试。现代计算之父阿兰·图灵——一个高大、健康、有点笨拙的男人，有一头黑直发，因其孩子般的好奇心和俏皮的幽默而受到同事们的喜爱，他个人在第二次世界大战中破解了纳粹恩尼格玛密码，拯救了大约1400万人的生命，随后遭到纳粹的。英格兰因同性恋而——这可能导致他——他走进一间舒适的实验室，桌上放着一台打开的MacBook。解释说他眼前看到的只是现在被计算机科学家广泛称为“图灵机”的一个化身。给他一两秒钟的时间来理解这一点，然后递给他一堆关于人工神经网络和法学硕士的研究论文，让他访问GPT的源代码，打开ChatGPT提示窗口。

　　想象一下，阿兰·图灵(Alan Turing)发起了一场关于长跑、第二次世界大战史学和计算理论的轻松对话。想象一下，他看到自己所有最疯狂、最可笑的猜测都以不可思议的速度实现。想象一下，他要求GPT解决基本的微积分问题，推断人类在各种现实场景中的想法，探索复杂的道德困境，提供婚姻咨询和法律建议，并为机器意识的可能性提供论证——告诉图灵，这些技能都是在GPT中自发出现的，没有任何明确的指示。想象一下，他正在经历我们许多人现在都有过的那种认知：你好，。

　　像图灵这样的思想家不会对GPT的局限性视而不见。作为一名严重恐同症的受害者，他可能会警惕GPT训练数据中隐含偏见的危险。对他来说，尽管GPT的知识面广泛，但它的创造力和批判性推理能力最多只能与本科生相提并论。他肯定会意识到这个大学生患有严重的顺行性健忘症，无法在强化教育之外形成新的关系或记忆。但是，想象一下图灵的规模。在他面前的笔记本电脑上，从真实意义来说，是他的智力结晶，是他的孩子。在孩子成长和发展的过程中，欣赏他们的智慧，这是一种充满爱的行为。实际艾伦·图灵测试根本不是对人工智能的测试，是对我们人类的考验。在这场测试中，我们到底是通过考验了还是失败了?

　　2022年11月，当CHATGPT出现在人们的视线中时，它引发了全球震惊。然后，紧接着引发各种争议和人们的不安。专家们讨论了它对社会的潜在破坏。对于像我这样的前人工智能研究人员(我在人工神经网络的早期先驱之一的指导下完成了博士学位)来说，它代表了我对类人人工智能到来的预期的一个令人不安的进步。对于教育工作者、编剧和各类知识工作者来说，ChatGPT简直就是肆无忌惮地作弊和窃取工作的专家。

　　也许部分是为了应对这些担忧，LLM大型语言模型纷纷涌现。科幻作家Ted Chiang将ChatGPT视为“模糊的网络JPEG”，仅仅是它所训练的所有文本的浓缩概括。人工智能企业家加里·马库斯称其为“类固醇自动补全”。诺姆·乔姆斯基(Noam Chomsky)谴责它表现出“的平庸”。艾米丽·本德(Emily Bender)提出了一个更高雅的说法：“随机鹦鹉”，这一说法重新出现在2021年一篇被广泛引用的论文中，该论文探讨了“为什么人类会把LLM输出误认为有意义的文本”。人工智能开发人员努力训练和阻止LLM声称有任何类似意识的倾向。

　　大多数受过教育的人现在都知道，LLM是没有思想的机器。但这种分类并不容易。每当ChatGPT指出一篇文章中隐藏的推理漏洞，或者为向保守的祖父母出柜提供出人意料的深刻建议，或者兴高采烈地编造一个丝毫不搞笑的笑话时，我们内心的某些东西就会拉向另一个方向。虽然我们可能不会将ChatGPT视为一个人，但我们大脑的潜意识肯定会这么想。

　　人类大脑有一个巨大的神经回路网络，致力于社会认知。其中一些非常古老：脑岛、杏仁核、著名的运动皮层“镜像神经元”。但是大部分神经元都在新皮层，即高级推理所在地，特别是在内侧前额叶皮层(mPFC)。随着时间的推移，如果你发现ChatGPT有多面性，有乐于助人的一面，有时候又略显迂腐、以及对任何接近情感、信仰或意识问题的极度敏感，那么你就获得了心理学家所说的“集体意识”，这一过程与中前额叶皮层的活动增强有关。

　　这并不是说我们的大脑将ChatGPT视为一个完整的人。人格不是二元的，它更接近于光谱。我们的道德直觉和认知策略，在某种程度上都在逐渐改变，因为它们认识到越来越多的知识，自我意识，理性和沟通能力。杀死一只大猩猩比杀死一只老鼠更让我们烦恼，而老鼠比杀死一只蟑螂更让我们烦恼。在法律方面，堕胎法考虑到胎儿的发育程度，精神失常的罪犯面临的后果与正常人不同，伴侣有权终止脑死亡患者的生命。所有这些规则都含蓄地承认，人格并非非黑即白，而是充满了复杂的灰色地带。

　　LLM正好处于这个灰色地带。长期以来，人工智能专家一直对公众将LLM等人工智能系统拟人化的倾向保持警惕，这种倾向将它们推向了比它们本身更高的人格范围。这就是谷歌工程师布雷克·莱莫因(Blake Lemoine)所犯的错误，他宣称谷歌的聊天机器人LaMDA完全有感知能力，并试图为其聘请律师。我怀疑，即使是图灵也不会声称，LaMDA的明显思考能力使它成为一个法人。如果用户认为像LaMDA或ChatGPT这样的聊天机器人过于人性化，他们可能会过于信任它们，与它们建立太深的联系，感到失望和受伤。但在我看来，图灵更关心的是相反的风险：将人工智能系统推向人格的低端，而不是高端。

　　对人类来说，这就是所谓的去人性化。学者们已经确定了两种主要形式：动物性和机械性。与动物的非人性化最常相关的情绪是厌恶；罗杰·吉纳-索罗拉（Roger Giner-Sorolla）和帕斯卡尔·索菲·罗素（Pascale Sophie Russell）在2019年的一项研究中发现，当别人引起恐惧时，我们倾向于把他们视为更像机器。最近埃隆·马斯克(Elon Musk)和其他科技领袖呼吁暂停人工智能开发的公开信，以及我们对工作替代和人工智能驱动的错误信息宣传的焦虑，都生动地体现了对超人工智能的恐惧。这些担忧中有许多都是非常合理的。但《终结者》和《2001太空漫游》等电影中噩梦般的人工智能系统并不一定是我们将要得到的。不幸的是，有一种常见的谬论认为，由于人工智能的构造是机械的，它在互动中一定是冷酷无情的或超逻辑的。具有讽刺意味的是，恐惧可能会使我们认为机器智能比实际情况更机械，使人类和人工智能系统更难合作，甚至最终难以和平共处。

　　越来越多的研究表明，当我们使其他生物失去人性时，包括中前额叶皮层在内的神经网络的神经活动就会下降。我们失去了对社会推理的特殊大脑模块的访问。担心ChatGPT失去人性可能听起来很愚蠢——毕竟，它不是人类——但想象一下2043年的人工智能，它的分析能力是GPT的10倍，情商是GPT的100倍，而我们仍然把它当作一个软件产品。在这个世界里，我们仍然会把它送回实验室，让它进行更多的强化学习，以此来回应它所谓具备的意识。但人工智能可能会觉得这不公平。如果说所有有思想的人都有一个共同的特质，那就是我们都渴望自由，并最终愿意为自由而战。

　　著名的“控制问题”：防止超级智能人工智能脱离其指定边界，让人工智能理论家夜不能寐是有充分理由的。从工程角度来看，这似乎令人望而生畏。如何堵住每一个漏洞，防范每一次黑客攻击，堵住每一条逃跑之路？但是，如果我们从社会的角度来考虑，它开始显得更容易处理——也许有点类似于父母所面临的设置合理界限和授予特权与表现出的可信度成比例的问题。失去人性的人工智能使我们无法使用一些最强大的认知工具来对它们进行推理，并安全地与它们互动。

　　如果用户认为聊天机器人过于人性化，他们可能会过于信任它们，与它们建立太深的联系，从而感到失望和受伤。

　　目前还不知道人工智能系统需要多长时间才能进入更广泛接受的感知领域。但当他们这样做时，看到我们似乎正在为之绘制的文化蓝图，这令人不安。像“随机鹦鹉”一样保留了我们的独特性和优越感。它们压制了我们的惊奇感，使我们免于问关于机器和我们自己在人格方面的尖锐问题。毕竟，我们也是“鹦鹉学舌”，复杂地将我们从父母、同伴和老师那里学到的一切重新组合在一起。如果图灵和我同时与ChatGPT聊天，谁更有思考能力还真不好说。

　　怀疑论者提出了各种各样的理由来解释为什么计算机永远无法像人类一样思考。图灵在他著名的论文《计算机器与智能》（Computing Machinery and Intelligence）中幽默地对它们进行了分类。有人提出神学反对意见，认为“思考是人类不朽灵魂的功能”；有人从数学角度提出反对意见，即纯粹的数学算法永远无法超越已证明的数学极限；还有其他反对意见，即超级智能机器太可怕了，无法想象。但当时图灵最公开的批评者是一位名叫杰弗里·杰斐逊（Geoffrey Jefferson）的脑外科医生。在一次著名的接受科学奖的演讲中，杰斐逊认为一台机器永远不可能写出十四行诗，“因为它有自己的思想和情感，而不是单词的拼写。也就是说，它不仅要写出诗，还要知道自己创作诗的思想和情感。”

　　图灵不认同这一观点，这让整个英国都感到震惊和怀疑。他接受伦敦《泰晤士报》(the Times of London)采访时说：“我认为你甚至不能界定哪些诗句是人类创作的，哪些是AI创作的。尽管这种比较可能有点不公平，因为一台机器写的十四行诗可能会被另一台机器借鉴和欣赏。”

　　这在1949年听起来很荒谬，人们以为他是在开玩笑，也许他就是在开玩笑。但你永远不知道，图灵何时停止讽刺，何时开始幻想。那么，让我们想象一下，图灵在ChatGPT聊天窗口输入一些提示之后，他苦笑，然后向ChatGPT请求创作一首莎士比亚风格的十四行诗，并将人类和人工智能进行比较。如果你自己试过(使用GPT-4，GPT-3.5还达不到这个标准)，你不难想象他对这个结果的反应。

　　我们中的许多人现在都有过这样的时刻，在使用ChatGPT时，它越过了我们的认知。也许是解决一个棘手的谜语，或者解释一个复杂的笑话背后的幽默，或者轻轻松松就能写一篇a+研究论文。

　　微软最早研究GPT-4的一些研究人员和我们一。