高中时，张效初学会了编写计算机代码，那时的他有一个梦想：制造一台可以伪装成人类的机器。多年过去，他放弃了编程，转而学习了认知心理学，最终成为了中国科学技术大学的教授。
近年来，基于人工智能（AI）的聊天机器人能够生成精妙、连贯的文本，这种机器人的出现唤醒了他多年前的梦想。张教授说：“我们居然可以像与真人交谈一样与人工智能交谈，这令人惊讶。”张教授决定用他目前的知识继续他十几岁时的梦想，并设计了一个实验来探索人们是否可以区分人类和机器产生的文本，研究结果最近发表在 Advanced Science 上。
潜意识的暗示
在该实验中，令张教授印象深刻的是：在意识层面上，人们非常不善于发现哪些文本来源于人类的、哪些是由聊天机器人生成的。但更令人惊讶的是，一些潜意识的心理活动可以更可靠地检测是人还是机器在生成文本。
在实验中，参与者会看到一个人和另一方（聊天机器人或另一个人）之间的对话。他们被要求根据既定的参数评估对话者的个性，然后接受功能性磁共振扫描，以测量他们在阅读文本时的神经活动。在扫描大脑时，会向参与者提问他们认为另一方的对话者是人还是机器。
研究人员发现，无论文本的来源是真人还是机器，参与者大脑中称为心理化网络的特定区域都被激活了。该区域试图衡量对话者的个性和意图。中国科学技术大学副研究员、论文第一作者韦正德说：“当我们听到语言模式时，我们需要通过观察或想象他人的言语、动作和面部表情来推断他人的内心想法和意图，而心理化网络正提供了这类功能”。
研究人员观察到，虽然许多人被欺骗，把机器对话者认为是人类，但心理化网络中的活动通常会泄露对话者的真实身份。尽管目前样本量相对较小，还需要更多的聊天样本和受试者来验证这个结论，但实验结果的影响可能非常深远。
麻省理工学院情报探索的博士后研究员Anna Ivanova没有参与这篇论文，但她表示：“这项研究非常具有吸引力。尽管我们都知道人在阅读这些文本时，语言处理区域会得到激活。但除此之外，我们还会自动在脑海中构建对话者的心理模型”。
结果表明，尽管大脑不能有意识地做出区分，但在潜意识层面上仍可以区分人类和机器。
展开全文
混乱的性格
在性格测试中，与人类打的分数相比，受试者为聊天机器人选择的得分一致性较低。这并不奇怪，因为机器从许多不同的来源学习，而且它们没有真正的意图、品味或情感。尽管如此，对于Ivanova来说，性格评分为设计一种区分人类和机器的实用方法打开了一扇门。“这种现象启发我，人们不善于弄清楚文本是聊天机器人还是人类写的，但他们会发现一些有助于他们做出这个决定的线索，只是这些线索未被使用”。她的建议是，也许可以训练人们发现这些线索，并利用它们可靠地检测文本的作者身份。
本研究的作者还指出，他们的实验应该有助于构建以与人类更相似的方式使用语言的聊天机器人，这将促进我们与机器之间的无缝交互。然而，教师越来越担心学生会开始上交机器制作的作业。这些作业是原创的（即无抄袭的），但却不是由学生亲自写的。
虽然开发检测真实作者身份的方法可能有助于发现欺诈事件，但张教授对人工智能取代教师（而非学生）的可能性，及其可能对我们的大脑产生的潜在影响更感兴趣。他表示：“我们向人类学习，所以我们是人类。如果我们向非人类学习，不知道会发生什么。孩子们会无意识地向非人类学习，所以在教育中使用人工智能聊天是非常危险的。”
这解释了为什么越来越多的支持者支持扩大法律规范，以指导人工智能工具的开发，并将其巨大的潜力转化为有益的结果。Ivanova 说：“我们需要真正强有力的法规和基于道德的框架，来指导如何使用人工智能，以及如何确保此类模型不会被用于欺诈用途。目前，我们还没有办法权衡和控制人工智能工具的危害和收益，这也是我们未来必须要做的事。”
WILEY
参考文献：
Zhengde Wei et al., Implicit perception of differences between NLP-produced and human-produced language in the mentalizing network, Advanced Science (2023).
译者：潘奕辰，Procter&Gamble
AdvancedScienceNews
Wiley旗下科研资讯官方微信平台
分享前沿资讯 ｜聚焦科研动态
发表科研新闻或申请信息分享，请联系：ASNChina@Wiley.com返回搜狐，查看更多