【AI世界】

　　◎本报记者 吴叶凡

　　近年来，人工智能(AI)技术推动生产力快速发展，但同时也因技术滥用导致各种问题。

　　人类的创作与AIGC之间存在哪些差异？AI检测工具如何根据差异进行识别？AI检测工具如何应对越来越聪明的大模型？带着这些问题，记者采访了有关专家。

　　AI创作套路化明显

　　“虽然大模型在不断发展迭代，但到目前为止，AIGC与人类的创作在用词用语、逻辑语法等方面依旧存在明显区别。”Fast-DetectGPT研发者之一、西湖大学文本智能实验室博士生鲍光胜说。

　　在用词用语上，AIGC有相对固定的偏好。“不难发现，一些词语会反复在语段中出现。”鲍光胜举例说，有研究发现，大模型应用于英语学术论文写作时，“delve”(深入研究)一词的使用频率大大提高，这是因为大模型习惯用这个词对语句进行润色修改。

　　在逻辑语法上，AIGC惯常使用的一些语法搭配方式，在人类创作中可能并不常见。“受模型建模的影响，AIGC有相对固定的行文逻辑和表述模式，且这些模式会不断地被重复。人类在行文上则更为灵活，没有固定套路。”鲍光胜说。

　　北京大学信息管理系师生比较了AI生成与学者撰写的中文论文摘要。研究结果同样显示，AI生成的摘要具有较高同质性和较强写作逻辑性，并惯用归纳总结等学术话语体系；学者撰写的摘要则具有显著个性化差异 ，使用凸显实际含义的搭配较多，并常用与国家政策密切相关的词语。

　　哈尔滨工业大学一名研究生向记者讲述了他使用大模型的实际感受：“当我给大模型提供一些材料让它扩写，它每次都用相同的套路——把给定的材料拆解开，分为若干点论述。总体来说感觉它写得比较‘僵’。”

　　AIGC相对套路化的创作，可能会影响人类的用语习惯。“随着越来越多人用AI创作或润色文字，人类会受到潜移默化的影响，这或将影响整个社会对语言的使用。”鲍光胜说。

　　三种路径识别文本

　　如何准确识别AI生成内容？鲍光胜介绍，目前主要有三种技术路径进行检测，分别是模型训练分类器法(也被称为监督分类器法)、零样本分类器法、文本水印法。“三种检测方法本质上都是利用AI检测AI，且各有优劣。”鲍光胜说。

　　模型训练分类器法，首先要收集大量人类创作内容与AIGC，然后以此为基础训练一个能区分两类内容的分类器。“这是目前被广泛使用的一种方法，但缺点较为明显。”鲍光胜解释，用于训练分类器的数据有限，很难覆盖所有类型和语言的文本。分类器在训练数据覆盖的文本领域或语言上检测准确率较高，反之准确率则较低。而且，模型训练往往需要较高成本，数据规模越大，训练成本越高。

　　相比之下，零样本分类器法不需要对机器进行训练，也无需收集数据。它利用已训练好的大模型，抽取语言模型生成文本的特征，据此来区别人类与机器。“似然函数是零样本检测法中比较常用的基准之一，它可以简单理解为一段文本在某个模型的建模分布中出现的概率。概率是一种特征，不同的概率体现了人类创作内容与AIGC的差异。”鲍光胜进一步解释，“零样本分类通过综合考虑多种函数特征来区分人类创作内容与AIGC。”

　　如今，很多大语言模型几乎覆盖了互联网上的全部数据。因此，相比于模型训练分类器，零样本分类器在不同领域、不同语言的文本上表现较为一致。

　　不过，零样本分类器也存在明显缺点。一方面，现有零样本分类器依赖生成文本的源语言模型进行检测，这意味着如果是未知源模型生成的文本，分类器就无法准确检测。另一方面，为提高检测准确率，零样本分类器往往需要多次调用模型，这增加了模型的使用成本和计算时间。

　　“文本水印法则是一类‘主动方法’。区别于前两类方法，它不是检测已生成的文本，而是在AI生成文本时加入水印。人类虽然看不出这些水印，但却能通过技术手段检测出来。”鲍光胜说，文本水印法的准确率较高，但缺点在于水印可能被人为弱化甚至移除。此外，对于无法访问模型内部结构的大语言模型，技术人员可能无法在生成内容时成功加入水印。

　　检测技术需不断改进

　　“未来，我们要不断更新、完善现有技术，力争实现快速、准确、低成本检测，在大模型这把‘矛’越来越锋利的同时，让检测技术这面‘盾’更为坚固。”鲍光胜说。

　　记者了解到，为提升检测准确性，目前市面上的商用AI检测软件大多融合了多种技术手段。国内外研究团队也在进一步完善相关技术。

　　例如，西湖大学文本智能实验室团队在DetectGPT基础上研发的Fast-DetectGPT模型，可提升AI检测准确性，缩短检测时间。“Fast-DetectGPT与其他零样本分类器原理一致。其中一个创新点在于，我们提出通过条件概率曲率指标进行检测。”鲍光胜说，“与DetectGPT相比，Fast-DetectGPT在速度上提升340倍，在检测准确率上相对提升约75%。”

　　对AI检测AI的前景，有两种截然不同的观点。一种观点认为，未来AIGC将会与人类创作极为相似，以至于检测工具无法判别。还有一种观点认为，随着技术发展，检测技术或将赶超大模型技术，实现对AIGC的有效识别。

夏雷苦笑道：“我们还这么年轻，为什么要这么早结婚啊？再谈两年恋爱不好吗？”

夏雷苦笑了一下，“好吧，我走了，我会自己去寻找答案。”

“难道……”夏雷无比的惊讶，“白鹿还没有出生？还在它目前的子宫里？如果女娲有子宫的话……”

“我、我马上通知所有的人到这里来。”胡宽顿时紧张了起来。他很清楚乐乐乐与兰斯娣的拉拉关系，根本就不敢有丝毫的怠慢和违背。

这时烈如水忽然转身，看着藏在草丛里的夏雷，“出来吧，我知道是你。”AI检测AI：“矛”更利还是“盾”更坚兰思娣看着夏雷，“你为什么杀了他？”