AI一本正经地胡说八道 有种办法可以识破它
近年来,本正生成式人工智能在文本、经地图像、胡说音乐等领域大放异彩。种办然而,识破随着生成式人工智能变得越来越强大,本正人们越来越难以鉴别AI生成的经地内容。
近日,胡说Google DeepMind 研究团队在《自然》(Nature)上发表的种办封面文章提供了一种文本水印方案,可以提高 AI 生成文本的识破检测精度。
AI 生成内容检测的本正必要性
在文本、图像和音乐中,经地AI 生成的胡说文本是最难以检测的。因为现有的种办图像和音乐生成技术尚未像文本生成技术一样发达,AI 生成的识破图像和音乐往往有某些非自然的视觉或听觉特征。AI 生成的内容在整体上效果较好,但具体到细节就显得不够自然。在图像和音乐中,也可以人工添加人类难以发现的水印,在后期检测中通过水印筛选出AI生成的作品。
然而在文本中难以直接添加人类不可见的水印,这是因为文本与图像和音乐不同,每一个文字都是完全可见的。同时,可用于训练 AI 的文本数据也远多于图像和音乐。在庞大的、基于人类写作的语料库的训练之下,AI 已经非常擅长模拟人类的表达方式和语言习惯,甚至能够调整文本的风格和语气,这使得 AI 生成的文本难以直接检测。
尽管 AI 生成的文本与人类创作的文本难以分辨,但 AI 生成的内容可能带有事实性的错误,并不能保证可靠性。无法辨别来源的内容可能会导致虚假信息的传播,也带来了学术作弊、版权争议等种种问题。
比如,在“杭州取消机动车依尾号限行”假新闻事件中,网友用 AI 技术生成的“假新闻”行文严谨、语气措辞得当,也基本符合官方通报的格式,导致了错误信息大规模传播。美国科技新闻网站 CNET 在三个月之内上线了 70 多篇用 AI 技术生成的新闻报道,却被发现其中存在大量基础性错误,包括计算错误、金融概念误解等,不得不暂时叫停AI项目重新审核。
为了避免 AI 技术的滥用,我们需要一种方法辨别文本是否由 AI 生成。
主流检测方法:事前与事后检测
检测 AI 生成的文本是一个分类问题,我们的主要目标是区分一个文本片段是由 AI 生成的还是由人类创作的。通常一个文本检测器对于一个给定的文本片段会给出一个评分,当这个评分超过阈值时,这个片段被认为是 AI 生成的,反之则是人类创作的。
文本检测框架(图片来源:根据参考文献 [1] 翻译)
现有的主流检测方法可以分为两大类:事前检测和事后检测。事前检测可以进一步分为基于水印的检测和基于检索的检测。事后检测可以分为基于零样本学习的检测和基于训练的检测。
主流检测方法分类(图片来源:根据参考文献 [1] 翻译)
1、事前检测
基于水印的检测是指在 AI 生成的文本中隐藏某些信息以便后续检测。但由于文本的离散性,在文本中添加水印比在图像和音乐中添加水印困难很多。常用的方法是让 AI 生成的文本使用特定的语言风格或者偏向性地使用某些特定的词汇,但这样可能会降低 AI 生成文本的质量。
基于检索的方法是指 AI 服务的提供者将用户通过 AI 生成的文本保存在数据库中。当需要检测目标文本是否由 AI 生成时,将目标文本与数据库中的文本进行匹配,如果相似度较高,则很可能是 AI 生成的。但这种方法需要保存用户数据,可能带来隐私泄露的问题。
2、事后检测
基于零样本学习的检测是指不需要进行任何的训练,仅根据 AI 生成文本的特点来检测一段文本是否是 AI 生成的。通常 AI 生成的文本倾向于使用常见的词汇,句子的长度和结构也更加统一。而人类创作的文本则显得更加随心所欲,每一句的水平也参差不齐。
与人类相比,AI 在记忆细节上能力较强而在逻辑推理上能力较弱。利用这些特点可以在一定程度上区分 AI 生成的文本和人类创作的文本。基于训练的检测是指使用人类创作的文本和 AI 生成的文本构建一个数据集,用这个数据集训练一个分类器来识别 AI 生成的文本。
但这需要收集足够的数据用于训练,并且随着 AI 能力的进步,这样的区分也变得越来越困难。可以看到,事后检测比事前检测要困难许多。为了高精度地筛选出 AI 生成的文本,在事前 AI 生成文本时就添加水印是一个很好的解决方案。
Google DeepMind 的突破:SynthID-Text 水印技术
Google DeepMind 研究团队提出了一种新的水印生成方案,称为 SynthID-Text。它基于之前的水印生成组件,但使用了一种新的“锦标赛采样”方法。SynthID-Text 可以非扭曲(保留文本质量)或者扭曲(以牺牲文本质量为代价提升水印的可检测性)地添加水印。
在扭曲和非扭曲设置下,与现有的最佳方法相比,SynthID-Text 都提升了水印的检出率。
水印生成框架(图片来源:根据参考文献 [2] 翻译)
上图中展示了大语言模型生成文本的原理以及之前水印生成的框架。大语言模型的文本生成是基于上下文的,它会根据输入的文本序列计算下一个词汇的分布,然后从这个分布中抽样出下一个词汇。
一个生成式的水印方案通常包含三个部分:一个随机数生成器、一个采样算法以及一个评分函数。水印生成的过程是:首先使用随机数生成器根据前面的文本以及水印键生成一个随机数,然后采样算法利用这个随机数从词汇的分布中抽样出下一个词汇。
给出一段文本以及一个水印键,评分函数提供一个分数来量化当前文本中含有水印的可能性,当分数超过一个阈值时就认为这段文本中含有水印。
锦标赛采样(图片来源:根据参考文献 [2] 翻译)
SynthID-Text 提出了一种新的“锦标赛采样”方法,上图是锦标赛采样方法的一个例子。当向模型输入“...我最喜欢的热带水果是”时,模型计算出下一个词汇的分布,其中“芒果”的概率是 0.5,“荔枝”的概率是 0.3,“木瓜”的概率是 0.15,“榴莲”的概率是 0.05。在不加水印的正常生成中,模型会按这个概率直接采样出下一个词汇。
在锦标赛采样中,模型先根据随机数种子生成三个随机的水印函数,然后再从词汇的分布中采样出八个词汇,将这八个词汇两两组合后进行竞赛,在每一轮竞赛中,由一个水印函数决定每一对组合中的胜出者。经过三轮竞赛后,最终的胜出者就是模型的输出结果:“芒果”。
在锦标赛采样中,词汇是根据水印函数的偏好采样得出的。因此添加水印的文本会在水印函数上有更高的评分。在检测时只需要评估每个词汇在对应的水印函数下的评分,再将评分加和就可以得到这段文本包含水印的可能性。
水印的添加是通过改变采样方法实现的,它会改变模型输出下一个词汇的分布,这看起来不可避免地会影响生成文本的质量。
然而,由于采样方法中使用了随机数种子,尽管在某一随机数种子下词汇的分布会被改变,但在对所有随机数种子进行平均后可以得到和原始分布相同的结果。
SynthID-Text 可以在适当的配置下避免影响词汇的分布从而保证文本的质量,也可以以损失一部分质量为代价提高水印的检出概率。
SynthID-Text 方法在 Google DeepMind 推出的 Gemini 人工智能模型上经过了两千万次用户测试。测试结果表明 SynthID-Text 在添加水印的同时并不会降低文本的质量。同时,SynthID-Text 不会产生太多的时间和计算开销,可以被大规模地应用于生产实践之中。
结语
事后检测文本是否由 AI 生成是非常困难的。随着 AI 能力的增强,事后检测会变得越来越困难,检测和反检测将会是无止境的技术竞赛。水印方法提供了一种可能的解决方案,但这需要大语言模型的提供者在生成时就预先加入水印。如果用户使用的模型没有主动加入水印,就难以在事后进行检测。
此外,用户还可以使用开源模型,或者对添加了水印的文本进行二次编辑来逃脱检测。这些问题都有待进一步解决。
未来,随着生成式人工智能的普及,如何检测 AI 生成的内容会变得越来越重要。SynthID-Text 证明了水印技术在文本生成中大规模应用的可能性,但水印技术面临的困难也说明检测并不只是一个技术问题。
解决这个问题还需要各方共同努力,形成相关的行业标准以及法律法规,从而推动AI走在为人类服务的正轨之上。
-
唐斯:这场比赛对我们来说是个很好的学习经历那个游戏它回来了!!说到做到托尼上一场后说自己要梅开二度,昨晚双响助球队获胜【机翻+润色】访谈:《崩坏》系列,为什么如此相信人类的可能性?采访《崩坏》系列的剧本制作团队,超规模的「人类赞歌」和持续相信「世界之美好」的故事描绘方法文班亚马生涯首获周最佳!马刺官方祝贺并拉票 获赞未来两三年统治NBA【机翻+润色】访谈:《崩坏》系列,为什么如此相信人类的可能性?采访《崩坏》系列的剧本制作团队,超规模的「人类赞歌」和持续相信「世界之美好」的故事描绘方法声网 Native RTC SDK 4.5.0 上线 视频体验显著提升足协确认:25/26亚冠精英联赛中超2+1名额,足协杯冠军第二顺位我还能打😝!韦德假动作晃飞好友 单手抛投与转身后仰依旧丝滑真我V60 Pro搭载IP69满级防水 千元质价比之王1599元起
- ·致态TiPro9000固态硬盘上手:满血PCIe 5.0破局者
- ·创新引领可持续 光峰科技荣获2024年度ESG金曙光奖
- ·足协确认:25/26亚冠精英联赛中超2+1名额,足协杯冠军第二顺位
- ·[流言板]媒体晒普里查德数据并发问:6MOY大热?杰伦回复:轻而易举
- ·国产DDR5良品率高达80% 媲美三大原厂!17.5纳米工艺
- ·[流言板]黄蜂裁掉哈里
- ·世界羽联最新世界排名公布 冯彦哲/黄东萍首次登顶世界第一
- ·着眼未来!TA:曼联青年队签下斯洛伐克17岁边锋和澳洲17岁右后卫
- ·冬季特卖进行中《欢欣森活》新版「隕星之夜」上线
- ·那不勒斯总监谈奥斯梅恩:将他租借到加拉塔萨雷当时是最好的方案
- ·【下午茶小甜饼】希娜老师来抓你咯~
- ·[米无关氵]关于tx的新“掌机”
- ·17分大逆转!名记分析原因:威少的能量🤔末节+加时DNP小波特
- ·这球欧文为什么不上篮,时间还有一分钟呢,平白无故多一个失误?
- ·米兰连续3场欧冠至少打进3球,自1989年后首次
- ·失踪人口回归!曼联官方:左后卫马拉西亚回归训练,已伤缺超1年
- ·太轻松了!约基奇三节17中12砍下32分7助攻
- ·费迪南德:马杜埃凯直接离场的行为缺乏尊重,他应该被罚款
- ·基恩:在尤文我机会不多加盟紫百合是对的本赛季巴黎会表现很好
- ·15连胜有多难?21世纪五大联赛仅6队,巴萨上榜,皇马两次做到
- ·约基奇谈个人首双361°签名鞋:很舒服 对我来说舒适感是最重要的
- ·[流言板]太玻璃?米罗回复网友:那N**抓我腿,我怎么准备这种情况?
- ·内托:葡萄牙目标是欧国联出线 菲利克斯的状态越来越好
- ·评论员谈姆巴佩:原本期待他是CR7型,但发现他有本泽马早年风格
- ·传奇解说:锡安在熟悉的位置——便装呆坐板凳席💀
- ·着眼未来!TA:曼联青年队签下斯洛伐克17岁边锋和澳洲17岁右后卫