随着生成式AI的爆发，社交媒体上的内容越来越真假难辨，人们很难确信某张照片或视频是真实存在的瞬间，以往的一句“眼见为实”在当下已经需要打上问号。

　　为应对这一冲击，9月14日，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》（下文简称《意见稿》），在《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规上，进一步细化了AI合成内容的标识办法。

　　“这是全球范围内第一部关于人工智能生成合成内容标识的国家标准，是关于人工智能内容治理机制建设的重要探索，对人工智能内容产业的有序发展和业务规则具有重要的指引意义，也有助于人工智能良性生态的培育。”北京师范大学法学院副教授、中国互联网协会研究中心副主任吴沈括对第一财经表示。

　　细化内容生成标识

　　此次的《意见稿》提出，人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

　　不同互联网平台的义务不尽相同。垦丁律所创始合伙人朱骏超告诉记者，网络信息服务提供者的义务包括确保显式标识、添加隐式标识；提供网络信息内容传播平台服务的服务提供者的义务包括核验隐式标识、添加提示标识、管理疑似内容，管理疑似内容包括在疑似生成合成内容的文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息；互联网应用程序分发平台的义务包括核验标识功能，即在应用程序上架或上线审核时，核验服务提供者是否按要求提供生成合成内容标识功能。

　　具体而言，针对提供生成合成服务的网络信息服务提供者，《意见稿》第四条提出，如果提供《互联网信息服务深度合成管理规定》第十七条第一款情形规定的深度合成服务，可能导致公众混淆或者误认的，应当按要求对生成合成内容添加显式标识。

　　《互联网信息服务深度合成管理规定》第十七条第一款提到的具体情形包括：智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务等。

　　显式标识方式根据内容表现形式有所差异。如果是图片，则需在适当位置添加显著的提示标识；如果是视频，则在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识，等等。

　　《意见稿》还要求提供生成合成服务的网络信息服务提供者，在生成合成内容的文件元数据中添加隐式标识，隐式标识需包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。同时，提供网络信息内容传播平台应当采取措施，规范生成合成内容传播活动。包括提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容等。

　　如果违反这一规定，未对生成合成内容进行标识造成严重后果的，将由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚。

　　新壹科技副总裁陈鹏对记者表示，《意见稿》保护了用户权益，通过显式和隐式标识，用户可以更容易地识别出内容是否由人工智能生成，有助于保护用户的知情权和选择权。另外，通过这一规范能增强内容可信度，减少误导和滥用的可能性。

　　吴沈括对记者提到，内容标识是目前关于人工智能内容治理中的一种非常重要的机制设计，它对于避免深度伪造带来的安全风险有非常大的价值，且通过标准的统一也有助于引导各方的业务规则、业务设计和业务模式，对于全链条的风险防范具有非常重要的作用，也能有助于公众识别AI内容的真伪和权威性。

　　“比如数据安全方面，显示和隐式标识有助于提高数据的可追溯性，从而增强数据安全；通过明确标识AI生成的内容，有效防止误导性信息的传播，减少因技术滥用而引发的社会问题。版权管理方面，办法明确AI生成内容的来源和版权归属，维护了创作者的合法权益。”彭菲认为，通过这些标识，用户能更容易识别出合成内容，从而规范和负责地使用这些内容，减少虚假信息的传播。该办法有助于促使行业服务提供者规范地开展业务，推动人工智能技术的健康发展和广泛应用。

　　防范AI犯罪

　　“《意见稿》大意是说生成相关内容如图片、视频、文字、语音必须标识说明为AI生成，防止有人恶意造谣、诈骗，引发不良影响的社会舆论，防止相关犯罪发生。之前有人非法用他人头像或者脸部做合成，通过AI转换语音进行诈骗，类似这种恶性事件应该杜绝。”AI视频制作者冯彬告诉记者。

　　就在8月底，韩国出现多起利用AI换脸伪造女性色情露骨图像的犯罪案，在这背后，犯罪者用深度伪造技术（Deepfake）合成色情照片和视频，并在通信软件Telegram的群聊中传播，参与者多达22万人，引发韩国民众恐慌，有人将其称之为韩国又一“N号房”丑闻。

　　深度伪造这一技术犯罪，不仅仅出现在韩国，这两年在全球都有出现在国内，今年6月，“男子用AI伪造学生同事近7000张裸照”冲上微博热搜。据央视新闻消息，犯罪嫌疑人用AI“一键去衣”技术，深度伪造淫秽图片近7000张，再每张1.5元卖出，赚了将近一万元。图片涉及女性人数多，包括学生、教师、同事。

　　冯彬表示，现在多个视频平台都有向视频上传者提供类似“作者声明：内容为AI生成”的标识选项，包括抖音、b站、快手、视频号，但是没有强制创作者选择。据他观察，没有标识为AI内容的视频，平台会识别出一些并标识类似“疑似AI生成”的字段。

　　冯彬认为，平台在标识、提醒内容是否为AI生成方面，应该更严格一些。相比视频、图片，平台应该更难识别文本是否为AI生成，而从传播效果看，视频可能是“假新闻”更多采用的载体，AI换脸、AI语音这些有可能滋生诈骗的内容也尤其值得关注。

　　目前国内外已经达成共识，要对AI生成内容进行标识和管理。去年7月，美国白宫与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等。欧盟委员会也要求社交媒体公司标记所有由人工智能生成的内容。

　　科技公司已经开始尝试用技术制衡AI滥用。今年2月，OpenAI 团队推出“AI 生成内容识别器”，旨在识别文本是由电脑自动生成还是人类撰写，其本质上是一个区别真实内容和 AI 生成内容的分类器。不过，OpenAI 在博客中指出，此识别器对 AI 撰写内容的检出成功率仅为 26%。

　　今年5 月，谷歌在 Google I/O 大会上公布了AI 生成图像识别工具，用户可以通过上传来源不明的图片、执行反向图片搜索，了解到这张图片被谷歌初次收录的时间、最早出现的网站。谷歌还宣布，它自己的生成式 AI 工具将在每张图片中包含元数据、嵌入水印，以表明这是 AI 生成的图像，而不是真实照片。相比AI 生成内容识别器，数字水印被认为可能是更有效的方法。

　　更早前，微软在Build 2023开发者大会上，宣布增加一项功能，让任何人都能识别Bing Image Creator和Microsoft Designer生成的图像或视频片段是否是由AI生成的。该技术使用密码学方法对AI生成的内容进行标记和签名，并附上有关其来源的元数据信息。

　　吴沈括表示，企业方面的是微生态，此次出台的标识办法标准则是国家和产业的大生态，“力度很大”。

　　（本文来自第一财经）

责任编辑：刘万里 S F014

王立定（记者 刘建纬）09月14日,一男子白天捉奸妻子，妻子还将情夫带到家附近，丈夫守着妻子的情夫打妻子，就让情夫干着急......近日，香港卫视报道了一个男子捉小三的事情，上了热搜引起网友热议。起初是丈夫发现妻子和别人的暧昧聊天记录。他是偷偷查看妻子手机的，看妻子的聊天短信时，他被气的手发抖。没想到妻子竟然还有如此阴暗的一面，聊天内容让他难以启齿。他和妻子结婚也没多少年呀，两个人还不到三十岁，在他看来，两个人还是很恩爱的。他没想到妻子竟然背叛了他。男子将“车震”妻子拉出车门得知妻子出轨的事实后，他没有选择打草惊蛇，而是打算捉奸，他很想知道，妻子出轨的男子到地长得什么样子？为何让妻子如此痴迷？捉奸这一天，他是故意带着朋友跟踪妻子的，他们要把妻子出轨的过程给拍摄下来，留作呈堂证据。他们看到妻子和妻子的情夫，两个人进入到了一家宾馆。到底要不要去捉奸？他想了一会儿。若是现在上去捉奸，肯定能够捉奸在床的，朋友建议他上去，可是，被他否认了，他想要看看妻子和情夫，他们两个接下来会去干什么？他认为捉奸不要急，以后有的是机会。丈夫选择跟踪妻子未去酒店房间捉奸他的妻子并不知道自己被跟踪了，两个人开完房，两个小时后，妻子还是开着自家的车，带着情夫到了他家的门口不远处的一空地上。两个人竟然又在车上卿卿我我了，这让捉奸的男子忍无可忍，他直接下去将妻子的车门打开，奸夫淫妇，还是被他抓了一个正着。他让奸夫从他家的车上下来，坐在不远处看着，一会再找奸夫算账。他要先教训自己的妻子。他把妻子拉下车门，本来之前还很开心的妻子，一下子就不开心了，直接蹲在地上，捂着自己的头部和脸部，生怕被打到脸上。他的丈夫一边辱骂她，一边用手扇她，口中还说她是浪荡女，偷情竟然偷到了自家门口外，就不怕别人看到说闲话。明明刚开完房，还没有够，竟然还在自家车里恩爱了起来，这是他不能容忍的，他继续殴打自己的妻子，发泄着自己对妻子的不满。一下两下三四下，打的还是很狠的。同时，他还告诉同行者，让同行者拍摄一下奸夫，他本以为妻子的奸夫是一个大帅哥，没想到竟然是一个肥头大耳的壮汉。奸夫也是一脸的无奈，面对人家丈夫的辱骂，他是一声不该坑，丈夫就在他眼前，打他心爱的女人，他也不敢管。可能，这就是捉奸男子想要的结果吧，就是想要告诉妻子，其实那个男人不爱你，看看我把你打成什么样子了，他连一个屁都不敢放。若是他敢管闲事，肯定也会被打的，毕竟理亏呀。当天捉奸的丈夫并没有殴打奸夫，只是教训了自己的女人，网友看了大呼过瘾，对待这样水性杨花的女人，就应该不客气。让她长长记性！丈夫崩溃猛怒打妻子说真的不管男的还是女的，若是不爱了，可以选择离婚呀，而不是背叛另一方，可是，现实情况是，她竟然吃着锅里的看着碗里的，竟然在有丈夫的情况下，和别人搞婚外情。这一下好了，丈夫把他们的丑事曝光了，两个人也臭名远扬了，这件事发生后，他们两个人的夫妻情谊可能也完了。相信没有哪一个男人，是喜欢偷人的女人的。若是离婚的话，最好让出轨的女人，净身出户！让她付出惨重的代价，大家认为呢？

王立定（记者 余纬绮）09月14日,（原标题：张汉晖大使接受《新闻世界》书面采访）

封面新闻记者 曹菲9月11日，上海市民齐先生向封面新闻报料称，8月15日，他在哈啰平台打了一辆顺风车后，7天内被平台莫名扣款21笔，共计3000多元。事后，他多次跟平台沟通要求退款，至今未得到处理。对此，哈啰公关相关工作人员回应，平台扣款的直接原因是齐先生打车时曾把验证码透露给司机，这可能导致司机绑定其账号刷单，这并不是平台系统的漏洞，哈啰方已经报警处理。把验证码透露给司机之后账户被莫名扣款21笔齐先生告诉记者，8月15日下午6点多，他通过哈啰平台发送了一笔从上海到江西景德镇的顺风车订单。没多久，一名司机在线上联系他，两人沟通了起止地点、时间后，这名司机打来了电话。“他说接单前需要一个验证码，我当时正在跟同事讨论工作，没有想太多，收到验证码后就发给他了。”齐先生说。挂断电话后他才反应过来，之前打顺风车时并不会这么操作。果然，这名司机并没有接单，齐先生乘坐另一辆顺风车到达了目的地，当晚支付了车费322.3元。乘客真实的顺风车订单，且已付款本以为这就是一次普通的打车经历，直到8月21日，他才发现蹊跷。那次打车给验证码后，从8月15日到8月21日，哈啰顺风车连续7天从他的支付宝扣款，一共扣了21笔，共计3000多元。而他很确定，上述时间段里并未打过车。8月15日到21日，乘客哈啰账户被莫名扣款21笔更奇怪的是，平台每天都在凌晨零点左右扣款，几分钟之内扣3笔，每笔在140元到200元之间，有时甚至在一个时间点同时扣两笔，“就算是我打的车，我也不可能在同一时间内消费两笔吧”。乘客与平台多次沟通未果至今未获退款发现问题后，齐先生多次拨打哈啰客服投诉，要求退款，如今快一个月过去了，事情仍未得到解决。他告诉记者，客服给了很多版本的回复。其中一名客服表示已经查询到是有司机在违规操作，平台需要先去找司机退钱，才能把钱退还给齐先生，该客服还建议他直接报警。“这名司机只通过一个验证码就能违规操作，这是否说明平台系统存在漏洞？我是在平台下的单，并没有跟司机直接产生利益联系，平台是否应该先把钱退给我，再跟司机解决此事。”齐先生提出了质疑。平台回应：这不能说明系统有漏洞，已报警处理11日下午6点，哈啰公关相关工作人员就此事进行了回应。他表示，乘客被扣款可能有两种情况：第一种情况是司机骗取他的验证码后，把他的电话号码和验证码绑定到另一个手机上刷单，如果乘客开通了免密支付，账户就会被自动扣款；第二种情况则是司机和乘客合谋骗取平台的钱。“针对这两种情况，我们企业是没有任何刑侦手段把事情搞清楚的，所以我们也报警处理了，看警方怎么跟进和判断。”他说。齐先生在接受采访时表示，他并没有开通哈啰顺风车的免密支付。上述工作人员回应：“我们不能判断他说的是不是真的，因为理论上他没有开通免密支付，司机是刷不到他的钱的。有可能是他不知道自己曾经开通过，或者在技术方面没有那么专业。我们现在无法判断，只能交给公安。”平台能否先把钱款退还给乘客呢？该工作人员表示，这件事并不能说明平台有漏洞，或者平台监管手续不严格，导致乘客被扣款的直接原因是他不小心把验证码透露给了第三方，平台不能作为承担无限牵连责任的一方。“警方已经立案，后续如果确定是司机的个人行为，肯定会让他退款，我们后续也会将钱款退回。”他说。