随着生成式AI的爆发，社交媒体上的内容越来越真假难辨，人们很难确信某张照片或视频是真实存在的瞬间，以往的一句“眼见为实”在当下已经需要打上问号。

　　为应对这一冲击，9月14日，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》（下文简称《意见稿》），在《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规上，进一步细化了AI合成内容的标识办法。

　　“这是全球范围内第一部关于人工智能生成合成内容标识的国家标准，是关于人工智能内容治理机制建设的重要探索，对人工智能内容产业的有序发展和业务规则具有重要的指引意义，也有助于人工智能良性生态的培育。”北京师范大学法学院副教授、中国互联网协会研究中心副主任吴沈括对第一财经表示。

　　细化内容生成标识

　　此次的《意见稿》提出，人工 智能生成合成内容标识包括显式标识和隐式标识。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

　　不同互联网平台的义务不尽相同。垦丁律所创始合伙人朱骏超告诉记者，网络信息服务提供者的义务包括确保显式标识、添加隐式标识；提供网络信息内容传播平台服务的服务提供者的义务包括核验隐式标识、添加提示标识、管理疑似内容，管理疑似内容包括在疑似生成合成内容的文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息；互联网应用程序分发平台的义务包括核验标识功能，即在应用程序上架或上线审核时，核验服务提供者是否按要求提供生成合成内容标识功能。

　　具体而言，针对提供生成合成服务的网络信息服务提供者，《意见稿》第四条提出，如果提供《互联网信息服务深度合成管理规定》第十七条第一款情形规定的深度合成服务，可能导致公众混淆或者误认的，应当按要求对生成合成内容添加显式标识。

　　《互联网信息服务深度合成管理规定》第十七条第一款提到的具体情形包括：智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务等。

　　显式标识方式根据内容表现形式有所差异。如果是图片，则需在适当位置添加显著的提示标识；如果是视频，则在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识，等等。

　　《意见稿》还要求提供生成合成服务的网络信息服务提供者，在生成合成内容的文件元数据中添加隐式标识，隐式标识需包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。同时，提供网络信息内容传播平台应当采取措施，规范生成合成内容传播活动。包括提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容等。

　　如果违反这一规定，未对生成合成内容进行标识造成严重后果的，将由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚。

　　新壹科技副总裁陈鹏对记者表示，《意见稿》保护了用户权益，通过显式和隐式标识，用户可以更容易地识别出内容是否由人工智能生成，有助于保护用户的知情权和选择权。另外，通过这一规范能增强内容可信度，减少误导和滥用的可能性。

　　吴沈括对记者提到，内容标识是目前关于人工智能内容治理中的一种非常重要的机制设计，它对于避免深度伪造带来的安全风险有非常大的价值，且通过标准的统一也有助于引导各方的业务规则、业务设计和业务模式，对于全链条的风险防范具有非常重要的作用，也能有助于公众识别AI内容的真伪和权威性。

　　“比如数据安全方面，显示和隐式标识有助于提高数据的可追溯性，从而增强数据安全；通过明确标识AI生成的内容，有效防止误导性信息的传播，减少因技术滥用而引发的社会问题。版权管理方面，办法明确AI生成内容的来源和版权归属，维护了创作者的合法权益。”彭菲认为，通过这些标识，用户能更容易识别出合成内容，从而规范和负责地使用这些内容，减少虚假信息的传播。该办法有助于促使行业服务提供者规范地开展业务，推动人工智能技术的健康发展和广泛应用。

　　防范AI犯罪

　　“《意见稿》大意是说生成相关内容如图片、视频、文字、语音必须标识说明为AI生成，防止有人恶意造谣、诈骗，引发不良影响的社会舆论，防止相关犯罪发生。之前有人非法用他人头像或者脸部做合成，通过AI转换语音进行诈骗，类似这种恶性事件应该杜绝。”AI视频制作者冯彬告诉记者。

　　就在8月底，韩国出现多起利用AI换脸伪造女性色情露骨图像的犯罪案，在这背后，犯罪者用深度伪造技术（Deepfake）合成色情照片和视频，并在通信软件Telegram的群聊中传播，参与者多达22万人，引发韩国民众恐慌，有人将其称之为韩国又一“N号房”丑闻。

　　深度伪造这一技术犯罪，不仅仅出现在韩国，这两年在全球都有出现在国内，今年6月，“男子用AI伪造学生同事近7000张裸照”冲上微博热搜。据央视新闻消息，犯罪嫌疑人用AI“一键去衣”技术，深度伪造淫秽图片近7000张，再每张1.5元卖出，赚了将近一万元。图片涉及女性人数多，包括学生、教师、同事。

　　冯彬表示，现在多个视频平台都有向视频上传者提供类似“作者声明：内容为AI生成”的标识选项，包括抖音、b站、快手、视频号，但是没有强制创作者选择。据他观察，没有标识为AI内容的视频，平台会识别出一些并标识类似“疑似AI生成”的字段。

　　冯彬认为，平台在标识、提醒内容是否为AI生成方面，应该更严格一些。相比视频、图片，平台应该更难识别文本是否为AI生成，而从传播效果看，视频可能是“假新闻”更多采用的载体，AI换脸、AI语音这些有可能滋生诈骗的内容也尤其值得关注。

　　目前国内外已经达成共识，要对AI生成内容进行标识和管理。去年7月，美国白宫与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包括开发水印系统等。欧盟委员会也要求社交媒体公司标记所有由人工智能生成的内容。

　　科技公司已经开始尝试用技术制衡AI滥用。今年2月，OpenAI 团队推出“AI 生成内容识别器”，旨在识别文本是由电脑自动生成还是人类撰写，其本质上是一个区别真实内容和 AI 生成内容的分类器。不过，OpenAI 在博客中指出，此识别器对 AI 撰写内容的检出成功率仅为 26%。

　　今年5 月，谷歌在 Google I/O 大会上公布了AI 生成图像识别工具，用户可以通过上传来源不明的图片、执行反向图片搜索，了解到这张图片被谷歌初次收录的时间、最早出现的网站。谷歌还宣布，它自己的生成式 AI 工具将在每张图片中包含元数据、嵌入水印，以表明这是 AI 生成的图像，而不是真实照片。相比AI 生成内容识别器，数字水印被认为可能是更有效的方法。

　　更早前，微软在Build 2023开发者大会上，宣布增加一项功能，让任何人都能识别Bing Image Creator和Microsoft Designer生成的图像或视频片段是否是由AI生成的。该技术使用密码学方法对AI生成的内容进行标记和签名，并附上有关其来源的元数据信息。

　　吴沈括表示，企业方面的是微生态，此次出台的标识办法标准则是国家和产业的大生态，“力度很大”。

　　（本文来自第一财经）

责任编辑：刘万里 SF014

李宗芸（记者 谢奕妹）09月14日,#endText .video-list .on{border-bottom: 8px solid #c4282b;}

李宗芸（记者 吕淑美）09月14日,　　截至目前，第十四届全国人民代表大会实有代表2944人。

出国旅游前办了漫游，预期600多元的话费却翻了倍？沪上市民金先生去阿根廷旅游前明明办了55元/天封顶的国际漫游，收到话费单傻了眼，投诉到消保委后，被告知因为他到了阿根廷后上了邮轮，虽然他自认为没上网，但还是按照另一套标准产生了资费……邮轮出游，上网费是“天坑”受到了不少人的吐槽，记者调查发现，想要透彻了解各运营商针对邮轮旅行的收费标准仍有一定的难度。随着日益掀起的“邮轮热”，运营商漫游尤其是邮轮上漫游资费应更透明，市民也应主动告知出境旅游的场景进行咨询，并关注短信提醒。出国旅游前办了漫游，预期600多元的话费却翻了倍？沪上市民金先生从阿根廷旅游归来一查话费账单，赫然的1250元话费让他感到惊讶——出国前特地去营业厅开通了国际漫游，比当时预估的话费整整高出一倍啊！“我当时特地打电话去咨询客服人员，了解到阿根廷当地的上网资费标准是一天封顶价格55元，流量不限，那么我去十天左右，最多550元钱的话费，有点贵，但还是能接受。”金先生说，在出发前，他在手机上操作了开通国际漫游的功能。到了阿根廷，金先生又加入了一趟为期10天的邮轮旅行，为了避免离开阿根廷产生其他标准的资费，金先生选择断网。“只要不上网就不会产生流量”，怀着这样的想法，金先生放心地登上邮轮去旅行。10天的行程中，的确没有主动上网，没有打开微信发消息，也没有打开网页进行搜索等等操作。阿根廷出发邮轮 资料图/视觉中国“为什么最终话费和电话咨询时预估的相差那么多？！”金先生纳闷又生气，于是将运营商投诉至上海市消保委，要求按照55元/天的资费标准，重新计算费用。记者从承接这一投诉的消保委工作人员处了解到，原来，金先生虽然没有主动上网，但也没有完全关机或打开飞行模式，因此其实手机仍处于联网状态，“收到消息推送等都会产生流量，而因为当邮轮驶出阿根廷，就会切换到另一套国际漫游流量资费标准，所以金先生最终的话费是按照一兆流量10.24元收取的。”相关工作人员告诉记者，金先生在邮轮上每天产生的流量在10兆左右，产生的资费则是100多元，10天的邮轮之旅，话费就占了1000多元，再加上在阿根廷3天，产生165元的资费，这一趟行程的费用一共就有1250元之多。“能否按照金先生的要求，重新计算资费？”消保委就这一问题与运营商交涉，了解到金先生在此前的电话咨询中，并未提及将登上邮轮，因此客服人员仅根据金先生所提到的目的地国家阿根廷的资费标准进行了说明，并没有告知金先生邮轮环境下的特殊资费情况。在金先生邮轮旅行的过程中，运营商曾多次发短信提醒，其中标明了每日产生话费的情况，金先生对此并无操作，而由于每天产生的资费并没有达到500元的熔断标准，10天均按照10.24元/MB，全天低速流量，这一“邮轮服务”国际漫游流量资费标准进行收费。客户人员称在金先生邮轮旅行的过程中，运营商曾多次发短信提醒，其中标明了每日产生话费的情况“出于这一沟通中产生误会，考虑到顾客体验，运营商提出了折中方案，愿意将费用打八折，降至1000元，然而，金先生仍不认同这一解决方案，说自己会再通过其他合法途径来维权。”虹口区消保委相关工作人员介绍道，他们在跟进中了解到，金先生后来又求助通信管理相关部门，出于专业判断，仍支持了运营商给出的“费用打八折”解决方案，在经过与金先生多次沟通、解释后，最终金先生接受了这一方案。众人吐槽：邮轮出游，上网费是“天坑”事实上，和金先生一样因为邮轮出行而遇到高昂上网费的人不在少数。“邮轮上一定要一直开飞行模式！”“坐邮轮出游，难免遇到上网费高的坑。”沪上市民徐先生说，坐了十几次出国邮轮，有时候还是会被上网费“背刺”。原来，不少邮轮会提供上网服务，不过价格不菲，徐先生很少购买，往往会选择断网享受安静的旅行，但仍会遇到“没有打开微信使用，但账单上还是多了90多元的海事信息费的情况”，假如你不知情继续使用，很有可能话费多达五百或上千，而且通信质量很差，最近我还感觉到，要交海事上网费用的范围越来越大，明明已经看到了目的地的岸上，打开手机漫游开关，还是会马上中招……”有网友提醒邮轮出行一定要关闭蜂窝数据“之前坐邮轮去日本旅行，到了日本海域附近，信号很微弱，就发了几条微信，几十块钱就没了。”随着选择邮轮旅行的人越来越多，手机漫游费这一邮轮旅行的“天坑”也成为越来越多人关注的话题。国际漫游服务已成为跨国旅行者的标配，邮轮上，不同运营商的漫游服务是怎样的呢？记者通过前往营业厅、电话咨询、网页查询等方式，对中国电信、移动、联通营业厅“乘邮轮旅行，漫游费怎么算，有没有漫游套餐”这些问题进行咨询，发现当下，不少客服人员对于运营商“邮轮相关漫游资费及服务”的了解也不尽到位，相关信息查询起来且费一番功夫，与当下愈盛的“邮轮热”并不匹配。电信营业厅相关工作人员告诉记者，目前在国际漫游资费这块，根据不同国家、地区有不同的标准，有些国家封顶价格为25元/天，有些55元/天，有些85元/天，还有些则是上不封顶，邮轮因为区域涉及到公海，记者在网上营业厅官网上看到，专设的“邮轮服务”一项里，手机上网的价格为10.24元/MB，上不封顶。图为航空服务和邮轮服务的各项收费标准当记者致电中国移动客服，一番咨询下来却得到了客服人员的致歉，原来，对于记者所提出的是否有针对邮轮推出的专门服务与资费，工作人员称建议自行下载中国移动APP，前往国际漫游专区了解符合自己旅程要求的相关资费。在中国移动官网上，记者看到，在“海事漫游”一栏，显示在海域范围，当“乘坐船舶在中国移动的境外合作运营商网络覆盖的航线上航行，可以享受海事漫游服务”，拨打和接听电话都在18.99元/分钟，数据流量9元包3M，每天封顶流量50M，封顶费用为90元。在解答问题的过程中，联通客服人员能查询到邮轮相关资费介绍，但对细节不甚了解。原来，当下，联通邮轮业务的提供商为：“美国WMS”、“挪威MCP”和“阿联酋Thuraya”，上网数据漫游都有不同的标准，而针对某一航线，究竟适用哪个资费标准，工作人员也表示不是很清楚。记者在三大运营商的官网界面都能看到对于东南亚、欧美等热门旅行地，有专门的介绍专区，而邮轮的相关标准需要多重点击后才能查询到，这为不少市民提前了解邮轮旅行的漫游资费带来了一些不便。如果在出发之前就难以透彻了解邮轮旅行过程中将要产生的资费标准，更何况旅行中？一番体验下来，记者深感，运营商在针对邮轮的资费透明度上的确有待提升。消保委：运营商漫游资费应更透明；市民应主动咨询、关注短信“金先生的案例，不仅是个人的遭遇，更是国际漫游服务领域资费透明度问题的一个缩影。”市消保委相关工作人员称，在金先生的经历中，尽管运营商在费用控制上有所作为，通过短信形式向用户发送了费用提醒，但未能全面覆盖如邮轮等特殊场景下的高额资费情况。这种信息的不完全透明，直接导致了消费者在不知情的状态下承担了远超预期的经济负担，侵犯了消费者的知情权和公平交易权。消保委建议，通信服务运营商应当优化资费结构，提升资费透明度，提供更加优质、经济、透明的国际漫游服务。“在我们协调的过程中，也发现不少市民忽略了运营商发的短信，而导致话费‘失控’，金先生的手机里其实收到了5条关于资费提醒的短信，如果能够积极地处理，能及时止损。”消保委相关工作人员介绍，至少应该有这样一个动作，方便后期消保委帮助消费者进行维权。并且，处理异常资费所产生的流量或话费也可在消保委的协调之下酌情处理。金先生的手机里收到的关于资费提醒的短信上海市消保委建议，广大消费者在选择国际漫游服务时，务必保持高度警惕，认真阅读服务条款，特别是关于特殊环境下的资费政策。在出行前，主动向运营商咨询并确认相关费用细节，以做出更加合理、经济的决策。一旦遭遇权益受损的情况，应积极向消保委等相关部门投诉举报，通过合法途径维护自身权益。