deepseek吧 关注:128,281贴子:310,138
  • 16回复贴,共1

给吧友解读一下《人工智能生成合成内容标识办法》

只看楼主收藏回复

前天这个文件公布了正式版,看有吧友有各种误解,正巧楼主毕业论文的主题就是用标识制度规制AI虚假信息,所以简单写个解读贴。


IP属地:山东1楼2025-03-16 11:47回复
    叠甲环节,楼主就是普通大学法本应届生,以下所有内容都是我的个人观点,我不保证我的任何观点一定对,我的认知有限,如果和任何有权解释、判例、专家解读等有差异,那就是我学艺不精,我错了,我改,我忏悔。


    IP属地:山东2楼2025-03-16 11:47
    回复
      2025-08-12 04:51:03
      广告
      不感兴趣
      开通SVIP免广告
      1.Q:《人工智能生成合成内容标识办法》是干什么的?
      A:简单来说,就是法律规定AI生成的内容需要标注“由AI生成”(比如添加水印)。该办法具体规定了各种类型的AI(文本、图片、视频音频等等)应该如何标注。主要目的是为了防范AI虚假信息风险,同时还有侵权追责、保护知识产权之类的作用。国家主要是为了防范虚假信息之类的考量,大伙不要被害妄想症式的觉得在针对自己。


      IP属地:山东3楼2025-03-16 11:49
      回复
        2.Q:以后AI跑的内容都会被标注吗?
        A:首先,《人工智能生成合成内容标识办法》2025年9月1日生效。其次,《人工智能生成合成内容标识办法》不!是!首次规定!AI生成的内容需要标注!23年1.10开始实行的《互联网信息服务深度合成管理规定》17条、23年8.15开始实行的《生成式人工智能服务管理暂行办法》12条也都规定了需要标注,但是只是提了一嘴,缺乏具体细致规定,这次的《人工智能生成合成内容标识办法》则是对哪些AI得标注,做什么样的标注做了具体规定。有吧友说deepseek在《标识办法》公布之后生成内容就开始加入标识了,实际并非如此,我二月让ds帮我写论文的时候,问ds相对专业的知识就见过“本回答由AI生成,内容仅供参考,请仔细甄别。”的字样。但是并非每次都会出现,感觉ds会检测一下回答的内容是不是需要严谨一些,只有要严谨回答的才会加上述字样。


        IP属地:山东4楼2025-03-16 11:50
        回复
          3.Q:既然之前也规定了需要标注,那9月1号之后会有什么变化?
          A:之前的法规只规定了“需要标注”,但是没具体规定“怎么标注”。《人工智能生成合成内容标识办法》(以下简称《标识办法》)则是填补了这一空白,比如规定了显式标识和隐式标识。当然这也是在法律意义上规定“怎么标注”,在技术意义上怎么标注,详见与《标识办法》配套的技术标准GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》。


          IP属地:山东5楼2025-03-16 11:51
          回复
            4.Q:啥是显式标识,啥是隐式标识?
            A:推荐感兴趣的自己去看看GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》(网址:https://openstd.samr.gov.cn/bzgk/std/newGbInfo?hcno=F32EA2A561F1886CD8D606513512D547)。显式标识是在人工智能生成合成内容或交互场景界面中添加的,以文字、声音、图形等方式呈现并可被用户明显感知到的标识。隐式标识是采取技术措施在人工智能生成合成内容文件数据中添加的,不易被用户明显感知到的标识。隐式标识包括文件元数据隐式标识和内容隐式标识(比如说数字水印)


            IP属地:山东6楼2025-03-16 11:52
            回复
              5.
              Q:哪些内容会被显式标识,哪些内容会被隐式标识?
              A:对于显式标识,《标识办法》引用了《互联网信息服务深度合成管理规定》第17条的标准,即“可能导致公众混淆或者误认”的内容应该使用显式标识。
              对于隐式标识,《标识办法》引用了《互联网信息服务深度合成管理规定》第16条:“第十六条 深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识,并依照法律、行政法规和国家有关规定保存日志信息。”
              我认为《互联网信息服务深度合成管理规定》第16条的意思就是说AIGC都需要隐式标识。不过大伙别慌,结合其他法律文件,我认为deepseek跑的文本不会被添加隐式标识。这点我下一条细说。


              IP属地:山东7楼2025-03-16 11:54
              回复
                6.
                Q:对大伙用deepseek有影响吗?
                A:我觉得没啥影响。先说显式标识,只有“可能导致公众混淆或者误认”的内容才被要求添加显式标识,大伙用deepseek跑的无关紧要的玩意是不会被添加显式标识的,而且根据GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》附录中展示的合成文本内容显式标识的样式,大伙只要复制的时候不把标识一块复制了就行。
                再说隐式标识:隐式标识只规定了“元数据隐式标识”和“内容隐式标识”两种。对于“元数据隐式标识”,GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》附录中只举例了图片、音频、视频的“元数据隐式标识”,而没有展示文本的“元数据隐式标识”方法,理由大家相比都能猜到,因为文本不具有文件的形式,所以加不了元数据隐式标识。
                对于“内容隐式标识”,目前各类法规对于“内容隐式标识”只提到了数字水印这一种方式;《标识办法》第5条写的是“鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。”也就是说只鼓励一下,不强制要求添加数字水印,GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》也载明“内容隐式标识在本文件中不做要求。”如此规定的原因我猜测即因为技术上不容易做到,也因为成本太高,还AI生成的文本风险小,没必要严格要求。
                综上,笔者认为用deepseek生成的文本内容目前不适用隐式标识。可见显式标识不影响,隐式标识用不上,所以对于大伙用deepseek几乎没啥影响。


                IP属地:山东8楼2025-03-16 11:55
                收起回复
                  2025-08-12 04:45:03
                  广告
                  不感兴趣
                  开通SVIP免广告
                  GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》附件中展示的显示标识示例




                  IP属地:山东9楼2025-03-16 12:00
                  回复
                    7.Q:“这个法令是说颁布之后以前的ai生成物是否受这条法律管制,那样的话9.1前岂不是全免死金牌了,比如说毕业论文等等应届大学生刚好吃到版本红利了嘛不是。还是说颁布之后,即日起不管过去的,以前的ai生成物都拦腰掐死?”
                    A:第一,法不溯及既往。第二,9.1之前,《互联网信息服务深度合成管理规定》早就规定过需要添加标识。第三,法规没有能力管制“生成物”,只能通过规定各类主体的义务的方式规制“人”。《标识办法》只是规定了人工智能服务提供者、互联网平台提供者的标识义务,以及用户不能删除篡改标识的义务。


                    IP属地:山东10楼2025-03-16 12:03
                    回复
                      目前就想到这些,如果看见其他大伙比较好奇的问题之后会更新这个帖子


                      IP属地:山东12楼2025-03-16 12:07
                      回复
                        顺便给大伙讲个笑话吧。《人工智能生成合成内容标识办法》的征求意见稿去年9月就公布了,楼主二月底开始写论文,论文很大一部分内容都和这个征求意见稿有关。三月六号把初稿交给导师过目,14号早上交上了开题报告,结果没过几个小时《标识办法》的正式版就公布了。byd我的论文还没活过俩星期就因为法规公布正式版而需要全篇大改,气得我抽了半包烟都没压下去唉,这都是你法学生应得的


                        IP属地:山东13楼2025-03-16 12:08
                        收起回复
                          好惨一楼主,就算是为了你的毕业论文也得……
                          好好嘲笑你


                          IP属地:广西来自Android客户端15楼2025-03-17 02:43
                          回复