网信办新动作,事关每一家AIGC平台算法备案!
核心提示
2023 年 6 月 20 日,国家互联网信息办公室公布了中国境内第一批深度合成算法备案名录,众多大厂及 AIGC 行业先行者成功上榜。这既是中国算法与人工智能风险治理的关键一步,也是 AIGC 行业合规的重大突破。
今天飒姐团队就为大家详解什么是深度合成算法备案,以及 AIGC 行业在什么情况下需要备案、如何备案等问题。
一、什么是深度合成算法备案?
截至目前,我国针对 AIGC 工具的专门性立法有两部,均由国家互联网信息办公室制订并发布:
1. 《互联网信息服务深度合成管理规定》(以下简称《深度合成规定》);
2. 《生成式人工智能服务管理办法(征求意见稿)》(以下简称《管理办法草案》)
由于 AIGC 本身具有较强的引导或者说诱导能力,借助信息网络技术传播速度快、传播面广的特性,很可能导致 AIGC 内容在短时间内实现病毒式扩散,例如不久前某自媒体平台利用 ChatGPT 制造假新闻并广泛传播博取流量并不当引导部分地区民众舆论的案件,已经明确的向我们展示了 AIGC 工具本身作为一种舆论引导工具抑或说欺诈工具的风险。正是基于该特性,我国监管机关基于维持社会公共秩序的长期和谐稳定的这一法益出发,赋予 AIGC 企业对自身算法进行备案的义务。
那么首先我们需要明白所谓深度合成技术指的是什么。根据《深度合成规定》第二十三条之规定,深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术,包括但不限于:
(一)篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术;
(二)文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术;
(三)音乐生成、场景声编辑等生成或者编辑非语音内容的技术;
(四)人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术;
(五)图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术;
(六)三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
以上列举式的六类应用外,根据《管理办法草案》第六条之规定:利用生成式人工智能产品向公众提供服务前,应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
因此在《管理办法草案》生效后,如果该条款没有大的变动,我们还应当根据该管理法版第二条之规定,将涉及“算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。“囊括入”深度合成技术”的范畴内。
二、哪些深度合成技术算法需要备案?
飒姐团队提示,并非所有的深度合成技术都需要其服务提供商进行备案登记,在技术中立原则的指导下,仅有满足特定条件的深度合成技术服务提供商才需要对其算法进行备案。
具体来说,进行深度合成算法备案的 AIGC 行业主要集中在《深度合成规定》第十九条规定的『具有舆论属性或者社会动员能力的深度合成服务提供者』这一范围中。但在实践中关于什么是“具有舆论属性或者社会动员能力”的界定标准却相对较为模糊。
根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第二条,具有舆论属性或社会动员能力的互联网信息服务,包括下列情形:
(一)开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能;
(二)开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。
严格意义上讲,AIGC 并不属于上述第一款中服务提供者所提供的任何一项服务,大多数的 AIGC 目前也并没有将自己只作为一种社交媒体平台。一家之言,飒姐团队认为,在基于前述 AIGC 本身在社交媒体平台上具有广泛传播的风险的情况下,从实质性监管的角度来看,其大概率符合“公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务”的这一兜底性条款。
因此,从这个角度来说,基本 AIGC 行业的所有赛道的服务提供者们都可能涉及深度合成算法备案,包括而不限于文本生成、图像生成、视频生成、音频生成等。最重要的判断标准在于用户群体的开放程度,如果该服务提供者面向不特定公众提供服务,那么基本上就在《深度合成规定》的辐射范围内。
三、如何进行深度合成算法备案
首先,备案方式为网上备案。根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》的要求,符合备案要求的服务提供者应当在安全管理服务平台(地址;http://www.beian.gov.cn/)上进行备案。
在备案过程中,影响备案成功率最重要的一份材料就是深度合成服务提供者递交的《评估报告》。深度合成服务提供者和技术支持者提供两类特定功能的模型、模板等工具的,必须提供自评估或委托专业机构进行安全评估后出具的《评估报告》:
1. 生成或者编辑人脸、人声等生物识别信息的;
2. 生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。
由于以上两类服务涉及的领域及信息较为敏感,评估具体内容应当在基本评估维度之上,增加与《个人信息保护法》《网络安全法》及《数据安全法》相符合的评估标准。
一般而言,评估标准有七大项,分别为:
(1)安全管理负责人、信息审核人员及安全管理机构设立情况;
(2)用户真实身份核验及注册信息留存措施;
(3)对用户账号、操作时间、操作类型、网络源地址和目标地址、网络源端口、客户端硬件特征等日志信息,以及用户发布信息记录的留存措施;
(4)对用户账号和通讯群组名称、昵称、简介、备注、标识,信息发布、转发、评论和通讯群组等服务功能中违法有害信息的防范处置和有关记录保存措施;
(5)个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险的技术措施;
(6)建立投诉、举报制度,公布投诉、举报方式等信息,及时受理并处理有关投诉和举报的情况;
(7)建立为监管部门和执法部门依法履职提供技术、数据支持和协助的工作机制的情况。
写在最后
深度合成备案制度是我国人工智能及算法风险治理的一项重要创举及新突破,飒姐团队建议,AIGC 行业务必在咨询专业合规人士的情况下进行算法安全评估以及深度合成算法备案。目前来看,飒姐团队认为该项算法备案是 AIGC 行业的一项重要且具有普遍性的合规义务,除非影响力较小且极为封闭的 AIGC 服务提供者外,其他 AIGC 服务提供主体均需要履行该项义务,以防滋生行政甚至刑事风险。
比推快讯
更多 >>- Kamino基金会将推出KMNO质押,质押Multiplier最高可提升至3倍
- Coinbase将在 Solana 网络上添加对Neon EVM (NEON) 的支持
- 5万枚GNO转入Gnosis Treasury钱包地址,价值超1600万美元
- 疑似孙宇晨地址再次从Binance转出8170枚ETH,约合2592万美元
- EigenLayer疑似开通Eigen Foundation官方账户
- 加密交易生态系统LazyBear完成400万USDT战略融资,DWF Labs等参投
- 美国九只现货比特币ETF今日净流出超1.4亿美元,贝莱德连续3天未增持或减持BTC
- 某巨鲸向Coinbase存入400枚BTC,若全部出售将获利215万美元
- OSL ETF及托管业务负责人:香港对以太坊早有明确定义,并不是证券
- friend.tech v2预计将推迟至5月2日发布
- 数据:第一季度Filecoin FVM TVL超过6亿美元
- 华夏基金:预计首批香港比特币现货ETF首发规模将超1.25亿美元
- Nansen:过去 30 天内,Tether、USDC 和 DAI 交易量超过 Visa 2023 年的月度平均水平
- 6个巨鲸地址在市场下跌期间抛售超4.4万枚ETH,价值约合1.4亿美元
- CONSENSYS 称 SEC 执法总监于 2023 年 3 月批准了调查以太坊的正式命令
- 美国缓刑办公室建议对CZ缓刑五个月
- FOX:美SEC主席在过去一年认定ETH为未经注册的证券
- BCB Group在法国获得数字资产和电子货币许可证
- Tether Evo战略投资Blackrock Neurotech公司2亿美元
- HKbitEX与上海技术交易所启动上技所跨境技术贸易港澳服务中心
- 欧盟10国拟推进将数字资产市场法纳入本国法律
- 华夏基金为香港首批现货加密ETF规模最大的发行方
- Web3人才网络Braintrust推出AI招聘平台AIR
- 币安在菲禁令可能有利于当地加密货币市场发展
- 某鲸鱼地址向币安存入33383枚ETH
- 加拿大总理提议对股票和加密货币征收资本利得税
- 沉睡2年的鲸鱼地址向Lido存入1300枚ETH
- Covalent已通过私人交易购入FTX破产财团持有的CQT代币
- Web3 游戏初创公司 GFAL 筹集 330 万美元种子轮融资
- 孙宇晨:预测美国SEC将在5月份拒绝以太坊ETF
- USDC上周交易量达4560亿美元超越USDT的890亿美元交易量
- Visa:Circle的USDC在稳定币交易量超越USDT
- Manta联创:参与Renew Paradigm的11个Manta生态项目将根据NFT销毁分配其总代币供应量的3%
- Jupiter LFG Launchpad第二期项目UpRock公布UPT代币公平分配路线图
- Uniswap在Taiko主网上部署Uniswap V3的提案正式通过
- 老虎证券支持首批虚拟资产现货ETF零佣金交易
- QCP Capital:经济增长放缓和通胀持续升温的滞胀组合进一步削弱美联储降息可能性
- Peter Brandt:比特币或已见顶,可能回落至3万美元
- Aboard Exchange宣布完成最新升级
- ETH跌破3200美元
- 香港虚拟银行Mox:拟透过Mox Invest证券交易平台向客户提供虚拟资产ETF
比推专栏
更多 >>- IOSG Weekly Brief|Base社交协议王国:消费者应用沉淀下的海量用户和数十亿TVL #222
- NEAR:为何AI需要Web3?Web3究竟会给AI带来什么样的颠覆式进步
- Polkadot 的未来升级方向 “JAM” 究竟是什么?
- Chainlink Labs新增战略联盟成员,本周有哪些大事件呢?|Chainlink 周报
- 比特币成长的代价
- Meta 开放 MR 系统授权,联想华硕加盟;黄仁勋:别买车,买机器人!;12306:别信!任何「加速包」都没用| 极客早知道
- 炒虚拟货币血本无归,委托人要求返还投资款,法院:损失自担!
- 终于,比特币挖开了黄金的“墙角”?
- 比特币减半完成Runes符文协议上线,前十项目都有哪些?10个工具助你打新和发现Alpha项目
- 一种估算比特币泡沫大小的科学方法
观点
项目
比推热门文章
- Coinbase将在 Solana 网络上添加对Neon EVM (NEON) 的支持
- 5万枚GNO转入Gnosis Treasury钱包地址,价值超1600万美元
- 疑似孙宇晨地址再次从Binance转出8170枚ETH,约合2592万美元
- EigenLayer疑似开通Eigen Foundation官方账户
- 加密交易生态系统LazyBear完成400万USDT战略融资,DWF Labs等参投
- 美国九只现货比特币ETF今日净流出超1.4亿美元,贝莱德连续3天未增持或减持BTC
- 某巨鲸向Coinbase存入400枚BTC,若全部出售将获利215万美元
- OSL ETF及托管业务负责人:香港对以太坊早有明确定义,并不是证券
- 香港虚拟资产 ETF 上市前夜,速览华夏基金简报会关键信息
- friend.tech v2预计将推迟至5月2日发布