
肖飒:AIGC创业,有哪些法律禁忌?
自 chatGPT 火遍全球之后,各国又掀起了一波 AI 领域的创业潮。马斯克在采访中也强调人工智能的发展可能会给人类带来空前灾难。结合欧盟人工智能法律提案和我国诸多法规,飒姐团队给诸位创业者一些法律提示。希望大家的创新应用能够开花结果。
一、欧盟在哪些领域明令“禁止的人工智能实践”
2021 年 4 月欧洲议会和理事会制定关于人工智能的统一规则(《人工智能法》)的提案,对于全球 AI 领域的监管规制给出了“样板间”。总结下来就是,AI 研发不能涉及对人身心摧残的领域,不能歧视弱势群体,要尊重每个人的权利,对于 3 年以上有期徒刑的嫌疑人可以实时远程生物识别。具体如下:
(1)不得在市场上投放、使用个人无法认识的方式来进行“潜意识教化”的技术,以这种方式严重扭曲人的行为并致使其身心受到伤害。
(2)不得利用特定人群的年龄、身体、精神残疾等,以导致其身心伤害的方式,实质性扭曲与该人群有关的行为。
公共机构或其代理人在市场,不得投放在一定时期内对自然人的信誉进行评估或分类的 AI 系统,且其社交评分可能会导致如下一项或两项: (1)在与原始数据生成或收集场景无关的社会场景,对自然人或群体有害或不公平 待遇; (2)对某些人或群体的社会行为有严重伤害或不公平待遇。
出于执法目的在公共场所使用“实时”远程生物特征识别系统,排除下列行为之一,且有必要:(1)针对性寻找特定刑事受害人,例如失踪儿童;(2)预防对人的生命或身体有伤害的行为,或恐怖袭击;(3)侦测、定位、识别、起诉特定罪名的犯罪嫌疑人,且该嫌疑人的刑期为 3 年以上。
二、中国法律法规对人工智能的规制
经过梳理,我们对于内地 AI 法律规制的大致地图是:《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》《互联网信息服务深度合成管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》等。但并没有对于 AI 领域的专门法律进行规制,随着文心一言(百度推出)和其他竞品的出现,飒姐认为,对于 AIGC 领域的规制可能会增多,但法律规制宜粗不宜细,倘若给从业人员和企业太多枷锁,就很难创造出伟大的产品。
从目前情况看,AI 领域创业行为的监管部门主要有:国家网信部门;国务院电信部门;公安部门;数据局。
具体的监管手段有:(1)安全评估,对于具有舆情属性或者社会动员能力的,参照《具有舆情属性或社会动员能力的互联网信息服务安全评估规定》评估。(2)履行备案,按照《互联网信息服务算法推荐管理规定》进行备案;(3)开展监督检查,监管部门均有权力进行监管,具体事前、事中、事后根据各自分工进行。
秉承原则“向上向善”,飒姐凝练为:
具体边界
1. 不得从事涉政涉黄;
2. 不得合成虚假新闻,非持牌不得传播非国家规定范围内的单位发布的新闻;
3.不得违背公序良俗(例如第三者如何抢夺原配家产)
4.不得生成违法和不良信息,这方面可以健全相应“特征库”,筛选健康信息;
5.不得恶意贬损他人名誉和企业商誉(法律后果是会被起诉名誉权侵权);
6. 对于不可控的创作内容,采取及时删除降低社会危害。
飒姐认为不宜在禁止性条件中增加“其他行为”,因为这个“其他”会给创业者严重的不安全感,成文法就是要白纸黑字,清清爽爽,加上“其他行为也可处罚”一下子就把苦心经营的营商环境给戳破了,还有谁敢豁出命来搞创新、搞创业?!法律要给创业者一个软性保障,2023 年 3 月 23 日国家互联网信息办公室发布《网信部门行政执法程序规定》对于行政机关的行政处罚等行为进行法律规制,明确“一事不再理”,明确程序和回避制度,减少网信部门滥用权力的可能性,直接而明确的回应了科技行业的呼声和需求,这种制度供给是各方都欢迎的。我们期待更多规制行政行为的法律法规,尽快出现,确保市场主体的明确预期。
三、AIGC 创业公司的 20 个合规义务
根据 2023 年 1 月 10 日生效的《互联网信息服务深度合成管理规定》,截止目前,在中国内地进行类 chatGPT 业务需要遵守的合规义务有:
具体合规义务
-
健全用户注册制度;
-
算法机制机理审核;
-
科学伦理审查;
-
信息发布审核;
-
数据安全管理制度;
-
个人信息保护制度;
-
反电信诈骗制度;
-
应急处置管理制度;
-
在 App 或网站,公开管理规则、平台公约,完善服务协议,以显著方式提示各方承担信息安全义务;
-
健全勇于识别违法和不良信息的特征库,留存日志;
-
发现违法和不良信息,有向主管机关报告的义务;
-
发现违法和不良信息,对使用者依法依约,采取处置措施;
-
全辟谣机制;
-
设置便捷申诉和举报入口,及时反馈结果;
-
加强训练数据管理;
-
定期审核、评估、验证生成合成类算法机制机理;
-
依法自行或委托专业机构开展安全评估;
-
对生成内容,采取技术措施添加不影响用户使用的标识;
-
不得删除、篡改、隐匿深度合成标识;
-
按照《互联网信息服务算法推荐管理规定》履行备案、变更、注销备案手续。
同时,遵守新闻出版、文化和旅游、广播电视主管部门的规定。
三、政策风向和科技伦理
应该说 AI 领域的科技创新,是各方乐见其成的,因此,从政策层面讲,对 AI 行业是利好的,尤其是对标 Chat GPT 和欧美推出的各类技术应用。飒姐比较担心的是个别地方办案机关,还是有罚没和罚款冲动,对于创业者的一些利用数据的行为进行“严格解释”,从而导致数据犯罪案件的攀升。
对于大厂而言,也许不会亲自下场去打捞数据,但不可否认大厂具有集团优势,其产业集团内不同板块的数据集中到某个特殊目的公司进行深入加工,喂养 AI,然而,数据在集团内部跨法人主体的转移,也有较大的法律争议,甚至在某些案件中,直接给予了负面评价。如果集团内部每个公司的数据只能用于自己的客户维护,那么,其优势就丧失殆尽。而如果购买外部公司数据,则有可能“放任”外部公司数据的“灰色”,上个月有几家南方的数据公司找飒姐谋求上市前的合规,我们也想帮忙,但现行法的规定不能置若罔闻,有些企业虽然很赚钱,但确实在犯罪边缘游走,对于爬虫技术的应用已经超越了法律边界。大厂用了这些灰色的数据,自身可能会背上教唆犯的十字架。如果不用这些数据,也许自身的成长就会慢些。
在选择 GDPR 模式还是人身权与财产权分离模式时,我国法律也在移植哪种法律技术更符合国情上有过考量。现实是法律规定很完备,但市场和技术没有如预期一样迅猛增长。各国企央企的数据还是牢牢攥在自己手中,宁可烂了,也不流动和分享。数据局的出现,也许就是为了打破“信息孤岛”,让数据真正流动起来,发挥生产要素的作用,提振实体经济。
在科技伦理方面,飒姐坚信:科技不应作恶,AI 创业要尊重自然法的基本原则,不能戕害弱者,不能加深歧视,不可有意帮助犯罪,不宜提供自杀自残的方法,鼓励健康的生活方式,引导人们远离毒品和暴力。法律,其实应该是从人们心里长出来的,每个人心里都有一杆公平秤。
写在最后
闲暇时,飒姐和团队伙伴也会在茶馆和咖啡馆听一听旁边的陌生人在谈论什么,让人觉得欣喜的是:人们不再悲观,而是现实地开始寻找新创业契机。我们中国人是韧性十足的,在 AIGC 方面也会有自己的展业思路。坚持长期主义,未来是美好的,无论如何。
比推快讯
更多 >>- PUMP 代币公售已开始
- PUMP 在 Binance 上持仓总价值达 4269 万美元,大户多空比为 1.11
- Gate 即将开启 Pump.Fun(PUMP)公开认购通道
- 经济学家:比特币供应量并不重要,起决定作用的是聪供应量
- 近 24 小时 LetsBONK 收入、毕业代币数仍领先 pump.fun
- 数据:过去 24 小时全网爆仓 3.95 亿美元,多单爆仓 2.75 亿美元,空单爆仓 1.2 亿美元
- 特朗普已分四批向 24 个贸易伙伴发出关税函
- 下周宏观展望:CPI 审判日即将到来,比特币或将续创历史新高
- 本周实行比特币财库策略的 35 家公司实体共买入 4700 枚 BTC
- James Wynn 已注销其 X 账户
- “美联储传声筒”:美联储独立性再受挑战,预计本月不会降息
- 内幕交易员@qwatio 从 Maker 赎回 1000 万 USDC,转进 Hyperliquid 再次开空
- 白宫数字资产政策顾问:“加密周”将巩固美国的全球加密货币之都角色
- Tabi 旗下 TabiPay Alpha 测试启动,限量 1,000 名额
- 马耳他资管公司 Samara Asset Group 披露持有 525 枚 BTC,相当于其市值的 28%
- 0xSun 谈 pump.fun 发币参与策略:可根据公售速度制定不同的策略
- 挪威工业投资公司 Aker ASA 通过比特币寻求资本平衡配置,目前持仓达 754 枚
- BlockFi 破产管理人与美国司法部达成和解,驳回 3500 万美元诉讼
- Solana 区块链策略游戏 Honeyland 被 BRAVO READY 收购
- 数据:CoinUp 平台币 CP 现报 0.47 美元,较开盘价涨幅逾 15 倍
- 某地址向 Hyperliquid 存入 135 万 USDC 并做以 2 倍杠杆多 PUMP
- 某鲸鱼/机构归集休眠 2 年钱包,总计积累 51,431 枚 ETH,浮盈超 20 倍
- Sunriselayer:空投申领检查器已上线,申领练习将于北京时间 15 日 8 时结束,主网及 TGE 于 Q3 进行
- 数据:比特币 ETF 产生的需求近两日已达日产量的 20 倍左右
- 疑似质押服务商 Arthapala 过去一小时再次向 CEX 充值 4120 枚 ETH
- Arthur Hayes 过去一天通过多种渠道购买价值 150.5 万美元 ENA
- 继 Coinbase 之后,OpenSea、MoonPay、波卡等项目官方账号头像换为胖企鹅形象
- Aethir:节点许可证转移系统上线,系首个解锁节点二级市场的加密项目
- 某聪明钱加仓 40 倍比特币空单,入场均价达 11.77 万美元
- 美国比特币现货 ETF 首次连续两日净流入超 10 亿美元,该 ETF 推出以来仅 7 次日流入量超 10 亿
- 分析师:历史数据显示 7 月、10 月是比特币表现最稳定的增长月份
- 3A 区块链游戏 Seraph 启动紧急回购应对价格波动,链上地址透明公示
- 恺英网络香港子公司获 SFC 颁发 4 号及 9 号牌照,加速全球化布局
- PUMP 于 Hyperliquid 盘前市场未平仓量已达 1.52 亿美元,资金费率偏空
- Hyperliquid 未平仓合约达 10.6 亿美元,创历史新高
- 多个昨日热门代币出现“钓鱼线”走势,普遍下跌 10%-30%
- 某新建钱包地址买入 11.88 万枚 HYPE,均价 46.27 美元
- Crypto.com 探索在迪拜免税店引入加密货币支付
- 24 小时现货资金流入/流出榜:ETH 净流出 2.53 亿美元,BTC 净流出 2.23 亿美元
- Meta 收购语音初创公司 PlayAI,以增强音频技术
- Letsbonk 创始人:平台网站更新预计下周陆续推出
- 某鲸鱼昨晚 15 倍杠杆做空 ETH,仓位高达 3.7 万枚 ETH,名义价值 1.1 亿美元
- 路华证券拟申请香港虚拟资产交易牌照并引入稳定币支付结算业务
- Bitcoin Treasury Capital:以 500 万瑞典克朗增持 4.4 枚 BTC,当前持仓总量增至 152 枚
- 数据:过去 7 天 USDC 流通量约增加 7 亿枚
- Huma 2.0 存款将于 7 月 13 日开放,单个钱包额度 50 万美元
- RootData:QUAI 将于一周后解锁价值约 184 万美元的代币
- 某 Smart Money 地址清仓 141.7 枚 BTC,持币 1 个月获利 182 万美元
- 男子因 SIM 卡交换盗取 2200 万美元加密货币刑期增加至 12 年
- FTX/Alameda Staking 地址向 Bitgo Custody 转移 18.98 万枚 SOL,价值 3117 万美元
比推专栏
更多 >>观点
比推热门文章
- PUMP 代币公售已开始
- PUMP 在 Binance 上持仓总价值达 4269 万美元,大户多空比为 1.11
- Gate 即将开启 Pump.Fun(PUMP)公开认购通道
- 经济学家:比特币供应量并不重要,起决定作用的是聪供应量
- 近 24 小时 LetsBONK 收入、毕业代币数仍领先 pump.fun
- 数据:过去 24 小时全网爆仓 3.95 亿美元,多单爆仓 2.75 亿美元,空单爆仓 1.2 亿美元
- 特朗普已分四批向 24 个贸易伙伴发出关税函
- 下周宏观展望:CPI 审判日即将到来,比特币或将续创历史新高
- 本周实行比特币财库策略的 35 家公司实体共买入 4700 枚 BTC
- James Wynn 已注销其 X 账户