马斯克等千人联名签署公开信:《暂停巨型人工智能实验》全文
马斯克等千人联名签署公开信《暂停巨型人工智能实验》。具体网页见:https://futureoflife.org/open-letter/pause-giant-ai-experiments/
具有与人类相媲美的智能的人工智能系统,可能对社会和人类产生深远的风险,这已经得到了大量研究[1]的证实,并得到了顶级AI实验室的支持[2]。正如广泛认可的阿西洛马人工智能原则所述,先进的人工智能可能会给地球生命历史带来深刻的变革,因此应该用相应的关注和资源进行规划和管理。遗憾的是,即使在近几个月里,AI实验室在开发和部署越来越强大的数字智能方面陷入了失控的竞赛,而这些数字智能甚至连它们的创造者都无法理解、预测或可靠地控制,这种规划和管理的水平也没有得到实现。
当代AI系统现已在通用任务方面具有与人类竞争的能力[3],我们必须问自己:我们是否应该让机器充斥着我们的信息渠道,传播宣传和虚假信息?我们是否应该将所有工作自动化,包括那些有成就感的工作?我们是否应该开发可能最终超越、取代我们的非人类智能?我们是否应该冒着失去对文明的控制的风险?这些决策不能交由未经选举的科技领袖来做。只有在我们确信AI系统的影响将是积极的,风险将是可控的情况下,才能开发强大的AI系统。这种信心必须有充分的理由,并随着系统潜在影响的增大而增加。OpenAI最近关于通用人工智能的声明指出:“在某些时候,可能需要在开始训练未来系统之前获得独立审查,而且各个最先进的系统训练尝试,应该就限制用于创建新模型的计算增长速度达成一致意见。”我们同意。那个时候就是现在。
因此,我们呼吁所有AI实验室立即暂停至少6个月的时间,停止训练比GPT-4更强大的AI系统。这种暂停应该是公开的、可验证的,并包括所有关键参与者。如果这样的暂停无法迅速实施,政府应该介入并实行禁令。
AI实验室和独立专家应利用这段暂停时间共同制定并实施一套先进的、共享的AI设计和开发的安全协议,这些协议应由独立的外部专家严格审计和监督。这些协议应确保遵守它们的系统在排除合理怀疑之后是安全的[4]。这并不意味着暂停AI发展,而只是从危险的竞赛中退一步,避免发展出具有突现能力的更大、更不可预测的黑箱模型。
AI研究和发展应该重新关注如何使当今强大的、处于技术前沿的系统更加精确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
与此同时,AI开发者必须与政策制定者合作,大力加快AI治理系统的发展。这些至少应包括:致力于AI的新的、有能力的监管机构;对高能力AI系统和大量计算能力的监督和追踪;源头和水印系统,以帮助区分真实与合成以及追踪模型泄漏;强大的审计和认证生态系统;对AI造成的损害承担责任;技术AI安全研究的充足公共资金支持;以及应对AI带来的严重经济和政治颠覆(特别是对民主制度)的有充足资源的机构。
人类可以与AI共享繁荣的未来。在成功创造出强大的AI系统后,我们现在可以享受一个“AI夏天”,在这个时期,我们可以收获硕果,为所有人带来明确的利益,让社会有机会适应。社会已经在其他可能对社会产生灾难性影响的技术上按下了暂停键[5]。我们在这里也可以做到。让我们享受一个漫长的AI夏天,而不是毫无准备地跳入秋天。
比推快讯
更多 >>- 链游生态系统Tevaera完成500万美元融资
- 彭博社Eric Balchunas:香港三家基金公司BTC/ETH现货ETF费率分别为0.3%、0.6%和0.99%
- 链游平台Puffverse完成300万美元融资
- 贝莱德IBIT持仓超27.4万枚比特币
- 香港证监会已列出几个比特币和以太坊现货ETF及股份代号
- 博时基金与HashKey Capital的比特币和以太坊现货ETF正式获批
- 拜登提议对股票和加密货币征收100多年来最高的资本利得税
- 华夏比特币和以太坊现货ETF获香港证监会批准,预计4月底推出
- 嘉实比特币和以太坊现货ETF正式获批,预计4月底推出
- Floki与Alchemy Pay达成合作,支持使用法币购买FLOKI
- 尼日利亚央行将冻结Bybit、KuCoin、OKX、Binance用户账户
- Stratos去年推出的WIF流动性代币基金获得300倍的回报
- L2网络Mode公布DevDrop第一个月分配情况
- CKB生态基金宣布已战略投资Stable++协议
- CZ律师:CZ应被判缓刑而非监禁
- “木头姐”旗下基金总资产快速缩水,旗舰ETF今年下跌16%
- HBAR基金会关于“贝莱德基金代币化”公告引发广泛误解,贝莱德未参与Hedera的开发
- LooksRare或即将推出比特币生态相关新产品或新功能
- 港交所:虚拟资产现货ETF可进行保证金融资
- HashKey Capital与博时国际联合发行的现货比特币、以太坊ETF将于4月30日开放交易
- Zetrix/MYEG与MaiCapital签署谅解备忘录,推出虚拟资产ETF
- 美联储5月维持利率不变的概率为95.9%
- 数字资产交易公司Bakkt将以1:25的比例进行反向股票拆分
- 美SEC就贝莱德拟议现货以太坊ETF的修订版本征求公众意见
- 特斯拉一季度数字资产净值与去年Q4持平,为1.84亿美元
- 萨尔瓦多比特币钱包部分源代码、VPN 访问泄露
- 渣打银行:SEC 不太可能在 5 月份批准现货以太坊 ETF
- SEC:对 Terraform Labs 和Do Kwon的 53 亿美元罚款是“保守”但“合理”的估计
- 某地址收到740,383枚SAFE空投,已售出550,383枚
- 某巨鲸在7次SLERF交易中共亏损5862枚SOL
- K33 Research:Mt.Gox近期将向债权人返还90亿美元的BTC,或给比特币价格带来压力
- Jack Jorsey旗下公司Block正在开发完整的比特币挖矿系统
- 美SEC推迟对灰度以太坊信托转换为ETF的申请做出决议
- Coinbase:KARRAT-USD交易对已处于全面交易模式
- ENS集成可与网络浏览器配合使用的 .box 域名
- Slerf:针对尚未收到退款的800个钱包申领页面重新上线
- Coinbase 将在以太坊网络上添加对 Safe (SAFE)的支持
- SEC推迟对富兰克林现货以太坊ETF申请做出决议
- Nubank 推出比特币、以太坊和 Solana 取款和存款服务
- 富兰克林比特币ETF申请修改现金申购截止时间
- BIP-420 正式引入比特币契约的 OP_CAT 提案
- Tether:将冻结与委内瑞拉受制裁实体相关的地址
- Gitcoin:GG20赠款已上线,超140万美元资金可供分配