如果人工智能拥有了自主意识,科学家怎样才能发现?
去年,聊天机器人ChatGPT背后的公司OpenAI首席科学家伊利亚·苏茨凯弗(Ilya Sutskever)发推文称,一些最先进的人工智能网络可能会 “略有意识”。
许多研究人员表示,人工智能系统尚未达到有意识的地步。但人工智能的进化速度让他们陷入了沉思:我们如何知道人工智能是否产生意识?
为了回答这个问题,一个由19位神经科学家、哲学家和计算机科学家组成的团队提出了一份标准清单,如果符合这些标准,就表明一个系统有很大可能是有意识的。他们于本周早些时候在arXiv预印版库中发布了临时指南,该指南尚未经过同行评审。
合著者之一、位于加利福尼亚州旧金山的AI安全中心的哲学家罗伯特·朗(Robert Long)表示,他们进行这项工作是因为“似乎确实缺乏对人工智能意识进行详细、以经验为基础、深思熟虑的讨论”。
该研究团队表示,无法识别人工智能系统是否有意识,这可能会产生重大的道德影响。该研究的神经科学家和合著者梅根·彼得斯(Megan Peters)表示,如果某个东西被贴上了 “有意识 ”的标签,“那一定会极大地改变我们作为人类对待它的方式。”
朗(Long) 补充说,据他所知,构建先进人工智能系统的公司并没有付出足够的努力来评估这些模型的意识,并制定相应的计划。他说:“尽管听取了一些领先实验室负责人的发言,他们确实表示人工智能意识或者人工智能知觉是值得思考的问题,只是我认为还不够。”
《自然》杂志联系了推动人工智能发展的主要两家科技公司——微软和谷歌。微软的一位发言人称,该公司开发人工智能的核心是以负责任的方式协助人类提高生产力,而不是复制人类智能。
该发言人表示,自从推出GPT-4(ChatGPT公开发布的最新版本)以来,可以明确的是,“我们在探索如何实现人工智能的全部潜力以造福整个社会,这需要新的方法来评估这些人工智能模型的能力”。谷歌则未回应。
在研究人工智能意识时,面临的一个挑战是定义什么是意识。彼得斯表示,为了报告的目的,研究人员将重点放在了“现象意识”上,也就是主观体验。即存在于人、动物或人工智能系统系统(如果其中之一被证明具有意识)的感觉。
有许多基于神经科学的理论描述了意识的生物学基础。但哪一种才是 “正确 ”的,目前还没有达成共识。因此,作者采用了一系列理论来创建他们的框架。他们的想法是,如果一个人工智能系统的功能与这些理论的多个方面相匹配,那么它具有意识的可能性就更大。
他们认为,这种评估意识的方法比简单地进行行为测试更好,例如询问ChatGPT是否有意识,或者对其进行挑战并观察其反应。因为人工智能系统在模仿人类方面已经取得了令人难以置信的进展。
英国苏塞克斯大学意识科学中心主任、神经科学家阿尼尔-塞思(Anil Seth)的认为,该团队所采用的理论严密的方法是一个不错的选择。然而,他表示,“我们还需要更精确、经过充分测试的意识理论。”
为了制定他们的标准,作者假设意识与系统如何处理信息有关,而不管它们是由神经元、计算机芯片还是其他材料构成。这种方法被称为计算功能主义。他们还假设,以神经科学为基础的意识理论可以应用于人工智能,这些理论是通过对人类和动物的大脑扫描和其他技术研究而得出。
在这些假设的基础上,团队选择了其中的六种理论,并从中提取了一系列意识指标。
其中之一是全局工作空间理论,它声称人类和其他动物使用许多专门的系统(也称为模块)来执行诸如视觉和听觉等认知任务。这些模块独立但并行地工作,并整合成一个单一系统来共享信息。
朗(Long) 表示,"通过观察系统的架构以及信息在其中的流动方式",人们就能评估某个特定的人工智能系统是否显示了这一理论所衍生的指标。
塞思(Seth)对该团队的提案印象深刻。他表示:“它非常深思熟虑,没有夸夸其谈,并且清楚地表明其假设。”尽管我不同意其中一些假设,但这完全没关系,因为有可能是我错了。"
作者表示,该论文远未对如何评估具有意识的人工智能系统做出最终结论,他们希望其他研究人员能够帮助完善他们的方法论。但这些标准已经可以应用于现有的人工智能系统。
例如,报告对ChatGPT等大型语言模型进行了评估,发现这类系统可以说具有与全局工作空间理论相关的一些意识指标。不过,这项工作并未暗示任何现有的人工智能系统是意识的强有力候选者,至少目前还没有。
比推快讯
更多 >>- 美联储卡什卡利:我对中性利率的估计值从2%适度上调至2.5%
- Botanix Labs获总计1150万美元融资
- QCP Capital:比特币期权交易员押注9月看涨价格将突破10万美元
- 目前丢失状态的BTC估值约为1210亿美元
- Steve Eisman:加密货币与纳斯达克指数有75%相关性
- Gary Gensler:许多加密货币根据法律都是证券
- Scroll生态项目PenPad完成新一轮融资
- 香港首批现货虚拟资产ETF资产管理规模已超24亿港元
- 美国超20%摇摆州选民将加密货币视为关键议题
- Stanley Druckenmiller已在三月大幅减持英伟达股票
- 香港金管局:基于区块链的深港跨境数据验证平台已上线试行
- 新加坡Web3平台Galaxis完成1000万美元融资
- QCP Capital获阿布扎比监管机构原则性批准
- 外媒:韩民主党拟要求FSC重新审查现货比特币ETF以寻求开放此类产品
- 币安CEO:曾有不明身份人士寻求币安支付大量加密货币以解决针对Tigran Gambaryan指控
- 尼日利亚将禁止使用奈拉进行P2P加密交易
- 印尼当局捣毁一家以加密货币支付原材料的合成大麻实验室
- 香港金管局成立Ensemble项目架构工作小组 初期聚焦代币化资产交易
- 币安CEO:Tigran Gambaryan是无辜的,必须被释放
- 肖风:HashKey Group将为各种金融资产的通证化提供Web3基础设施支持,包括银行存款和绿色债券
- 熊猫证券成虚拟资产现货ETF首批承销商
- 花旗:美联储无惧融资利率短暂飙升,缩表将持续至明年
- Starknet基金会将为其开发者提供约500万美元资助
- 中银香港、汇丰、微软等七家机构成为香港金管局Ensemble项目架构工作小组初始成员
- 哥伦比亚银行Bancolombia推出加密交易所Wenia以及稳定币COPW
- 前美国联邦检察官:SEC将在明日之前提交针对Ripple诉讼的修订版的补救措施摘要
- StarDust Project宣布在Immutable zkEVM上启动
- Vitalik:Plasma能够以一种具有自洽规则的方式来防止任何资产的双重退出
- 加密货币交易平台Revolut X已向专业加密交易者开放
- Aave社区已投票通过“弃用V2上以太坊网络小市值稳定币” ARFC提案
- 数字财富管理平台CapBridge成为香港首批虚拟资产ETF國际合作伙伴
- LayerZero CEO:所有员工禁止参与申领空投,违者将被解雇
- Starknet基金会向链上元宇宙游戏Realms.World授予200万枚STRK赠款
- 美CFTC主席:针对加密的“执法行动周期”将在未来六个月到两年内进行
- 美 SEC 推迟对 Invesco Galaxy 现货以太坊 ETF 提案做出决定
- Bitwise CIO:Coinbase 受益于“恶劣的监管环境”
- Web3社交网络Bondex完成新一轮战略轮融资,DEXT Force Ventures参投
- Arbitrum 在 Uniswap 上的交易量突破 1500 亿美元
- Jack Dorsey旗下比特币公司Block将通过发行高级票据筹集15亿美元
- 美联储Thomas Barkin:加息的全面影响尚未完全显现
- Visa报告:以太坊、Tron、Solana链上超90%的稳定币交易由智能合约或机器人达成
- 美联储Barkin:今年的通胀数据令人失望,工作尚未完成
- 机构级代币化资产管理公司DwellFi完成300万美元种子轮融资,Stanford Blockchain等参投
- 美国现货比特币ETF今日增持3710枚BTC,价值约合2.36亿美元