
Foresight Ventures: 以太坊迈向full sharding的第一步,EIP-4844全面解析
Overview
在这篇报告中你可以了解到:
Proto-danksharding;
Danksharding;
KZG Commitment;
KZG Ceremony;
Dynamic state sharding;
…
最近社区参与度超标的KZG Ceremony都刷到了吧,这个仪式到底在干什么?
简单概括,KZG Ceremony是实现EIP-4844不可绕过的一个初始化环节,而EIP-4844是实现以太坊sharding过程中的先行版本。
一、Sharding: 以太坊扩容的长久之计
-
Sharding从数据可用性角度扩容,而rollup主要从执行层面扩容,一起缓解主网拥堵问题;我认为sharding可能是突破区块链不可能三角的一次尝试。
-
下面这张以太坊区块大小的走势图可以从另一个角度说明数据层面扩容的必要性。从创世区块开始,以太坊从底层架构到上层应用都在不断地快速迭代,但平均区块大小仍为90Kb左右,最高点也没有质的突破。虽然Rollup从计算层切入,解决以太坊拥堵问题,但性能仍然受制于layer 1的数据存储能力。
由于实现过程的复杂度和安全性考虑,以太坊开发团队将sharding分成了多个阶段,其中就包括最近提到的proto-danksharding和danksharding。整个过程将会是一个历时数年的更新;
-
在目前的以太坊的数据存储模式下,只有少数特定高配置的机器可以加入网络成为节点,而full sharding之后ethereum不再需要每个节点都保存全部数据,在降低主网数据存储成本的同时加强了安全性(成为节点的门槛降低,去中心化程度进一步提升,同时降低被攻击的风险)。
二、EIP-4844: 短期高回报,Sharding的精简先行版
EIP-4844 = Proto-Danksharding;
Proto来自以太坊研究者的名称
由于实现danksharding(下一节会分析)的复杂度很高,开发周期至少是以年为单位的。因此proto-danksharding是实现danksharding前对以太坊的扩容方案,主要实现了danksharding中的交易格式、precompile等设计;
1. Proto-danksharding概述
Proto-Danksharding主要引入了一种新的transaction type,也就是blob-carrying transaction。至此,Rollup的数据通过blob的形式以更低的成本向layer 1传输,并作非永久存储。同时,blob远大于现在的calldata,可以更好地支持rollup上的高TPS。
关于blob:
-
每个transaction最多挂2个blob;
-
每个block理想状态包含8个blob,约为1MB,最多包含16个blob,约为2MB;
-
Blob不需要像calldata一样作为history log被永久存储;
-
相比danksharding,节点还是需要对完整的DA进行验证。
2. Blob-carrying transaction解读
给transaction挂上blob(数据单元)
作用
参考Vitalik在提案中给出的图,Data blob和当前的calldata相似,rollup可以将交易、证明等数据通过blob上传到layer 1来保证data availability。
成本
Data blob的设计初衷是支持rollup高通量的交易,相比同等大小的calldata(使用链上存储),blob的成本将会降低很多(不需要永久存储)。因此,rollup在维持数据可用性上花费的gas相比之前会显著降低。
容量
每个blob的大小约为125kB(fact: 当前平均block size只有~90kB)。
3. Blob-carrying transaction的价值和挑战
价值
可以把blob看成一种缓存,rollup提交的交易数据从此以缓存的形式存在。降低对存储硬件的要求,为以太坊提供额外的数据扩容并降低gas成本。
挑战:对以太坊节点硬件性能的要求
Ethereum当前平均区块大小只有~90kB,但是一个blob就有~125kB
根据EIP-4844的设计,每个slot正常情况下约为1 MB,因此每年增加的数据量为:
1 MB/block * 5 block/min * 43200 min/month * 12 month/year = 2.47 TB per year
每年增加的数据大小远超过了以太坊数据总量,这样的存储方案显然是不高效的。
解决方案
从短期扩容效果看,由于每个节点仍然需要储存全量历史数据,在实现EIP-4844的同时,对一段时间窗以外的blob(具体的limit time还没有最终确定,可能是1个月或是1年)进行自动删除;
从sharding的长期利益看,实现EIP-4444,即节点不需要存储全量历史数据,而是只需要参照history expiry,存储特定时间之后的数据;
这两种解决方案从不同程度上缓解了blob-carrying transaction在存储空间上的tradeoff。
4. KZG Commitment
KZG Commitment是EIP-4844中采用的多项式承诺方案
解析KZG commitment
KZG是作者Aniket Kate, Gregory M. Zaverucha和Ian Goldberg姓氏的缩写,他们在2010年发表了多项式承诺方案论文“Constant-Size Commitments to Polynomials and Their Applications” ,并且这个方案在plonk-style的zk-snark协议中有很广泛的应用。
参考Dankrad Feist演讲中的示意图,KZG root类似Merkle root,区别在于KZG root承诺一个多项式,即所有position都在这个多项式上。基于proto-danksharding的场景,KZG root承诺了一堆数据,其中的任何一个数据都可以被验证属于这个整体。
这也是为什么KZG commitment在兼容性上对后面实现DAS更友好。
KZG commitment的流程如下:
-
Prover:提供证明,计算data的commitment,prover无法改变给定的多项式,并且用于证明的commitment只对当前这一个多项式有效;
-
Verifier:接收prover发送的commitment value并进行验证,确保prover提供了有效的证明。
KZG Commitment的优势
我认为主要出于对成本和安全性的思考,可以归纳但不局限于以下几点:
成本
-
KZG commitment具备快速验证、复杂度相对更低、简洁的特点;
-
不需要提交额外的proof,因此成本更低、更省bandwidth;
-
数据触达所需的Point evaluation precompile可以获得更低的成本。
安全
-
假设出现了failure,也只会影响commitment对应的blob中的数据,而不会其他深远的影响。
更兼容
-
纵观sharding的整体方案,KZG commitment对DAS方案兼容,避免了重复开发的成本。
5. KZG Ceremony(trusted setup)
KZG Ceremony是为KZG Commitment提供trust setup,目前吸引了超过20,000 participants的参与和贡献,已经成为历史上最大规模的trust setup。
最近社区参与热情高涨的KZG Ceremony就是为EIP-4844采用的KZG commitment提供trust setup;
KZG Ceremony的流程
参考Vitalik的流程图,任何人都可以作为participants贡献secret并与之前的结果进行混合产生一个新的result,以此类推,通过套娃的形式获得最终的SRS,并协助完成KZG commitment的trust setup
trust setup
-
EIP-4844中采用了一种常见的multi-participant trust setup,即powers-of-tau;
-
遵循1-of-N 可信模型,不管多少人参与generating setup的过程,只要有一个人不泄漏自己的生成方式,可信初始化就是有效的;
必要性
-
KZG commitment的trust setup可以简单理解为:生成一个在每次执行cryptographic protocol时需要依赖的一个参数,类似于zk-snark需要可信初始化;
-
Prover在提供证明时,KZG commitment C = f(s)g1。其中f是评估函数,s就是KZG trusted setup最终获得的final secret;
-
可以看出final secret是生成多项式承诺的核心参数,而作为获取这个核心参数的可信流程,这次KZG Ceremony对于整个sharding的实现非常重要。
6. EIP-4844带来的变化
Rollup
参考ethresear上给出的示意图,rollup需要将state delta、KZG commitment的versioned hash包含在calldata中进行提交(zk-rollup还需要提交zk proof)
可以发现不同的是,calldata只包含一些数据量小的,比如state delta、KZG commitment,而将包含大量交易数据的transaction batch放到了blob里。
-
有效降低成本,放calldata里很贵;
-
降低对区块空间的占用
安全性
-
Data availability: Blob存储在信标链上,等同于layer 1的安全性;
-
历史数据:节点不会只会将blob存储一段时间,需要layer 2 rollup做永久数据存储,因此安全性依赖于rollup。
成本
Proto-Danksharding引入了新的交易类型,低成本数据格式blob的加入无疑会让rollup的成本进一步降低,取决于实际链上应用和实现进展,优化后rollup的成本可能降低x10甚至x50;
同时EIP-4844引入了blob fee;
-
Gas和blob将会分别有可调节的gas price和limit;
-
Blob的收费单元还是gas,gas amount随traffic变动,以此维持每个block平均挂8个blob的目标(限制额外增加的数据量)
Precompile的实现
Blob中的数据本身无法被直接触达,EVM只能获取data blob的commitment。因此需要rollup提供precompile来验证commitment的有效性.
下面分析两种EIP-4844中提到的precompile算法
Point evaluation precompile(对数学原理感兴趣参考vitalik的解析)
-
证明多个commitments指向同一数据;
-
主要针对zk-rollup,rollup需要提供2种commitments: 1. KZG commitment; 2. zk-rollup本身的commitment;
-
对于optimistic rollup,大多数已经采用了multi-round fraud proof的机制,final round fraud proof所需的数据量较小。因此,采用point evaluation precompile能达到更低的成本
Blob verification precompile
-
证明versioned hash和blob是有效对应的;
-
optimistic rollup在提交欺诈证明时需要access全量数据,因此先验证versioned hash和blob合法,再进行fraud proof verification
三、Danksharding: 迈向full sharding的重要一步
Danksharding的命名来自以太坊研究员Dankrad Feist
1. 扩容:进一步扩充Rollup的缓存空间
在proto-danksharding实现后,由于新的交易格式引入了blob,每个区块可以平均额外获得1MB的缓存空间。Danksharking实现后,每个区块额外16MB,最大允许32MB。
2. Data availability:存储和验证策略更高效
相比proto-danksharding要求全节点下载全量数据,Danksharking实现后以太坊节点只需要对blob抽样。Sampling后的数据会分布在全网节点中,并可以组成完成的data blob。
DAS:高效抽样检查
-
通过纠缠码(erasure coding)帮助全网节点在下载部分数据的情况下更容易发现原始数据的丢失的概率,从而提升安全性
3. 安全性:基本不变
由于每个节点不再保存全量历史数据,从数据可用性、备份和抽样检查的角度出发,安全性由至少一个节点保存全量数据变为多个节点存储部分数据,并最终还原完整数据。
虽然乍一看对单点的依赖安全性远高于对多点的依赖,但是以太坊网络中的节点数量够多,完全可以保证数据备份的需求,因此安全性并不会有很大变化。
4. 新的挑战:对block builder的要求提升
虽然验证者不需要下载并保留全量历史数据,对bandwidth和存储硬件的要求得到了缓解,但是区块创建者仍然需要上传包含全量transaction data的blob数据。
这里简单介绍一下 PBS(proposer/builder separation),参考Dankrad给出PBS在danksharding方案中的应用图:
-
将负责出块负责人的角色拆分为proposer和builder。最初是为了做anti-MEV设计的提案,在danksharding的设计中为了降低区块创建时对bandwidth的要求。
四、其他sharding方案:Shardeum的动态分片
Shardeum是EVM兼容的layer 1公链, 与以太坊的static sharding方案不同,shardeum通过dynamic state sharding的方案提升底层可扩展性和安全性,同时,天然地保证较高的去中心化程度;
1. Dynamic state sharding
优势
Dynamic state sharding带来最直观的优势在于linear scaling,接入网络的节点可以非常高效的被sharding算法动态分组,并快速响应,提升区块链网络的TPS。在dynamic state sharding的设计中,每个节点会覆盖不同range的address,并且覆盖范围又会有冗余设计以保证高效的sharding和安全性。
场景内实现
抛开生态的复杂度,单从两种技术实现的角度看,dynamic state sharding的难度大于static sharding。可以看出Shardeum的技术团队在sharding的技术层面有很深的积累,团队之前在Shardus technology上的研发也对这条公链的底层技术做出了很大贡献,甚至在项目早期阶段很好的展示了dynamic state sharding所带来的linear scaling。
2. Shardeum综合归纳
产品
将节点划分到不同的group,参考divide and conquer的思路,把计算和存储的workload进行分流,从而允许更高程度的并行处理。因此,可以容纳更多节点加入,进一步提升公链的throughput和去中心化程度。
团队
市场经验丰富,叙事能力超强,对动态分片研究很深。
技术
针对自己的场景设计了合适的sharding方案(dynamic state sharding)和共识的设计(Proof of Stake+ Proof of Quorum),以提升可扩展性为第一目标,保证更高程度的去中心化和安全性。
进度
将在2023-02-02 launch betanet,值得关注。
五、对sharding的思考和展望
-
Sharding是以太坊扩容的长久之计,也是一个价值巨大、意义深远的长期方案。实现sharding的过程中,现有所有方案都可能被不断迭代,包括现在提到的proto-danksharding、danksharding等,值得持续关注;
-
对sharding大方向的理解很重要,但是每一个实现full sharding过程中的提案所采纳的技术方案(PBS、DAS、multidimensional fee market)同样值得关注,并且我相信也会涌现很多相关的优秀团队和项目;
-
Sharding是对一种扩容技术的统称,但具体落地的方案并不是只有一种。需要认识到不同的公链会有适合自己场景的sharding方案。比如danksharding中的一些设计也只适合以太坊网络,安全性的tradeoff需要大量的节点来抵消;
-
Sharding和其他扩容方案的合理结合对于可扩展性的提升1+1>2。目前的Danksharding并不是自成一派的扩容方案,而是和以太坊生态的其他实现相辅相成的。比如Danksharding和rollup一起,为以太坊扩容达成更好的效果。
比推快讯
更多 >>- 伊称以色列与伊朗停火进入实施阶段
- 以太坊开发者提议将出块间隔时间减半至 6 秒,计划于 2026 年 Glamsterdam 升级中实施
- 山寨币季节指数回升至 19
- 以色列一男子被控以加密货币为报酬为伊朗从事间谍活动
- 以太坊储备上市公司 SharpLink Gaming 获得纳斯达克批准启动期权交易
- Abraxas Capital 过去 12 小时累计向 Binance 存入 12000 枚 ETH
- 参议员 Hagerty 称特朗普已准备签署《GENIUS 法案》
- 交易员 Eugene:已平掉大部分多头仓位
- 数据:俄罗斯人加密货币持有量超 254 亿美元
- 数据:Abraxas Capital 昨日因做空 BTC 浮亏 1450 万美元
- 德州通过 SB1498 法案,授权查封犯罪相关的比特币及数字资产
- Bithumb 将上线 HOME 韩元交易对
- Ripple 联创 Arthur Britto 时隔 14 年首次在 X 上发推
- RootData:MAV 将于一周后解锁价值约 236 万美元的代币
- Project Hunt:以太坊 Layer2 区块链 ink 为过去 7 天新增 Top KOL 关注者最多的项目
- DeLorean 在 Sui 上推出全球首个区块链汽车预订市场
- Coinbase:将支持 ZEN 代币迁移至 Base 链,期间暂停充提及交易
- Celestia 创始人:储备资金超 1 亿美元,足够支持 6 年以上的运营
- BTTC 2.0 跨链网络白皮书全球正式发布
- 微巴国际旗下 Wetour 发布 Web3 路线图,涵盖稳定币支付、代币化忠诚度计划等
- Visa:稳定币成为下一代数字支付基础设施需构建技术层、储备层和界面层
- Chorus One 联创兼 CTO Meher Roy 因病去世
- 特朗普幼子 Barron Trump 已通过家族加密项目 WLFI 获得近 4000 万美元收益
- 以色列军方:已确认伊朗向以色列发射了又一波导弹。
- 特朗普:以色列伊朗主动求和,两国都将迎来繁荣新时代
- 某巨鲸再次从币安提取 163 枚 BTC,9 小时内共提取 2263 枚 BTC
- Nate Geraci:现货以太坊 ETF 累计净流入已超 40 亿美元,远超市场预期
- 加密市场情绪重回贪婪,今日恐慌与贪婪指数 65
- UXLINK 在 Upbit 涨幅榜位列第一
- 鲍威尔即将舌战国会山,可能遭遇两党夹击
- 数据:过去 24 小时全网爆仓 4.80 亿美元,多单爆仓 1.15 亿,空单爆仓 3.65 亿
- Binance Alpha 日交易量持续下降,昨日降至 5.2 亿美元
- Elliptic:Huione 被封后 Telegram 暗网交易商家转向 Tudou Guarantee
- DeFi Development 股票将通过 Kraken 实现上链交易
- 彭博社:一家资管规模达 40 亿美元香港家族办公室首次进军加密货币领域
- 美国联邦住房金融局局长:将研究加密货币持有情况在申请房贷资格中的适用性
- 自营交易公司 Patagon:Circle 潜在回报率已不高,将在未来数月内获利了解
- 美 SEC 任命 Kevin Muhlendorf 为新任监察长
- 数据:某巨鲸近 5 日向 HyperLiquid 存入 1400 万枚 USDC,并花费 1050 万美元购入 HYPE
- 特朗普媒体科技集团:4 亿美元股票回购不会影响建立比特币资产储备计划
- 伊朗外长:只要以色列政权在今天凌晨 4 点之前停止对伊朗人民的非法侵略,我们也不打算继续回应
- 一交易员盈利 340 万美元后惨遭清算,转为亏损 354 万美元
- 伊朗外长:以色列和伊朗之间目前还没有就停火或停止军事行动达成任何协议
- 交易员 Eugene:BTC 已守住 10 万美元,市场恐慌或已触顶
- Ark Invest 昨日减持逾 41 万股 Circle 股票,套现超 1.1 亿美元
- The Blockchain Group 完成 720 万欧元增资,以 690 万欧元增持 75 枚比特币
- 巨鲸追高 ETH 与 WBTC,总买入 601 万美元
- 特朗普呼吁众议院快速通过稳定币监管法案,关键议员暗示将进行更多磋商
- 某鲸鱼 5 小时前链上买入 6037.24 枚 ETH,已浮盈 69 万美元
- CZ 回应首个BNB 版微策略官宣:多家公司正进行相关尝试
比推专栏
更多 >>观点
比推热门文章
- 以太坊开发者提议将出块间隔时间减半至 6 秒,计划于 2026 年 Glamsterdam 升级中实施
- 山寨币季节指数回升至 19
- 以色列一男子被控以加密货币为报酬为伊朗从事间谍活动
- 以太坊储备上市公司 SharpLink Gaming 获得纳斯达克批准启动期权交易
- Abraxas Capital 过去 12 小时累计向 Binance 存入 12000 枚 ETH
- 参议员 Hagerty 称特朗普已准备签署《GENIUS 法案》
- 交易员 Eugene:已平掉大部分多头仓位
- 数据:俄罗斯人加密货币持有量超 254 亿美元
- 数据:Abraxas Capital 昨日因做空 BTC 浮亏 1450 万美元
- 德州通过 SB1498 法案,授权查封犯罪相关的比特币及数字资产