
分布式存储协议或加速边缘计算技术演进
作者:傅翔
边缘计算潮起
云计算自从它与2005年提出之后,产生了大量可伸缩的基础设施平台和基于中心化的云计算模型,高密度计算资源的集中和大规模的IDC部署俨然已成为各个国家信息产业的基础设施建设一部分,并且随着大数据,AI,5G,物联网等产业的蓬勃发展,云计算的产业规模还将日益扩大。但是随着各种各样的巨量数据不停的产生于互联网的各个位置,网络带宽受限,不稳定的处理延时,隐私保护等等问题的出现,使集中式的云计算模型在许多场景下迎来越来越多的挑战。
当今的物联网发展使几乎所有的电子设备都可以连接互联网,也对数据计算带来不同的处理要求。比如实时视频采集系统,要求在短时间内对视频内容进行分析处理和预警,如果所有数据传输回云中心,不仅会造成中心网络拥堵,带来海量数据的存储压力,更会造成不可预测的处理时延,影响用户体验。同时视频内容的隐私性也无法保证,在许多国家造成合规风险。因此越来越多的行业应用将对数据和内容的处理从集中的云和数据中心转移到网络边缘,将传统的数据采集-云中心-数据消费的云计算范式转变为数据采集-边缘云中心-数据消费(云中心)这样的边缘计算范式,边缘计算为应用开发者和服务提供商在网络的边缘侧提供云服务和IT环境服务。
边缘计算的优势
1. 快速响应:
随着芯片性能的不断提升以及功耗的持续下降,使得从前需要大量运算的数据处理过程在终端即可快速完成,比如人脸识别,智能交通管理等领域。边缘侧产生特征数据,立刻通知业务中心或者边缘协作接口,同时可以利用位置信息对事件进行及时定位,大大提高了数据整合迁移的时间。同时降低了业务功耗,保护了源数据的隐私性,可谓是一举多得。
2. 网络带宽优化
在未来的智慧城市中,无时无刻不在产生着大量的数据,而这些数据如果通通交由云来处理,在网络拓扑中将产生大量的拥塞堵点。如果这些数据能够在边缘侧进行处理,在数据源所在的局域网内进行处理,同时利用边缘计算的就近存储特点,可以最大化利用可用链路,提高数据上传下载的速率。
3. 数据安全和隐私保护
在边缘侧对源数据进行处理,可以有效的分离特性向量,使回传数据与数据源脱敏,实现敏感隐私数据的可靠保护。数据存储在网络边缘侧,降低了集中存储数据的风险,降低了IDC的数据维护难度,如果结合分布式存储协议,在边缘侧分片冗余存储则可以有效的降低单点故障的概率,安全隔离用户数据。
边缘存储面临的问题
随着芯片技术的不断发展,各种大数据、AI算法的不断演进和5G的部署,边缘计算的计算和网络接入能力已经不断提高,但是存储的问题一直没做到很好的解决。边缘数据需要分流处理,这是不可避免的趋势。在IOT生成的海量数据中,有些数据是需要被实时计算,上传特征值,有些数据需要分时计算,分步计算,有些数据需要经常性被重新计算,分析,还有些数据需要长时间留存,甚至很少被使用。现有的物联网设备存储主要靠本地存储单元来保存数据,存在存储能力有限,扩展困难的问题。为此又提出了不少企业级的存储方案,但这些方案也存在许多问题,比如各家标准不统一,基于不同的硬件方案有不同的接口方案,不同的服务商之间无法进行数据的链接和处理,使大量数据存在互相隔离的“容器”中,无法有效的在不同存储提供商之间扩容。并且同一个边缘中心内的数据没有隐私保护和足够的冗余备份,相当于在业务环境中架设了一个个私有“云盘”。最后,采购的多余存储服务无法实现价值,浪费资源。
分布式存储协议重构边缘存储
针对上面提出的问题,需要一个新的分布式存储协议来重构边缘存储方案,将不同存储业务的垂直扩展变成水平扩展,打破业务边界,使边缘存储成为一个独立的,对外提供统一服务的存储层。
1. 统一完整的面向服务的上层接口,隔离存储业务的复杂性
在分布式存储协议中,需要将存储服务的加入,退出,数据的确权,存储,分发,检索,支付等抽象为接口,成为标准协议,这些标准不基于特定的语言,算法和网络协议来组织业务,只要符合统一接口的实现,并且基于服务方共识的业务治理逻辑,不管治理模式是区块链,还是传统的中心化管理平台,只要符合协议标准,服务商都可以参与服务。
2.统一的点对点通信协议
在存储服务层,没有预设的拓扑结构,以端对端的服务为核心。在网络协议上层提供可组合的序列化/反序列化方法,加密算法,握手机制,数据摘要算法等,隔离网络层的复杂性,使运行不同语言编写的,不同操作系统的设备在网络层能够互相识别,完成数据交互服务。
3.基于数据内容确权的命名机制
命名机制对于边缘计算的数据寻址,确权和交换非常重要,但是在现有的边缘计算中还没有特别有效的处理方法。如今大量依托不同的通信技术,比如蓝牙,wifi,5G,NFC等的设备接入互联网,传统的以IP地址为核心的寻址方式已不能满足异构网络之间的数据交换,网络拓扑的动态变化,接入方式的不停切换,设备的移动性等,是当前传统的命名机制如DNS(域名解析服务)、URI(统一资源标志符)等不能很好解决的。我们需要一种完整的解决方案,这个方案基于对数据内容的确权,一个设备对外的服务声明,不再是网络地址加设备名称的方式,而是基于数据的键值模式。我们使用数据生产者,时间,位置,数据属性,标识符,数据存取方法等数据描述符来表达网络中产生的数据,同时这个描述方式还是由数据生产者签名确认的。
4,可编程的权限控制
从数据的诞生开始,提供全周期的权限控制。用户可以控制数据是在边缘侧进行处理,还是以加密的形式在存储层持久化。对于不同的应用,设置可编程的权限控制信息,该信息应该做到整个网络的业务治理逻辑同步。基于上面的命名进制,对数据在网络中的交换做到可控可查。
物联网的快速发展和云计算的促进了大数据,AI产业的蓬勃兴起,同时也引入边缘计算的计算范式。在各种网络接入模式和巨量数据的爆发式增长的背景下,边缘存储也受到了很大的挑战,DSP Labs长期关注分布式数据存储和共享协议的实现和迭代,尽管上面的分布式存储协议还有很多实际问题需要解决后才能实现,但也不失为边缘计算的一个好的演进方向,希望以后有更多的开发者能够关注到这么一个领域,共同推进下一代网络技术演进。
在这里可以找到我们:
Facebook:https://www.facebook.com/DSP-Labs-110430797334480
Twitter:https://twitter.com/DSP_Labs
微信公众号:DSPLabs
来源:DSP
比推快讯
更多 >>- 当前以太坊PoS网络退出队列ETH数量约250万枚,等待时间已达46天
- Apollo获Grove 5000万美元支持,将推出代币化信贷基金ACRDX
- VivoPower以置换策略低成本囤积XRP,宣称获65%折扣价
- 欧盟委员会主席冯德莱恩:委员会将很快提出第19轮对俄制裁措施,针对加密货币、银行和能源
- 道琼斯指数收盘下跌 125.18 点,标普 500 和纳指亦下滑
- Tether 重返美国市场,力争成为主导稳定币发行方
- 美股收盘,甲骨文涨 1.4%,金龙指数涨 1.7%
- 城堡证券策略师:美股短期或遇波动,年底有望强势收官
- 冯德莱恩:欧盟将很快提出第 19 轮对俄制裁措施
- 美联储利率决议出炉前,黄金期货收盘创下新高
- CZ将个人简介由ex-Binance改为Binance
- 0G 上线空投查询,申领者需在 9 月 21 日前完成 KYC
- 币安与美国司法部接近达成协议,有望免除外部合规监督
- 英美两国将加强加密货币合作,重点关注稳定币事务
- Bitwise 提交稳定币与代币化 ETF 申请
- 分析师:美联储若确认多次降息,金价或再攀高峰
- Galaxy Digital 将推出代币化货币市场基金,与贝莱德和富兰克林邓普顿竞争
- 比特币短时拉升触及 11.6 万美元
- Movement Labs 正式转型为 L1 区块链,同时推出 Move 2.0
- 某巨鲸购入约 10 万美元的 STBL,浮盈 37 万美元
- 新建地址两日内从 OKX 提取 900 枚 BTC,价值逾 1 亿美元
- 特朗普家族旗下 American Bitcoin 今日在纳斯达克敲钟上市
- LimeWire 收购“Fyre Festival”品牌,计划于 2026 年以加密形式重启
- 中国驻法使馆提醒,警惕不法分子通过虚拟货币等诱饵吸引投资实施诈骗
- Keyrock 斥资 2780 万美元收购 Turing Capital,拓展至资管与财富管理领域
- 亚特兰大联储 GDPNow 模型预测美国第三季度 GDP 增速 3.4%
- Strategy 公司已将 470 亿美元固定收益和股权资本证券化为比特币
- MKR 超 75% 供应已升级为 SKY,延迟升级惩罚或将生效
- Tether Treasury 再次在以太坊链上新铸造 10 亿枚 USDT
- 鲍威尔本周对就业市场态度或指明未来降息政策方向
- 美财长为米兰辩护:人事安排非常合规,传递信号也很明确
- 英国搁置钢铁对美零关税配额计划,转谈永久性 25%关税
- 贝莱德买入 2.6 亿美元比特币,同时加码购入 3.6 亿美元以太坊
- 灰度:美元信誉受债务与通胀压力挑战,加密资产或成替代价值储藏
- 博雅互动斥资约 2816 万美元购入 245 枚比特币
- 调研:以太坊核心开发人员薪酬中位数约为 14 万美元,跳槽后可获翻倍薪酬
- 六大战略储备机构持有超百万枚 SOL,Forward Industries 位居首
- Tether 财库向 Binance 存入 5 亿枚 USDT
- 现货黄金首次登上 3700 关口
- 特朗普起诉《纽约时报》,因其损害特朗普声誉及 TRUMP 加密项目
- 美股早盘续涨,交易员为美联储降息做好准备
- 美国社区银行 Stablecore 完成 2,000 万美元融资,Coinbase Ventures 等参投
- 瑞士三家银行完成以太坊跨行支付试点
- 穆长春:数字人民币需在理论与实践上改革升级
- 欧股走低,德国 DAX 指数日内跌幅达 1%
- 美股开盘,道指涨 0.08%,台积电创历史新高
- 道琼斯指数开盘上涨 56.59 点,报 45,940.04 点
- 富国银行上调标普 500 指数 2026 年底目标至 7,400-7,600 点
- Falcon Finance 宣布成立 FF 基金会,暗示或即将 TGE
- 特朗普:已签署任命米兰担任美联储理事的文件,将移交美联储
比推专栏
更多 >>观点
比推热门文章
- 当前以太坊PoS网络退出队列ETH数量约250万枚,等待时间已达46天
- Apollo获Grove 5000万美元支持,将推出代币化信贷基金ACRDX
- VivoPower以置换策略低成本囤积XRP,宣称获65%折扣价
- 欧盟委员会主席冯德莱恩:委员会将很快提出第19轮对俄制裁措施,针对加密货币、银行和能源
- Nakamoto暴跌96%,比特币DATs的故事讲不动了?
- 道琼斯指数收盘下跌 125.18 点,标普 500 和纳指亦下滑
- Tether 重返美国市场,力争成为主导稳定币发行方
- 美股收盘,甲骨文涨 1.4%,金龙指数涨 1.7%
- 城堡证券策略师:美股短期或遇波动,年底有望强势收官
- 冯德莱恩:欧盟将很快提出第 19 轮对俄制裁措施