选择多如牛毛,为你的应用选择最佳的云存储系统并非易事。但是对象存储系统是一个选择,尤其是如果你的应用要求访问控制。而那些使用云进行大数据分析的则要考虑Hadoop.

对象存储系统,比如AWS S3、微软Azure Blob和谷歌云存储,可以在一个持久稳固且高度可用的系统中存储任意的对象,且独立于虚拟机实例之外。应用和用户可以在对象存储中使用简单的API访问数据;这些通常都基于表属性状态转移(REST)架构,但是也有面向编程语言的界面。

对象存储提供了数据上受限操作的访问控制。数据管理员可以在bucket层级上(类似于目录)或者对象层级上(类似目录中的文件)应用访问控制。存储对象的授权/认证通过云提供商的身份认证管理系统或者你的目录服务来管理。通过后者,你可能有一个本地的目录,同基于云的目录服务同步,巩固所有的访问控制角色和进入单一注册库的特权。

提及存储,对于那些使用云进行大数据分析的还有额外的选择考虑。比如AWS提供了弹性Map Reduce (EMR),这是一项Hadoop服务。Hadoop旨在同期文件系统工作,以HDFS著称。

当用户用EMR创建了一个Hadoop集群,他们可以从AWS S3或者一些其他的数据存储复制数据到集群上的HDFS,或者也可以直接从S3访问数据。HDFS使用本地存储,而且通常提供了比从S3恢复更好的性能,但是在运行Hadoop工作之前,也需要时间从S3复制数据到HDFS.如果EMR集群要运行一段时间,且针对多项工作使用相同的数据,可能值得额外的启动时间来从S3复制数据到HDFS.

云存储选择适用于广泛的需求,但是要针对你的需求找到正确的存储类型,也意味着要找到延迟、易用性、数据完整性和成本之间的合适的平衡点。

控制归档成本

云存储的另一个常用用例是归档。这个程序要需要较长时间复制数据来进行持久的存储。下面是在控制归档成本时需要考虑的三个内容:

1、归档数据一次写入且很少读取。因此,最优先考虑的就是受限的归档成本。

2、对象存储可以用来归档,但是除非你需要低延迟检索,开支可能要比所需高。

3、AWS提供的Glacier归档存储服务成本比S3大幅减少。从Glacier检索数据用时数小时,因此并不适用于大多数应用。

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排 行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2019-07-30 14:50:41
云技术 Oculus宣布为Rift和Quest提供云存储功能
Oculus 商店的 SDK 已支持 Oculus Quest 、 Oculus Go 和三星 Gear VR 的云存储功能。 <详情>
2019-07-29 11:44:37
云技术 企业公共云存储部署仍处于早期阶段
多年来,企业对公共云存储的使用一直在稳步增长,但仍有很多IT部门处于该旅程的早期阶段。 <详情>
2019-07-22 16:47:56
大数据技术 Hadoop与 Spark - 选择正确的大数据框架
我们被各方的数据所包围。随着数据每两年增加一倍,数字世界正在快速追逐物理世界。据估计,到2020年,数字宇宙将达到44个zettabytes - 与宇宙中的恒星一样多的数字位。 <详情>
2019-07-22 16:45:49
大数据技术 Hadoop现在怎么样了?
之前我们提到大数据的时候就会提到Hadoop,Hadoop是大数据的基础框架,是大数据技术的代表。提到HDFS、MapReduce、Yarn,提到HBase、Hive、TEZ等Hadoop生态圈中的一个又一 <详情>
2019-07-17 16:42:54
大数据应用 Spark和Hadoop的架构区别解读
总的来说,Spark采用更先进的架构,使得灵活性、易用性、性能等方面都比Hadoop更有优势,有取代Hadoop的趋势,但其稳定性有待进一步提高。我总结,具体表现在如下几个方面 <详情>