您现在的位置 >> Hadoop教程 >> Hadoop实战 >> 专题  
 

云里雾里云计算 【7】天上究竟会有几朵云? : 弯曲评论

【作者:Hadoop实战专家】【关键词:云计算平台 云计算 Google 文件系统 】 【点击:42154次】【2013-03-2】
这是这篇文章的主题。 对比一下传统的单机的操作系统,如果把GFS理解为云计算版的文件系统,把MapReduce理解为云计算版的进程管理,把Chubby理解为云计算版的 synchronization。 因为Google没有发表。 读完论文后,想构建一个云计算平台,是不是必须写程序,从头实现?  

相关热门搜索:云计算平台 hadoop开源云计算平台 云计算

大数据标签:hadoop mapreduce hive bigdata

云里雾里云计算 【7】天上究竟会有几朵云?

作者 邓侃 | 2010-04-04 19:10 | 类型 云计算, 互联网 | 5条用户评论 ?

系列目录 云计算漫谈

1. 云里雾里云计算 【1】云计算解决什么问题?
2. 云里雾里云计算 【2】从Google集群到云计算,云计算的商业模式
3. 云里雾里云计算 【3】Google云计算的矛头指向谁?
4. 云里雾里云计算 【4】云计算大战,Google出招
5. 云里雾里云计算 【5】是云计算,还是云存储?
6. 云里雾里云计算 【6】安全性的难题,有解还是无解?
7. 云里雾里云计算 【7】天上究竟会有几朵云?

【7】天上究竟会有几朵云?

上一章长篇大论地讨论,云计算是否能够提供有效的加密措施,保障客户的内容以及程序,不被云计算平台的拥有者偷窥。

我们的结论是悲观的。

既然云计算平台无法提供有效的加密措施,那么云计算平台只能吸引那些对于自己的内容和程序的保密不那么敏感的企业。

但是大型企业,包括银行和电信,它们对云计算能够提供的超大规模存储能力,以及超大规模并行数据处理的能力,有天然的需求。

怎么办?

现实的解决办法是帮助大型企业建设属于它们自己的云计算平台。

换而言之,未来的天空中,将漂浮着Google和Microsoft几朵云,这是几朵大云。在大云的周围,散落着一些小云。

如何构建云计算平台?

说来也不很神秘。云计算平台的基本思想,可以简单概括为,设计一套操作系统,同时管理多台电脑,尤其是把多台电脑结合起来,当一台超级电脑使用。

想深入了解云计算技术,以下论文是不能不看的。

1.  Google File System: http://research.google.com/archive/gfs-sosp2003.pdf

把多个电脑的硬盘组合起来,形成一个超大规模的硬盘,用来存储海量数据,同时保障万一有某些硬盘崩溃了,不至于遗祸整个系统。

2.  MapReduce: http://labs.google.com/papers/mapreduce-osdi04.pdf

如何实现并行计算。道理很简单,但是用好却不容易。下面两篇论文,可以作为范例,指导如何正确使用MapReduce。

2.1.  Large Language Models in Machine Translation

http://acl.ldc.upenn.edu/D/D07/D07-1090.pdf

2.2.  Parallelizing Support Vector Machines on Distributed Computers

http://books.nips.cc/papers/files/nips20/NIPS2007_0435.pdf

3.  Chubby lock service: http://research.google.com/archive/chubby-osdi06.pdf

电脑操作经常要用到锁机制,譬如用锁防止两个进程同时向同一个文件写数据。这篇论文谈的是,在由多台电脑组成的分布式系统中,集中管理锁的机制。

4.  BigTable: http://research.google.com/archive/bigtable-osdi06.pdf

这篇文章既是讲如何实现分布式数据库,同时也可以把它看成范例,如何正确使用Chubby锁机制,和GFS文件系统。

5. The Google cluster architecture: http://www.computer.org/micro/mi2003/m2022.pdf

各个组成部分完成以后,如何组建一个计算中心。这是这篇文章的主题。

Google式云计算平台有两大特色,

1.  便宜。即使用几台穷人买得起的烂PC,也能构建一个麻雀虽小但是五脏俱全的Google式云计算平台。其实,Google自己就是这么起家的。

2.  稳定。便宜的机器经常死机。Google式云计算平台,能保证一部份机器死机不会造成整个系统的崩溃。

A cluster consisting of many cheap PCs
Courtesy http://www.inria.fr/actualites/inedit/images/inedit29_parta.fr.jpg

以前CMU有个教授,说过这么一段话,大意是:遇到一篇以前没有读过的论文,最好先蹲在厕所里翻翻。很多论文无病呻吟,或者装神弄鬼。对待这样的论文,处 理的办法是立刻冲掉。不幸的是,大多数论文都可以这样处理。

后来,这段话被记者捅了出去。系主任不得以,不仅公开道歉,而且内部通报批评该教授,不该说这种politically incorrect的话。但是暗地里,很多师生都非常认同教授的看法。

前面几篇文章,不仅不能被冲掉,而且值得反复读,再三读。读完这些论文,你一定会对这两个人感到亲切,Jeffrey Dean和Sanjay Ghemawat。

如果说Google的两位创始人Larry Page和Sergey Brin确定了Google搜索引擎的算法和数据结构,那么奠定了Google后台的集群系统,也就是我们今天耳熟能详的Google云计算平台,就是 Jeffrey Dean 和Sanjay Ghemawat这两位。

Jeffrey Dean, Ph.D
Courtesy http://research.google.com/people/jeff/jeff.jpg

Sanjay Ghemawat, Ph.D
Courtesy http://research.google.com/people/sanjay/sanjay.jpg

但是,只读这么几篇论文是不是就足够了呢?

No!

对比一下传统的单机的操作系统,如果把GFS理解为云计算版的文件系统,把MapReduce理解为云计算版的进程管理,把Chubby理解为云计算版的 synchronization。

缺了什么?

1. Memory management。2. Scheduling。

为什么不列举这两个方面的论文,方便大家阅读?

因为Google没有发表。或许是Google把这两个方面的技术,视为Google云计算的核心机密,所以才没有发表论文公开介绍。

读完论文后,想构建一个云计算平台,是不是必须写程序,从头实现?

No!

Hadoop是一个开源项目,把前面提到的几个Google式云计算技术,用Java实现了。

我们不妨站在Hadoop台阶上,把未尽的事业推向前进。

前进方向,

1.  Memory management。2.  Scheduling。

系列前一篇

(4个打分, 平均:5.00 / 5)

工具箱
本文链接 | 邮给朋友 | 打印此页 | 5条用户评论 ?

雁过留声

“云里雾里云计算 【7】天上究竟会有几朵云?”有5个回复

1. cal 于 2010-04-05 3:48 pm

大部分内容都略老了一点

可以看看Berkeley RADLab的工作,以及white paper: A Berkeley View of Cloud Computing.

2. Dingdly 于 2010-04-05 4:32 pm

云管理可以理解为,虚拟机技术上面,包装了一层API么?

3. Armon 于 2010-04-05 6:20 pm

同样来自Berkeley RAD Lab的文章,发表在今期的Communications of The ACM http://cacm.acm.org/magazines/2010/4/81493-a-view-of-cloud-computing/fulltext

4. droplet 于 2010-04-05 6:21 pm

云计算如果只是虚拟机上的一层api,那就太简单了,在google开始的时候,vmware应该还不存在。
在云操作系统里面,内存管理我认为不是重点,而任务调度却是个难点。之所以不用进程调度,原因是云计算系统还是在传统的操作系统之上的一个抽象,下面还是传统的操作系统,它的资源管理,应该是node(或者是虚拟机,或者不是),job(这个和process应该有所区别),index(文件系统)。这个操作系统是平台无关的,而且与位置无关。

5. appleleaf 于 2010-04-05 7:13 pm

To 1楼,侃哥在后文会提到这篇文章。另外我觉得本文的价值在于提供了不少经典论文,作为一篇导读对于学习者有更大的价值。啥都别说,先把侃哥提到的论文读几遍。

大数据系列相关文章:

最新评论
魂 淡2014-09-09 06:53:57
hadoop换成localhost呢
davidkewei2014-09-09 12:39:15
2. 熟悉Hadoop、Hbase、Hive,两年以上Hadoop开发经验
nina2014-09-08 09:36:00
请教怎样引人java的tools.jar到maven
爱需要下载2014-09-07 08:25:54
Good night,Hadoop.Good night,elephant.
javahadoop2014-09-07 06:30:45
hadoop伪分布集群配了出来,比想象中的简单。没想到那么矬的机器也能跑这等高级货。收工睡觉。明儿配hue。
莉莉2014-09-06 02:08:51
Teradata天睿公司宣布收购Revelytix和Hadapt公司。其中收购Revelytix技术资产为Teradata带来全新的Hadoop数据管理和数据准备工具。而新加入Teradata的Revelytix团队也将帮助Teradata获得更深入的大数据知识,提升并推动Teradata统一数据架构不断演进。http://t.cn/RPGfmza
Heidi_Data2014-09-05 01:07:30
就是群共享文件啊
天使2014-09-04 06:58:22
或者类似的情况
叶峰2014-09-04 12:13:47
1
andy01182014-09-04 01:05:24
#爱云盘爱分享#我刚刚通过@360云盘 分享了 “Hadoop权威指南.pdf” , 推荐给大家。 http://t.cn/8keVrC1
 
  • Hadoop生态系统资料推荐