大數據處理技術―基于Hadoop的實戰課程培訓

本課程從大數據技術以及Hadoop實戰的角度，結合理論和實踐，全方位地介紹Hadoop這一高性能處理大數據工具的開發技巧。本課程涉及的主題包括：Hadoop分布式文件系統及Hadoop的I/O；MapReduce的的工作機制、類型和格式；如何構建和管理Hadoop集群；Pig?Latin語言的使用技巧；Hive數據倉庫工具介紹；HBase和Zookeeper工具的使用和管理

；開源數據采集工具sqoop。????

?教學過程中提供案例分析幫助學員了解如何用Hadoop系列工具來解決具體的問題，并介紹從大數據中挖掘出有價值的信息的關鍵技術。本課程是一個針對問題討論解決方案的深入課程。教師對于上述領域有深入的理論研究與實踐經驗，在課程中將會針對這些問題與學員一起進行研究，在關鍵點上還會搭建實驗環境進行實踐研究，以加深對于這些解決方案的理解。?

培訓目標?

1,?全面了解大數據處理技術的相關知識。?

2，學習Hadoop的核心技術方法以及應用特征。?

3，深入使用Hadoop相關工具在大數據中的使用。??

4，掌握傳統數據中心向云計算中心轉換的關鍵技術。?

課程大綱

????第一講?云計算及大數據處理技術介紹

1）云計算的概念

2）云計算發展現狀

3）大數據的概念

4）大數據的應用

5）大數據關鍵技術第二講?Google中的關鍵技術

1）GFS文件系統?

2）Chubby中的Paxos算法

3）MapReduce技術機制?

4）Bigtable表管理技術?第三講?Hadoop文件系統HDFS及其文件結構

1）?Hadoop項目簡介

2）?HDFS體系結構

3）?HDFS關鍵運行機制

4）?Hadoop?vs?Google

5）?Hadoop?API????第四講?MapReduce編程模型及其應用開發

1)MapReduce產生背景?

2)MapReduce編程模型?

3)MapReduce實現機制?

4)MapReduce案例分析?第五講?Pig?Latin及其使用

1）Pig?設計的目標

2）Pig?Latine介紹?

3）Pig關鍵性技術

4）Pig的實用案例第六講?數據倉庫Hive使用

1)Hive設計目標

2)Hive數據模型?

3)Hive關鍵性技術?

4)Hive的使用案例第七講?HBase和ZooKeeper使用

1）?Hbase運行機制簡介

2）?HBase與?HDFS

3）?HBase的對外接口

4）?ZooKeeper的數據模型

5）?ZooKeeper的讀寫機制

6）?ZooKeeper的使用方法第八講?數據抽取工具Sqoop使用

1）數據抽取技術介紹

2）Sqoop中的關鍵技術

3）Sqoop數據抽取策略

4）數據挖掘及分析第九講?當前數據中心的改造和轉換分析

1）主流商業大數據解決方案比較?

2）主流開源云計算系統比較??

3）國內代表性大數據平臺比較??第十講?各廠商最新的大數據產品介紹

1）IBM的大數據技術

2）HP的大數據技術

3）Teradata的大數據技術

4）其它廠商的大數據處理

課程對象

1，系統架構師、系統分析師、高級程序員、資深開發人員。?

2，牽涉到大數據處理的數據中心運行、規劃、設計負責人。?

3，政府機關，金融保險、移動和互聯網等大數據來源單位的負責人。?

4，高校、科研院所牽涉到大數據與分布式數據處理的項目負責人。?學員基礎?

5，對IT系統設計有一定的理論與實踐經驗。?

6，有一定的數據倉庫與大數據處理的基礎知識