課程描述INTRODUCTION
大數(shù)據(jù)分析挖掘培訓(xùn)班
· 營銷副總· 營銷總監(jiān)· 銷售經(jīng)理
日程安排SCHEDULE
課程大綱Syllabus
大數(shù)據(jù)分析挖掘培訓(xùn)班
內(nèi)容提示
本課程不是一個(gè)泛泛的理論性、概念性的介紹課程,而是針對問題討論Mahout和 MLlib解決方案的深入課程。教師對于上述領(lǐng)域有深入的理論研究與實(shí)踐經(jīng)驗(yàn),在課程中將會針對這些問題與學(xué)員一起進(jìn)行研究,在關(guān)鍵點(diǎn)上還會搭建實(shí)驗(yàn)環(huán)境進(jìn)行實(shí)踐研究,以加深對于這些解決方案的理解。通過本課程學(xué)習(xí),希望推動大數(shù)據(jù)分析挖掘項(xiàng)目開發(fā)上升到一個(gè)新水平。
培訓(xùn)目標(biāo)
1, 全面了解大數(shù)據(jù)處理技術(shù)的相關(guān)知識。
2,學(xué)習(xí)Hadoop/Yarn/Spark的核心數(shù)據(jù)分析技術(shù)
3,深入學(xué)習(xí)Mahout/MLlib挖掘工具在大數(shù)據(jù)中的使用。
4,掌握Storm流處理技術(shù)和Docker等技術(shù)與大數(shù)據(jù)挖掘結(jié)合的方法。
培訓(xùn)對象
1,系統(tǒng)架構(gòu)師、系統(tǒng)分析師、高級程序員、資深開發(fā)人員。
2,牽涉到大數(shù)據(jù)處理的數(shù)據(jù)中心運(yùn)行、規(guī)劃、設(shè)計(jì)負(fù)責(zé)人。
3,政府機(jī)關(guān),金融保險(xiǎn)、移動和互聯(lián)網(wǎng)等大數(shù)據(jù)來源單位的負(fù)責(zé)人。
4,高校、科研院所牽涉到大數(shù)據(jù)與分布式數(shù)據(jù)處理的項(xiàng)目負(fù)責(zé)人。
學(xué)員基礎(chǔ)
1,對IT系統(tǒng)設(shè)計(jì)有一定的理論與實(shí)踐經(jīng)驗(yàn)。
2,數(shù)據(jù)倉庫與數(shù)據(jù)挖掘處理有一定的基礎(chǔ)知識。
3,對Hadoop/Yarn/Spark大數(shù)據(jù)技術(shù)有一定的了解。
培訓(xùn)要點(diǎn)
互聯(lián)網(wǎng)點(diǎn)擊數(shù)據(jù)、傳感數(shù)據(jù)、日志文件、具有豐富地理空間信息的移動數(shù)據(jù)和涉及網(wǎng)絡(luò)的各類評論,成為了海量信息的多種形式。當(dāng)數(shù)據(jù)以成百上千TB不斷增長的時(shí)候,我們在內(nèi)部交易系統(tǒng)的歷史信息之外,需要一種基于大數(shù)據(jù)分析的決策模型和技術(shù)支持。
大數(shù)據(jù)通常具有:數(shù)據(jù)體量(Volume)巨大,數(shù)據(jù)類型(Variety)繁多,價(jià)值(Value)密度低,處理速度(Velocity)快等四大特征。如何有效管理和高效處理這些大數(shù)據(jù)已成為當(dāng)前亟待解決的問題。大數(shù)據(jù)處理意味著更嚴(yán)峻的挑戰(zhàn),更好地管理和處理這些數(shù)據(jù)也將會獲得意想不到的收獲。
Google發(fā)布的GFS和MapReduce等高可擴(kuò)展、高性能的分布式大數(shù)據(jù)處理框架,證明了在處理海量網(wǎng)頁數(shù)據(jù)時(shí)該框架的優(yōu)越性。在此基礎(chǔ)上,Apache Hadoop開源項(xiàng)目開發(fā)團(tuán)隊(duì),克隆并推出了Hadoop/Yarn系統(tǒng)。該系統(tǒng)已受到學(xué)術(shù)界和工業(yè)界的廣泛認(rèn)可和采納,并孵化出眾多子項(xiàng)目(如Hive,Zookeeper和Mahout等),日益形成一個(gè)易部署、易開發(fā)、功能齊全、性能優(yōu)良的系統(tǒng)。在此基礎(chǔ)上,以Berkley牽頭設(shè)計(jì)的Spark/BDAS技術(shù),實(shí)現(xiàn)了內(nèi)存級別的分布式處理模式,使用戶無需關(guān)注復(fù)雜的內(nèi)部工作機(jī)制,無需具備豐富的分布式系統(tǒng)知識及開發(fā)經(jīng)驗(yàn),即可實(shí)現(xiàn)大規(guī)模分布式系統(tǒng)的部署與大數(shù)據(jù)的并行處理。
本課程從大數(shù)據(jù)挖掘分析技術(shù)實(shí)戰(zhàn)的角度,結(jié)合理論和實(shí)踐,全方位地介紹Mahout和 MLlib等大數(shù)據(jù)挖掘工具的開發(fā)技巧。本課程涉及的主題包括:大數(shù)據(jù)挖掘及其背景,Mahout和 MLlib大數(shù)據(jù)挖掘工具,推薦系統(tǒng)及電影推薦案例,分類技術(shù)及聚類分析,以及與流挖掘和Docker技術(shù)的結(jié)合,分析了大數(shù)據(jù)挖掘前景分析。
本課程教學(xué)過程中還提供了案例分析來幫助學(xué)員了解如何用Mahout和 MLlib挖掘工具來解決具體的問題,并介紹了從大數(shù)據(jù)中挖掘出有價(jià)值的信息的關(guān)鍵。
本課程不是一個(gè)泛泛的理論性、概念性的介紹課程,而是針對問題討論Mahout和 MLlib解決方案的深入課程。教師對于上述領(lǐng)域有深入的理論研究與實(shí)踐經(jīng)驗(yàn),在課程中將會針對這些問題與學(xué)員一起進(jìn)行研究,在關(guān)鍵點(diǎn)上還會搭建實(shí)驗(yàn)環(huán)境進(jìn)行實(shí)踐研究,以加深對于這些解決方案的理解。通過本課程學(xué)習(xí),希望推動大數(shù)據(jù)分析挖掘項(xiàng)目開發(fā)上升到一個(gè)新水平。
培訓(xùn)內(nèi)容
第一講大數(shù)據(jù)挖掘及其背景
1)數(shù)據(jù)挖掘定義
2)Hadoop相關(guān)技術(shù)
3)大數(shù)據(jù)挖掘知識點(diǎn)
第二講 MapReduce/DAG計(jì)算模式
1)分布式文件系統(tǒng)DFS
2)MapReduce計(jì)算模型介紹
3)使用MR進(jìn)行算法設(shè)計(jì)
4)DAG及其算法設(shè)計(jì)
第三講 云挖掘工具M(jìn)ahout/MLib
1)Hadoop中的Mahoutb介紹
2)Spark中的Mahout/MLib介紹
3)推薦系統(tǒng)及其Mahout實(shí)現(xiàn)方法
4)信息聚類及其MLlib實(shí)現(xiàn)方法
5)分類技術(shù)在Mahout/MLib中的實(shí)現(xiàn)方法
第四講 推薦系統(tǒng)及其應(yīng)用開發(fā)
1)一個(gè)推薦系統(tǒng)的模型
2)基于內(nèi)容的推薦
3)協(xié)同過濾
4)基于Mahout的電影推薦案例
第五講 分類技術(shù)及其應(yīng)用
1)分類的定義
2)分類主要算法
3)Mahout分類過程
4)評估指標(biāo)以及評測
5)貝葉斯算法新聞分類實(shí)例
第六講 聚類技術(shù)及其應(yīng)用
1)聚類的定義
2)聚類的主要算法
3)K-Means、Canopy及其應(yīng)用示例
4)FuzzyK-Means、Dirichlet及其應(yīng)用示例
5)基于MLlib的新聞聚類實(shí)例
第七講 關(guān)聯(lián)規(guī)則和相似項(xiàng)發(fā)現(xiàn)
1)購物籃模型
2)Apriori算法
3)抄襲文檔發(fā)現(xiàn)
4)近鄰搜索的應(yīng)用
第八講 流數(shù)據(jù)挖掘相關(guān)技術(shù)
1)流數(shù)據(jù)挖掘及分析
2)Storm和流數(shù)據(jù)處理模型
3)流處理中的數(shù)據(jù)抽樣
4)流過濾和Bloom filter
第九講 云環(huán)境下大數(shù)據(jù)挖掘應(yīng)用
1)與Hadoop/Yarn集群應(yīng)用的協(xié)作
2)與Docker等其它云工具配合
3)大數(shù)據(jù)挖掘行業(yè)應(yīng)用展望
培訓(xùn)師介紹:楊老師
主要研究網(wǎng)絡(luò)信息分析以及云計(jì)算相關(guān)技術(shù),長期從事通信網(wǎng)管系統(tǒng)、網(wǎng)絡(luò)信息處理、商務(wù)智能(BI)以及電信決策支持系統(tǒng)的研究開發(fā)工作,主持和參與了多個(gè)國家和省部級基金項(xiàng)目,具有豐富的工程實(shí)踐及軟件研發(fā)經(jīng)驗(yàn)。
轉(zhuǎn)載:http://www.jkyingpanluxiangji.com/gkk_detail/19196.html
已開課時(shí)間Have start time
大數(shù)據(jù)課程內(nèi)訓(xùn)
- 數(shù)字經(jīng)濟(jì)基礎(chǔ)和企業(yè)數(shù)字化轉(zhuǎn) 盧森煌
- 管理者數(shù)據(jù)能力晉級 宋致旸
- 商業(yè)銀行數(shù)據(jù)治理體系建設(shè)實(shí) 馬慶
- 大數(shù)據(jù)時(shí)代下服務(wù)營銷新思維 秦超
- 《零售行業(yè)社群團(tuán)購運(yùn)營》 陳蕊
- 數(shù)字金融與智能金融下的智慧 盧森煌
- 數(shù)字媒體和數(shù)字教學(xué) 鐘理勇
- 《企業(yè)數(shù)據(jù)管理與數(shù)據(jù)資產(chǎn)化 張光利
- 企業(yè)區(qū)塊鏈技術(shù)的應(yīng)用場景與 李璐
- 《小紅書運(yùn)營策劃與執(zhí)行》 黃光偉
- 數(shù)字化轉(zhuǎn)型與新質(zhì)生產(chǎn)力 盧森煌
- 大數(shù)據(jù)行業(yè)的現(xiàn)狀與熱點(diǎn) 徐全