SlideShare uma empresa Scribd logo
1 de 18
大數據開發流程
Gene (黑貘)/2016-06-18
大數據的實務與開發
1. 從數據到企業智慧談大數據開發流程
2. 從文字探勘到資料探勘 (新文易數)
3. 模式識別與資料探勘
4. 從社群數據 API 到內部開發
其貘
管理科學
化學
數學, 商用數學
資管, 資工
圖書館 (圖書資訊)
其事
1. 1992, 建立 Newsgroup 個人化閱讀清單
2. 1996, BBS 個人版推薦系統
3. 2000, 電子報資料探勘
4. 2004, 網路書店關聯分析
5. 2008, 部落格語意網路系統
6. 2012, 網點, 網智, 資策會社群力
7. 2016, ????
其夢
2005: MyZilla
2006: 部落格觀察
2007: Hook: 關鍵字熱度
2008: Plurk.tw
2009: Google + 排行榜
2010: 網點: SEO.datamining.tw
2011: 神貘天氣
2012: 網事: web.mas.ter.tw
2013: 林克傳說
2014: 社群排行榜
2015: 新文易數
我不是好的講師
1. 我從來不講相同的東西, 每次講都是重新準備, 講最新的東西, 不太喜歡講舊觀念, 而一個好的講師往往是因為熟練講
得更好
2. 我不太會深入淺出, 就一開始就講我認為值得講的, 外面書上寫過的或 FAQ 我就很習慣跳過, 所以入門的人來聽就會
很尷尬...
3. 我很少提前備課, 我發現在講時前一小時寫完投影片, 講的思考連續性與效果是最好
4. 我很少講別人的範例, 或是用別人的投影片, 所以很少精美的投影片
5. 我強調的是邏輯思維, 而不是純架構而已, 所以很常漏失外面的基本常識
6. 我不太喜歡自我介紹, 真的要講自介只講跟課程/講題有關的
7. 我很受聽眾的影響, 互動得好我就會講得很盡興, 下面在睡的話我反而比聽眾更想睡
8. 我喜歡講自己的作品, 而不是用較宏觀的角度來看
9. 我習慣做內部訓練, 至少知道這群人的程度, 這樣比較好講, 也往往不會受時間限制
10. 相對的一般性的對外演講經驗很少, 一年只有 10~20 次而已, 所以練習的次數經驗無法跟專業的比
11. 我不太講技術以外的事, 所以最好是有實作能力與經驗的人來聽..
12. 我不講黑暗兵法...
為甚麼 Big Data 被認為失敗 (2013-12)
Big Data 有很多人都宣稱在做
不了解的人已被既定印像限制住了
宣稱用 Big Data 的服務都沒甚麼效用
用 Big Data 來募資已經募不到錢
真的在用 Big Data 嗎?
數量級
時間區間
即時性
應用範圍
實用性
演算法
企業組織鍊失去的環節
Business Developer
Product Manager
System Analyzer
Programmer
User/Operator
軟體工程標準流程
由上到下思維的謬誤
1. 你可以要求社群照你的格式產生資料嗎?
2. 你可以要求臉書/Google照你的資料庫設計嗎?
系統分析的謬誤
從上到下的系統分析
目標與須求的鍊結
規格書
Big Data 的 Variety 與 Veracity
可行性分析
自動化/人工化?
Product Manager 的迷思
一定要有 Profile
一定要有區間
只做內部決策參考用
想要知道原因
資料科學家是最缺的?
Big Data 的流程
1. 確立資料源
2. 尋找聚合點
3. 模式與模型識別
4. 資料規劃 (儲存, 計算)
5. 使用者須求
6. 開發
由下到上真的可解決嗎?
1. Big Data 像煮飯
2. 須求與目標的連結, 資料與問題的連結
資料問題是如上, 但重點還是人的問題

Mais conteúdo relacionado

Destaque

社群與新聞 資料分析 實作課程
社群與新聞 資料分析 實作課程社群與新聞 資料分析 實作課程
社群與新聞 資料分析 實作課程Gene Hong
 
Hadoop 2.0 之古往今來
Hadoop 2.0 之古往今來Hadoop 2.0 之古往今來
Hadoop 2.0 之古往今來Wei-Yu Chen
 
20170123 外交學院 大數據趨勢與應用
20170123 外交學院 大數據趨勢與應用20170123 外交學院 大數據趨勢與應用
20170123 外交學院 大數據趨勢與應用Meng-Ru (Raymond) Tsai
 
李仁杰/ Riot Games Head of Data Science
李仁杰/ Riot Games Head of Data Science 李仁杰/ Riot Games Head of Data Science
李仁杰/ Riot Games Head of Data Science 台灣資料科學年會
 

Destaque (6)

社群與新聞 資料分析 實作課程
社群與新聞 資料分析 實作課程社群與新聞 資料分析 實作課程
社群與新聞 資料分析 實作課程
 
Hadoop 2.0 之古往今來
Hadoop 2.0 之古往今來Hadoop 2.0 之古往今來
Hadoop 2.0 之古往今來
 
20170123 外交學院 大數據趨勢與應用
20170123 外交學院 大數據趨勢與應用20170123 外交學院 大數據趨勢與應用
20170123 外交學院 大數據趨勢與應用
 
李仁杰/ Riot Games Head of Data Science
李仁杰/ Riot Games Head of Data Science 李仁杰/ Riot Games Head of Data Science
李仁杰/ Riot Games Head of Data Science
 
陳宜欣/大數據下的情緒分析
陳宜欣/大數據下的情緒分析陳宜欣/大數據下的情緒分析
陳宜欣/大數據下的情緒分析
 
大數據的基本概念(上)
大數據的基本概念(上)大數據的基本概念(上)
大數據的基本概念(上)
 

Semelhante a 大數據開發流程

网络营销全攻略
网络营销全攻略网络营销全攻略
网络营销全攻略ethan.lee
 
20190221精華彙整【商業心理讀書會】《未來地圖》解析未來趨勢的脈絡
20190221精華彙整【商業心理讀書會】《未來地圖》解析未來趨勢的脈絡20190221精華彙整【商業心理讀書會】《未來地圖》解析未來趨勢的脈絡
20190221精華彙整【商業心理讀書會】《未來地圖》解析未來趨勢的脈絡bookfans
 
Way to big date 資策會李進寶所長 20120620
Way to big date 資策會李進寶所長 20120620Way to big date 資策會李進寶所長 20120620
Way to big date 資策會李進寶所長 20120620Lawrence Huang
 
Introduction: Semantic web (20120521)
Introduction: Semantic web (20120521)Introduction: Semantic web (20120521)
Introduction: Semantic web (20120521)Charles (XXC) Chen
 
大數據時代的必備工具-Google Analytics
大數據時代的必備工具-Google Analytics大數據時代的必備工具-Google Analytics
大數據時代的必備工具-Google Analytics新頁 陳
 
Bigdata bizoppor
Bigdata bizopporBigdata bizoppor
Bigdata bizopporAccenture
 
Oceanus, a social listening/ social software company
Oceanus, a social listening/ social software companyOceanus, a social listening/ social software company
Oceanus, a social listening/ social software companyOceanus_Data
 
B2B 行业的社会化运营模式_201406
B2B 行业的社会化运营模式_201406B2B 行业的社会化运营模式_201406
B2B 行业的社会化运营模式_201406Yu Zhang
 
大數據與資料科學人才現況與趨勢
大數據與資料科學人才現況與趨勢大數據與資料科學人才現況與趨勢
大數據與資料科學人才現況與趨勢Anna Yen
 
時尚產業社群行銷新趨勢 - 以DAPPEI為例
時尚產業社群行銷新趨勢 - 以DAPPEI為例時尚產業社群行銷新趨勢 - 以DAPPEI為例
時尚產業社群行銷新趨勢 - 以DAPPEI為例Felix Lin
 
Big data應用讓企業獲利翻倍
Big data應用讓企業獲利翻倍Big data應用讓企業獲利翻倍
Big data應用讓企業獲利翻倍Weng Wallace
 
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214張大明 Ta-Ming Chang
 
Online office martech
Online office martechOnline office martech
Online office martechFEG
 
2016署假宅學營 Google Analytics & FaceBook Messenger BOT
2016署假宅學營 Google Analytics  & FaceBook Messenger  BOT2016署假宅學營 Google Analytics  & FaceBook Messenger  BOT
2016署假宅學營 Google Analytics & FaceBook Messenger BOT舜博 許
 
从社会化媒体迈向社会化商业系列白皮书主题二:市场研究的社会化创新
从社会化媒体迈向社会化商业系列白皮书主题二:市场研究的社会化创新从社会化媒体迈向社会化商业系列白皮书主题二:市场研究的社会化创新
从社会化媒体迈向社会化商业系列白皮书主题二:市场研究的社会化创新Kantar Media CIC
 
2016 Ideas Hakathon_EC Decision
2016 Ideas Hakathon_EC Decision2016 Ideas Hakathon_EC Decision
2016 Ideas Hakathon_EC Decisionideashackathon
 
Sonia’s sharing with iresearch
Sonia’s sharing with iresearchSonia’s sharing with iresearch
Sonia’s sharing with iresearch中海互动
 
Kaolaso chn
Kaolaso chnKaolaso chn
Kaolaso chn36Kr.com
 

Semelhante a 大數據開發流程 (20)

网络营销全攻略
网络营销全攻略网络营销全攻略
网络营销全攻略
 
20190221精華彙整【商業心理讀書會】《未來地圖》解析未來趨勢的脈絡
20190221精華彙整【商業心理讀書會】《未來地圖》解析未來趨勢的脈絡20190221精華彙整【商業心理讀書會】《未來地圖》解析未來趨勢的脈絡
20190221精華彙整【商業心理讀書會】《未來地圖》解析未來趨勢的脈絡
 
Way to big date 資策會李進寶所長 20120620
Way to big date 資策會李進寶所長 20120620Way to big date 資策會李進寶所長 20120620
Way to big date 資策會李進寶所長 20120620
 
Introduction: Semantic web (20120521)
Introduction: Semantic web (20120521)Introduction: Semantic web (20120521)
Introduction: Semantic web (20120521)
 
2012-01-12資訊人員價值提升
2012-01-12資訊人員價值提升2012-01-12資訊人員價值提升
2012-01-12資訊人員價值提升
 
大數據時代的必備工具-Google Analytics
大數據時代的必備工具-Google Analytics大數據時代的必備工具-Google Analytics
大數據時代的必備工具-Google Analytics
 
Bigdata bizoppor
Bigdata bizopporBigdata bizoppor
Bigdata bizoppor
 
Oceanus, a social listening/ social software company
Oceanus, a social listening/ social software companyOceanus, a social listening/ social software company
Oceanus, a social listening/ social software company
 
B2B 行业的社会化运营模式_201406
B2B 行业的社会化运营模式_201406B2B 行业的社会化运营模式_201406
B2B 行业的社会化运营模式_201406
 
大數據與資料科學人才現況與趨勢
大數據與資料科學人才現況與趨勢大數據與資料科學人才現況與趨勢
大數據與資料科學人才現況與趨勢
 
時尚產業社群行銷新趨勢 - 以DAPPEI為例
時尚產業社群行銷新趨勢 - 以DAPPEI為例時尚產業社群行銷新趨勢 - 以DAPPEI為例
時尚產業社群行銷新趨勢 - 以DAPPEI為例
 
Big data應用讓企業獲利翻倍
Big data應用讓企業獲利翻倍Big data應用讓企業獲利翻倍
Big data應用讓企業獲利翻倍
 
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
認識人工智慧與發展應用(台北市公訓處與程曦資訊企業參訪) 20171214
 
Online office martech
Online office martechOnline office martech
Online office martech
 
2016署假宅學營 Google Analytics & FaceBook Messenger BOT
2016署假宅學營 Google Analytics  & FaceBook Messenger  BOT2016署假宅學營 Google Analytics  & FaceBook Messenger  BOT
2016署假宅學營 Google Analytics & FaceBook Messenger BOT
 
从社会化媒体迈向社会化商业系列白皮书主题二:市场研究的社会化创新
从社会化媒体迈向社会化商业系列白皮书主题二:市场研究的社会化创新从社会化媒体迈向社会化商业系列白皮书主题二:市场研究的社会化创新
从社会化媒体迈向社会化商业系列白皮书主题二:市场研究的社会化创新
 
2016 Ideas Hakathon_EC Decision
2016 Ideas Hakathon_EC Decision2016 Ideas Hakathon_EC Decision
2016 Ideas Hakathon_EC Decision
 
當科技遇到設計-科技人才布局新洞察
當科技遇到設計-科技人才布局新洞察當科技遇到設計-科技人才布局新洞察
當科技遇到設計-科技人才布局新洞察
 
Sonia’s sharing with iresearch
Sonia’s sharing with iresearchSonia’s sharing with iresearch
Sonia’s sharing with iresearch
 
Kaolaso chn
Kaolaso chnKaolaso chn
Kaolaso chn
 

Mais de Gene Hong

如何建立資訊戰儀表板
如何建立資訊戰儀表板如何建立資訊戰儀表板
如何建立資訊戰儀表板Gene Hong
 
網眾 Ver. 0.2
網眾 Ver. 0.2網眾 Ver. 0.2
網眾 Ver. 0.2Gene Hong
 
網路選戰手冊
網路選戰手冊網路選戰手冊
網路選戰手冊Gene Hong
 
從 GA 的 API 來看 SEO 的 KPI ver 2.0
從 GA 的 API 來看 SEO 的 KPI ver 2.0從 GA 的 API 來看 SEO 的 KPI ver 2.0
從 GA 的 API 來看 SEO 的 KPI ver 2.0Gene Hong
 
開放政府與開放公民
開放政府與開放公民開放政府與開放公民
開放政府與開放公民Gene Hong
 
從臉書看選舉
從臉書看選舉從臉書看選舉
從臉書看選舉Gene Hong
 
從社群資訊獲取行為來分析個人意見傾向
從社群資訊獲取行為來分析個人意見傾向從社群資訊獲取行為來分析個人意見傾向
從社群資訊獲取行為來分析個人意見傾向Gene Hong
 
從 GA 的 API 來看 SEO 的 KPI 加強版!
從 GA 的 API 來看 SEO 的 KPI 加強版!從 GA 的 API 來看 SEO 的 KPI 加強版!
從 GA 的 API 來看 SEO 的 KPI 加強版!Gene Hong
 
網域切割注意事項
網域切割注意事項網域切割注意事項
網域切割注意事項Gene Hong
 
從 GA 的 API 來看 SEO 的 KPI
從 GA 的 API 來看 SEO 的 KPI從 GA 的 API 來看 SEO 的 KPI
從 GA 的 API 來看 SEO 的 KPIGene Hong
 
從社群資料來看 工人(群眾)智慧與人工智慧 的結合
從社群資料來看 工人(群眾)智慧與人工智慧 的結合從社群資料來看 工人(群眾)智慧與人工智慧 的結合
從社群資料來看 工人(群眾)智慧與人工智慧 的結合Gene Hong
 
Seo 最重要的檢查項目
Seo 最重要的檢查項目Seo 最重要的檢查項目
Seo 最重要的檢查項目Gene Hong
 
從開放公民看 新媒體&新政治
從開放公民看 新媒體&新政治從開放公民看 新媒體&新政治
從開放公民看 新媒體&新政治Gene Hong
 
Open civic 開放公民
Open civic 開放公民Open civic 開放公民
Open civic 開放公民Gene Hong
 
Seo in webmaster
Seo in webmasterSeo in webmaster
Seo in webmasterGene Hong
 
Seo, 從搜尋引擎開始
Seo, 從搜尋引擎開始Seo, 從搜尋引擎開始
Seo, 從搜尋引擎開始Gene Hong
 
網路民意之追尋
網路民意之追尋網路民意之追尋
網路民意之追尋Gene Hong
 
開放的人民力量
開放的人民力量開放的人民力量
開放的人民力量Gene Hong
 
Big Data 成功與失敗的真相
Big Data 成功與失敗的真相Big Data 成功與失敗的真相
Big Data 成功與失敗的真相Gene Hong
 

Mais de Gene Hong (20)

如何建立資訊戰儀表板
如何建立資訊戰儀表板如何建立資訊戰儀表板
如何建立資訊戰儀表板
 
網眾 Ver. 0.2
網眾 Ver. 0.2網眾 Ver. 0.2
網眾 Ver. 0.2
 
網路選戰手冊
網路選戰手冊網路選戰手冊
網路選戰手冊
 
從 GA 的 API 來看 SEO 的 KPI ver 2.0
從 GA 的 API 來看 SEO 的 KPI ver 2.0從 GA 的 API 來看 SEO 的 KPI ver 2.0
從 GA 的 API 來看 SEO 的 KPI ver 2.0
 
開放政府與開放公民
開放政府與開放公民開放政府與開放公民
開放政府與開放公民
 
從臉書看選舉
從臉書看選舉從臉書看選舉
從臉書看選舉
 
從社群資訊獲取行為來分析個人意見傾向
從社群資訊獲取行為來分析個人意見傾向從社群資訊獲取行為來分析個人意見傾向
從社群資訊獲取行為來分析個人意見傾向
 
從 GA 的 API 來看 SEO 的 KPI 加強版!
從 GA 的 API 來看 SEO 的 KPI 加強版!從 GA 的 API 來看 SEO 的 KPI 加強版!
從 GA 的 API 來看 SEO 的 KPI 加強版!
 
網域切割注意事項
網域切割注意事項網域切割注意事項
網域切割注意事項
 
從 GA 的 API 來看 SEO 的 KPI
從 GA 的 API 來看 SEO 的 KPI從 GA 的 API 來看 SEO 的 KPI
從 GA 的 API 來看 SEO 的 KPI
 
從社群資料來看 工人(群眾)智慧與人工智慧 的結合
從社群資料來看 工人(群眾)智慧與人工智慧 的結合從社群資料來看 工人(群眾)智慧與人工智慧 的結合
從社群資料來看 工人(群眾)智慧與人工智慧 的結合
 
Seo 最重要的檢查項目
Seo 最重要的檢查項目Seo 最重要的檢查項目
Seo 最重要的檢查項目
 
從開放公民看 新媒體&新政治
從開放公民看 新媒體&新政治從開放公民看 新媒體&新政治
從開放公民看 新媒體&新政治
 
Open civic 開放公民
Open civic 開放公民Open civic 開放公民
Open civic 開放公民
 
Seo in brie
Seo in brieSeo in brie
Seo in brie
 
Seo in webmaster
Seo in webmasterSeo in webmaster
Seo in webmaster
 
Seo, 從搜尋引擎開始
Seo, 從搜尋引擎開始Seo, 從搜尋引擎開始
Seo, 從搜尋引擎開始
 
網路民意之追尋
網路民意之追尋網路民意之追尋
網路民意之追尋
 
開放的人民力量
開放的人民力量開放的人民力量
開放的人民力量
 
Big Data 成功與失敗的真相
Big Data 成功與失敗的真相Big Data 成功與失敗的真相
Big Data 成功與失敗的真相
 

大數據開發流程

Notas do Editor

  1. 成功, 失敗 部落格觀察 Big Data 困難點
  2. 還是有例外