丝袜久久亚洲国产毛片,老人AV综合,国产精品日韩av,超碰国产综合,综合av在线草,毛片久久久,精品蜜桃一区三区,99久久久,人妻99在线视频

光“大”是不行的,開放才能實現(xiàn)大數(shù)據(jù)的深發(fā)展

2014-10-03 項目

展示量: 3995
光“大”是不行的,開放才能實現(xiàn)大數(shù)據(jù)的深發(fā)展
創(chuàng)投分享會注:本文由英特爾中國研究院院長吳甘沙先生授權獨家首發(fā),原標題為《大數(shù)據(jù)的開放式創(chuàng)新》。

圍墻里的大數(shù)據(jù)注定成為死數(shù)據(jù)。大數(shù)據(jù)需要開放式創(chuàng)新,從數(shù)據(jù)的開放、共享和交易,到價值提取能力的開放,再到基礎處理和分析平臺的開放,讓數(shù)據(jù)如同血液在數(shù)據(jù)社會的軀體中長流,滋潤數(shù)據(jù)經(jīng)濟,讓更多的長尾企業(yè)和數(shù)據(jù)思維創(chuàng)新者產(chǎn)生多姿多彩的化學作用,才能創(chuàng)造大數(shù)據(jù)的黃金時代。

我的大數(shù)據(jù)研究軌跡

我做了4-5年的移動架構和Java虛擬機,4-5年的眾核架構和并行編程系統(tǒng),最近4-5年也在追時髦,先是投入物聯(lián)網(wǎng),最近幾年一直在做大數(shù)據(jù)。我們團隊的大數(shù)據(jù)研究軌跡如下圖所示:


2010-2012年,主要關注數(shù)據(jù)和機器的關系:水平擴展、容錯、一致性、軟硬件協(xié)同設計,同時厘清各種計算模式,從批處理(MapReduce)到流處理、Big SQL/ad hoc query、圖計算、機器學習等等。事實上,我們的團隊只是英特爾大數(shù)據(jù)研發(fā)力量的一部分,上海的團隊是英特爾Hadoop發(fā)行版的主力軍,現(xiàn)在英特爾成了Cloudera的最大股東,自己不做發(fā)行版了,但是平臺優(yōu)化、開源支持和垂直領域的解決方案仍然是英特爾大數(shù)據(jù)研發(fā)的重心。

從2013年開始關注數(shù)據(jù)與人的關系:對于數(shù)據(jù)科學家怎么做好分布式機器學習、特征工程與非監(jiān)督學習,對于領域專家來說怎么做好交互式分析工具,對于終端用戶怎么做好交互式可視化工具。英特爾研究院在美國卡內(nèi)基梅隆大學支持的科研中心做了GraphLab、Stale Synchronous Parallelism,在MIT的科研中心做了交互式可視化和SciDB上的大數(shù)據(jù)分析,而中國主要做了Spark SQL和MLlib(機器學習庫),現(xiàn)在也涉及到深度學習算法和基礎設施。

2014年重點分析數(shù)據(jù)和數(shù)據(jù)的關系:我們原來的工作重心是開源,后來發(fā)現(xiàn)開源只是開放式創(chuàng)新的一個部分,做大數(shù)據(jù)的開放式創(chuàng)新還要做數(shù)據(jù)的開放、大數(shù)據(jù)基礎設施的開放以及價值提取能力的開放。

數(shù)據(jù)的暗黑之海與外部效應

下面是一張非常有意思的圖,黃色部分是化石級的,即沒有聯(lián)網(wǎng)、沒有數(shù)字化的數(shù)據(jù),而絕大多數(shù)的數(shù)據(jù)是在這片海里面。只有海平面的這些數(shù)據(jù)(有人把它稱作Surface Web)才是真正大家能訪問到的數(shù)據(jù),爬蟲能爬到、搜索引擎能檢索到的數(shù)據(jù),而絕大多數(shù)的數(shù)據(jù)是在暗黑之海里面(相應地叫做Dark Web),據(jù)說這一部分占數(shù)據(jù)總量的85%以上,它們在一些孤島里面,在一些企業(yè)、政府里面躺在地板上睡大覺。


數(shù)據(jù)之于數(shù)據(jù)社會,就如同水之于城市或者血液之于身體一樣。城市因為河流而誕生也受其滋養(yǎng),血液一旦停滯身體也就危在旦夕。所以,對于號稱數(shù)據(jù)化生存的社會來說,我們一定要讓數(shù)據(jù)流動起來,不然這個社會將會喪失諸多重要功能。

所以,我們希望數(shù)據(jù)能夠像“金風玉露一相逢”那樣產(chǎn)生化學作用。馬化騰先生提出了一個internet+的概念,英特爾也有一個大數(shù)據(jù)X,相當于大數(shù)據(jù)乘以各行各業(yè)。如下圖所示,乘法效應之外,數(shù)據(jù)有個非常奇妙的效應叫做外部效應(externality),比如這個數(shù)據(jù)對我沒用但對TA很有用,所謂我之毒藥彼之蜜糖。


比如,金融數(shù)據(jù)和電商數(shù)據(jù)碰撞在一起,就產(chǎn)生了像小微貸款那樣的互聯(lián)網(wǎng)金融;電信數(shù)據(jù)和政府數(shù)據(jù)相遇,可以產(chǎn)生人口統(tǒng)計學方面的價值,幫助城市規(guī)劃人們居住、工作、娛樂的場所;金融數(shù)據(jù)和醫(yī)學數(shù)據(jù)在一起,麥肯錫列舉了很多應用,比如可以發(fā)現(xiàn)騙保;物流數(shù)據(jù)和電商數(shù)據(jù)湊在一塊,可以了解各個經(jīng)濟子領域的運行情況;物流數(shù)據(jù)和金融數(shù)據(jù)產(chǎn)生供應鏈金融,而金融數(shù)據(jù)和農(nóng)業(yè)數(shù)據(jù)也能發(fā)生一些化學作用。比如Google analytics出來的幾個人,利用美國開放氣象數(shù)據(jù),在每一塊農(nóng)田上建立微氣象模型,可以預測災害,幫助農(nóng)民保險和理賠。

所以,要走數(shù)據(jù)開放之路,讓不同領域的數(shù)據(jù)真正流動起來、融合起來,才能釋放大數(shù)據(jù)的價值。

三個關于開放的概念

1、數(shù)據(jù)開放

首先是狹義的數(shù)據(jù)開放。數(shù)據(jù)開放的主體是政府和科研機構,把非涉密的政府數(shù)據(jù)及科研數(shù)據(jù)開放出來?,F(xiàn)在也有一些企業(yè)愿意開放數(shù)據(jù),像Netflix和一些電信運營商,來幫助他們的數(shù)據(jù)價值化,建構生態(tài)系統(tǒng)。但是數(shù)據(jù)開放不等于信息公開。首先,數(shù)據(jù)不等于信息,信息是從數(shù)據(jù)里面提煉出來的東西。我們希望,首先要開放原始的數(shù)據(jù)(raw data),其次,它是一種主動和免費的開放,我們現(xiàn)在經(jīng)常聽說要申請信息公開,那是被動的開放。

Tim Berners Lee提出了數(shù)據(jù)開放的五星標準,以保證數(shù)據(jù)質量:一星是開放授權的格式,比如說PDF;其次是結構化,把數(shù)據(jù)從文件變成了像excel這樣的表;三星是開放格式,如CSV;四星是能夠通過URI找到每一個數(shù)據(jù)項;五星代表能夠和其它數(shù)據(jù)鏈接,形成一個開放的數(shù)據(jù)圖譜。


現(xiàn)在主流的數(shù)據(jù)開放門戶,像data.dov或data.gov.uk,都是基于開源軟件。英特爾在MIT的大數(shù)據(jù)科研中心也做了一種形態(tài),叫Datahub:吉祥物很有趣,一半是大象,代表數(shù)據(jù)庫技術,一半是章魚,取自github的吉祥物章魚貓。它提供更多的功能比如易管理性,提供結構化數(shù)據(jù)服務和訪問控制,對數(shù)據(jù)共享進行管理,同時可以在原地做可視化和分析。


廣義的數(shù)據(jù)開放還有數(shù)據(jù)的共享及交易,比如點對點進行數(shù)據(jù)共享或在多邊平臺上做數(shù)據(jù)交易。馬克思說生產(chǎn)資料所有制是經(jīng)濟的基礎,但是現(xiàn)在大家可以發(fā)現(xiàn),生產(chǎn)資料的租賃制變成了一種主流(參考《Lean Startup》),在數(shù)據(jù)的場景下,我不一定擁有數(shù)據(jù),甚至不用整個數(shù)據(jù)集,但可以租賃。租賃的過程中要保證數(shù)據(jù)的權利。

首先,我可以做到數(shù)據(jù)給你用,但不可以給你看見。姚期智老先生82年提出“millionaires’ dilemma(百萬富翁的窘境)”,兩個百萬富翁比富誰都不愿意說出自己有多少錢,這就是典型的“可用但不可見”場景。在實際生活中的例子很多,比如美國國土安全部有恐怖分子名單(數(shù)據(jù)1),航空公司有乘客飛行記錄(數(shù)據(jù)2),國土安全部向航空公司要乘客飛行記錄,航空公司不給,因為涉及隱私,他反過來向國土安全部要恐怖分子名單,也不行,因為是國家機密。雙方都有發(fā)現(xiàn)恐怖分子的意愿,但都不愿給出數(shù)據(jù),有沒有辦法讓數(shù)據(jù)1和數(shù)據(jù)2放一起掃一下,但又保障數(shù)據(jù)安全呢?

其次,在數(shù)據(jù)使用過程中要有審計,萬一那個掃描程序偷偷把數(shù)據(jù)藏起來送回去怎么辦?再者,需要數(shù)據(jù)定價機制,雙方數(shù)據(jù)的價值一定不對等,產(chǎn)生的洞察對各方的用途也不一樣,因此要有個定價機制,比大鍋飯式的數(shù)據(jù)共享更有激勵性。

從點對點的共享,走到多邊的數(shù)據(jù)交易,從一對多的數(shù)據(jù)服務到多對多的數(shù)據(jù)市場,再到數(shù)據(jù)交易所。如果說現(xiàn)在的數(shù)據(jù)市場更多是對數(shù)據(jù)集進行買賣的話,那么數(shù)據(jù)交易所就是一個基于市場進行價值發(fā)現(xiàn)和定價的,像股票交易所那樣的、小批量、高頻率的數(shù)據(jù)交易。

我們支持了不少研究來實現(xiàn)剛才所說的這些功能,比如說可用而不可見。案例一是通過加密數(shù)據(jù)庫CryptDB/Monomi實現(xiàn),在數(shù)據(jù)擁有方甲方這邊的數(shù)據(jù)庫是完全加密的,這事實上也防止了現(xiàn)在出現(xiàn)的很多數(shù)據(jù)泄露問題,大家已經(jīng)聽到,比如說某互聯(lián)網(wǎng)服務提供商的員工偷偷把數(shù)據(jù)拿出來賣,你的數(shù)據(jù)一旦加密了他拿出來也沒用。其次,這個加密數(shù)據(jù)庫可以運行乙方的普通SQL程序,因為它采用了同態(tài)加密技術和洋蔥加密法,SQL的一些語義在密文上也可以執(zhí)行。


針對“百萬富翁的窘境”,我們做了另一種可用但不可見的技術,叫做數(shù)據(jù)咖啡館。大家知道咖啡館是讓人和人進行思想碰撞的地方,這個數(shù)據(jù)咖啡館就是讓數(shù)據(jù)和數(shù)據(jù)能夠碰撞而產(chǎn)生新的價值。

比如兩個電商,一個是賣衣服的,一個是賣化妝品的,他們對于客戶的洞察都是相對有限的,如果兩邊的數(shù)據(jù)放在一起做一次分析,那么就能夠獲得全面的用戶畫像。再如,癌癥是一類長尾病癥,有太多的基因突變,每個研究機構的基因組樣本都相對有限,這在某種程度上解釋了為什么過去50年癌癥的治愈率僅僅提升了8%。那么,多個研究機構的數(shù)據(jù)在咖啡館碰一碰,也能夠加速癌癥的研究。

在咖啡館的底層是多方安全計算的技術,基于英特爾和伯克利的一個聯(lián)合研究。在上面是安全、可信的Spark,基于“data lineage”的使用審計,根據(jù)各方數(shù)據(jù)對結果的貢獻進行定價。


2、大數(shù)據(jù)基礎設施的開放

現(xiàn)在有的是有大數(shù)據(jù)思維的人,但他們很捉急,玩不起、玩不會大數(shù)據(jù),他不懂怎么存儲、怎么處理這些大數(shù)據(jù),這就需要云計算。基礎設施的開放還是傳統(tǒng)的Platform as a Service,比如Amazon AWS里有MapReduce,Google有Big Query。這些大數(shù)據(jù)的基礎處理和分析平臺可以降低數(shù)據(jù)思維者的門檻,釋放他們的創(chuàng)造力。

比如decide.com,每天爬幾十萬的數(shù)據(jù),對價格信息(結構化的和非結構化的)進行分析,然后告訴你買什么牌子、什么時候買最好。只有四個PhD搞算法,其他的靠AWS。另一家公司Prismatic,也利用了AWS,這是一家做個性化閱讀推薦的,我專門研究過它的計算圖、存儲和高性能庫,用LISP的一個變種Clojure寫的非常漂亮,真正做技術的只有三個學生。

所以當這些基礎設施社會化以后,大數(shù)據(jù)思維者的春天很快就要到來。

3、價值提取能力的開放

現(xiàn)在的模式一般是一大一小或一對多。比如Tesco和Dunnhumby,后者剛開始是很小的公司,找到Tesco給它做客戶忠誠度計劃,一做就做了幾十年,這樣的長期戰(zhàn)略合作優(yōu)于短期的數(shù)據(jù)分析服務,決策更注重長期性。當然,Dunnhumby現(xiàn)在已經(jīng)不是小公司了,也為其他大公司提供數(shù)據(jù)分析服務。再如沃爾瑪和另外一家小公司合作,做數(shù)據(jù)分析,最后他把這家小公司買下來了,成了它的Walmart Labs。

一對多的模式,典型的是Palantir——Peter Thiel和斯坦福的幾個教授成立的公司,目前還是私有的,但估值近百億了,它很擅長給各類政府和金融機構提供數(shù)據(jù)價值提取服務。真正把這種能力開放的是Kaggle,它的雙邊,一邊是10多萬的分析師,另一邊是需求方企業(yè),企業(yè)在Kaggle上發(fā)標,分析師競標,獲得業(yè)務。這可能是真正解決長尾公司價值提取能力的辦法。當然,如果能和我們的數(shù)據(jù)咖啡館結合,就更好了。


文章為作者獨立觀點,不代表創(chuàng)投分享會立場
知名風險投資公司
紅杉資本|瑞華投資|同創(chuàng)偉業(yè)|達晨創(chuàng)投|深創(chuàng)投|IDG|創(chuàng)東方|君聯(lián)資本|中科招商|經(jīng)緯中國|啟明創(chuàng)投|松禾資本|英特爾投資|優(yōu)勢資本|東方富海|天堂硅谷|九鼎投資|晨興創(chuàng)投|江蘇高科投|北極光創(chuàng)投|德同資本|凱雷投資|中國風投|天圖資本|真格基金|DCM|IFC|凱鵬華盈|高盛投資|啟迪創(chuàng)投|戈壁|荷多投資|紀源資本|鼎暉投資|華平投資|金沙江投資|海納亞洲|永宣創(chuàng)投|險峰華興創(chuàng)投|中投|海通開元|中信資本|力鼎資本|平安創(chuàng)新資本|天使灣創(chuàng)投|和君資本|祥峰集團|招商湘江投資|元禾控股|力合創(chuàng)投|復星創(chuàng)富|陜西高投|光速創(chuàng)投|富達亞洲|成為資本|中信產(chǎn)業(yè)基金|GIC|基石資本|金茂資本|富坤創(chuàng)投|盈富泰克|重慶科投|鼎暉創(chuàng)投|北工投資|海富投資|招商局資本|新天域資本|中路集團|摩根士丹利|青云創(chuàng)投|建銀國際|德豐杰|弘毅投資|CVC|藍馳創(chuàng)投|寬帶資本|秉鴻資本|金石投資|天創(chuàng)資本|證大投資|中經(jīng)合|信中利|蘭馨亞洲|淡馬錫|浙商創(chuàng)投|華睿投資|景林資產(chǎn)|摯信資本|高特佳|清科創(chuàng)投|華登國際|山東高新投|集富亞洲|騰訊|無錫創(chuàng)投|創(chuàng)新工場|智基創(chuàng)投|策源創(chuàng)投|軟銀中國|
Copyright©創(chuàng)業(yè)聯(lián)合網(wǎng) ALL Rights Reserved
滬ICP備2024089025號-2
商務與客服聯(lián)系微信
西乡县| 黑龙江省| 阜城县| 井冈山市| 浦东新区| 马边| 广汉市| 嘉禾县| 方正县| 荣昌县| 龙海市| 信阳市| 磐石市| 平顶山市| 那曲县| 高淳县| 泰安市| 两当县| 临江市| 五台县| 陵川县| 恭城| 棋牌| 司法| 旺苍县| 革吉县| 印江| 泌阳县| 镇远县| 高唐县| 颍上县| 朝阳市| 达日县| 蓬莱市| 深泽县| 玛曲县| 凌源市| 新宁县| 金昌市| 杭州市| 白河县|