扫码打开虎嗅APP
赞助
2016-02-02 13:402016年新年伊始,在主题为“Hello,DT World”的论坛上,阿里云发布了大数据开发平台:“数加”。这是一个包含计算引擎、开发组件、可视化工具在内的一站式开发平台,将大大降低开发者使用大数据的门槛,同时也将让数据分析和数据预测的成本降至10%。
大数据的口号喊了多年,到如今依然热度不减,哪怕在2015年资本市场的“寒冬”下,中国大数据领域的创新公司仍获得近50亿人民币的投资。可实际上,大数据在开发层面和应用层面一直未有本质的创新,人类已挖掘的数据财富更是不到百万分之一。
“数加”的发布,对阿里云来说,无疑是对数据和计算本质的重新思考:把云计算的“云”和大数据“大”去掉,让数据被更好地计算,从而创造出经济和社会价值。
事实上,人类社会的发展自始至终离不开数据与计算工具的进化。
在《人类简史》这本书里,历史学家尤瓦尔·赫拉利描述了的“智人”的进化过程,很大程度上源自计数工具的推动,即便是麻绳、石头这样简陋的计数工具。到了公元前2700年,古苏美尔人发明了算盘,开创了世界上首批先进的计算系统。而利用算盘,古苏美尔人和古巴比伦人在天文、航海方面有了深刻研究,这些由算盘计算出来的天文、航海数据也成为早年商贸活动的重要参考。
如果把历史镜头拉近,当1946年冯·诺伊曼推出第一台现代意义的计数设备——计算机的时候,人类的又一场变革大幕正在开启。正是在计算机强大计算能力的帮助下,登月计划才会成为现实,也正是利用计算机,人类对于生命科学的研究才能在过去二十年取得突飞猛进的发展。
从互联网时代开始,尤其到了移动互联网以及社交媒体时代,人类社会的数据增长进入到一个前所未有的爆发阶段。根据IDC的数字世界研究报告显示,仅仅在2013年,人类产生、复制和消费的数据量达到4.4ZB。而到2020年,数据量将增长10倍,达到44ZB。
如此海量数据的增长,势必需要更优秀的数据解决方案。
长期以来,企业数据处理的终极结果往往就是商务智能,但一张所谓的智能报表由于无法实现实时计算,并不能真正代表企业的运营情况。其次,数据存储的成本并不低,倘若无法从数据中挖掘出核心价值,那么数据不但不会是企业发展的动能,还将成为企业的重要成本。第三,即便是Hadoop平台出现之后,虽然拥有了开放、廉价、基于普通商业硬件的平台,但大数据应用的开发成本,无论是技术门槛还是价格都让很多普通开发者望而却步。
在这样的产业发展背景之下,“数加”这样一个分布式大数据开发平台的推出引人关注。
首先,作为“一个数据公司”(马云语),阿里巴巴拥有着处理大数据的丰富经验。单就2015年的双十一来说,淘宝/天猫订单的创建峰值能力突破了每秒钟14万笔,支付宝的支付峰值达到了每秒8.59万笔,远高于Visa实验室测试数据的每秒5.6万笔以及MasterCard实验室测试数据的每秒4万笔,这些数据处理经验都将反映到“数加”的产品中。
其次,“数加”并非一款单独的产品,而是一条完整的大数据开发链条。当天发布的20款产品,覆盖了数据采集、计算引擎、数据加工、数据分析、机器学习、数据应用等数据生产全链条。
其中,由大数据计算服务(MaxCompute)、分析型数据库(Analytic DB)、流计算(StreamCompute)共同组成的底层计算引擎,速度快且成本低。测算数据显示,自建Hadoop集群的成本是“数加”的1.5倍,国外计算厂商AWS 的EMR成本更是“数加”的5倍。
另外,“数加”的云端数据开发套件,包括数据集成、数据开发、调度系统、数据管理、运维视屏、数据质量、任务监控,能够帮助开发者快速部署相关产品。则通过视化产品DataV的数据分析,开发者可以一星期做出阿里双十一的数据监控大屏。同样基于DataV,“数加”还发布了面向政府的行业应用产品“郡县图治”。通过这款产品,县长可以在一个屏幕下统览全县各项经济民生数据,为政府决策提供辅助。
“数加”推出的机器学习工具,可基于海量数据实现对用户行为、行业走势、天气、交通等的预测。图形化编程让用户无需编码、只需用鼠标拖拽标准化组件即可完成开发。产品还集成了阿里巴巴核心算法库,包括特征工程、大规模机器学习、深度学习等。
而在应用层面,支撑阿里巴巴客服系统的智能语言交互和文字识别OCR也即将上线。开发者可以利用这两个应用开发更具人工智能的大数据产品,比如搭建智能化的客服体系,利用文字识别OCR快速推出扫描类的应用,保障用户体验,节约成本。
最后,在一个软件即服务的时代,“数加”要做的也不仅仅是完整的数据开发工具,而是一项数据增值服务。大数据行业的进步不仅需要底层技术尤其是开发技术的发展,以降低技术门槛和资金门槛,还需要大量数据分析人才、数据科学家。
阿里云大数据事业部资深总监徐常亮表示,阿里云将通过天池大数据竞赛的平台,发现、培养更多数据分析人才,比如在2015年就发掘出一位年龄仅有15岁的数据分析的获奖者。同时计划与各大高校合作,合办数据相关的课程等。同时,徐常亮还透露,“数加”平台将计划在3年内吸引1000家合作伙伴加入,共同构筑大数据生态圈。
正如科幻小说家威廉·吉布森所言:未来已经到来,只是分布还不均衡。我们已经看到整个社会都在转向数据层面的运作。而当互联网成为像水、电一样的基础设施时,产生于互联网(包括但不限于桌面互联网、移动互联网、物联网等)的数据也成为一种新型的生产资料,在云计算的大背景下,分布式的数据分析计算平台将创造更多的创业机会,让数据能够互联互通,数据驱动的创业变革也已在发生。正如阿里云总裁胡晓明曾预测的:2016年将成为数据创业的第一年,这将是创业领域的全新的一个开始。