2016杭州云栖大会在云栖小镇召开,本届大会以“飞天・进化”为主题,内容规模比去年翻倍,从原本2天的议程增加至4天,从10月13日持续到16日,超过400场主题演讲使开发者们对阿里云计算生态发展和应用趋势、前沿技术和产品有了更深刻的了解。
阿里在09年就开始尝试使用Hadoop技术,先后包括Hadoop、Spark、Hbase及Jtorm,这些开源技术在不同的业务线广泛使用,推动阿里业务的发展。本论坛第一次聚集了阿里Hadoop、Spark、Hbase、Jtorm各领域的技术专家,讲述Hadoop生态的过去现在未来及阿里在Hadoop大生态领域的实践与探索。本论坛还发布了阿里云E-MapReduce交互式产品。
在2016杭州云栖大会第四天的“开源大数据技术专场”分会场上,范文臣、Intel 研发经理郑锴、逸晗网络科技大数据平台负责人杨智、 Intel技术专家毛玮、阿里云技术专家木艮围绕开源大数据技术为大家哦做了精彩的分享。
范文臣:Deep dive into catalyst
本次演讲范文臣从 Catalyst 的基本概念开始,深入讲解了 Catalyst 提供了哪些主要特性来支持 Spark 的 API 抽象。
郑锴首先回顾了最近一两年Hadoop社区对HDFS 纠删码的支持,介绍EC对用户的价值,适用场景和部署建议。然后重点思考了Hadoop社区在HDFS上面接下来会怎么走,介绍当前在做的几个重要特性,探讨大数据存储的发展趋势,同时也希望跟用户有效互动得到更多反馈。
杨智:梨视频基于E-MapReduce大数据推荐系统
内容包括逸晗网络科技的数据实时统计、数据处理平台、推荐实时反馈、推荐模型&排序机器学习模型训练和更新等。
毛玮从流处理的核心概念,到功能的完备性,全方位对比了目前比较热门的流处理框架:Spark Streaming, Flink,Storm和Gearpump。同时从吞吐量个延时两个方面,对各个平台进行了性能评估。
为什么需要存储计算分离、分离后的性能怎么样,做了哪些优化,适应哪些场景?是木艮在本次演讲中告诉我们的内容。