5、平台功能展示
平台功能展示-数据源注册
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:
iteblog_hadoop实时特征编辑-基本信息
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:
iteblog_hadoop实时特征编辑-数据源选择
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:
iteblog_hadoop实时特征编辑-SQL计算
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:
iteblog_hadoop实时特征编辑-选择输出
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:
iteblog_hadoop选择Flink的原因
我们下面一个我们说一下我们选择flink来做这个特征平台的原因。
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:
iteblog_hadoop分为三个维度:最高延迟、容错、sql功能成熟度
延迟:storm和flink是纯流式,最低可以达到毫秒级的延迟。spark的纯流式机制是continuous模式,也可以达最低毫秒级的延迟,容错:storm使用异或ack的模式,支持atLeastOnce。消息重复解决不。spark通过checkpoint和WAL来提供exactlyOnce。flink通过checkpoint和SavePoint来做到exactlyOnce。sql成熟度:storm现在的版本中SQL还在一个实验阶段,不支持聚合和join。spark现在可以提供绝大部分功能,不支持distinct、limit和聚合结果的order by。flink现在社区版中提供的sql,不支持distinct aggregateFlink实践实践示例
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:
iteblog_hadoop兼容开发
flink现在没有对Aerospike提供读写支持,所以需要二次开发
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:
iteblog_hadoop碰到的坑
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:
iteblog_hadoop平台当前效果&未来规划
当前效果:将实时特征上线周期从原平均3天-5天降至小时级。
未来规划:
完善特征平台的功能:融合特征等简化步骤,提高用户体验根据需求,进一步完善SQL的功能例如支持win的开始时间offset,可以通过countTrigger的win等下一步的规划是通过sql或者DSL来描述模型部署和模型训练
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:
iteblog_hadoop本文 PPT 下载
本文的 PPT 可以到 《Flink China社区线下 Meetup·上海站 PPT 资料分享》 里面进行下载。
本博客文章除特别声明,全部都是原创!
原创文章版权归过往记忆大数据(过往记忆)所有,未经许可不得转载。
本文链接: 【基于 Flink 的实时特征平台在携程的应用】(https://www.iteblog.com/archives/2413.html)