5、平台功能展示

平台功能展示-数据源注册

基于 Flink 的实时特征平台在携程的应用
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:iteblog_hadoop

实时特征编辑-基本信息

基于 Flink 的实时特征平台在携程的应用
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:iteblog_hadoop

实时特征编辑-数据源选择

基于 Flink 的实时特征平台在携程的应用
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:iteblog_hadoop

实时特征编辑-SQL计算

基于 Flink 的实时特征平台在携程的应用
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:iteblog_hadoop

实时特征编辑-选择输出

基于 Flink 的实时特征平台在携程的应用
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:iteblog_hadoop

选择Flink的原因

我们下面一个我们说一下我们选择flink来做这个特征平台的原因。

基于 Flink 的实时特征平台在携程的应用
如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:iteblog_hadoop

分为三个维度:最高延迟、容错、sql功能成熟度

  • 延迟:storm和flink是纯流式,最低可以达到毫秒级的延迟。spark的纯流式机制是continuous模式,也可以达最低毫秒级的延迟,
  • 容错:storm使用异或ack的模式,支持atLeastOnce。消息重复解决不。spark通过checkpoint和WAL来提供exactlyOnce。flink通过checkpoint和SavePoint来做到exactlyOnce。
  • sql成熟度:storm现在的版本中SQL还在一个实验阶段,不支持聚合和join。spark现在可以提供绝大部分功能,不支持distinct、limit和聚合结果的order by。flink现在社区版中提供的sql,不支持distinct aggregate
  • Flink实践

    实践示例

    基于 Flink 的实时特征平台在携程的应用
    如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:iteblog_hadoop

    兼容开发

    flink现在没有对Aerospike提供读写支持,所以需要二次开发

    基于 Flink 的实时特征平台在携程的应用
    如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:iteblog_hadoop

    碰到的坑

    基于 Flink 的实时特征平台在携程的应用
    如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:iteblog_hadoop

    平台当前效果&未来规划

    当前效果:将实时特征上线周期从原平均3天-5天降至小时级。
    未来规划:

  • 完善特征平台的功能:融合特征等
  • 简化步骤,提高用户体验
  • 根据需求,进一步完善SQL的功能例如支持win的开始时间offset,可以通过countTrigger的win等
  • 下一步的规划是通过sql或者DSL来描述模型部署和模型训练

    基于 Flink 的实时特征平台在携程的应用
    如果想及时了解Spark、Hadoop或者Hbase相关的文章,欢迎关注微信公共帐号:iteblog_hadoop

    本文 PPT 下载

    本文的 PPT 可以到 《Flink China社区线下 Meetup·上海站 PPT 资料分享》 里面进行下载。

    本博客文章除特别声明,全部都是原创!
    原创文章版权归过往记忆大数据(过往记忆)所有,未经许可不得转载。
    本文链接: 【基于 Flink 的实时特征平台在携程的应用】(https://www.iteblog.com/archives/2413.html)
    喜欢 (3)
    分享 (0)
    发表我的评论
    取消评论

    表情
    本博客评论系统带有自动识别垃圾评论功能,请写一些有意义的评论,谢谢!