基于Flink+ClickHouse构建亿级电商实时数据分析平台课程介绍:
Flink和ClickHouse分别是实时计算和(近实时)OLAP 领域的翘楚,也是近些年非常火爆的开源框架,很多大厂都在将两者结合使用来构建各种用途的实时平台,效果很好。本课程采用全新的大数据技术栈:Flink+ClickHouse,让你体验到全新技术栈的强大,感受时代变化的气息,通过学习完本课程可以节省你摸索的时间,节省企业成本,提高企业开发效率。本课程不仅告诉你如何做项目,还会告诉你如何部署项目等等。希望本课程对一些企业开发人员和对新技术栈有兴趣的伙伴有所帮助.
在这个数据爆发的时代,像大型电商的数据量达到百亿级别,我们往往无法对海量的明细数据做进一步层次的预聚合,大量的业务数据都是好几亿数据关联,并且我们需要聚合结果能在秒级返回。
那么我们该如何实现这一需求呢?基于Flink+ClickHouse构建电商亿级实时数据分析平台课程,将带领大家一步一步从无到有实现一个高性能的实时数据分析平台,该系统以热门的互联网电商实际业务应用场景为案例讲解,对电商数据的常见实战指标以及难点实战指标进行了详尽讲解,具体指标包括:概况统计、全站流量分析、渠道分析、广告分析、订单分析、运营分析(团购、秒杀、指定活动)等,该系统指标分为分钟级和小时级多时间方位分析,能承载海量数据的实时分析,数据分析涵盖全端(PC、移动、小程序)应用。
课程目录:
11、课程说明[05:17] 22、课程价值说明[04:10] 33、数据采集服务构建[09:57] 44、Spring Cloud Eureka构建服务注[08:09] 55、日志数据结构深度讲解[19:26] 66、数据采集服务完善以及客户端数据上报实战[26:35] 77、kafka环境搭建以及kafka联调测试[21:58] 88、数据采集服务整合kafka[16:36] 99、flink部署以及任务提交讲解[09:22] 1010、flink+kafka构建实时分析服务[05:27] 1111、flink+kafka构建实时分析服务联调测试[06:29] 1212、hadoop环境搭建[11:00] 1313、ClickHouse 初识讲解[06:25] 1414、ClickHouse安装详解以及简单使用讲解[08:57] 1515、ClickHouse数据类型以及常用操作实战[13:23] 1616、ClickHouse java使用讲解1[19:53] 1717、ClickHouse java使用讲解2[05:24] 1818、日志数据完善优化讲解[03:30] 1919、数据收集服务优化完善[06:56] 2020、hbase环境安装[09:58] 2121、hbase 工具类代码编写以及联调测试[21:57] 2222、用户状态设计讲解[07:22] 2323、数据收集服务业务处理[18:46] 2424、新增用户状态封装代码编写[11:10] 2525、用户多终端活跃状态封装代码编写[30:34] 2626、日期工具代码编写以及数据收集服务业务处理代码完[11:16] 2727、全站流量分析访问次数分钟级map代码编写[17:42] 2828、全站流量分析访问次数分钟级浏览量reduce以[14:05] 2929、全站流量分析新增用户分钟级趋势代码编写[04:57] 3030、全站流量分析多时间周期活跃用户分钟级趋势代码编[10:27] 3131、全站流量分析分钟级用户趋势以及分钟级用户去重代[11:14] 3232、全站流量分析小时级趋势分析代码编写以及巧妙代码[09:49] 3333、全站流量趋势分析完善补充[04:24] 3434、全站流量分析时间间隔处理代码编写[18:07] 3535、flink自定义输出路径BucketingSi[16:27] 3636、flink事件数据规则自定义输出路径代码编写以[12:57] 3737、flink自定义输出路径StreamingFi[17:07] 3838、全站流量分析之flink实现用户小时级明细ma[11:17] 3939、全站流量分析之flink实现小时级明细redu[13:15] 4040、全站流量分析之flink实现小时级明细分区路径[06:04] 4141、hive安装实战[15:30] 4242、hive使用详解[10:25] 4343、Hive JsonSerde实战讲解[08:17] 4444、全站流量分析小时级用户明细联调测试[19:51] 4545、全站流量分析小时级用户明细bug调试以及问题解[11:59] 4646、hive 分区表实战讲解[13:13] 4747、linux shell编程讲解[06:40] 4848、linux crontab实战讲解[10:37] 4949、全站流量用户明细hive区分表以及添加分区实现[06:56] 5050、全站流量用户明细定时任务脚本编写以及定时任务设[10:05] 5151、渠道分析数据以及指标讲解[04:08] 5252、渠道分析分钟级访问次数趋势代码编写[14:30] 5353、渠道分析分钟级新增以及活跃用户趋势代码编写[05:06] 5454、渠道分析小时级分析代码编写[04:01] 5555、渠道分析之小时级用户明细代码编写[10:38] 5656、渠道分析趋势代码完善[03:19] 5757、渠道分析之用户明细hive表构建以及定时任务脚[08:11] 5858、业务数据结构讲解[20:34] 5959、业务数据同步之binlog讲解[05:08] 6060、业务数据同步之binlog日志查看[04:32] 6161、业务数据同步之canal讲解[04:05] 6262、业务数据同步之canal+kafka实时同步业[10:04] 6363、业务数据同步之实战联调讲解1[11:03] 6464、业务数据同步之实战联调讲解2[10:03] 6565、业务数据同步之实战联调讲解3[03:15] 6666、flink+fastJson实时处理binlo[14:43] 6767、flink+反射技术实时业务数据提取和存储[14:34] 6868、kafka 工具类代码编写[15:35] 6969、业务数据重定向各个业务topic[05:29] 7070、业务数据实时重定向实战联调演示[15:58] 7171、广告分析之分钟级点击量趋势[18:34] 7272、广告分析之用户趋势实时分析代码编写[10:32] 7373、广告分析之小时级用户明细代码编写[08:48] 7474、广告分析之用户明细hive定时离线导入[08:13] 7575、flink之Join详解[04:48] 7676、flink之Join实战代码编写[11:21] 7777、flink之Join实战效果联调测试[05:27] 7878、广告分析之广告转化率实时分析代码编写1[13:21] 7979、广告分析之广告转化率实时分析代码编写2[22:39] 8080、ClickHouse业务表构建[12:38] 8181、ClickHouse工具类封装数据转换sql代[10:48] 8282、ClickHouse工具类封装数值类型特殊转换[05:47] 8383、ClickHouse工具类结合jdbc实战调试[08:29] 8484、flink ClickHouseSink代码完[10:28] 8585、spring boot 2.x 构建后端接口服[07:39] 8686、vue.js构建前端项目1[07:31] 8787、vue.js构建前端项目2[02:17] 8888、vue 前端项目模板说明[03:54] 8989、前端系统之vue.js+highcharts构[10:40] 9090、前端系统之全站流量趋势新增用户趋势实战开发[12:53] 9191、前端系统之vue表格实战[09:47] 9292、前端系统之vue-resource实现后台交互[12:42] 9393、前端系统vue代码完善以及后端接口设计和代码编[22:49] 9494、前端系统联调后端接口服务实战讲解[09:24] 9595、前端系统vue代码调试以及跨域问题解决[07:38] 9696、前端系统之highchart点击事件实战讲解[08:34] 9797、vue 动态参数传递以及页面内部跳转讲解[07:08] 9898、clickhouse表结构优化以及flink[14:55] 9999、flink日期特殊处理[07:59] 100100、接口服务整合clickhouse代码编写[19:42] 101101、接口服务封装clickhouse查询结果以及[17:28] 102102、接口服务之map和set巧妙解决日期乱序数据[25:10] 103103、接口服务之代码坑讲解以及解决[06:49] 104104、后端数据联调前端项目实战演示[09:54] 105105、接口服务整合hive之hive工具类代码编写[24:34] 106106、后端数据服务整合hive代码编写[14:19] 107107、压力测试jemeter详解[07:37] 108108、flink实时分析系统jemeter压测实战[16:25] 109109、接口服务以及前端系统完善之全站点击量趋势[09:16] 110110、接口服务以及前端系统之全站流量用户数量趋势[06:44] 111111、接口服务以及前端系统之全站流量活跃用户趋势[01:45] 112112、接口服务以及前端系统完善之渠道分析[06:44] 113113、接口服务之广告分析点击趋势和用户趋势代码编写[14:18] 114114、广告分析之广告列表服务以vue 点击事件以及[37:19] 115115、广告分析之广告转化率接口以及前端代码编写[25:23] 116116、广告分析之广告用户明细接口以及前端代码编写[20:33] 117117、docker 部署实时分析服务之docker[06:36] 118118、docker 部署实时分析服务之docker[03:26] 119119、docker部署全流量分析服务实战1[12:57] 120120、docker部署全流量分析服务实战2[18:19] 121121、docker部署全流量分析服务实战3[22:20] 122122、订单分析之订单量趋势分钟级代码编写[18:20] 123123、订单分析之订单量趋势小时级代码编写[03:22] 124124、订单分析之订单用户趋势代码编写[11:43] 125125、订单分析之客单价分析代码编写[05:41] 126126、订单分析完善之clickhouse建表补充[01:28] 127127、运营分析表结构讲解[12:27] 128128、运营分析之团购商品类别趋势分钟级代码编写[20:28] 129129、运营分析之团购商品类别趋势小时级完善补充[01:48] 130130、运营分析之团购订单趋势代码编写[10:51] 131131、运营分析之团购用户趋势代码编写[14:30] 132132、运营分析之团购用户趋势代码编写补充讲解[02:33] 133133、运营分析之秒杀成交订单趋势分钟级代码编写[13:41] 134134、运营分析之秒杀成交订单趋势小时级代码编写[02:39] 135135、运营分析之秒杀支付类型趋势代码编写[10:09] 136136、运营分析之秒杀clickhouse表构建补充[01:43] 137137、运营分析之活动地域趋势分析代码编写[14:38] 138138、运营分析之指定活动订单趋势代码编写[10:15] 139139、订单分析后端服务之订单趋势以及用户趋势接口代[17:21] 140140、订单分析后端服务之客单价接口代码编写[14:20] 141141、团购分析后端服务接口代码编写1[12:46] 142142、团购分析后端服务接口代码编写2[14:41] 143143、秒杀活动分析后端服务接口代码编写[16:45] 144144、指定活动分析后端服务接口代码编写[15:01] 145145、订单分析前端代码开发[06:58] 146146、团购分析前端代码开发[13:00] 147147、秒杀分析以及活动分析前端代码开发讲解[01:25] 148148、clickhouse实现实时概况统计实战1[15:48] 149149、clickhouse实现实时概况统计实战2[04:42] 150150、前端项目完善1[15:51] 151151、前端项目完善2[19:32] 152152、课程总结[04:57] 153153、项目最终效果演示[08:18]