bitflow_v1

###服务分层

展示层: PC官网 微信公众号 小程序 商家 运营后台

对外服务: 直播数据 搜索 红呗指数(主打) 网红电商

数据处理: JobRunner Scripts Crontab 电商数据处理

数据采集: Spider-Service Room-Service Server-Service(辅助)

基础服务: DB(Mysql,Redis,Es) MQ(kafka,Zookeeper) Proxy JumpServer

###服务职责

Spider-Service:

1. 定期抓取
2. 对内提供代理抓取
3. 安全破解

Room-Service:

1. 直播间数据抓取 (长连接,轮训)
2. 异步处理消息
3. TimeOut通知JobRunner,超时结束

Server-Service:

1. 配合Spider进行白名单监控
2. /live/stop直播信息存储
3. 日数据,指数处理

###业务上

1.及时发现问题:
    业务运营:   反馈入口
    数据监控:   huajiao!!!
2.新需求响应:
    要事第一!
    bug优先处理

###技术上

1.服务中断。。。(数据监控)

2.脚本太多。。。 (如何部署,在哪台机器)    bitflow-tools项目

3.协作困难:

    语言不统一 (python)

    接口支持乱。。。职责不清,项目不清

#####技术跟着业务改进!