Commit Graph

94 Commits

Author SHA1 Message Date
eson
ac47b28153 Merge branch 'feature/add-twitch' into develop 2020-07-31 18:05:06 +08:00
eson
0c54cbf8d8 完成twitch的期望功能 2020-07-31 18:04:10 +08:00
eson
ac1ab81676 完成twitch 数据提取入库 2020-07-28 18:56:27 +08:00
eson
1d2f2d14c5 1. 添加了block twitch 视频流的插件.
2. 流量减少99%
3. cpu使用率降低50%
4. 速度提高了400%
2020-07-27 19:30:54 +08:00
41d3763b57 TODO: finish extractor data 2020-07-27 00:35:41 +08:00
eson
ea650f91dc TODO: twitch get all userid list 2020-07-24 18:48:33 +08:00
eson
cbdedb6795 twitch source 非常多, 需要把增量的架构设计好. 修改原来架构. 2020-07-23 18:29:56 +08:00
eson
6d688b8450 fix: libxml2 leak 2020-07-22 20:00:02 +08:00
eson
b9f2f5cf22 Merge tag 'v0.3.0' into develop
finish
2020-07-21 15:07:24 +08:00
eson
9c4b3eb60b Merge branch 'release/v0.3.0' 2020-07-21 15:07:18 +08:00
eson
079488a2ba v0.3.0版本重构. 以 主播 为目标单位. 2020-07-21 15:05:56 +08:00
eson
d7a6da287d TODO: extractor 的重构. 2020-07-20 18:54:34 +08:00
eson
f0f83a9f00 1.最后一次数据存储结构重构.
2.数据最接近需求方.
2020-07-20 18:13:54 +08:00
eson
6369387179 Merge tag 'v0.2.1' into develop
测试完整
2020-07-17 19:21:33 +08:00
eson
2611e1df9f Merge branch 'release/v0.2.1' 2020-07-17 19:21:04 +08:00
eson
7182da2cbe fix: 时区问题. sqluri导致解析错误. 2020-07-17 19:20:08 +08:00
eson
e1040e69cd 1.重构命名, 简化代码, 加入build.sh
2.重构数据字段结构, 使数据合理性提高.
3.测试通过openrec获取数据完整性.
TODO: 测试时区问题.
2020-07-17 18:21:38 +08:00
eson
bb0f3845b7 Merge tag 'v0.2.0' into develop
openrec基本完成
2020-07-16 18:35:46 +08:00
eson
8ba6169932 Merge branch 'release/v0.2.0' 2020-07-16 18:35:30 +08:00
eson
93efe36d0b add: 优雅停机 2020-07-16 18:31:13 +08:00
eson
fe25921f9a fix: ParseDuration Method
add: store UpdateOperator
2020-07-16 16:22:14 +08:00
eson
7e3b36c7d0 完成解析模块示例. 数据库入库测试.
TODO: 调整程序启动停止(非暴力关闭).
2020-07-16 15:25:55 +08:00
eson
51fe6f6039 finish: 解析逻辑, 入库正确.
TODO: 整理代码, 让入库提取数据成为 基础库.
2020-07-16 11:02:30 +08:00
eson
13ae890171 TODO: 正则Regexp 获取Tags错误 2020-07-15 19:23:45 +08:00
eson
b63e180499 添加tags, 修改 存储结构 更加接近制直播的数据存储架构. 2020-07-15 18:22:40 +08:00
eson
75b1d9fb77 TODO: 完善主播表的更新方式. 存在更新最新状态时, 会被改版类似情况覆盖, 从而找不到原信息数据 2020-07-15 15:44:21 +08:00
eson
0d8b456f41 TODO: 解决编码问题 2020-07-14 19:00:34 +08:00
eson
ad02a5b4d9 TODO: workflow改进, 命名 2020-07-13 19:11:13 +08:00
eson
d034647b93 修改直到curl 成功. 2020-07-13 18:10:48 +08:00
eson
a305700a69 fix: config path error 2020-07-10 18:39:27 +08:00
eson
d258cc51d3 for save. 2020-07-10 18:31:17 +08:00
eson
d5151f92bf 1.extractor 表字段的实现.
2.存储通用包的实现.
2020-07-10 16:13:08 +08:00
eson
4af5430572 TODO: extractor openrec 2020-07-10 12:05:33 +08:00
eson
2e9a803645 完成openrec源的获取. 2020-07-09 17:09:46 +08:00
eson
a027861f5a add: 更新数据ext参考例子 2020-07-09 11:38:51 +08:00
eson
0a2a134511 TODO: openrec user data. isource update interface 2020-07-08 18:57:57 +08:00
eson
5cbb17d6d4 add: Pop 队列. 以mysql 表的标志做一个队列. 2020-07-08 15:02:55 +08:00
eson
0b5425088f add: anchor_id field
fix: table some key
2020-07-08 10:11:35 +08:00
eson
6197f445bf 拆解子任务 2020-07-07 18:39:24 +08:00
eson
eba36b0c95 完成 openrec 的排名获取主播主页的功能.
TODO: 分解成多任务服务机制. 让每个子任务独立互不干扰.
2020-07-07 18:14:14 +08:00
eson
fdc351da83 更新数据存储格式的设计, 用ext 存储子任务的数据内容. 2020-07-07 16:17:05 +08:00
eson
8a0d71a34e 第一个插入数据成功 2020-07-07 12:04:05 +08:00
eson
db782a3533 TODO: Insert OpenrecRanking Data 2020-07-06 17:58:24 +08:00
eson
ae56d86026 初步-> 架构设计,字段存储结构设计,代码框架实现. 2020-07-06 16:33:35 +08:00