Commit Graph

21 Commits

Author SHA1 Message Date
41d3763b57 TODO: finish extractor data 2020-07-27 00:35:41 +08:00
eson
cbdedb6795 twitch source 非常多, 需要把增量的架构设计好. 修改原来架构. 2020-07-23 18:29:56 +08:00
eson
079488a2ba v0.3.0版本重构. 以 主播 为目标单位. 2020-07-21 15:05:56 +08:00
eson
d7a6da287d TODO: extractor 的重构. 2020-07-20 18:54:34 +08:00
eson
f0f83a9f00 1.最后一次数据存储结构重构.
2.数据最接近需求方.
2020-07-20 18:13:54 +08:00
eson
e1040e69cd 1.重构命名, 简化代码, 加入build.sh
2.重构数据字段结构, 使数据合理性提高.
3.测试通过openrec获取数据完整性.
TODO: 测试时区问题.
2020-07-17 18:21:38 +08:00
eson
7e3b36c7d0 完成解析模块示例. 数据库入库测试.
TODO: 调整程序启动停止(非暴力关闭).
2020-07-16 15:25:55 +08:00
eson
13ae890171 TODO: 正则Regexp 获取Tags错误 2020-07-15 19:23:45 +08:00
eson
b63e180499 添加tags, 修改 存储结构 更加接近制直播的数据存储架构. 2020-07-15 18:22:40 +08:00
eson
75b1d9fb77 TODO: 完善主播表的更新方式. 存在更新最新状态时, 会被改版类似情况覆盖, 从而找不到原信息数据 2020-07-15 15:44:21 +08:00
eson
0d8b456f41 TODO: 解决编码问题 2020-07-14 19:00:34 +08:00
eson
d034647b93 修改直到curl 成功. 2020-07-13 18:10:48 +08:00
eson
d258cc51d3 for save. 2020-07-10 18:31:17 +08:00
eson
d5151f92bf 1.extractor 表字段的实现.
2.存储通用包的实现.
2020-07-10 16:13:08 +08:00
eson
2e9a803645 完成openrec源的获取. 2020-07-09 17:09:46 +08:00
eson
5cbb17d6d4 add: Pop 队列. 以mysql 表的标志做一个队列. 2020-07-08 15:02:55 +08:00
eson
0b5425088f add: anchor_id field
fix: table some key
2020-07-08 10:11:35 +08:00
eson
eba36b0c95 完成 openrec 的排名获取主播主页的功能.
TODO: 分解成多任务服务机制. 让每个子任务独立互不干扰.
2020-07-07 18:14:14 +08:00
eson
fdc351da83 更新数据存储格式的设计, 用ext 存储子任务的数据内容. 2020-07-07 16:17:05 +08:00
eson
8a0d71a34e 第一个插入数据成功 2020-07-07 12:04:05 +08:00
eson
ae56d86026 初步-> 架构设计,字段存储结构设计,代码框架实现. 2020-07-06 16:33:35 +08:00