crawlergo
crawlergo copied to clipboard
输出的json不合法
命令:crawlergo -c chrome-mac/Chromium.app/Contents/MacOS/Chromium -t 10 --output-json result.json https://ucenter.huolala.cn/
输出的json使用jq处理,json不合法:
具体在这里:
感觉是个bug
收到 看起来写入内容的时候有点问题
我也遇到了同样的问题,使用版本0.4.4 会在req_list字段中某个url的数据中突然插入,all_domain_list和sub_domain_list的字段数据,导致json识别报错,希望能尽快修复
好像太大的json就会出现这个问题,我用的是最新版的crawlergo
师傅这个问题还没解决吗,大概好像结果1.8M左右就会出现这个问题
大佬有计划解决吗?