PixiC icon indicating copy to clipboard operation
PixiC copied to clipboard

出现大量的未被删除的作品却显示已删除的现象

Open jiut opened this issue 3 years ago • 4 comments
trafficstars

jiut avatar Aug 16 '22 01:08 jiut

短时间大量请求被pixiv ban了,停止请求后3分钟恢复。

这个只有从限制频次下手,有别的方法可以分享下

Coder-Sakura avatar Aug 16 '22 12:08 Coder-Sakura

可以改成已经下载好的就不检测吗?

jiut avatar Aug 18 '22 06:08 jiut

这个是访问接口获取数据都拿不到了,最近在尝试其他接口,晚上下班再折腾折腾

@jiut 至于下载好的就不检测是插画下载完成后就不请求了?

Coder-Sakura avatar Aug 18 '22 06:08 Coder-Sakura

每个下载完成的可以写个缓存记录一下

jiut avatar Aug 18 '22 07:08 jiut

短时间大量请求被pixiv ban了,停止请求后3分钟恢复。

这个只有从限制频次下手,有别的方法可以分享下

请问应该如何限制频次呢?比如我每次发生请求隔几秒,应该怎么设置呢

pkr5277 avatar Jan 30 '23 12:01 pkr5277

短时间大量请求被pixiv ban了,停止请求后3分钟恢复。 这个只有从限制频次下手,有别的方法可以分享下

请问应该如何限制频次呢?比如我每次发生请求隔几秒,应该怎么设置呢

@pkr5277 bookmark.py line 222 增加休眠

for pid in pid_list:
    pool.put(self.thread_by_illust,(pid,),callback)
time.sleep(60)

crawler.py line 258 增加休眠

_count = 0
for pid in all_illust:
    pool.put(self.thread_by_illust,(pid,),callback)
    _count += 1
    if _count >= 48:
        logger.info("累积到48张,休眠1分钟")
        time.sleep(60)
        _count = 0
  • 之前测试发现的是,短时间内请求超过192次左右,就会被ban3分钟(2022.8.16);测了2个接口发现都会被ban(ajax/illust和touch/ajax/illust/details)
  • 这个休眠时间可以根据实际来定,处理比较粗暴
  • 能想到的解决办法其实也有,在被ban之后转定时请求,直至解ban回复数据为止;
  • 补点自己的吐槽:下班后没啥心情写代码,这块已经好久没更新了,最近有空填一填坑吧😴

Coder-Sakura avatar Jan 30 '23 15:01 Coder-Sakura

难受还没修复

Kohinata-Miku avatar Mar 13 '23 06:03 Kohinata-Miku

pixiv下载插件也是靠加了一个间隔时间来解决的

jiut avatar Mar 14 '23 08:03 jiut

pixiv下载插件也是靠加了一个间隔时间来解决的

大佬你是咋解决的

Kohinata-Miku avatar Mar 14 '23 09:03 Kohinata-Miku

pixiv下载插件也是靠加了一个间隔时间来解决的

大佬你是咋解决的

我也是一直没有解决这个问题。每次使用时是可以在触发限制之前更新几十张的,通过修改bookmark.py来分别更新公开和未公开收藏。就像这样勉强能用。

jiut avatar Mar 14 '23 09:03 jiut

@jiut @pkr5277 @Kohinata-Miku 2.1.7已修复,有空可以试一下

Coder-Sakura avatar Mar 31 '23 10:03 Coder-Sakura