找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 58|回复: 9

小盘鸡挂载onedrive爬javhd和91

[复制链接]

9

主题

92

回帖

217

积分

中级会员

积分
217
发表于 2018-3-14 17:36:56 | 显示全部楼层 |阅读模式
@eqblog大神的脚本大盘鸡用起来美滋滋,但是广大mjj都是几十G的小盘鸡,怎么办呢?简单,使用rcloned挂载5T版的onedrive即可。

挂载之后你会发现在onedrive挂载盘直接运行spider.py是不行滴,会报错,估计创建文件和rcloned的同步线程冲突了。

解决办法是修改带码,使用本地磁盘做缓存。。。缓存之后把文件路径添加到队列里,多线程mv到OneDrive即可,这样做的好处一是可以破OneDrive的限速(10线程200Mbps左右上传),而是不需要大盘鸡,稍好一点的小时计费vps即可。当然同时你还要处理因为centos中出现的mv用多了内存不会回收的问题,py进程cpu/内存占用率过高导致的被系统oom killed问题。。解决之后就可以美滋滋地下载了



又机智地水了一帖
回复

使用道具 举报

55

主题

629

回帖

1435

积分

金牌会员

积分
1435
发表于 2018-3-14 17:38:22 | 显示全部楼层
你以为你这样说我就会了?哼~凡人

回复

使用道具 举报

10

主题

156

回帖

358

积分

中级会员

积分
358
发表于 2018-3-14 17:52:08 | 显示全部楼层
说的好 但是并没有5Tod用
回复

使用道具 举报

83

主题

8201

回帖

1万

积分

论坛元老

积分
16695
发表于 2018-3-14 17:55:14 | 显示全部楼层
干货贴   楼主太低调了
回复

使用道具 举报

4

主题

141

回帖

302

积分

中级会员

积分
302
发表于 2018-3-14 17:55:42 | 显示全部楼层
是不是运行spider的人太多了,为什么我的一直报错,大佬账号哪里搞的
回复

使用道具 举报

9

主题

92

回帖

217

积分

中级会员

积分
217
 楼主| 发表于 2018-3-14 18:00:11 | 显示全部楼层

savior 发表于 2018-3-14 17:55

是不是运行spider的人太多了,为什么我的一直报错,大佬账号哪里搞的

报错是因为你用的账号已经过期了。。。
回复

使用道具 举报

18

主题

82

回帖

230

积分

中级会员

积分
230
发表于 2018-3-14 17:55:00 | 显示全部楼层
大佬博客写个图文教程 可以不 我等凡人完全不会啊
回复

使用道具 举报

359

主题

345

回帖

1853

积分

金牌会员

积分
1853
发表于 2018-3-14 18:31:27 | 显示全部楼层

sm1314 发表于 2018-3-14 18:00

报错是因为你用的账号已经过期了。。。

那大佬能给个试用账号获取的路子吗T_T
回复

使用道具 举报

4

主题

141

回帖

302

积分

中级会员

积分
302
发表于 2018-3-14 18:47:00 | 显示全部楼层

savior 发表于 2018-3-14 21:15

那大佬能给个试用账号获取的路子吗T_T

我买的账号,不过不带那个登录字符串,只有用户名密码,eqblob大佬的脚本需要改成post方式登录。。。
sm1314 发表于 2018-3-14 21:16

我买的账号,不过不带那个登录字符串,只有用户名密码,eqblob大佬的脚本需要改成post方式登录。。。 ...

恩?如果去买账号密码是不能获取字符串的吗


还好没买
回复

使用道具 举报

0

主题

1

回帖

4

积分

新手上路

积分
4
发表于 2018-3-14 21:15:30 | 显示全部楼层

savior 发表于 2018-3-14 21:28

恩?如果去买账号密码是不能获取字符串的吗还好没买

对,账号密码需要post提交,不会python改代码的话,买账号没用。。操作错了几次直接封ip
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|Discuz! X

GMT+8, 2025-2-23 07:38 , Processed in 0.023110 second(s), 4 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表