找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 100|回复: 11

要命的事啊

[复制链接]

56

主题

267

回帖

746

积分

高级会员

积分
746
发表于 2018-11-19 10:19:59 | 显示全部楼层 |阅读模式
搞了个爬虫站,然后忘记关闭了,结果一个月在服务器给我爬了600G的数据下来,真要命,文件太多了 rm -rf 了接近6小时了.






回复

使用道具 举报

168

主题

944

回帖

2432

积分

金牌会员

积分
2432
发表于 2018-11-19 10:21:27 | 显示全部楼层
这是来秀硬盘的 吗?



回复

使用道具 举报

5

主题

143

回帖

321

积分

中级会员

积分
321
发表于 2018-11-19 10:21:56 | 显示全部楼层
忘记一个月,你是来秀机器多的吗,另求带写爬虫。
回复

使用道具 举报

52

主题

967

回帖

2144

积分

金牌会员

积分
2144
发表于 2018-11-19 10:23:45 | 显示全部楼层
一个月600g 爬的啥 这么少
回复

使用道具 举报

7

主题

868

回帖

1779

积分

金牌会员

积分
1779
发表于 2018-11-19 10:27:00 | 显示全部楼层
600g的大姐姐吗

回复

使用道具 举报

15

主题

107

回帖

285

积分

中级会员

积分
285
发表于 2018-11-19 10:25:58 | 显示全部楼层

ojoehao 发表于 2018-11-19 10:25

一个月600g 爬的啥 这么少

纯文本自动生成源码,每个文件大概1.5K大小,然后有600多G了,删除时候N个子文件夹N个文件,已经快疯了
回复

使用道具 举报

56

主题

267

回帖

746

积分

高级会员

积分
746
 楼主| 发表于 2018-11-19 10:26:22 | 显示全部楼层

itkylin 发表于 2018-11-19 10:23

忘记一个月,你是来秀机器多的吗,另求带写爬虫。

我可以代写爬虫...................................

回复

使用道具 举报

5

主题

143

回帖

321

积分

中级会员

积分
321
发表于 2018-11-19 10:29:38 | 显示全部楼层
用rsync删超大或者超多文件我一天就能爬几T。。。怎么活?
回复

使用道具 举报

0

主题

1

回帖

4

积分

新手上路

积分
4
发表于 2018-11-19 10:25:00 | 显示全部楼层
莫名喜感 心疼楼主一秒
回复

使用道具 举报

176

主题

1230

回帖

3028

积分

论坛元老

积分
3028
发表于 2018-11-19 10:32:01 | 显示全部楼层

ecosway598 发表于 2018-11-19 11:12

py文章爬虫入库wp数据库能写吗?

可以.......PY、C、GO、JAVA都行(PHP不行).......
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|Discuz! X

GMT+8, 2025-4-20 05:26 , Processed in 0.019800 second(s), 4 queries , Gzip On, Redis On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表