找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 25|回复: 4

有什么方法或者软件工具能批量探测url的有效性

[复制链接]

80

主题

456

回帖

1158

积分

金牌会员

积分
1158
发表于 2015-9-15 15:39:28 | 显示全部楼层 |阅读模式
一次性扫描10来万个url的 其中只有一个是非404 其他的全部是404
有什么试用的解决方案吗.IDM的话一次导入过多直接卡掉了
回复

使用道具 举报

132

主题

500

回帖

1410

积分

金牌会员

积分
1410
发表于 2015-9-15 15:41:10 | 显示全部楼层
python写一个  自己定义个你及其能承受的线程数  直接10来万个线程肯定吃不消

回复

使用道具 举报

247

主题

3212

回帖

7213

积分

论坛元老

积分
7213
发表于 2015-9-15 15:48:36 | 显示全部楼层
[ol]
  • curl -o /dev/null -s -w %{http_code} $url[/ol]复制代码然后for循环读url 然后打印输出httpcode 或者直接就是httpcode如果是200打印
  • 回复

    使用道具 举报

    95

    主题

    888

    回帖

    2077

    积分

    金牌会员

    积分
    2077
    发表于 2015-9-15 17:08:07 | 显示全部楼层
    shell脚本速度更快吧。
    回复

    使用道具 举报

    496

    主题

    1090

    回帖

    3706

    积分

    论坛元老

    积分
    3706
    发表于 2015-9-15 20:20:27 | 显示全部楼层
    写个脚本跑起来
    回复

    使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    Archiver|手机版|小黑屋|Discuz! X

    GMT+8, 2025-1-31 07:56 , Processed in 0.017297 second(s), 4 queries , Gzip On, Redis On.

    Powered by Discuz! X3.5

    © 2001-2024 Discuz! Team.

    快速回复 返回顶部 返回列表