shell批量检查IP是否是百度蜘蛛

 时间:2024-11-08 00:03:03

用shell脚本:批量检查网站日记中的Baiduspider的真假

工具/原料

或安装cygwin

或 搭建虚拟机 安装censtos.7

收集整理

1、案例展示# cat u_ex161127.log|grep Baiduspider|head -1u_ex161127.log 是日志文件

shell批量检查IP是否是百度蜘蛛

3、将所有IP存入ip.txt# cat u_ex161127.log|grep Baiduspider|awk '{print $9}'|sort|uniq > ip.txt查看ip.txt中的ip数量# cat ip.txt|wc -l

shell批量检查IP是否是百度蜘蛛

2、# 批量检查ip是否是真实Baiduspider,存入Baidu-ip.txt# cat ip.txt|while read line;do nslookup $line|grep baiduspider|awk -F "baiduspider-" '{print $2}'|awk -F "." '{print $1}'|sed 's/-/\./g';done > baidu-ip.txt注:while .. ;do ...;done 是循环语句

shell批量检查IP是否是百度蜘蛛
  • 怎样识别百度蜘蛛?
  • 批量引蜘蛛软件
  • 百度蜘蛛ip段大全分析
  • shell批量抓取百度首页真实网址
  • 怎么禁止虚假百度蜘蛛?
  • 热门搜索
    流程图怎么画 怎么把图片变大 怎么受孕 怎么祛疤 怎么选股票 海水鱼怎么养 balcony怎么读 三脚架怎么用 干呕恶心是怎么回事 枸杞怎么吃效果好