分享好友 最新动态首页 最新动态分类 切换频道
shell爬虫--抓取某在线文档所有页面
2024-12-27 10:38

在线教程一般像流水线一样,页面有上一页下一页的按钮,因此,可以利用shell写一个爬虫读取下一页链接地址,配合wget将教程所有内容抓取。

shell爬虫--抓取某在线文档所有页面

以postgresql中文网为例。下面是实例代码

#!/bin/sh
start_URL="http://www.postgres.cn/docs/9.6/preface.html"
end_URL="http://www.postgres.cn/docs/9.6/bookindex.html"
URL=$start_URL

while [ $URL != $end_URL ];do

curl -s  $URL >tmp.txt
wget $URL -P psql
grep -n 'ACCESSKEY="N"'  tmp.txt > tmp2.txt
cut -f1 -d":" tmp2.txt | head -n 1 > tmp3.txt
let LINE=`cat tmp3.txt`
let LINE--
sed -n "${LINE}p" tmp.txt > tmp4.txt
sed -i 's/HREF="https://g' tmp4.txt
sed -i 's/"https://g' tmp4.txt
sURL=`cat tmp4.txt`
cat tmp4.txt >> allurl.txt
FULLURL="http://www.postgres.cn/docs/9.6/$sURL"
URL=$FULLURL

done

rm -rf tmp.txt tmp2.txt tmp3.txt tmp4.txt

 

 说明:

1、URL 要下载的html文件路径

2、sURL html文件的相对路径

3、FULLURL  sURL和模板拼接后的完整url

4、tmp.txt  用于保存curl取得的页面数据

 

 

 

最新文章
百度关键词搜索排名,如何提升网站排名至首页的秘诀?
在这个信息爆炸的时代,网站如同海洋中的孤岛,而百度关键词搜索排名则是连接孤岛与世界的桥梁。作为一名在SEO领域摸爬滚打多年的实践者,我深知每一个细微的优化都可能让网站在茫茫网海中脱颖而出,直达用户眼前。今天,我想分享一些基于
陕西seo优化教程推荐(陕西seo推广)
大家好,今天小编关注到一个比较有意思的话题,就是关于陕西seo优化教程推荐的问题,于是小编就整理了2个相关介绍陕西seo优化教程推荐的解答,让我们一起看看吧。转行it互联网行业,除了程序员外,还有什么岗位值得推荐?互联网营销,现在
百度竞价推广关键词优化
摘要:百度竞价推广关键词优化是提升广告效果的重要手段。通过深入研究用户搜索习惯和市场需求,选择合适的关键词,并进行精准的匹配和调整,可以提高广告的曝光率、点击率和转化率。优化过程中需要注意关键词的竞争度、质量度、创意度等因
短链接在线生成器介绍
短链接可以把长而丑的链接缩短,利于用户点击,可以达到更好的推广效果。那么市场上比较好用的在线短链接生成工具有哪些呢,下面爱短链小编带来几个最受欢迎的短链接在线生成器,希望对你有所帮助。在线短链接生成器排行榜: 第一个:爱短
家政系统服务平台功能搭建app源码开发指南
本顺企网商铺由广州周壹科技有限公司版权所有 网址:https://guangzhou031261.11467.com/ 公司地址:广州市天河区中山大道中1001号4栋2楼205自编454房我公司主营系统开发,软件开发,APP开发,小程序开发,源码搭建,定制软件,社交电商,云电商,
发那科电机参数资料00-123-135
二、工作原理及故障原因  M代码的执行过程可以借助M代码时序图来说明,如图1所示:M代码执行时序图  数控系统读到程序中的M代码时,就输出M代码的信息F10~F13。通过系统度M代码的延时时间TMF(由系统参数设定,标准设定时间为16ms)后
用AI绘制超逼美女写真,这些工具推荐给你!
Midjourney: Midjourney是一种基于Discord平台的AI生成工具,重点在于艺术性和风格化的结果。与传统的生成模型不同,Midjourney更多依靠用户与AI的互动,创建出色的视觉效果。然而,这对于新手来说可能比较复杂,需要时间适应。Artbreeder:
电脑主机组装配置清单:打造个性化的高性能计算机
一、概述本文旨在为读者提供一个详细的电脑主机组装配置清单,帮助大家了解组装一台高性能计算机所需要的各个部件及其性能特点。通过合理的配置选择,您可以根据自己的需求和预算,打造一台个性化的电脑主机。二、电脑主机组装配置清单1.
博彩老头近期排列五分析:五位定胆3 5 7
  (17134-17135期)  第1位走势  本期开出奖号1,本号位近期走势以大振幅为主。重心在奇号区,下周期防范大振幅振荡。看好偶号区反弹热出,提防2路0路号回补为主。重点关注0、6、8。  定胆:068  杀号:3  第2位走势  本期
相关文章
推荐文章
发表评论
0评