http编程系列（二）——java爬虫实现刷个人博客的访问量
- 2019 年 10 月 30 日
- 筆記
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/luo4105/article/details/72582692
实现功能
这里实现的功能是一个根据个人博客主页，搜索出所有的个人博文链接，然后一个一个去访问，从而增加访问量。这里我发现一个问题，csdn既没有做接口ip访问量的限制，访问量统计时也没有做同一ip相同时间段的重复访问重复计数的处理。这也时这个程序能够刷访问量的原因。
思路
进入个人博客主页，如我的博客：”http://blog.csdn.net/luo4105”，它会出来一个博客的列表(blogListPage)，但是，它没有显示所有的博客，而是分页显示，这里我们就找到下一页
的链接并访问它，然后如此递归，直到尾页为止。这样我们就获得了所有的分页博客的地址。然后访问所有的分页博客，拿到它们的页面数据，找出所有的博客链接，访问。
这里工作就分为以下几步
1.根据个人主页url，访问个人主页并拿到页面数据
2.找出下一页的URL并访问，重复该动作直到没有下一页，将每个url都存到set集合中
3.遍历set集合，访问所有的博客列表页面，获得页面数据，找到页面数据中所有的博客链接，存入博客链接的set集合
4.遍历博客链接的set集合，访问所有博客链接
具体实现步骤
1.根据个人主页url，访问个人主页并拿到页面数据
访问url，并拿到响应的代码如下，为了重复使用，我将其放入工具类中。
访问URL并拿到响应代码
public class HttpUtil { public static InputStream doGet(String urlstr) throws IOException { URL url= new URL(urlstr); HttpURLConnection conn= (HttpURLConnection) url.openConnection(); conn.setRequestProperty("User-Agent", "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36"); InputStream inputStream= conn.getInputStream(); return inputStream; } }
将响应的InputStream转成String的代码
public class StreamUtil { public static String inputStreamToString(InputStream is, String charset) throws IOException { byte[] bytes = new byte[1024]; int byteLength = 0; StringBuffer sb = new StringBuffer(); while((byteLength = is.read(bytes)) != -1) { sb.append(new String(bytes, 0, byteLength, charset)); } return sb.toString(); } }
综合使用就是
public void addBlogListPageUrl(String pageUrl, Set<String> pagelistUrls) throws IOException { InputStream is = HttpUtil.doGet(pageUrl); String pageStr = StreamUtil.inputStreamToString(is, "UTF-8"); is.close(); System.out.println(pageStr); }
这里后台输出页面的代码。
2.找出下一页的URL并访问，重复该动作直到没有下一页，将每个url都存到set集合中
开启f12，我们来看下一页是怎么样的。
这里我们可以通过下面的正则匹配<a href=”xxxxxx”>下一页</a>标签
private String nextPagePanner = "<a href="/luo4105/article/list/[0-9]{1,10}">下一页</a>"; //下一页的正则表达式
然后我们用正则匹配URL链接
private String nextPageUrlPanner = "/luo4105/article/list/[0-9]{1,10}"; //下一页Url的正则表达式
加上匹配正则，功能代码如下
private String csdnBlogUrl = "http://blog.csdn.net/"; private String nextPagePanner = "<a href="/luo4105/article/list/[0-9]{1,10}">下一页</a>"; //下一页的正则表达式 private String nextPageUrlPanner = "/luo4105/article/list/[0-9]{1,10}"; //下一页Url的正则表达式 /** * 通过下一页，遍历所有博客目录页面链接 * @param pageUrl * @param pagelistUrls * @throws IOException */ public void addBlogListPageUrl(String pageUrl, Set<String> pagelistUrls) throws IOException { InputStream is = HttpUtil.doGet(pageUrl); String pageStr = StreamUtil.inputStreamToString(is, "UTF-8"); is.close(); Pattern nextPagePattern = Pattern.compile(nextPagePanner); Matcher nextPagematcher = nextPagePattern.matcher(pageStr); if (nextPagematcher.find()) { nextPagePattern = Pattern.compile(nextPageUrlPanner); nextPagematcher = nextPagePattern.matcher(nextPagematcher.group(0)); if (nextPagematcher.find()) { pagelistUrls.add(csdnBlogUrl + nextPagematcher.group(0)); System.out.println("成功添加博客列表页面地址：" + csdnBlogUrl + nextPagematcher.group(0)); //addBlogListPageUrl(csdnBlogUrl + nextPagematcher.group(0), pagelistUrls);这是调用添加blog链接的方法 } } }
3.遍历set集合，访问所有的博客列表页面，获得页面数据，找到页面数据中所有的博客链接，存入博客链接的set集合
我们先看看再blog列表页面中的blog链接
匹配/luo4105/art……的正则如下
private String artlUrl = "/luo4105/article/details/[0-9]{8,8}"; //博客utl的正则表达式
功能代码
private String artlUrl = "/luo4105/article/details/[0-9]{8,8}"; //博客utl的正则表达式 /** * 添加搜索博客目录的博客链接 * @param blogListURL 博客目录地址 * @param artlUrls 存放博客访问地址的集合 * @throws IOException */ public void addBlogUrl(String blogListURL, Set<String> artlUrls) throws IOException { InputStream is = HttpUtil.doGet(blogListURL); String pageStr = StreamUtil.inputStreamToString(is, "UTF-8"); is.close(); Pattern pattern = Pattern.compile(artlUrl); Matcher matcher = pattern.matcher(pageStr); while (matcher.find()) { String e = matcher.group(0); System.out.println("成功添加博客地址：" + e); artlUrls.add(e); } }
4.遍历博客链接的set集合，访问所有博客链接
代码如下
@Test public void visitBlog() throws IOException { addBlogUrl(); /** 这里可以写循环 **/ for(String blogUrl : blogUrls) { String artlUrl = csdnBlogUrl + blogUrl; InputStream is = HttpUtil.doGet(artlUrl); if (is != null) { System.out.println(artlUrl + "访问成功"); } is.close(); } /** 这里可以写循环 **/ }
贴出所有代码
访问URL并拿到响应工具类
public class HttpUtil { public static InputStream doGet(String urlstr) throws IOException { URL url= new URL(urlstr); HttpURLConnection conn= (HttpURLConnection) url.openConnection(); conn.setRequestProperty("User-Agent", "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36"); InputStream inputStream= conn.getInputStream(); return inputStream; } }
将响应的InputStream转成String的工具类
public class StreamUtil { public static String inputStreamToString(InputStream is, String charset) throws IOException { byte[] bytes = new byte[1024]; int byteLength = 0; StringBuffer sb = new StringBuffer(); while((byteLength = is.read(bytes)) != -1) { sb.append(new String(bytes, 0, byteLength, charset)); } return sb.toString(); } }
blog刷访问类
/** * @author 逝夕诚 * 刷csdn博客访问量 */ public class AddCsdnBlogPV { private String csdnBlogUrl = "http://blog.csdn.net/"; private String firstBlogListPageUrl = "http://blog.csdn.net/luo4105"; //博客主页 private String nextPagePanner = "<a href="/luo4105/article/list/[0-9]{1,10}">下一页</a>"; //下一页的正则表达式 private String nextPageUrlPanner = "/luo4105/article/list/[0-9]{1,10}"; //下一页Url的正则表达式 private String artlUrl = "/luo4105/article/details/[0-9]{8,8}"; //博客utl的正则表达式 private Set<String> blogListPageUrls = new TreeSet<>(); private Set<String> blogUrls = new TreeSet<>(); @Test public void visitBlog() throws IOException { addBlogUrl(); for(String blogUrl : blogUrls) { String artlUrl = csdnBlogUrl + blogUrl; InputStream is = HttpUtil.doGet(artlUrl); if (is != null) { System.out.println(artlUrl + "访问成功"); } is.close(); } } /** * @throws IOException * 加载所有的bolg地址 */ @Test public void addBlogUrl() throws IOException { blogListPageUrls.add(firstBlogListPageUrl); addBlogListPageUrl(firstBlogListPageUrl, blogListPageUrls); for (String bolgListUrl : blogListPageUrls) { addBlogUrl(bolgListUrl, blogUrls); } } /** * 通过下一页，遍历所有博客目录页面链接 * @param pageUrl * @param pagelistUrls * @throws IOException */ public void addBlogListPageUrl(String pageUrl, Set<String> pagelistUrls) throws IOException { InputStream is = HttpUtil.doGet(pageUrl); String pageStr = StreamUtil.inputStreamToString(is, "UTF-8"); is.close(); Pattern nextPagePattern = Pattern.compile(nextPagePanner); Matcher nextPagematcher = nextPagePattern.matcher(pageStr); if (nextPagematcher.find()) { nextPagePattern = Pattern.compile(nextPageUrlPanner); nextPagematcher = nextPagePattern.matcher(nextPagematcher.group(0)); if (nextPagematcher.find()) { pagelistUrls.add(csdnBlogUrl + nextPagematcher.group(0)); System.out.println("成功添加博客列表页面地址：" + csdnBlogUrl + nextPagematcher.group(0)); addBlogListPageUrl(csdnBlogUrl + nextPagematcher.group(0), pagelistUrls); } } } /** * 添加搜索博客目录的博客链接 * @param blogListURL 博客目录地址 * @param artlUrls 存放博客访问地址的集合 * @throws IOException */ public void addBlogUrl(String blogListURL, Set<String> artlUrls) throws IOException { InputStream is = HttpUtil.doGet(blogListURL); String pageStr = StreamUtil.inputStreamToString(is, "UTF-8"); is.close(); Pattern pattern = Pattern.compile(artlUrl); Matcher matcher = pattern.matcher(pageStr); while (matcher.find()) { String e = matcher.group(0); System.out.println("成功添加博客地址：" + e); artlUrls.add(e); } } }
结果
结语
功能实现主要技术点是
1.java http的请求、响应。
2.正则的匹配。
今天是星期六又是520，我又孤独的坐在宝安图书馆三楼期刊后面的角落，又默默的写着这无聊到蛋疼的程序、以及教别人如何写这无聊到蛋疼的博客，念及此不觉潸然泪下。
代码地址：https://code.csdn.net/luo4105/study_http/tree/history/src/main/java/com/lc/https/AddCsdnBlogPV.java
