12行代码获取CSDN博客标题、发布时间、阅读量

场景

CSDN统计数据不全,我个人是想要每篇文章每天的阅读量的,然后可以绘制每篇文章访问曲线图,自己慢慢研究分析。

所以写个爬虫,没想到这么简单,12行代码就搞定了,CSDN用心良苦啊!

效果

先分析下我个人博客,爬取结果如下,至于存入数据库及图形化展示,后续准备弄个小项目,同时集成下其他博客平台自动获取数据的功能。

发布时间:2020-02-20 07:36:05 ---- 阅读量:164    ---- 标题:原创 SpringBoot之路系列文章--(更新至第10)
发布时间:2020-01-22 18:05:35 ---- 阅读量:441    ---- 标题:原创 Spring之路系列文章--(已完结,共50)
发布时间:2019-12-30 22:41:39 ---- 阅读量:245    ---- 标题:原创 Java Web开发入门系列教程--(已完结,共34)
发布时间:2019-11-11 22:38:19 ---- 阅读量:156    ---- 标题:原创 程序员数学系列--(更新至第29)
发布时间:2019-10-17 21:23:17 ---- 阅读量:568    ---- 标题:原创 C语言数据结构系列--(更新至第16)
发布时间:2019-10-08 20:51:01 ---- 阅读量:154    ---- 标题:原创 毛哥的快乐生活系列--(更新至第30)
发布时间:2019-09-22 21:01:31 ---- 阅读量:2116   ---- 标题:原创 Python语言入门系列--(已完结,共29)
发布时间:2020-03-06 15:45:44 ---- 阅读量:8      ---- 标题:原创 使用MyCat单库分表实战详解
发布时间:2020-03-06 11:32:26 ---- 阅读量:34     ---- 标题:原创 使用MyCat分库实战详解
发布时间:2020-03-06 10:00:39 ---- 阅读量:103    ---- 标题:原创 RabbitMQ安装过程详解

OK,试下CSDN博客排行榜第一的数据,也没问题

发布时间:2019-11-16 22:34:32 ---- 阅读量:2005   ---- 标题:原创 欢迎关注我的微信公众号"涛歌依旧",感谢大家支持和鼓励!
发布时间:2020-03-06 22:32:59 ---- 阅读量:23     ---- 标题:原创 异步log"丢失"之谜
发布时间:2020-03-06 22:31:43 ---- 阅读量:267    ---- 标题:原创 log丢失之谜
发布时间:2020-03-06 22:29:16 ---- 阅读量:15     ---- 标题:原创 如何查看tcp连接的建立时间?
发布时间:2020-02-24 22:57:04 ---- 阅读量:300    ---- 标题:原创 笔试面试之C语言
发布时间:2020-02-24 22:56:36 ---- 阅读量:443    ---- 标题:原创 金三银四求职季
发布时间:2020-02-24 22:56:12 ---- 阅读量:131    ---- 标题:原创 拳不离手, 曲不离口---26个字母和48个音标的发音练习
发布时间:2020-02-24 22:55:44 ---- 阅读量:79     ---- 标题:原创 “暗淡蓝点”三十年
发布时间:2020-02-15 10:34:03 ---- 阅读量:408    ---- 标题:原创 配音王者荣耀游戏宣传片
发布时间:2020-02-15 10:31:40 ---- 阅读量:163    ---- 标题:原创 配音提升工作效率的方法

速度

因为我只是弄着玩,不考虑速度问题,我自己300多篇博客几秒完事了。如果需要提高速度的话,可以开个线程池。

爬取数据之前注意不要出于商业用途,也不要爬取人家的商业数据。像我就只分析下自己的博客数据,问题不大。

代码

使用的Jsoup,因为这个库足够简单,后续再研究下其他的库。

先导入maven依赖

<dependency>
  <!-- jsoup HTML parser library @ https://jsoup.org/ -->
  <groupId>org.jsoup</groupId>
  <artifactId>jsoup</artifactId>
  <version>1.13.1</version>
</dependency>

然后代码如下,非常简单,我就不详解了。老铁们使用的时候将https://studyingpanda.blog.csdn.net替换成你自己的博客主页地址即可。

另外有用代码确实只有12行,没有夸大哈。

package org.maoge.myspace.utils;

import java.io.IOException;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;

/**
* Jsonup工具类
*/
public class JsoupUtil {
   public static void main(String[] args) throws IOException {
   	getDataFromCsdn();
   }

   /**
    * 获取CSDN博客访问信息
    */
   public static void getDataFromCsdn() throws IOException {
   	int i = 1;//页码
   	while (true) {
   		Document doc = Jsoup.connect("https://studyingpanda.blog.csdn.net/article/list/" + i).get(); // 通过地址加载html文档
   		Elements articleBoxs = doc.body().select(".article-item-box"); // 获取该页文章列表
   		if (articleBoxs.size() == 0) {// 该页没有文章时结束
   			break;
   		}
   		for (Element box : articleBoxs) {//遍历所有文章,并通过选择器获取相关元素信息,然后输出信息
   			System.out.println(String.format("发布时间:%s ---- 阅读量:%-6s ---- 标题:%s", box.select(".date").first().text(),
   					box.select(".num").first().text(), box.select("h4").first().text()));
   		}
   		i++;
   	}
   }
}

发布了397 篇原创文章 · 获赞 270 · 访问量 55万+

猜你喜欢

转载自blog.csdn.net/woshisangsang/article/details/104730322
今日推荐