前言

近期对于小说网站需要学习爬虫知识,除了基本的requests和bs4这些 使用一些好用的框架简单语法使用

Scrapy和PySpider

Scrapy

是用纯 Python 实现一个为了爬取网站数据、提取结构性数据而编写的应用框架, 用途非常广泛。

安装教程

1.下载python

2.配置环境变量

img

3.升级pip安装包

1
python -m pip install --upgrade pip

pip安装命令后面加上-i https://pypi.tuna.tsinghua.edu.cn/simple ,链接还可以换成其他国内镜像链接:

  • 清华大学:https://pypi.tuna.tsinghua.edu.cn/simple
  • 豆瓣 http://pypi.douban.com/simple --trusted-host pypi.douban.com

xxxxxxxxxx public static void main(String[] args){  Map map = new HashMap();  //定义Map对象  map.put(“apple”,”新鲜的苹果”);  //向集合中添加对象  map.put(“computer”,”配置优良的计算机”);  map.put(“book”,”堆积成山的图书”);  map.put(“time”,new Date());  String key = “book”;  boolean contains=map.containsKey(key);  //判断是否包含指定的键值  if(contains){  //如果条件为真    System.out.println(“在Map集合中包含键名”+key);  //输出信息 }else{    System.out.println(“在Map集合中不包含键名”+key); }}​java

(1)点击下载地址,进入后按 ctrl+f ,搜索twisted,然后下载对应版本

cp27:表示python2.7版本 cp36:表示python3.6版本

win32:表示Windows32位操作系统

img

(2)下载完成后进入终端,输入pip install 文件名(你下载哪个文件就输入哪个文件的文件名,要输入全部路径) Twisted-18.7.0-cp36-cp36m-win32.whl

安装完成后再输入pip install scrapy,回车

1
pip install scrapy -i  https://pypi.tuna.tsinghua.edu.cn/simple

检测scrapy安装是否成功:在终端输入scrapy,出现以下内容就代表安装成功

img

使用语法

image-20230608203056203

创建爬虫

1
scrapy genspider fictionspider www.beqege.cc/1522/

官方文档

Scrapy 教程 — Scrapy 文档 (scrapy-16.readthedocs.io)

pycarm使用

②新建第一个scrapy项目,先cd到想要的目录,然后输入:scrapy startproject PythonScrapy ,就建好了一个项目

img

打开新建的项目,然后如图:

img

在项目目录下新建一个start.py用来实现项目的启动

img

然后在spider下新建一个Test_spider.py 其中name = “Test_spider”就是爬虫名字,所以在start.py下也启动这个名字

设置scrapy日志只提醒错误

要将Scrapy日志级别设置为只提醒错误,您可以在Scrapy的settings.py文件中添加以下代码:

1
2
pythonCopy code
LOG_LEVEL = 'ERROR'

这将将日志级别设置为错误级别,只输出错误级别的日志信息。这样,您将只看到错误消息而不会看到其他日志消息。

xpaht 下载

爬虫 Edge浏览器安装Xpaht Helper插件平替Chrome浏览器Xpaht Helper插件定位元素_Bruce小鬼的博客-CSDN博客

linux安装

可以使用PyCharm的软件库一键安装,安装时候先创建一个虚拟环境。方便快捷