Python爬虫Scrapy框架总结
前言
近期对于小说网站需要学习爬虫知识,除了基本的requests和bs4这些 使用一些好用的框架简单语法使用
Scrapy和PySpider
Scrapy
是用纯 Python 实现一个为了爬取网站数据、提取结构性数据而编写的应用框架, 用途非常广泛。
安装教程
1.下载python
2.配置环境变量
3.升级pip安装包
1 | python -m pip install --upgrade pip |
pip安装命令后面加上-i https://pypi.tuna.tsinghua.edu.cn/simple
,链接还可以换成其他国内镜像链接:
- 清华大学:
https://pypi.tuna.tsinghua.edu.cn/simple
- 豆瓣
http://pypi.douban.com/simple --trusted-host pypi.douban.com
xxxxxxxxxx public static void main(String[] args){ Map map = new HashMap(); //定义Map对象 map.put(“apple”,”新鲜的苹果”); //向集合中添加对象 map.put(“computer”,”配置优良的计算机”); map.put(“book”,”堆积成山的图书”); map.put(“time”,new Date()); String key = “book”; boolean contains=map.containsKey(key); //判断是否包含指定的键值 if(contains){ //如果条件为真 System.out.println(“在Map集合中包含键名”+key); //输出信息 }else{ System.out.println(“在Map集合中不包含键名”+key); }}java
(1)点击下载地址,进入后按 ctrl+f ,搜索twisted,然后下载对应版本
cp27:表示python2.7版本 cp36:表示python3.6版本
win32:表示Windows32位操作系统
(2)下载完成后进入终端,输入pip install 文件名(你下载哪个文件就输入哪个文件的文件名,要输入全部路径) Twisted-18.7.0-cp36-cp36m-win32.whl
安装完成后再输入pip install scrapy,回车
1 | pip install scrapy -i https://pypi.tuna.tsinghua.edu.cn/simple |
检测scrapy安装是否成功:在终端输入scrapy,出现以下内容就代表安装成功
使用语法
创建爬虫
1 | scrapy genspider fictionspider www.beqege.cc/1522/ |
官方文档
Scrapy 教程 — Scrapy 文档 (scrapy-16.readthedocs.io)
pycarm使用
②新建第一个scrapy项目,先cd到想要的目录,然后输入:scrapy startproject PythonScrapy ,就建好了一个项目
打开新建的项目,然后如图:
在项目目录下新建一个start.py用来实现项目的启动
然后在spider下新建一个Test_spider.py 其中name = “Test_spider”就是爬虫名字,所以在start.py下也启动这个名字
设置scrapy日志只提醒错误
要将Scrapy日志级别设置为只提醒错误,您可以在Scrapy的settings.py
文件中添加以下代码:
1 | pythonCopy code |
这将将日志级别设置为错误级别,只输出错误级别的日志信息。这样,您将只看到错误消息而不会看到其他日志消息。
xpaht 下载
爬虫 Edge浏览器安装Xpaht Helper插件平替Chrome浏览器Xpaht Helper插件定位元素_Bruce小鬼的博客-CSDN博客
linux安装
可以使用PyCharm的软件库一键安装,安装时候先创建一个虚拟环境。方便快捷