这篇文章主要介绍了Python爬虫 scrapy框架爬取某招聘网存入mongodb解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
创建项目
scrapy startproject zhaoping
创建爬虫
cd zhaopingscrapy genspider hr
目录结构
items.py
title = scrapy.Field()position = scrapy.Field()publish_date = scrapy.Field()
pipelines.py
from pymongo import MongoClientmongoclient = MongoClient(host='192.168.226.150',port=27017)collection = mongoclient['zhaoping']['hr']class TencentPipeline(object):def process_item(self, item, spider):print(item)# 需要转换为 dictcollection.insert(dict(item))return item
spiders/hr.py
def parse(self, response):# 不要第一个 和最后一个tr_list = response.xpath("//table[@class='tablelist']/tr")[1:-1]for tr in tr_list:item = TencentItem()# xpath 从1 开始数起item["title"] = tr.xpath("./td[1]/a/text()").extract_first()item["position"] = tr.xpath("./td[2]/text()").extract_first()item["publish_date"] = tr.xpath("./td[5]/text()").extract_first()yield itemnext_url = response.xpath("//a[@id='next']/@href").extract_first()# 构造urlif next_url != "javascript:;":print(next_url)next_url = "/" + next_urlyield scrapy.Request(url=next_url,callback=self.parse,)
就是这么简单，就获取到数据
写到这里，给大家推荐一个资源很全的python学习聚集地，点击进入，这里有资深程序员分享以前学习
心得，学习笔记，还有一线企业的工作经验，且给大家精心整理一份python零基础到项目实战的资料，
每天给大家讲解python最新的技术，前景，学习需要留言的小细节
以上就是本文的全部内容，希望对大家的学习有所帮助
