Python爬取13个旅游城市,告知你五一咱们独爱去哪玩?

本年五一放了四天假,很多人不再仅仅挑选周边游,由于时刻富余,挑选了略微远一点的景区,乃至出国游。各个景点成了摩肩接踵,拥堵的人群,乃至去卫生间都要排队半响,那一刻我忽然有点了解灭霸的行为了。

今日,经过剖析去哪儿网部分城市门票售卖状况,简略的剖析一下哪些景点比较受欢迎。等下次假日能够做个参阅。

用到的Python模块

BeautifulSouprequestspymongopylab

办法

经过恳求  ,获取北京地区抢手景区信息,再经过BeautifulSoup去剖析提取出咱们需求的信息。

这儿为了偷闲只爬取了前4页的景点信息,每页有15个景点。由于去哪儿并没有什么反爬办法,所以直接恳求就能够了。

这儿仅仅随机挑选了13个抢手城市:北京, 上海, 成都, 三亚, 广州, 重庆, 深圳, 西安, 杭州, 厦门, 武汉, 大连, 姑苏。

并将爬取的数据存到了MongoDB数据库 。


爬虫部分完好代码如下

import requests
from bs4 import BeautifulSoup
from pymongo import MongoClient
 
class QuNaEr():
    def __init__(self, keyword, page=1):
        self.keyword = keyword
        self.page = page
 
    def qne_spider(self):
        url = 'https://piao.qunar.com/ticket/list.htm?keyword=%s&region=&from=mpl_search_suggest&page=%s' % (self.keyword, self.page)
        response = requests.get(url)
        response.encoding = 'utf-8'
        text = response.text
        bs_obj = BeautifulSoup(text, 'html.parser')
 
        arr = bs_obj.find('div', {'class': 'result_list'}).contents
        for i in arr:
            info = i.attrs
            # 景区称号
            name = info.get('data-sight-name')
            # 地址
            address = info.get('data-address')
            # 近期售票数
            count = info.get('data-sale-count')
            # 经纬度
            point = info.get('data-point')
 
            # 开始价格
            price = i.find('span', {'class': 'sight_item_price'})
            price = price.find_all('em')
            price = price[0].text
 
            conn = MongoClient('localhost', port=27017)
            db = conn.QuNaEr # 库
            table = db.qunaer_51 # 表
 
            table.insert_one({
                'name'      :   name,
                'address'   :   address,
                'count'     :   int(count),
                'point'     :   point,
                'price'     :   float(price),
                'city'      :   self.keyword
            })
 
if __name__ == '__main__':
    citys = ['北京', '上海', '成都', '三亚', '广州', '重庆', '深圳', '西安', '杭州', '厦门', '武汉', '大连', '姑苏']
    for i in citys:
        for page in range(1, 5):
            qne = QuNaEr(i, page=page)
            qne.qne_spider()

效果图如下


有了数据,咱们就能够剖析出自己想要的东西了


最受欢迎的15个景区

由图能够看出,在挑选的13个城市中,最抢手的景区为上海的迪士尼乐土

代码如下

from pymongo import MongoClient
# 设置字体,否则无法显现中文
from pylab import *
 
mpl.rcParams['font.sans-serif'] = ['SimHei']
 
conn = MongoClient('localhost', port=27017)
db = conn.QuNaEr # 库
table = db.qunaer_51 # 表
 
result = table.find().sort([('count', -1)]).limit(15)
# x,y轴数据
x_arr = []  # 景区称号
y_arr = []  # 销量
for i in result:
    x_arr.append(i['name'])
    y_arr.append(i['count'])
 
"""
去哪儿月销量排行榜
"""
plt.bar(x_arr, y_arr, color='rgb')  # 指定color,否则一切的柱体都会是一个色彩
plt.gcf().autofmt_xdate() # 旋转x轴,防止堆叠
plt.xlabel(u'景点称号')  # x轴描绘信息
plt.ylabel(u'月销量')  # y轴描绘信息
plt.title(u'拉钩景点月销量统计表')  # 指定图表描绘信息
plt.ylim(0, 4000)  # 指定Y轴的高度
plt.savefig('去哪儿月销售量排行榜')  # 保存为图片
plt.show()


文章部分节选自:

上一篇:Python3中_和__的用处和差异
下一篇:python json.dumps中文乱码问题解决

PythonTab微信大众号:

11.png

Python技能交流合作群 ( 请勿加多个群 ):

群1: 87464755

群2: 333646237

群3: 318130924

群4: 385100854