Python爬虫案例:爬取必应壁纸

python学习网 2020-10-15 10:01:11

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理。

以下文章来源于 incipe ,作者 incipe

 

前言

一个喜欢折腾的人,长期看到桌面只有一种壁纸,就想着自己从网上爬取一些壁纸,存下来,随机切换壁纸。

工具

Python3 + requests + re

Fiddler 抓包工具。

 

分析

必应官网好像无法使用 Ctrl + U 查看源代码和 Ctrl + Shift + I或者F12 打开控制台。

通过 Fiddler 进行抓包。

发现就这两个请求

 

那么可以肯定,图片的 url 肯定就在网页源代码里面。

 

我们可以在源代码中看到我们想要的图片 url

通过正则进行抓取即可。

import requests
import threading
import json
import re
from pprint import pprint
import time


class Bing:
    def __init__(self):
        self.url = "https://bing.ioliu.cn/?p={}"
        self.headers = {
            "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36"}

    def parse_url(self, url):
        print("*" * 20)
        response = requests.get(url, headers=self.headers)
        return response.content

    def regular_img_name(self, img_url):
        ret = re.findall(
            r"http://h1.ioliu.cn/bing/(.*?)\.(.*?)$", img_url, re.M | re.S)
        print(ret)
        return ret

    def download_imgs(self, img_list):
        for url in img_list:
            img = self.parse_url(url)
            time.sleep(1)
            strs = self.regular_img_name(url)
            with open("./bing/{}.{}".format(strs[0][0], strs[0][1]), "wb") as f:
                f.write(img)
            print("{} success".format(url))

    def regular_img_url(self, html_str):
        ret = re.findall(r".*?pic=(.*?)\?imageslim.*?", html_str, re.M | re.S)
        return ret

    def run(self):
        for i in range(1, 10):
            url = self.url.format(i)
            html_str = self.parse_url(url).decode()
            img_list = self.regular_img_url(html_str)
            print(img_list)
            self.download_imgs(img_list)


if __name__ == "__main__":
    bing = Bing()
    bing.run()

可以改进为多线程爬虫版本~

总结

写完代码后发现:

必应壁纸好像提供了官方接口的~

http://cn.bing.com/HPImageArchive.aspx?idx=0&n=1

只要在解析出的 url 前面加上

 http://www.bing.com
阅读(2615) 评论(0)