python爬取必应壁纸

前言

一个喜欢折腾的人，长期看到桌面只有一种壁纸，就想着自己从网上爬取一些壁纸，存下来，随机切换壁纸。

本文仅供学习交流。

工具

Python3 + requests + re

Fiddler 抓包工具。

分析

必应官网好像无法使用 Ctrl + U 查看源代码和 Ctrl + Shift + I或者F12 打开控制台。

通过 Fiddler 进行抓包。

发现就这两个请求

那么可以肯定，图片的 url 肯定就在网页源代码里面。

我们可以在源代码中看到我们想要的图片 url

通过正则进行抓取即可。

import requests
import threading
import json
import re
from pprint import pprint
import time


class Bing:
    def __init__(self):
        self.url = "https://bing.ioliu.cn/?p={}"
        self.headers = {
            "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36"}

    def parse_url(self, url):
        print("*" * 20)
        response = requests.get(url, headers=self.headers)
        return response.content

    def regular_img_name(self, img_url):
        ret = re.findall(
            r"http://h.\.ioliu.cn/bing/(.*?)\.(.*?)$", img_url, re.M | re.S)
        print(ret)
        return ret

    def download_imgs(self, img_list):
        for url in img_list:
            img = self.parse_url(url)
            time.sleep(1)
            print(url)
            strs = self.regular_img_name(url)
            with open("./bing/{}.{}".format(strs[0][0], strs[0][1]), "wb") as f:
                f.write(img)
            print("{} success".format(url))

    def regular_img_url(self, html_str):
        ret = re.findall(r".*?pic=(.*?)\?imageslim.*?", html_str, re.M | re.S)
        return ret

    def run(self):
        for i in range(1, 10):
            url = self.url.format(i)
            html_str = self.parse_url(url).decode()
            img_list = self.regular_img_url(html_str)
            print(img_list)
            self.download_imgs(img_list)


if __name__ == "__main__":
    bing = Bing()
    bing.run()

可以改进为多线程爬虫版本~

注意：跑代码之前要在当前代码路径建立一个叫 bing 的文件夹~

总结

写完代码后发现：

必应壁纸好像提供了官方接口的~

http://cn.bing.com/HPImageArchive.aspx?idx=0&n=1

只要在解析出的 url 前面加上 http://www.bing.com 就好了。

网络爬虫的代码不一定一直可用， 代码要根据实际情况进行更改，不可一概论之！