Python爬取爱徒网素材下载链接，点击链接即可下载

内容摘要
平时都是直接爬取图片，但是有些时候只想要个别的图该怎么办呢？
文章正文

前言

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

平时都是直接爬取图片，但是有些时候只想要个别的图该怎么办呢？

项目目标

爬取爱徒网素材下载地址

 

 

通过点击素材进入素材详情页，可以看到本地下载地址，多复制几个素材的下载地址链接：

http://www.aiimg.com/sucai.php?open=1&aid=126632&uhash=70a6d2ffc358f79d9cf71392
http://www.aiimg.com/sucai.php?open=1&aid=126630&uhash=99b07c347dc24533ccc1c144
http://www.aiimg.com/sucai.php?open=1&aid=126634&uhash=d7e8f7f02f57568e280190b4

每个链接的aid不一样，这个应该就是素材的每个ID，后面的uhash又是什么呢
原本想着网页数据里面是否有接口数据可以直接找到这个参数，在开发者工具里面搜索并没有这个参数，看一下网页源代码里面是否有这个下载链接~

常规操作：

1.打开开发者工具，查看网页是否返回自己想要获取的数据。

 

 


可以发现，咱们需要的数据都在网页的标签里面，请求网页获取返回数据

import requests
url = "/d/file/p/20221107/list.php style="color: rgba(128, 0, 0, 1)">"
headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36"
}
response = requests.get(url=url, headers=headers)
print(response.text)

 

解析爬取数据

import parsel
selector = parsel.Selector(response.text)
lis = selector.css(".imglist_d ul li a::attr(href)").getall()
for li in lis:
    num_id = li.replace(".html", "").split("/")[-1]
    new_url = "/d/file/p/20221107/sucai.php style="color: rgba(128, 0, 0, 1)">".format(num_id)
    response_2 = requests.get(url=new_url, headers=headers)
    selector_2 = parsel.Selector(response_2.text)
    data_url = selector_2.css(".downlist a.down1::attr(href)").get()
    title = selector_2.css(".toart a::text").get()
    download_url = "http://www.aiimg.com" + data_url
代码注释
[!--zhushi--]
上一篇使用OpenCV和Python构建自己的车辆检测模型下一篇05-Python—列表、元祖、字典、集合操作大全:建议收藏

作者：喵哥笔记

IDC笔记

学的不仅是技术，更是梦想！