(编辑:jimmy 日期: 2024/12/27 浏览:2)
Python是很好的爬虫工具不用再说了,它可以满足我们爬取网络内容的需求,那最简单的爬取网络上的图片,可以通过很简单的方法实现。只需导入正则表达式模块,并利用spider原理通过使用定义函数的方法可以轻松的实现爬取图片的需求。
spider就是定义爬取的动作及分析网站的地方。
以初始的URL**初始化Request**,并设置回调函数。 当该request**下载完毕并返回时,将生成**response ,并作为参数传给该回调函数。
第一步:导入正则表达式模块
import re # 导入正则表达式模块 import requests # python HTTP客户端 编写爬虫和测试服务器经常用到的模块 import random # 随机生成一个数,范围[0,1]
第二步:使用定义函数的方法爬取图片
def spiderPic(html, keyword): print('正在查找 ' + keyword + ' 对应的图片,下载中,请稍后......') for addr in re.findall('"objURL":"(.*"', html, re.S): # 查找URL print('正在爬取URL地址:' + str(addr)[0:30] + '...') # 爬取的地址长度超过30时,用'...'代替后面的内容 try: pics = requests.get(addr, timeout=100) # 请求URL时间(最大10秒) except requests.exceptions.ConnectionError: print('您当前请求的URL地址出现错误') continue fq = open('H:\\img\\' + (keyword + '_' + str(random.randrange(0, 1000, 4)) + '.jpg'), 'wb') # 下载图片,并保存和命名 fq.write(pics.content) fq.close()