网页"/>
关于python爬取网页
之前在网上也写了不少关于爬虫爬取网页的代码,最近还是想把写的爬虫记录一下,方便大家使用吧!
代码一共分为4部分:
第一部分:找一个网站。
我这里还是找了一个比较简单的网站,就是大家都知道的=
大家可以登录里面看一下。
这里大家可能会有一些库没有进行安装,先上图让大家安装完爬取网页所需要的库,其中我本次用到的库有:bs4,urllib,xlwt, re。
如图
这里选择file-setting-Project-然后选择左下角的加号,自行去安装自己所需要的文件就可以了。
下面的代码是爬取网页的源代码:
import urllib.request
from bs4 import BeautifulSoup
import xlwt
import re
def main():# 爬取网页baseurl = '='datalist = getData(baseurl)savepath = '豆瓣电影Top250.xls'# 保存数据saveData(datalist,savepath)# askURL("=1")
#影片详情的规则
findLink = re.compile(r'<a class="" href="(.*?)">') #创建从正则表达式,表示规则
findImgSrc = re.compile(r'<img.*src="(.*?)"', re.S) #让换行符匹配到字符中
#影片的片名
finTitle = re.compile(r'<span class="title">(.*)</span>')
#影片的评分
findReating = re.compile(r'<span class="rating_num" property="v:average">(.*)</span>')
#找到评价人数
findJudge = re.compile(r'<span>(\d*)人评价</span>')
#找到概况
findInq = re.compile(r'<span class="inq">(.*)</span>')
#找到影片的相关内容
findBb = re.compile(r'<p class="">(.*?)</p>', re.S)#re.S忽视换行符
第二部分:爬取网页。
def getData(baseurl):datalist = []for i in range(0, 10):url = baseurl + str(i*25)html = askURL(url) #保存获取到的网页源码#对网页进行解析soup = BeautifulSoup(html, 'html.parser')for item in soup.find_all('div', class_="item"): #查找符合要求的字符串 形成列表#print(item) #测试查看电影信息data = []item = str(item)link = re.findall(findLink, item)[0] #re库用来查找指定的字符串data.append(link)imgSrc = re.findall(findImgSrc, item)[0]data.append(imgSrc) #添加图片titles = re.findall(finTitle, item) #if (len(titles) == 2):ctitle = titles[0] #添加中文名data.append(ctitle)otitle = titles[1].replace("/", "") #replace("/", "")去掉无关的符号data.append(otitle) #添加英文名else:data.append(titles[0])data.append(' ')#外国名字留空rating = re.findall(findReating, item)[0] #添加评分data.append(rating)judgeNum = re.findall(findJudge,item) #评价人数data.append(judgeNum)inq = re.findall(findInq, item) #添加概述if len(inq) != 0:inq = inq[0].replace(".", "") #去掉句号data.append(inq)else:data.append(" ") #留空bd = re.findall(findBb,item)[0]bd = re.sub('<br(\s+)?/>(\s+)?',' ', bd) #去掉br 后面这个bd表示对bd进行操作bd = re.sub('/', ' ', bd) #替换/data.append(bd.strip()) #去掉前后的空格strip()datalist.append(data) #把处理好的一部电影放入datalist当中return datalist
推荐一家我用过的代理IP,他家现在有搞活动,扫码注册免费领取1万个IP+免费测试,可以爬一些风控严格的网站,大家快去薅羊毛。
第三部分:得到一个指定的url信息。
#得到指定的一个url网页信息def askURL(url):head = {"User-Agent": "Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.141 Mobile Safari/537.36"
}request = urllib.request.Request(url,headers=head) # get请求不需要其他的的,而post请求需要 一个method方法html = ""try:response = urllib.request.urlopen(request)html = response.read().decode('utf-8')# print(html)except Exception as e:if hasattr(e,'code'):print(e.code)if hasattr(e,'reason'):print(e.reason)return html
第四部分:保存数据
# 3:保存数据
def saveData(datalist,savepath):book = xlwt.Workbook(encoding="utf-8", style_compression=0)sheet = book.add_sheet('豆瓣电影Top250', cell_overwrite_ok=True)col = ('电影详情链接', '图片链接', '影片中文名', '影片外国名', '评分', '评价数', '概况', '相关信息')for i in range(0,8):sheet.write(0,i,col[i]) #列名for i in range(0,250):print("第%d条"%i)data = datalist[i]for j in range(0,8):sheet.write(i+1,j,data[j])book.save(savepath) #保存
if __name__ == '__main__':main()print("爬取完毕")
这里大家看一下代码,关于代码的标注我写的还是挺清楚的。
其中关于学习这个爬虫,还需要学习一些基本的正则表达式,当然python基本的语法是不可少的希望对大家有帮助吧。
以发布爬虫爬取完毕后,进行数据库保存的博客,如果喜欢请去阅读。
后续还会发布其他的关于爬虫可视化的博客
爬虫可视化,关于flask的已经发布了一篇。
链接地址
=1001.2014.3001.5501
更多推荐
关于python爬取网页
发布评论