爬虫入门实践 | 利用python爬取彩票中奖信息

系统环境：mac
python版本：3.6.2(anaconda)
库：requests、BeautifulSoup

---

爬取一些简单的静态网站，一般采取的策略为：选中目标，也就是需要爬取的网站url；观察结构，查看网页结构，联接结构；构思动手，选择Html下载器和解析器，最后存储数据。

今天我们爬取对象是中彩网中3D彩票中奖信息。对应的URL为：http://kaijiang.zhcw/zhcw/html/3d/list_1.html。
我们可以发现，其后缀list_()代表的正是第几页，比如list_3就是第三页。

我们打开开发者工具查看网页结构，可以发现每一期的彩票信息对应的源代码是一个tr节点，我们可以使用BeautifulSoup库来提取数据信息。

整体流程：爬取所有3D彩票信息248页，一共请求248次网页，使用库提取信息，使用xlrd将数据写入excel。结果如下：

代码如下：

import requests
import xlwt
import time
from bs4 import BeautifulSoup

# 获取网页内容
def get_html(url):
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36'
    }
    response = requests.get(url, headers = headers)
    if response.status_code == 200:
        return response.text
    else:
        print('无数据！')
    return None

# 解析网页内容
def parse_html(html):
    soup = BeautifulSoup(html, 'lxml')
    i = 0
    for item in soup.select('tr')[2:-1]:
        yield{
            'time':item.select('td')[i].text,
            'issue':item.select('td')[i+1].text,
            'digits':item.select('td em')[0].text,
            'ten_digits':item.select('td em')[1].text,
            'hundred_digits':item.select('td em')[2].text,
            'single_selection':item.select('td')[i+3].text,
            'three_selection':item.select('td')[i+4].text,
            'six_selection':item.select('td')[i+5].text,
            'sales':item.select('td')[i+6].text,
            'return_rates':item.select('td')[i+7].text
        }



# 将数据写入excel表

def write_to_excel():
    f = xlwt.Workbook()
    sheet1 = f.add_sheet('3D', cell_overwrite_ok=True)
    row0 = ['开奖日期','期号','个位数','十位数','百位数','单数','组选3','组选6','销售额','反奖比列']
    # 写入第一行
    for j in range(0, len(row0)):
        sheet1.write(0, j, row0[j])

    # 依次爬取每一个网页,将结果写入excel
    i = 0
    for k in range(1, 248):
        url = 'http://kaijiang.zhcw/zhcw/html/3d/list_{}.html'.format(k)
        html = get_html(url)
        print('正在保存第{}页......'.format(k))
        if html != None:        
        # 写入每一期信息
            for item in parse_html(html):
                sheet1.write(i+1, 0, item['time'])
                sheet1.write(i+1, 1, item['issue'])
                sheet1.write(i+1, 2, item['digits'])
                sheet1.write(i+1, 3, item['ten_digits'])
                sheet1.write(i+1, 4, item['hundred_digits'])
                sheet1.write(i+1, 5, item['single_selection'])
                sheet1.write(i+1, 6, item['three_selection'])
                sheet1.write(i+1, 7, item['six_selection'])
                sheet1.write(i+1, 8, item['sales'])
                sheet1.write(i+1, 9, item['return_rates'])
                i += 1
    f.save('3D.xls')

def main():
    write_to_excel()

if __name__ == '__main__':
    main()