爬取热搜排行榜数据(以微博为例)再保存数据库用的是selenium

编程入门 行业动态 更新时间:2024-10-15 04:18:29

爬取热搜排行榜数据(以微博为例)再保存数据库用<a href=https://www.elefans.com/category/jswz/34/1770679.html style=的是selenium"/>

爬取热搜排行榜数据(以微博为例)再保存数据库用的是selenium

爬取热搜排行榜数据(以微博为例)再保存数据库

  • [1] 下载好所需要的第三方库
  • [2] 先确定要爬取的url
  • [3] 开始我们的请求数据
  • [4] 确保数据库的正常连接输送
  • [5] 保存进自己的数据库
    好了,大概就是以上五点。

第一点:第三方库的安装,

需要准备`
import requests

from selenium.webdriver import Chrome,ChromeOptions

import time
import pymysql
import traceback`
就上面的五个包就足够了。
可以看我的上一篇博客,有安装教程,这里我就不详细谢啦,附一下上篇连接
下面开始我们的实际操作。

第二步,确定要爬取的url

url = 

打开技术这个样子,当然你也可以换网站,其实都一样的啦。

第三步,发送请求啦

先粘贴下代码吧各位,少安毋躁呀

def get_webhot():   #热搜函数url =""  # 微博的地址res = requests.get(url)#这个就是再后台上面运行那个浏览器,不在表面上占用你的option = ChromeOptions()option.add_argument('--headless'

更多推荐

爬取热搜排行榜数据(以微博为例)再保存数据库用的是selenium

本文发布于:2024-03-23 20:25:28,感谢您对本站的认可!
本文链接:https://www.elefans.com/category/jswz/34/1742450.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
本文标签:的是   为例   排行榜   数据库   数据

发布评论

评论列表 (有 0 条评论)
草根站长

>www.elefans.com

编程频道|电子爱好者 - 技术资讯及电子产品介绍!