Python爬虫基础之selenium库的用法总结
作者:一腔诗意醉了酒
今天带大家来学习selenium库的使用方法及相关知识总结,文中非常详细的介绍了selenium库,对正在学习python的小伙伴很有帮助,需要的朋友可以参考下
一、selenium简介
总的来说: selenium库主要用来做浏览器的自动化脚本库。
二、selenium基本用法
from selenium import webdriver url = 'http://www.baidu.com' # 将webdriver实例化 path = 'C:\Program Files (x86)\Python38-32\chromedriver.exe' browser = webdriver.Chrome(executable_path = path) # 用谷歌浏览器访问百度 r = browser.get(url) with open ('test.txt','wb+') as f: f.write(r.content)
三、常用用法
''' 代码功能:selenium是的常用用法 时间:@Date: 2021-05-22 21:37:05 ''' from selenium import webdriver # 导入Options类 from selenium.webdriver.chrome.options import Options url = "https://movie.douban.com/" # Options的实例化 chrome_options = Options() # 设置浏览器参数 # --headless 是不显示浏览器启动以及执行过程 chrome_options.add_argument('--headless') # 设置lang和User-Agent信息,防止反爬检测 chrome_options.add_argument('lang=zh_CN.utf-8') UserAgent = 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/90.0.4430.93 Safari/537.36' chrome_options.add_argument('User-Agent='+UserAgent) # 启动浏览器并设置chrome_options参数 driver = webdriver.Chrome(chrome_options=chrome_options) # 设置浏览器窗口最大化 # driver.maximize_window() # # 设置浏览器窗口最小化 # driver.minimize_window() driver.get(url) # 获取网页的标题 print(driver.title) # page_source是获取网页的HTML代码 print(driver.page_source)
四、cookie的设置、获取与删除
from selenium import webdriver import time # 启动浏览器 driver = webdriver.Chrome() driver.get('https://www.youdao.com') time.sleep(5) # 添加cookie driver.add_cookie({'name':'login','value':'登录'}) # 获取全部cookie allCookies = driver.get_cookies() print('全部cookies',allCookies) # 获取name为login的cookie cookie = driver.get_cookie('login') print('name为login的cookie',cookie) # 删除单个cookie driver.delete_cookie('login') print("\n--------------剩余的cookies\n",driver.get_cookies()) # 删除全部cookies driver.delete_all_cookies() print("-------------剩余的cookies------------\n",driver.get_cookies()) time.sleep(60)
五、文件的上传与下载 文件上传upload
<!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <meta http-equiv="X-UA-Compatible" content="IE=edge"> <meta name="viewport" content="width=device-width, initial-scale=1.0"> <title>Document</title> </head> <body> <h1>配合selenium模拟上传文件</h1> <input type='file' name='file' /> </body> </html>
''' 代码功能:selenium上传文件 --配合upload.html使用 时间:@Date: 2021-05-23 09:56:53 ''' from selenium import webdriver import time driver = webdriver.Chrome() url = 'http://localhost:52330/selenium/upload.html' driver.get(url) ele = driver.find_element_by_name('file') print("获取到的元素",ele) # 注意路径不能有中文字符 ele.send_keys('D:\dcsdk_eventv3.db') time.sleep(10)
下载文件
''' 代码功能:模拟文件下载 时间:@Date: 2021-05-23 10:21:28 ''' from selenium import webdriver import time # 设置文件保存路径,如果不设置,会默认保存到Downloads文件夹 options = webdriver.ChromeOptions() prefs = {'download.default_directory':'D:\\'} options.add_experimental_option('prefs',prefs) # 启动浏览器 driver = webdriver.Chrome() # 下载PC版微信 driver.get('https://pc.weixin.qq.com') # 浏览器窗口最大化 driver.maximize_window() time.sleep(5) # 点击下载按钮 driver.find_element_by_class_name('download-button').click() time.sleep(30)
六、窗口的切换
from selenium import webdriver import time url = 'https://www.baidu.com/' driver = webdriver.Chrome() # 隐式等待,一次设置对整个driver的周期都起作用 driver.implicitly_wait(30) driver.get(url) # 使用js开启新的窗口 js = 'window.open("https://www.sogou.com/")' driver.execute_script(js) # 获取当前显示的窗口信息 current_window = driver.current_window_handle print(driver) # 获取浏览器的全部窗口信息 handles = driver.window_handles print('获取到的窗口全部信息\n------------------\n',handles) ''' 获取到的窗口全部信息 ------------------ ['CDwindow-7FB808B4F24EF5385A9AFBDC21FA13B9', 'CDwindow-E879C0A64E734C3F88468A4388F48E3B'] ''' # 设置延时看切换的效果 time.sleep(3) # 根据窗口信息进行窗口切换 # 切换到百度搜索的窗口 driver.switch_to_window(handles[0]) time.sleep(3) # 切换到搜狗窗口 driver.switch_to_window(handles[1])
七、项目实战
''' 代码功能:熟悉selenium的自动化操作 时间:2020/5/22 ''' from selenium import webdriver from selenium.webdriver.common.keys import Keys import time # Keys 类中定义了很多快捷键 url = 'https://wwww.baidu.com' path = 'C:\Program Files (x86)\Python38-32\chromedriver.exe' driver = webdriver.Chrome(executable_path=path) driver.get(url) # 获取输入框标签对象 element = driver.find_element_by_id('kw') # 输入框输入内容 element.send_keys('python你') time.sleep(2) # 删除最后一个文字 element.send_keys(Keys.BACK_SPACE) time.sleep(2) # 添加空格加教程 element.send_keys(Keys.SPACE) element.send_keys("教程") time.sleep(2) # ctrl+a 全选输入框内容 element.send_keys(Keys.CONTROL, 'a') time.sleep(2) # ctrl+x 剪切输入框内容 element.send_keys(Keys.CONTROL, 'x') time.sleep(2) # ctrl+v 复制 element.send_keys(Keys.CONTROL, 'v') time.sleep(2) # 回车键 driver.find_element_by_id('su').send_keys(Keys.ENTER) time.sleep(10)
到此这篇关于Python爬虫基础之selenium库的用法总结的文章就介绍到这了,更多相关Python selenium库内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!