| 网站首页 | 业界新闻 | 小组 | 威客 | 人才 | 下载频道 | 博客 | 代码贴 | 在线编程 | 编程论坛
欢迎加入我们,一同切磋技术
用户名:   
 
密 码:  
共有 1159 人关注过本帖
标题:Python + Selenium +Chrome 批量下载网页代码修改
取消只看楼主 加入收藏
王子殿下
Rank: 1
等 级:新手上路
帖 子:1
专家分:0
注 册:2020-2-16
收藏
 问题点数:0 回复次数:0 
Python + Selenium +Chrome 批量下载网页代码修改
Python + Selenium +Chrome 批量下载网页代码修改
主要修改以下代码可以调用 本地的 user-agent.txt 和 cookie.txt
来达到在登陆状态下 批量打开并下载网页,以网页ID来保存为网页文件名
# 导入 webdriver
from selenium import webdriver

# 读取本地文件中的URL链接
address = './url.txt'
fp = open(address, 'r')
lines = fp.readlines()
print('【URL链接】:%s', lines)

# 调用环境变量指定的PhantomJS浏览器创建浏览器对象
# driver = webdriver.PhantomJS()
driver = webdriver.Chrome()
# 如果没有在环境变量指定PhantomJS位置
# driver = webdriver.PhantomJS(executable_path="./phantomjs"))

for data in lines:

# get方法会一直等到页面被完全加载,然后才会继续程序,通常测试会在这里选择 time.sleep(2)
driver.get(data)

# 向下滚动10000像素
js = "document.body.scrollTop=10000"
# js="var q=document.documentElement.scrollTop=10000"

# 执行JS语句
driver.execute_script(js)

# 查看页面快照
# driver.save_screenshot("csdn.png")

print('执行中。。。')

# 关闭浏览器
driver.quit()
print('执行结束。。。')

# 关闭文件流
fp.close()
搜索更多相关主题的帖子: 批量 driver 修改 代码 网页 
2020-02-16 10:31
快速回复:Python + Selenium +Chrome 批量下载网页代码修改
数据加载中...
 
   



关于我们 | 广告合作 | 编程中国 | 清除Cookies | TOP | 手机版

编程中国 版权所有,并保留所有权利。
Powered by Discuz, Processed in 0.018573 second(s), 11 queries.
Copyright©2004-2024, BCCN.NET, All Rights Reserved