会员可以在此提问,百战程序员老师有问必答
对大家有帮助的问答会被标记为“推荐”
看完课程过来浏览一下别人提的问题,会帮你学得更全面
截止目前,同学们一共提了 132358个问题
Python 全系列/第十五阶段:Python 爬虫开发/scrapy框架使用(旧) 166楼
Python 全系列/第十五阶段:Python 爬虫开发/scrapy框架使用 167楼
Python 全系列/第十五阶段:Python 爬虫开发/移动端爬虫开发- 168楼
Python 全系列/第十五阶段:Python 爬虫开发/移动端爬虫开发- 169楼
Python 全系列/第十五阶段:Python 爬虫开发/爬虫基础 171楼
Python 全系列/第十五阶段:Python 爬虫开发/爬虫基础 172楼
Python 全系列/第十五阶段:Python 爬虫开发/爬虫基础 173楼
Python 全系列/第十五阶段:Python 爬虫开发/爬虫基础 174楼
Python 全系列/第十五阶段:Python 爬虫开发/爬虫基础 175楼

老师,你好,我按照代码文档写的代码运行出现以下出错,不知道什么原因,方便解答一下吗

from fake_useragent import UserAgent
import requests
from lxml import etree

# 发送请求
class Downloader():
    def do_download(self,url):
        print(url)
        headers = {'User-Agent' : UserAgent().chrome}
        resp = requests.get(url, headers=headers)
        if resp.status_code == 200:
            resp.encoding = 'utf-8'
            return resp.text

# 数据分析
class Parser():
    def do_parse(self,html):
        e = etree.HTML(html)
        # 写要爬取的内容的提取
        contents = [div.xpath('string(.)').strip() for div in e.xpath('//div[@class="content"]')]
        urls = ['https://www.qiushibaike.com{}'.format(url) for url in e.xpath('//ul[@class="pagination"]/li/a/@href')]
        return contents,urls

# 数据保存
class DataOutPut():
    def do_save(self,datas):
        with open('duanzi2.txt','a',encoding='utf-8') as f:
            for data in datas:
                f.write(data + '\n')

# URL管理器
class URLManager():
    def __init__(self):
        self.new_url = set()
        self.old_url = set()

    # 加入一个url的方法
    def add_new_url(self,url):
        if url is not None and url != '' and url not in self.old_url:
            self.new_url.add(url)
    # 加入多个url
    def add_new_urls(self,urls):
        for url in urls:
            self.add_new_url(url)
    # 获取一个url
    def get_new_url(self):
        url = self.new_url.pop()
        self.old_url.add(url)
        return url
    # 获取还有多少个url要爬取c
    def get_new_url_size(self):
        return len(self.new_url)

    # 获取是否还有url要爬取
    def have_new_url(self):
        return self.get_new_url_size() > 0

# 调度器
class Scheduler:
    def __init__(self):
        self.downloader = Downloader()
        self.parser = Parser()
        self.data_out_put = DataOutPut()
        self.url_manger = URLManager()

    def start(self,url):
        self.url_manger.add_new_urls(url)
        while self.url_manger.have_new_url():
            url = self.url_manger.get_new_url()
            html = self.downloader.do_download(url)
            datas,urls = self.parser.do_parse(html)
            self.data_out_put.do_save(datas)
            self.url_manger.add_new_urls(urls)

# 主函数
if __name__ == '__main__':
    scheduler = Scheduler()
    url = 'https://www.qiushibaike.com/text/'
    scheduler.start(url)

image.png

Python 全系列/第十五阶段:Python 爬虫开发/爬虫反反爬- 176楼

from selenium import webdriver
from time import sleep


# 构造浏览器
chrome = webdriver.Chrome()
# 发送请求访问,url
chrome.get(
    'https://yys.cbg.163.com/cgi/mweb/pl/role?view_loc=equip_list')
js= 'chrome.document.documentElement.scrollTop=10000'
chrome.execute_script(js)
sleep(5)

#输入要搜索的内容
qf = chrome.find_elements_by_class_name('icon-text')
jg = chrome.find_elements_by_class_name('price')
sc = chrome.find_elements_by_class_name('collect')
ssr = chrome.find_elements_by_class_name('base')
for qfs,jgs,scs,ssrs in zip(qf,jg,sc,ssr):
    print(qfs.text,jgs.text,scs.text,ssrs.text)

Traceback (most recent call last):

  File "E:/untitled1/爬虫/数据提取/", line 11, in <module>

    chrome.execute_script(js)

  File "E:\untitled1\venv\lib\site-packages\selenium\webdriver\remote\webdriver.py", line 636, in execute_script

    'args': converted_args})['value']

  File "E:\untitled1\venv\lib\site-packages\selenium\webdriver\remote\webdriver.py", line 321, in execute

    self.error_handler.check_response(response)

  File "E:\untitled1\venv\lib\site-packages\selenium\webdriver\remote\errorhandler.py", line 242, in check_response

    raise exception_class(message, screen, stacktrace)

selenium.common.exceptions.JavascriptException: Message: javascript error: Cannot read property 'documentElement' of undefined

  (Session info: chrome=81.0.4044.138)



Process finished with exit code 1


我添加了滚动条代码就一直报这个错误 删除滚动条代码一切正常

Python 全系列/第十五阶段:Python 爬虫开发/爬虫反反爬- 180楼

课程分类

百战程序员微信公众号

百战程序员微信小程序

©2014-2025百战汇智(北京)科技有限公司 All Rights Reserved 北京亦庄经济开发区科创十四街 赛蒂国际工业园
网站维护:百战汇智(北京)科技有限公司
京公网安备 11011402011233号    京ICP备18060230号-3    营业执照    经营许可证:京B2-20212637