我得到了错误KeyError:‘驱动’。我想使用selenium创建一个网络爬虫。我的代码如下所示:
class TestSpider(Spider):
name="test"
start_urls = ["http://crawler-test.com/mobile/dynamic"]
def start_requests(self):
for url in self.start_urls:
yield SeleniumRequest(url=url, callback=self.parse)
def parse(self, response):
print(response.request.meta['driver'].title)在爬行器的设置中,我添加了:
SELENIUM_DRIVER_NAME = 'chrome'
SELENIUM_DRIVER_EXECUTABLE_PATH = which('chromedriver')
SELENIUM_DRIVER_ARGUMENTS=['--headless']
DOWNLOADER_MIDDLEWARES = {'scrapy_selenium.SeleniumMiddleware': 800}几乎所有的东西都来自刮除-selenium文档。https://pypi.org/project/scrapy-selenium/
非常感谢你的帮助。
发布于 2021-03-22 10:58:35
从@pcalkins评论中找到答案
有两种方法可以解决这个问题:
最快的一个:将您的chromedriver.exe文件粘贴到与您的蜘蛛相同的目录中。
最佳之一:在SETTINGS.PY中将您的潜水员路径放置在SELENIUM_DRIVER_EXECUTABLE_PATH = YOUR PATH HERE中
这是你不会用的(‘调色剂’)
https://stackoverflow.com/questions/66157915
复制相似问题