创建了 scrapy 框架中的 crawlspider 抓取全网站信息时，网页源代码中的相对链接并没有被转化为绝对链接，导致抓取的整个网站信息不全，请教大神，该怎么办
推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
This topic created in 2550 days ago, the information mentioned may be changed or developed.
 |
1
luanguang Jun 14, 2019
用自带方法拼接
``` response.urljoin() ``` |
 |
2
fank99 Jun 14, 2019
我是这样的。。
from urllib.parse import urljoin yield Request(url=urljoin(response.url, url), callback=) |
 |
3
xiushenbuhuihui OP @luanguang 您好，我把我的问题给你详细描述一下，请您帮我解决一下。
用的是 crawlspider 爬取乐融商城全部的网站源代码，但是爬取到精选配件页面（全部分类选项里面）时，由于商品（“比如：乐视蓝牙耳机”）的链接只是相对的，结果导致无法爬取商品页面源代码 |
|
4
xiushenbuhuihui OP @fank99 您好，我把我的问题给你详细描述一下，请您帮我解决一下。
用的是 crawlspider 爬取乐融商城全部的网站源代码，但是爬取到精选配件页面（全部分类选项里面）时，由于商品（“比如：乐视蓝牙耳机”）的链接只是相对的，结果导致无法爬取商品页面源代码 |
Select Language