当前位置： 移动技术网 > IT编程>脚本编程>Python > python爬虫-京东商品爬取

python爬虫-京东商品爬取

2019年12月09日  | 移动技术网IT编程  | 我要评论

越狱第二季在线观看,lcr电桥,核桃壳滤料

京东商品爬取

仅供学习

一.使用selenium

from selenium import webdriver
from selenium.webdriver.common.keys import keys #键盘按键操作from selenium.webdriver.support import expected_conditions as ec
import time



def get_goods(driver):
    try:
        goods=driver.find_elements_by_class_name('gl-item')


        for good in goods:
            detail_url=good.find_element_by_tag_name('a').get_attribute('href')

            p_name=good.find_element_by_css_selector('.p-name em').text.replace('\n','')
            price=good.find_element_by_css_selector('.p-price i').text
            p_commit=good.find_element_by_css_selector('.p-commit a').text

            msg = '''
            商品 : %s
            链接 : %s
            价钱 ：%s
            评论 ：%s
            ''' % (p_name,detail_url,price,p_commit)

            print(msg,end='\n\n')



        button=driver.find_element_by_partial_link_text('下一页')
        button.click()
        time.sleep(1)
        get_goods(driver)
    except exception:
        pass



def spider(url,keyword):
    driver = webdriver.chrome()
    driver.get(url)
    driver.implicitly_wait(3)
    try:
        input_tag=driver.find_element_by_id('key')
        input_tag.send_keys(keyword)
        input_tag.send_keys(keys.enter)
        get_goods(driver)
    finally:
        driver.close()

if __name__ == '__main__':
    spider('https://www.jd.com/',keyword='iphone8手机')

二.不使用selenium

from requests_html import htmlsession
session = htmlsession()
page=1
while true:
    res =session.get(f'https://search.jd.com/search?keyword=苹果8&enc=utf-8&page={page*2-1}')  #keyword搜索内容 #enc编码格式 #8page页数*2-1
    res.html.encoding='utf8'
    info_list=res.html.xpath('//*[@class="gl-i-wrap"]')
    if not info_list:
        print(f'一共爬取{page}页')
        break
    print(f'url={res.url}第{page}页',[info.text for info  in info_list])
    page+=1

三.个人感觉

selenium真的慢- -

您可能感兴趣的文章:

如对本文有疑问，请在下面进行留言讨论，广大热心网友会与你互动！！ 点击进行留言回复

相关文章:

验证码：
最近更新的文章
大家感兴趣的文章
移动技术网