分享

Python爬虫信息输入及页面的切换

 爱丶说给谁听 2018-06-30
实现网页的键盘输入操作
  1. from selenium.webdriver.common.keys import Keys
  2. 动态网页有时需要将鼠标悬停在某个元素上,相应的列表选项才能显示出来。
  3. 而爬虫在工作的时候也需要相应的操作,才能获得列表项。
  4. driver.find_element_by_class_name(...).send_keys(需要输入的字串)
  5. #find_element_by_class_name可以是find_element_by_link_text、find_element_by_id等其他方式
  6. #send_keys一些特殊字符串,可以通过help(Keys)显示出来,如实现按回车操作需要使用Keys.ENTER

实现网页上的鼠标的动作

driver.find_element_by_link_text('更多').click()#需要指示到/a链接的位置

#同样find_element_by_link_text可以是find_element_by_id等类似的其他方式

使用ActionChains可以实现鼠标的更多操作

from selenium.webdriver.common.action_chains import *

ActionChains中的操作:

click() -- 单击、click_and_hold()-- 按下鼠标左键在一个元素上、context_click() --单击、double_click()--双击、drag_and_drop()--拖动、key_down()、key_up()、move_by_offset()、move_to_elment()、move_to_elment_with_offset()

动态网页鼠标操作及遇到的问题
动态网页有时需要将鼠标悬停在某个元素上,相应的列表选项才能显示出来。而爬虫在工作的时候也需要相应的操作,才能获得列表项。
  1. #首先需要将鼠标停留到相应的元素
  2. chain = ActionChains(driver)
  3. moveelment = driver.find_element_by_xpath("...")
  4. chain.move_to_element(moveelment).perform()
  5. driver.find_element_by_xpath("//div[@class='search-condition c5 drop-down']/a/div").click()
  6. #而后进行选择列表项
  7. driver.find_element_by_xpath("//ul[@id='category_list']/li[1]/a").click()
  8. driver.find_element_by_xpath("//ul[@id='category_list']/li[2]/a").click()
而当想要进行多列操作时出现了问题:driver.find_element_by_xpath("//ul[@id='category_list']/li[2]/a").click()一直无法成功仔细debug发现:在人工浏览查看相应列表时,全屏情况下列表显示是3列,而当需要聚焦特殊网页时,通过解析current_url进行比较即可,是否存在更好的方法。如果窗口很小就只能显示第一列的值。所以尝试将爬虫后台浏览器窗口设置成最大化,程序正常工作,如下:
  1. #... ...
  2. driver.find_element_by_xpath("//ul[@id='category_list']/li[1]/a").click()
  3. driver.maximize_window()
  4. time.sleep(1)
  5. driver.find_element_by_xpath("//ul[@id='category_list']/li[2]/a").click()
关于窗口的页面切换方式
经常在网页操作时,会弹出新的页面,而爬虫需要程序进行窗口间的切换。
  1. #切换网页,以获取新弹出的网页窗口
  2. for handle in driver.window_handles:
  3. driver.switch_to_window(handle)
  4. print('current url:%s'%driver.current_url)
当需要聚焦特殊网页时,通过解析current_url进行比较即可,是否存在更好的方法。

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多