mechanize模拟浏览器行为使用总结

 mechanize是对urllib2的部分功能的替换，能够更好的模拟浏览器行为，在web访问控制方面做得更全面。结合beautifulsoup和re模块，可以有效的解析web页面，我比较喜欢这种方法。

    下面主要总结了使用mechanize模拟浏览器的行为和几个例子（谷歌搜索，百度搜索和人人网登录等）

1.初始化并建立一个浏览器对象

    如果没有mechanize需要easy_install安装，以下代码建立浏览器对象并作了一些初始化设置，实际使用过程可以按需开关。其实只用默认的设置也可以完成基本任务。

1. #!/usr/bin/env python
   
2. import sys,mechanize
   
3. 
   
4. #Browser
   
5. br = mechanize.Browser()
   
6. 
   
7. #options
   
8. br.set_handle_equiv(True)
   
9. br.set_handle_gzip(True)
   
10. br.set_handle_redirect(True)
    
11. br.set_handle_referer(True)
    
12. br.set_handle_robots(False)
    
13. 
    
14. #Follows refresh 0 but not hangs on refresh > 0
    
15. br.set_handle_refresh(mechanize._http.HTTPRefreshProcessor(), max_time=1)
    
16. 
    
17. #debugging?
    
18. br.set_debug_http(True)
    
19. br.set_debug_redirects(True)
    
20. br.set_debug_responses(True)
    
21. 
    
22. #User-Agent (this is cheating, ok?)
    
23. br.addheaders = [('User-agent', 'Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.9.0.1) Gecko/2008071615 Fedora/3.0.1-1.fc9 Firefox/3.0.1')]

2.模拟浏览器行为

    浏览器对象建立并初始化完毕之后即可使用了，下面给出几个例子（代码承接以上部分）

获取web网页

    分行打印可以逐个查看详细信息，就不赘述

1. r = br.open(sys.argv[1])
   
2. html = r.read()
   
3. print html
   
4. print br.response().read()
   
5. print br.title()
   
6. print r.info()

模拟谷歌和百度查询

    打印和选择forms，然后填写相应键值，通过post提交完成操作

1. for f in br.forms():
   
2.     print f
   
3. 
   
4. br.select_form(nr=0)

    谷歌查询football

1. br.form['q'] = 'football'
   
2. br.submit()
   
3. print br.response().read()

    百度查询football

1. br.form['wd'] = 'football'
   
2. br.submit()
   
3. print br.response().read()

 
    相应键值名，可以通过打印查出

回退（Back）

    非常简单的操作，打印url即可验证是否回退

1. # Back
   
2. br.back()
   
3. print br.geturl()

3.http基本认证

1. br.add_password('http://', 'username', 'password')
   
2. br.open('http://')

4.form认证

    以登陆人人网为例，打印forms可以查出用户名和密码键信息

1. br.select_form(nr = 0)
   
2. br['email'] = username
   
3. br['password'] = password
   
4. resp = self.br.submit()

5.cookie支持

    通过导入cookielib模块，并设置浏览器cookie，可以在需要认证的网络行为之后不用重复认证登陆。通过保存session cookie即可重新访问，Cookie Jar完成了该功能。

1. #!/usr/bin/env python
   
2. import mechanize, cookielib
   
3. 
   
4. br = mechanize.Browser()
   
5. cj = cookielib.LWPCookieJar()
   
6. br.set_cookiejar()

6.proxy设置

设置http代理

1. #Proxy
   
2. br.set_proxies({"http":"proxy.com:8888"})
   
3. br.add_proxy_password("username", "password")
   
4. 
   
5. #Proxy and usrer/password
   
6. br.set_proxies({"http":"username:[e-mail]:8888"})