python实现模拟浏览器请求及会话保持的解决办法

内容摘要
这篇文章主要为大家详细介绍了python实现模拟浏览器请求及会话保持的简单示例,具有一定的参考价值,可以用来参考一下。

对python这个高级语言对此感兴趣的朋友,看看idc笔记做
文章正文

这篇文章主要为大家详细介绍了python实现模拟浏览器请求及会话保持的简单示例,具有一定的参考价值,可以用来参考一下。

对python这个高级语言对此感兴趣的朋友,看看idc笔记做的技术笔记!

python下读取一个页面的数据可以通过urllib2轻松实现请求


# @param 程序模拟浏览器请求及会话保持-python实现
# @author php教程|www.idcnote.com 

import urllib2
print urllib2.urlopen('http://www.idcnote.com').read()

# End www_512pic_com

涉及到页面的POST请求操作的话需要提供头信息,提交的post数据和请求页面。

其中的post数据需要urllib.encode()一下,其实就是将字典转换成“data1=value1&data2=value2”的格式。


# @param 程序模拟浏览器请求及会话保持-python实现
# @author php教程|www.idcnote.com 

import urllib
import urllib2
 
HEADER = {
    'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',
    'Referer' : 'http://202.206.1.163/logout.do'
}
 
POSTDATA = {
    'data1': 'value1',
    'data2': 'value2'
}
 
HOSTURL = 'http://xxx.com'
 
enpostdata = urllib.urlencode(POSTDATA)
urlrequest = urllib2.Request(hosturl,enpostdata,HEADER)
urlresponse = urllib2.urlopen(urlrequest)
 
print urlresponse.read()

# End www_512pic_com

请求之后浏览器会有一个会话保持的过程,会话都是保存在一个cookie里面的,下一次页面的请求会把cookie放到请求头,如果cookie丢失会话也就断开了。

在python下面需要设置一下cookie的保持


# @param 程序模拟浏览器请求及会话保持-python实现
# @author php教程|www.idcnote.com 

# cookie set
# 用来保持会话
cj = cookielib.LWPCookieJar()
cookie_support = urllib2.HTTPCookieProcessor(cj)
opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler)
urllib2.install_opener(opener)

# End www_512pic_com

下面是将以上知识点汇总写的一个库文件,方便使用:


# @param 程序模拟浏览器请求及会话保持-python实现
# @author php教程|www.idcnote.com 

# filename: analogop.py
 
#!/usr/bin/python
# -*-coding:UTF-8 -*-
 
# author: 初行
# qq: 121866673
# mail: zxbd1016@163.com
# message: I need a python job
# time: 2014/10/8
 
import urllib
import urllib2
import cookielib
 
# cookie set
# 用来保持会话
cj = cookielib.LWPCookieJar()
cookie_support = urllib2.HTTPCookieProcessor(cj)
opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler)
urllib2.install_opener(opener)
 
# default header
HEADER = {
    'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',
    'Referer' : 'http://202.206.1.163/logout.do'
}
 
# operate method
def geturlopen(hosturl, postdata = {}, headers = HEADER):
    # encode postdata
    enpostdata = urllib.urlencode(postdata)
    # request url
    urlrequest = urllib2.Request(hosturl, enpostdata, headers)
    # open url
    urlresponse = urllib2.urlopen(urlrequest)
    # return url
    return urlresponse

# End www_512pic_com

这个是测试文件,因为读者没有测试环境,需要自己搭建或者找个网站测试:


# @param 程序模拟浏览器请求及会话保持-python实现
# @author php教程|www.idcnote.com 

#filename: test.py
from analogop import geturlopen
 
postd = {
    'usernum': '2011411111',
    'upw': '124569',
    'userip': '192.168.10.1',
    'token': 'xxx'
}
 
urlread = geturlopen('http://127.0.0.1:8000/login/', postd)
print urlread.read().decode('utf-8')
urlread = geturlopen('http://127.0.0.1:8000/chafen/', {})
print urlread.read().decode('utf-8')

# End www_512pic_com

注:关于python实现模拟浏览器请求及会话保持的简单示例的内容就先介绍到这里,更多相关文章的可以留意

代码注释

作者:喵哥笔记

IDC笔记

学的不仅是技术,更是梦想!