7
Posted on 下午10:38:00 by Fan Zhang and filed under

  对于大部分论坛,我们想要抓取其中的帖子分析,首先需要登录,否则无法查看。

  这是因为 HTTP 协议是一个无状态(Stateless)的协议,服务器如何知道当前请求连接的用户是否已经登录了呢?有两种方式:

  1. 在URI 中显式地使用 Session ID;
  2. 利用 Cookie,大概过程是登录一个网站后会在本地保留一个 Cookie,当继续浏览这个网站的时候,浏览器会把 Cookie 连同地址请求一起发送过去。

  Python 提供了相当丰富的模块,所以对于这种网络操作只要几句话就可以完成。我以登录 QZZN 论坛为例,事实上下面的程序几乎所有的 PHPWind 类型的论坛都是适用的。

# -*- coding: GB2312 -*-

from urllib import urlencode
import cookielib, urllib2

# cookie
cj = cookielib.LWPCookieJar()
opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cj))
urllib2.install_opener(opener)

# Login
user_data = {'pwuser': '你的用户名',
             'pwpwd': '你的密码',
             'step':'2'
            }
url_data = urlencode(user_data)
login_r = opener.open("http://bbs.qzzn.com/login.php", url_data)

  一些注释:

  1. urllib2 显然是比 urllib 高级一点的模块,里面包括了如何使用 Cookies。
  2. 在 urllib2 中,每个客户端可以用一个 opener 来抽象,每个 opener 又可以增加多个 handler 来增强其功能。
  3. 在构造 opener 时指定了 HTTPCookieProcessor 做为 handler,因此这个 handler 支持 Cookie。
  4. 使用 isntall_opener 后,调用 urlopen 时会使用这个 opener。
  5. 如果不需要保存 Cookie,cj 这个参数可以省略。
  6. user_data 存放的就是登录所需要的信息,在登录论坛的时候把这个信息传递过去就行了。
  7. urlencode 功能是把字典 user_data 编码成"?pwuser=username&pwpwd=password"的形式,这样做是为了使程序易读一些。

  最后一个问题是,pwuser、pwpwd 这类的名字是从哪儿来的,这就要分析需要登录的网页了。我们知道,一般的登录界面都是一个表单,节选如下:

<form action="login.php?" method="post" name="login" onSubmit="this.submit.disabled = true;">
<input type="hidden" value="" name="forward" />
<input type="hidden" value="http://bbs.qzzn.com/index.php" name="jumpurl" />
<input type="hidden" value="2" name="step" />
...
<td width="20%" onclick="document.login.pwuser.focus();"><input type="radio" name="lgt" value="0" checked />用户名 <input type="radio" name="lgt" value="1" />UID</td>
<td><input class="input" type="text" maxLength="20" name="pwuser" size="40" tabindex="1" /> <a href="reg1ster.php">马上注册</a></td>
<td>密 码</td>
<td><input class="input" type="password" maxLength="20" name="pwpwd" size="40" tabindex="2" /> <a href="sendpwd.php" target="_blank">找回密码</a></td>
...
</form>

  从这里可以看出,我们需要输入的用户名密码对应的就是 pwuser 和 pwpwd,而 step 对应的则是登录(这个是尝试出来的)。

  注意到,这个论坛表单采用的是 post 方式,如果是 get 方式则本文的方法就需要变动一下,不能直接 open,而是应该首先 Request,然后再 open。更详细的请看手册...

  有一篇文章供参考:解决在 Python 中登录网站的问题

2009-03-09Up:在 Python 3 下可以参考:Python 3.0 中的编码和字符串

7
评论 : 使用 Python 登录网站
Belen 说... 2008年11月1日 下午3:23

还学习Python
我没有学过编程,自学这个怎样?
难度大吗?

主要想学一个可以用来编写一些简单的Web小程序的,前些日子在看PHP,但听说Python更不错哦

晓月 说... 2008年11月1日 下午3:42

to Belen:
这个很好学,不过因为模块较多,建议买一本手册,查起来比较方便。
没有学过编程也没关系。
Python不仅是用在网络上,日常工作中也可以用。

Belen 说... 2008年11月1日 下午11:11

谢谢
比Php还容易学?
有什么书介绍下?

Belen 说... 2008年11月1日 下午11:12

谢谢
比Php还容易学?
有什么书介绍下?

晓月 说... 2008年11月1日 下午11:29

PHP和Python关注的内容不一样。
PHP是一个服务器端的脚本语言,是用来做Web的。而Python则更广泛一些,是一个更基础的脚本语言,但是它比C/C++要高级,比如数据库和网络的应用要更方便一些,因为它有很多现成的模块。
至于书,我倒是不好推荐,因为我看过的也就两三本,最初的入门我是从网上看的,那种超级简明的教程。后来买了一本《Python核心编程》,这本书也有电子版。

Belen 说... 2008年11月1日 下午11:40

谢谢
比Php还容易学?
有什么书介绍下?

匿名 说... 2012年6月14日 下午2:43

get才是直接urlopen post才需要request

发表评论