php采集Snoopy+simple

2014 年 6 月 24 日3790

这里介绍两个php采集能用到的好工具。一个是Snoopy,一个是simple_html_dom。采集还有很多方式(其实本质就2-3种,其他的都是衍生的),php自带了几个方法也能直接进行采集。但是,出于把懒惰进行到底的精神。我们还是可以通过这两个工具,让采集变得更简单。

网上有不少介绍Snoopy的,下面是别人翻译的Snoopy的SDK

Snoopy是一个php类,用来模拟浏览器的功能,可以获取网页内容,发送表单。

Snoopy的一些特点:

要求php4以上就可以了 由于本身是php一个类 无需扩支持 服务器不支持curl时候的最好选择,

类方法:

fetch($URI)

这是为了抓取网页的内容而使用的方法。

$URI参数是被抓取网页的URL地址。

抓取的结果被存储在 $this->results 中。

如果你正在抓取的是一个框架,Snoopy将会将每个框架追踪后存入数组中,然后存入 $this->results。

fetchtext($URI)

本方法类似于fetch(),唯一不同的就是本方法会去除HTML标签和其他的无关数据,只返回网页中的文字内容。

fetchform($URI)

本方法类似于fetch(),唯一不同的就是本方法会去除HTML标签和其他的无关数据,只返回网页中表单内容(form)。

fetchlinks($URI)

本方法类似于fetch(),唯一不同的就是本方法会去除HTML标签和其他的无关数据,只返回网页中链接(link)。

默认情况下,相对链接将自动补全,转换成完整的URL。

submit($URI,$formvars)

本方法向$URL指定的链接地址发送确认表单。$formvars是一个存储表单参数的数组。

submittext($URI,$formvars)

本方法类似于submit(),唯一不同的就是本方法会去除HTML标签和其他的无关数据,只返回登陆后网页中的文字内容。

submitlinks($URI)

本方法类似于submit(),唯一不同的就是本方法会去除HTML标签和其他的无关数据,只返回网页中链接(link)。

默认情况下,相对链接将自动补全,转换成完整的URL。

类属性: (缺省值在括号里)

以下是demo

代码如下:

include "Snoopy.class.php";

$snoopy = new Snoopy;

$snoopy->proxy_host = "";

$snoopy->proxy_port = "8080";

$snoopy->agent = "(compatible; MSIE 4.01; MSN 2.5; AOL 4.0; Windows 98)";

$snoopy->referer = "";

$snoopy->cookies["SessionID"] = 238472834723489l;

$snoopy->cookies["favoriteColor"] = "RED";

$snoopy->rawheaders["Pragma"] = "no-cache";

$snoopy->maxredirs = 2;

$snoopy->offsiteok = false;

$snoopy->expandlinks = false;

$snoopy->user = "joe";

$snoopy->pass = "bloe";

if($snoopy->fetchtext(""))

{

echo "<PRE>lspecialchars($snoopy->results)."</PRE>

";

}

else

echo "error fetching document: ".$snoopy->error."

";

Snoopy的特点是“大”和“全”,一个fetch什么都采到了,可以作为采集的第一步。接下来就需要用simple_html_dom来细细的把想要的部分,扣出来。当然,如果你特别特别擅长正则,而且又钟爱正则,你也可以用正则去匹配抓取。

simple_html_dom其实是一个dom解析的过程。php内部也提供了一些解析的方法,但是这个simple_html_dom可以说做得比较专业,一个类,满足了很多你想要的功能。

// 用一个URL或文件名,创建一个目标文档对象 ,也就是目标网页

$html = file_get_html ('' );

//$html = file_get_html ('' );

//用一个字符串作为一个目标网页。你可以通过Snoopy获取页面,然后再拿到这里来处理

$myhtml = str_get_html ('<html><body>Hello!</body></html>' );

// 找到所有的图片,返回的是数组

foreach($html->find ('img' ) as $element)

echo $element->src . '<br>' ;

// 找到所有的链接

foreach($html->find ('a' ) as $element)

echo $element->href . '<br>' ;

find方法很好用,通常它返回的是一个包含对象的数组。查找目标元素的时候可以通过class或者id,或者其他属性获取目标字符串。

//通过目标div的class属性,查找div,find方法中第二个参数是返回的那个数组中的第几个。从0开始是第一个

$target_div = $html->find ('div.targetclass',0 );

//查看结果是否是你想要的,直接echo就可以了

echo $target_div;

//比较关键的一点是,这个采集对象创建完后,一定要销毁掉,否则php页面有可能会“卡”上30秒左右,这个取决于你服务器的那个时间限制。销毁的方法是:

$html->clear();

unset($html);

本人认为simple_html_dom比较优秀的地方就是,把采集控制得像JS一样容易。在下面提供的下载包中有英文的手册

array $e->getAllAttributes ()

array $e->attr

string $e->getAttribute ($name)

string $e->attribute

void $e->setAttribute ($name, $value)

void $value = $e->attribute

bool $e->hasAttribute ($name)

bool isset($e->attribute)

void $e->removeAttribute ($name)

void $e->attribute= null

element $e->getElementById ($id)

mixed $e->find ("#$id", 0)

mixed $e->getElementsById ($id [,$index])

mixed $e->find ("#$id" [, int $index])

element $e->getElementByTagName ($name)

mixed $e->find ($name, 0)

mixed $e->getElementsByTagName ($name [, $index])

mixed $e->find ($name [, int $index])

element $e->parentNode ()

element $e->parent ()

mixed $e->childNodes ([$index])

mixed $e->children ([int $index])

element $e->firstChild ()

element $e->first_child ()

element $e->lastChild ()

element $e->last_child ()

element $e->nextSibling ()

element $e->next_sibling ()

element $e->previousSibling ()

element $e->prev_sibling ()

0 0