phantomjs 抓取搜狗相关搜索的例子

phantomjs 是一个具备webkit内核的无界面浏览器,有不少强大的功能,作爬虫也是很简单的(固然是简单的爬虫),web

这是一个爬取搜狗相关搜索的例子,能够多加点东西,或者改为爬取其余网页的爬虫:浏览器

var page = require('webpage').create();
var system = require('system');

if (system.args.length != 2) {
    console.log("input keyword to search!");
} else {
    // 设置编码通常使用System不会出错 utf8反而不给力
    phantom.outputEncoding = 'System';
    // 经过命令行读取搜索参数
    address = encodeURI('http://www.sogou.com/web?query=' + system.args[1]);
    console.log(address);
    try {
        var openbaidu = page.open(address, function(status) {
            var title = page.evaluate(function() {
                // WebKit接口
                var res = document.querySelectorAll('#hint_container a');
                var res_text = '';
                for (i = 0; i < res.length; i++) {
                    res_text += res[i].innerHTML + "\n";
                }
                return res_text;
            });
            console.log(title);
        });

        openbaidu;
    } catch (e) {
        console.log(e);
    }
}

使用实例:ui

相关文章
相关标签/搜索