您可以采取多种措施来减少处理时间。
1.获得更强大的服务器/计算机(正如马修正确指出的那样).
是的,你可能会说这与问题无关,但在抓取方面却非常重要。在预算为 8 美元的 VPS 上,无需优化您的初始脚本的运行费用9589ms
这已经是大约 30% 的改进。
2.关闭图像加载。这会有所帮助...一点。8160ms
加载时间。
page.settings.loadImages = false;
3.分析页面,查找并取消不必要的网络请求。
即使在 Google Chrome 等普通浏览器中,网站加载速度也很慢:使用 AdblockPlus 时需要 129 个请求/8.79 秒加载时间。有很多要求(gif,1Mb),如果它们用于 Facebook、Twitter(用于获取小部件)和广告网站等第三方网站,则有很多。
我们也可以取消它们:
block_urls = ['gstatic.com', 'adocean.pl', 'gemius.pl', 'twitter.com', 'facebook.net', 'facebook.com', 'planplus.rs'];
page.onResourceRequested = function(requestData, request){
for(url in block_urls) {
if(requestData.url.indexOf(block_urls[url]) !== -1) {
request.abort();
console.log(requestData.url + " aborted");
return;
}
}
}
我现在的加载时间只是4393ms
当页面加载并可用时:PhantomJS 截图
我认为如果不修改页面代码就无法做更多事情,因为从页面源来看,它的脚本量很大。
整个代码:
var page = require('webpage').create();
var fs = require("fs");
// console.time polyfill from https://github.com/callmehiphop/console-time
;(function( console ) {
var timers;
if ( !console ) {
return;
}
timers = {};
console.time = function( name ) {
if ( name ) {
timers[ name ] = Date.now();
}
};
console.timeEnd = function( name ) {
if ( timers[ name ] ) {
console.log( name + ': ' + (Date.now() - timers[ name ]) + 'ms' );
delete timers[ name ];
}
};
}( window.console ));
console.time("open");
page.settings.loadImages = false;
page.settings.userAgent = 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/44.0.2403.157 Safari/537.36';
page.viewportSize = {
width: 1280,
height: 800
};
block_urls = ['gstatic.com', 'adocean.pl', 'gemius.pl', 'twitter.com', 'facebook.net', 'facebook.com', 'planplus.rs'];
page.onResourceRequested = function(requestData, request){
for(url in block_urls) {
if(requestData.url.indexOf(block_urls[url]) !== -1) {
request.abort();
console.log(requestData.url + " aborted");
return;
}
}
}
page.open('https://www.halooglasi.com/nekretnine/izdavanje-stanova/novi-beograd---novi-merkator-id19270/5425485514649', function () {
fs.write("longload.html", page.content, 'w');
console.timeEnd("open");
setTimeout(function(){
page.render('longload.png');
phantom.exit();
}, 3000);
});