Node JS爬虫:爬取瀑布流网页高清图

作者: Bougie 创建于: 2018-05-16 | Express/Koa

V3RhnS.png

静态为主的网页往往用 get 方法就能获取页面所有内容。动态网页即异步请求数据的网页则需要用浏览器加载完成后再进行抓取。本文介绍了如何连续爬取瀑布流网页。

在知乎提到python就必有一大帮人提起爬虫,咱Node JS爬虫也是非常简单的,和python相比仅仅是“异步”和“多线程”的性能对比而已。对python了解不多,故对此不做评价。

phantomjs是一个‘无壳’的chrome,具体安装方法查看phantomjs.orgphantomjs提供命令行工具运行,运行需使用命令phantom xxx.js。使用phantom-node这个库可以在Node Js中把玩phantomjs,这样就可以使用pm2进行进程守护和负载均衡了。

# 目标

爬取 200 张以上的1920*1080分辨率的动漫壁纸,网页是百度瀑布流图片 V3Rbpq.png

# 方式

瀑布流是根据页面滚动位置来判断是否继续往下加载,故要利用phantomjs滚动页面来获取更多图片链接。单个图片详细页面刚进入时是压缩过的图片,这是百度优化访问速度的措施,等待几秒图片 src 就会替换成大图的链接。因此,进入图片详细页时应延迟几秒再获取图片 src,具体延迟几秒视你网速而定。

# 步骤

# 获取图片链接

首先利用 phantom 打开网页

const phantom = require('phantom')(
  (async function() {
    const instance = await phantom.create()
    const page = await instance.createPage()
    const status = await page.open(url)
    const size = await page.property('viewportSize', {
      width: 1920,
      height: 1080
    })
  })()
)

获取链接数量,不足 200 则滚动网页

// 添加一个延时函数,等待页面加载后再滚动
function delay(second) {
  return new Promise((resolve) => {
    setTimeout(resolve, second * 1000)
  })
}
async function pageScroll(i) {
  await delay(5)
  await page.property('scrollPosition', {
    left: 0,
    top: 1000 * i
  })
  let content = await page.property('content')
  let $ = cheerio.load(content)
  console.log($('.imgbox').length)
  if ($('.imgbox').length < 200) {
    await pageScroll(++i)
  }
}
await pageScroll(0)

提取图片链接

let urlList = []
$('.imgbox').each(function() {
  urlList.push(
    'https://image.baidu.com' +
      $(this)
        .find('a')
        .attr('href')
  )
})

# 保存图片

定义保存图片的函数

const request = require('request')
const fs = require('fs')

function save(url) {
  let ext = url.split('.').pop()
  request(url).pipe(
    fs.createWriteStream(`./image/${new Date().getTime()}.${ext}`)
  )
}

遍历urlList,建议用递归遍历,循环遍历delay不起作用

async function imgSave(i) {
  let page = await page.open(urlList[i])
  delay(1)
  let content = await page.property('content')
  $ = cheerio.load(content)
  let src = $('#currentImg').attr('src')
  save(src)
  if (i < urlList.length) {
    await imgSave(++i)
  }
}
await imgSave(0)

最后爬取结果如图,都是高分辨率的,部分图片做了防爬处理 V3RvBF.png

# 完整代码

const phantom = require('phantom')
const cheerio = require('cheerio')
const request = require('request')
const fs = require('fs')
function delay(second) {
  return new Promise((resolve) => {
    setTimeout(resolve, second * 1000)
  })
}
let url =
  'https://image.baidu.com/search/index?tn=baiduimage&ipn=r&ct=201326592&cl=2&lm=-1&st=-1&fm=index&fr=&hs=0&xthttps=111111&sf=1&fmq=&pv=&ic=0&nc=1&z=&se=1&showtab=0&fb=0&width=&height=&face=0&istype=2&ie=utf-8&word=%E5%8A%A8%E6%BC%AB+%E5%A3%81%E7%BA%B8&oq=%E5%8A%A8%E6%BC%AB+%E5%A3%81%E7%BA%B8&rsp=-1'
function save(url) {
  let ext = url.split('.').pop()
  request(url).pipe(
    fs.createWriteStream(`./image/${new Date().getTime()}.${ext}`)
  )
}
;(async function() {
  let instance = await phantom.create()
  let page = await instance.createPage()
  let status = await page.open(url)
  let size = await page.property('viewportSize', {
    width: 1920,
    height: 1080
  })
  let $
  async function pageScroll(i) {
    await delay(1)
    await page.property('scrollPosition', {
      left: 0,
      top: 1000 * i
    })
    let content = await page.property('content')
    $ = cheerio.load(content)
    if ($('.imgbox').length < 200) {
      await pageScroll(++i)
    }
  }
  await pageScroll(0)
  let urlList = []
  $('.imgbox').each(function() {
    urlList.push(
      'https://image.baidu.com' +
        $(this)
          .find('a')
          .attr('href')
    )
  })
  async function imgSave(i) {
    let status = await page.open(urlList[i])
    await delay(1)
    let content = await page.property('content')
    $ = cheerio.load(content)
    let src = $('#currentImg').attr('src')
    save(src)
    if (i < urlList.length) {
      await imgSave(++i)
    }
  }
  await imgSave(0)
  await instance.exit()
})()
上次更新: 2019-11-1 3:39:35 PM