前端使用Node爬数据

更新日期: 2019-03-30阅读: 1.6k标签: 数据

爬虫类的需求,基本上在各个公司都会有,难免就会落在前端开发的头上。今天我们就来看看 Node 如何爬数据

其实抓取数据对于前端来说,就是 ajax 请求一个接口,只不过返回值有 text/html(早期 XML 之类的),application/json(目前工作中都是这个类型的) 两种。有时候为了一些简单的数据分析,我就直接在控制台请求数据。


request 请求

页面发起的 request 和 node 发起的 request 还是不一样的。我们分别说一下

Node 发起请求

https 库、http 库

const https = require('https');//Node 自带的
https.get('https://www.lilnong.top/cors/node-https', (resp) => {
 let data = '';
 resp.on('data', (chunk) => {
  data += chunk;
 });
 resp.on('end', () => {
  console.log('resp', JSON.parse(data));
 });
}).on("error", (err) => {
 console.log("Error: " + err.message);
});

优点就是原生自带、无依赖。
缺点呢,也很明显了,好多功能都不支持,写法复杂。http 和 https 不共享。
你可以想想成前端的 XMLHTTPRequest 很少有人直接用吧。

request 库

是一个第三方库,需要安装。使用简单,大量的人在使用。

request = require('request');
request('https://www.lilnong.top/cors/node-request', 
    {json: true},
    function(err, res, body){
        if (err) { return console.log(err); }
        console.log(body);
    }
);

优点来讲就是,封装库,使用方便,支持的东西较多。
缺点来说就是库停止了新功能的开发,不是promise的(request-promise)。

axios 库

也是一个第三方的库,需要安装。因为这个库可以跨环境使用(前端和 Node 都可以使用),使用起来也是很顺手的。

axios = require('axios');
axios('https://www.lilnong.top/cors/node-axios').then(function(rsp){
        console.log(rsp.data);
    });

优点来讲就是,跨环境,promise。
缺点来讲就是,node中的formdata,https设置代理的时候(axios-https-proxy-fix)

其他库

其实库还有很多 https://github.com/request/

  1. node-fetch
  2. got
  3. superagent
  4. urllib

页面发起请求

XMLHttpRequest

xhr = new XMLHttpRequest();
xhr.open('get', '//www.lilnong.top/cors/XMLHttpRequest')
xhr.send()
xhr.responseType='json'
xhr.onload = () => console.log(xhr.response)

优点来讲就是原生自带,经过多年更新,基本上功能都有了。
缺点来说就是ie低版本不支持(做ie的不用jquery不是胡扯吗,一般都是$.ajax)

axios

跨平台的库,可以在浏览器环境和 Node 环境使用。

axios('https://www.lilnong.top/cors/axios').then(function(rsp){
        console.log(rsp.data);
    });

优点,跨平台(上面代码拷贝过来就能跑)
缺点,还好吧。我基本上一直在用,没有明显的弱点。

$.ajax

jquery 库中带的方法。也是一款神器,也支持 promise 的方式。

$.ajax({
    url: 'https://www.lilnong.top/cors/$.ajax'
}).then(function(data){
    console.log(data);
});

优点:兼容性贼好,支持各种写法。
缺点:时代变了,jquery 不流行了。
你问这是什么?这是青春

fetch

浏览器的新规范。使用起来也挺方便,abort 的规范也在制定中。当然现在还干不掉 xhr。

fetch('https://www.lilnong.top/cors/fetch')
    .then(v=>v.json())
    .then(console.log)

优点:浏览器新加,天生支持 promise
缺点:兼容性,还有挺多的功能需要增加(中止、进度、cookie(已改默认值))


response 响应

Node 处理响应

html \ xml

我使用的是 cheerio ,算是 Node 中的 jQuery 吧。
看看这 api,熟悉吧基本上手就能用。

$ = cheerio.load('<h1>lilnong.top</h1>');//解析dom,一般我们都是把请求回来的响应放进去。
$('h1').text('欢迎关注公众号:前端linong。');
$('h1').addClass('title');

当然,还有还有其他库 JSDOM、Puppeteer(当做一个浏览器去使用,单击按钮之类的)。

html script 标签中的内容

这部分其实比较坑,比如说你用 jQuery 没获取过script中的变量吧。

其实有个很简单的办法,一般来说你要爬取的数据都不是前端去写的,很多都是模板直接输出的。包括vue的SSR之类的。

特征很明显,一个变量占据一行

那么我们就可以直接去比对每一行,如果你要找的那个变量开头,那么我们就截取这一行。

例子后补吧。我忘了谁家是这样的了。

json

这就很简单了,基本是个库就支持,不支持的也有 JSON.parse。

不过相比较上两个而言,这个更多的是要分析字段、摸索规则、referer 处理这些东西。


前端处理响应

前端来讲一般是简单的一些数据,而且主要用于分析。
当然也是有优势的,比如自动携带 cookie、自动更新 cookie、甚至你可以把他内部封装的 ajax 拿出来使用。

html \ xml

操作一下DOM对于前端来说不是家常便饭吗?
jQuery 吃遍天呀。你说就偶尔一下,querySelector、getElementById 这些都可以满足你。

html script 标签中的内容

这个就更简单了,直接获取对象呀。。。没的说吧。

json

json 的话,也不难呀是吧。


链接: https://www.fly63.com/article/detial/8464

双向数据绑定与单向数据绑定的各自优势和关系

在react中是单向数据绑定,而在vue和augular中的特色是双向数据绑定。为什么会选择两种不同的机制呢?我猜测是两种不同的机制有不同的适应场景,查了一些资料后,总结一下。

原生JS数据绑定的实现

双向数据绑定是非常重要的特性 —— 将JS模型与HTML视图对应,能减少模板编译时间同时提高用户体验。我们将学习在不使用框架的情况下,使用原生JS实现双向绑定 —— 一种为Object.observe

JavaScript判断数据类型的多种方法【 js判断一个变量的类型】

js判断数据类型的多种方法,主要包括:typeof、instanceof、 constructor、 prototype.toString.call()等,下面就逐一介绍它们的异同。

javascript中的typeof返回的数据类型_以及强制/隐式类型转换

由于js为弱类型语言拥有动态类型,这意味着相同的变量可用作不同的类型。 typeof 运算符返回一个用来表示表达式的数据类型的字符串,目前typeof返回的字符串有以下这些: undefined、boolean、string、number、object、function、“symbol

使用typeof obj===‘object’潜在的问题,并不能确定obj是否是一个对象?

在js中我们直接这样写typeof obj===‘object’有什么问题呢?发现Array, Object,null都被认为是一个对象了。如何解决这种情况,能保证判断obj是否为一个对象

js进制数之间以及和字符之间的转换

js要处理十六进制,十进制,字符之间的转换,发现有很多差不多且书写不正确的方法.一个一个实践才真正清楚如何转换,现在来记录一下它们之间转换的方法。

js判断数字是奇数还是偶数的2种方法实现

奇数和偶数的判断是数学运算中经常碰到的问题,这篇文章主要讲解通过JavaScript来实现奇偶数的判断。2种判断方法:求余% 、&1

js算法_判断数字是否为素数/质数

质数又称素数。指在一个大于1的自然数中,除了1和此整数自身外,没法被其他自然数整除的数。比如100以内共25个,js实现代码如下。

Js数据类型转换_JavaScript 那些不经意间发生的数据类型自动转换

JavaScript自动类型转换真的非常常见,常用的一些便捷的转类型的方式,都是依靠自动转换产生的。比如 转数字 : + x 、 x - 0 , 转字符串 : \\\"\\\" + x 等等。现在总算知道为什么可以这样便捷转换。

Js中实现XML和String相互转化

XML是标准通用标记语言 (SGML) 的子集,非常适合 Web 传输。XML 提供统一的方法来描述和交换独立于应用程序或供应商的结构化数据。 这篇文章主要介绍Js中实现XML和String相互转化

点击更多...

内容以共享、参考、研究为目的,不存在任何商业目的。其版权属原作者所有,如有侵权或违规,请与小编联系!情况属实本人将予以删除!