基于node服务器的大文件(G级)上传

时间: 2018-05-02阅读: 2492标签: node

原理如:3G的大文件分1500个2M二进度文件,通post方法发送给node服务,服务器全部接收到文件后,进组装生成你上文件。

需要了解以下node库,:

async: http://caolan.github.io/async/ 
multiparty:https://www.npmjs.com/package/multiparty


客户端代码

<div class="hei-bg" style="display:block;" >
    <div class="user-info" style="display:block;"  >
        <div class="tc">请上传大文件</div>
        <div class="user-pic picw320"><input id="uppic"  type="file" ><img id="upimg" src="/img/bbb.jpg"></div>
        <div  id="jd" class="jdb">进度</div>

        <div><div id="userbtn" class="bg-main tc userbtn">确定</div></div>
    </div>
</div>

<script src="./res/js/lib/jquery.min.js"></script>
<script src="./res/js/lib/async.min.js"></script>//异步库


<script>
$(function(){
    $('#userbtn').on('click',function(){
            var file= $("#uppic")[0].files[0],//上传文件主体
                name = file.name,        //文件名
                size = file.size,        //总大小
                succeed = 0;  //当前上传数
                var shardSize = 2 *1024*1024,    //以2MB为一个分片
                shardCount = Math.ceil(size / shardSize);  //总片数

            /*生成上传分片文件顺充,通过async.eachLimit()进行同步上传
                attr里面是[0,1,2,3...,最后一位]    
            */
            var attr=[];
            for(var i=0;i<shardCount;++i){
                attr.push(i);
            }



            async.eachLimit(attr,1,function(item,callback){
                 var i=item;
                 var start = i * shardSize,//当前分片开始下标
                 end = Math.min(size, start + shardSize);//结束下标

                //构造一个表单,FormData是html5新增的
                var form = new FormData();
                form.append("data", file.slice(start,end));  //slice方法用于切出文件的一部分
                form.append("name", name);//文件名字
                form.append("total", shardCount);  //总片数
                form.append("index", i + 1);   //当前片数
                //Ajax提交

                $.ajax({
                    url: "/dafile",
                    type: "POST",
                    data: form,
                    timeout:120*1000,
                    async: false,        //同步
                    processData: false,  //很重要,告诉jquery不要对form进行处理
                    contentType: false,  //很重要,指定为false才能形成正确的Content-Type
                    success: function(data){
                        ++succeed;
                        var data=eval('('+data+')');
                        /*返回code为0是成功上传,1是请继续上传*/
                        if(data.code==0){
                            console.log(data.msg);
                        }else if(data.code==1){
                            console.log(data.msg);
                        }
                        //生成当前进度百分比
                        var jd=Math.round(succeed/shardCount*100)+'%';
                        $('.jdb').html(jd);
                        /*如果是线上,去掉定时,直接callback(),
                        这样写是为方便,本地测试看到进度条变化
                        因为本地做上传测试是秒传,没有时间等待*/
                        setTimeout(callback,50);
                    }
                });     
            },function(err){
                console.log('上传成功');
            });     
    });
});
</script>



服务器代码:  

function user(req,res,config){ 
    var path=require('path');   
    var fs=require('fs');
    var multiparty = require('multiparty');//文件上传模块
    var async = require('async');//异步模块
    var form = new multiparty.Form();//新建表单

    //设置编辑
    form.encoding = 'utf-8';
    //设置文件存储路径
    form.uploadDir = "Uploads/img/";
    //设置单文件大小限制
   // form.maxFilesSize = 200 * 1024 * 1024;
    /*form.parse表单解析函数,fields是生成数组用获传过参数,files是bolb文件名称和路径*/
    form.parse(req, function (err,fields,files) {
         files=files['data'][0];//获取bolb文件
         var index=fields['index'][0];//当前片数
         var total=fields['total'][0];//总片数
         var name=fields['name'][0];//文件名称
         var url='Uploads/img/'+name+index;//临时bolb文件新名字
         fs.renameSync(files.path,url);//修改临时文件名字

         var pathname='Uploads/img/'+name;//上传文件存放位置和名称
         if(index==total){//当最后一个分片上传成功,进行合并
                /*
                    检查文件是存在,如果存在,重新设置名称
                */
                fs.access(pathname,fs.F_OK,(err) => {
                    if(!err){   
                        var myDate=Date.now();
                        pathname='Uploads/img/'+myDate+name;
                        console.log(pathname);

                    }
                });
                //这里定时,是做异步串行,等上执行完后,再执行下面
                setTimeout(function(){
                    /*进行合并文件,先创建可写流,再把所有BOLB文件读出来,
                        流入可写流,生成文件
                        fs.createWriteStream创建可写流   
                        aname是存放所有生成bolb文件路径数组:
                        ['Uploads/img/3G.rar1','Uploads/img/3G.rar2',...]
                    */
                    var writeStream=fs.createWriteStream(pathname);
                    var aname=[];
                    for(var i=1;i<=total;i++){
                        var url='Uploads/img/'+name+i;
                        aname.push(url);
                    }

                    //async.eachLimit进行同步处理
                    async.eachLimit(aname,1,function(item,callback){
                        //item 当前路径, callback为回调函数
                        fs.readFile(item,function(err,data){    
                           if(err)throw err;
                           //把数据写入流里
                            writeStream.write(data);
                            //删除生成临时bolb文件              
                            fs.unlink(item,function(){console.log('删除成功');})
                            callback();
                        });
                    },function(err){
                        if (err) throw err;
                        //后面文件写完,关闭可写流文件,文件已经成生完成
                        writeStream.end();
                        //返回给客服端,上传成功
                        var data=JSON.stringify({'code':0,'msg':'上传成功'});
                        res.writeHead(200, {'Content-Type': 'text/html;charset=utf-8'}); 
                        res.end(data);//返回数据    
                    });
                },50);

         }else{//还没有上传文件,请继续上传
            var data=JSON.stringify({'code':1,'msg':'继续上传'});
            res.writeHead(200, {'Content-Type': 'text/html;charset=utf-8'}); 
            res.end(data);//返回数据    
         }
    });
    return user;
}; 
exports.init = user;

//这是初步设计方案,后期加异步上传和断点续传功能。。



站长推荐

1.云服务推荐: 国内主流云服务商,各类云产品的最新活动,优惠券领取。地址:阿里云腾讯云华为云

链接: http://www.fly63.com/article/detial/725

如何用nodejs实现前后端传值?

nodejs前后端传值即前后端的数据交互,nodejs中的数据提交有两种方式GET方法和POST方法,下面我们来看一下如何使用这两种方法实现nodejs前后端的传值。nodejs实现前后端传值的方法如下:

Node.js 应用:Koa2 使用 JWT 进行鉴权

在前后端分离的开发中,通过 Restful API 进行数据交互时,如果没有对 API 进行保护,那么别人就可以很容易地获取并调用这些 API 进行操作。那么服务器端要如何进行鉴权呢?

Node.js FS模块方法速查

所有文件操作提供同步和异步的两种方式,本笔记只记录异步的API,异步方式其最后一个参数是回调函数。回调函数的第一个参数往往是错误对象,如果没有发生参数,那么第一个参数可能是null或者undefinded。

node有哪些弊端及优点?

Node 是一个让 JavaScript 运行在服务端的开发平台,它让JavaScript成为与PHP、Python、Perl、Ruby 等服务端语言平起平坐的脚本语言。使用node有很多好处但也存在一些弊端,下面就然我们来看一下nodejs有哪些弊端。

Node编码规范

采用2个空格缩进,而不是tab缩进。空格在编辑器中与字符是等宽的,而tab可能因编辑器的设置不同。2个空格会让代码看起来紧凑、明快。永远用var声明变量,不加var时会将其变为全局变量,这样可能会意外污染上下文,或是被意外污染。

node.js反向代理的实现

在实际工程开发中,会有前后端分离的需求。使用node.js反向代理的目的:实现前后端分离,前端减少路径请求的所需的路由文件;通过http-proxy-middleware中间件、Http Proxy 模块这2种方式实现node.js的反向代理

Node 引入 ESM 新方案

Node 对 ES6 Module 的支持又有新进展。一个新的 PR 更新了当前 --experimental-modules 的实现方案。type 动态判断模块加载模式:更新后的方案将根据 package.json 文件中指定的 type 值来判断 js 文件是使用 ESM 还是 commonjs

关于 Node.js 里 ES6 Modules 的一次更新说明

关于 Node.js 里 ES6 Modules 的一次更新说明,总结来说:CommonJS 与 ES6 Modules 之间的关键不同在于代码什么时候知道一个模块的结构和使用它。

node里path是干什么的?

Node.js path模块提供了一些用于处理文件路径的小工具,我们可以通过以下方式引入该模块:path.posix提供上述 path 的方法,不过总是以 posix 兼容的方式交互。

Event Loop 在浏览器和Node端的差异

由于js是单线程语言,为了解决异步操作所以设计了事件循环。宏任务:setTimeout、setInterval 、script(整体代码)、 I/O 操作、UI 渲染等

点击更多...

内容以共享、参考、研究为目的,不存在任何商业目的。其版权属原作者所有,如有侵权或违规,请与小编联系!情况属实本人将予以删除!