基于node服务器的大文件(G级)上传

更新日期: 2018-05-02阅读量: 2907标签: node

原理如:3G的大文件分1500个2M二进度文件,通post方法发送给node服务,服务器全部接收到文件后,进组装生成你上文件。

需要了解以下node库,:

async: http://caolan.github.io/async/ 
multiparty:https://www.npmjs.com/package/multiparty


客户端代码

<div class="hei-bg" style="display:block;" >
    <div class="user-info" style="display:block;"  >
        <div class="tc">请上传大文件</div>
        <div class="user-pic picw320"><input id="uppic"  type="file" ><img id="upimg" src="/img/bbb.jpg"></div>
        <div  id="jd" class="jdb">进度</div>

        <div><div id="userbtn" class="bg-main tc userbtn">确定</div></div>
    </div>
</div>

<script src="./res/js/lib/jquery.min.js"></script>
<script src="./res/js/lib/async.min.js"></script>//异步库


<script>
$(function(){
    $('#userbtn').on('click',function(){
            var file= $("#uppic")[0].files[0],//上传文件主体
                name = file.name,        //文件名
                size = file.size,        //总大小
                succeed = 0;  //当前上传数
                var shardSize = 2 *1024*1024,    //以2MB为一个分片
                shardCount = Math.ceil(size / shardSize);  //总片数

            /*生成上传分片文件顺充,通过async.eachLimit()进行同步上传
                attr里面是[0,1,2,3...,最后一位]    
            */
            var attr=[];
            for(var i=0;i<shardCount;++i){
                attr.push(i);
            }



            async.eachLimit(attr,1,function(item,callback){
                 var i=item;
                 var start = i * shardSize,//当前分片开始下标
                 end = Math.min(size, start + shardSize);//结束下标

                //构造一个表单,FormData是html5新增的
                var form = new FormData();
                form.append("data", file.slice(start,end));  //slice方法用于切出文件的一部分
                form.append("name", name);//文件名字
                form.append("total", shardCount);  //总片数
                form.append("index", i + 1);   //当前片数
                //Ajax提交

                $.ajax({
                    url: "/dafile",
                    type: "POST",
                    data: form,
                    timeout:120*1000,
                    async: false,        //同步
                    processData: false,  //很重要,告诉jquery不要对form进行处理
                    contentType: false,  //很重要,指定为false才能形成正确的Content-Type
                    success: function(data){
                        ++succeed;
                        var data=eval('('+data+')');
                        /*返回code为0是成功上传,1是请继续上传*/
                        if(data.code==0){
                            console.log(data.msg);
                        }else if(data.code==1){
                            console.log(data.msg);
                        }
                        //生成当前进度百分比
                        var jd=Math.round(succeed/shardCount*100)+'%';
                        $('.jdb').html(jd);
                        /*如果是线上,去掉定时,直接callback(),
                        这样写是为方便,本地测试看到进度条变化
                        因为本地做上传测试是秒传,没有时间等待*/
                        setTimeout(callback,50);
                    }
                });     
            },function(err){
                console.log('上传成功');
            });     
    });
});
</script>



服务器代码:  

function user(req,res,config){ 
    var path=require('path');   
    var fs=require('fs');
    var multiparty = require('multiparty');//文件上传模块
    var async = require('async');//异步模块
    var form = new multiparty.Form();//新建表单

    //设置编辑
    form.encoding = 'utf-8';
    //设置文件存储路径
    form.uploadDir = "Uploads/img/";
    //设置单文件大小限制
   // form.maxFilesSize = 200 * 1024 * 1024;
    /*form.parse表单解析函数,fields是生成数组用获传过参数,files是bolb文件名称和路径*/
    form.parse(req, function (err,fields,files) {
         files=files['data'][0];//获取bolb文件
         var index=fields['index'][0];//当前片数
         var total=fields['total'][0];//总片数
         var name=fields['name'][0];//文件名称
         var url='Uploads/img/'+name+index;//临时bolb文件新名字
         fs.renameSync(files.path,url);//修改临时文件名字

         var pathname='Uploads/img/'+name;//上传文件存放位置和名称
         if(index==total){//当最后一个分片上传成功,进行合并
                /*
                    检查文件是存在,如果存在,重新设置名称
                */
                fs.access(pathname,fs.F_OK,(err) => {
                    if(!err){   
                        var myDate=Date.now();
                        pathname='Uploads/img/'+myDate+name;
                        console.log(pathname);

                    }
                });
                //这里定时,是做异步串行,等上执行完后,再执行下面
                setTimeout(function(){
                    /*进行合并文件,先创建可写流,再把所有BOLB文件读出来,
                        流入可写流,生成文件
                        fs.createWriteStream创建可写流   
                        aname是存放所有生成bolb文件路径数组:
                        ['Uploads/img/3G.rar1','Uploads/img/3G.rar2',...]
                    */
                    var writeStream=fs.createWriteStream(pathname);
                    var aname=[];
                    for(var i=1;i<=total;i++){
                        var url='Uploads/img/'+name+i;
                        aname.push(url);
                    }

                    //async.eachLimit进行同步处理
                    async.eachLimit(aname,1,function(item,callback){
                        //item 当前路径, callback为回调函数
                        fs.readFile(item,function(err,data){    
                           if(err)throw err;
                           //把数据写入流里
                            writeStream.write(data);
                            //删除生成临时bolb文件              
                            fs.unlink(item,function(){console.log('删除成功');})
                            callback();
                        });
                    },function(err){
                        if (err) throw err;
                        //后面文件写完,关闭可写流文件,文件已经成生完成
                        writeStream.end();
                        //返回给客服端,上传成功
                        var data=JSON.stringify({'code':0,'msg':'上传成功'});
                        res.writeHead(200, {'Content-Type': 'text/html;charset=utf-8'}); 
                        res.end(data);//返回数据    
                    });
                },50);

         }else{//还没有上传文件,请继续上传
            var data=JSON.stringify({'code':1,'msg':'继续上传'});
            res.writeHead(200, {'Content-Type': 'text/html;charset=utf-8'}); 
            res.end(data);//返回数据    
         }
    });
    return user;
}; 
exports.init = user;

//这是初步设计方案,后期加异步上传和断点续传功能。。



链接: https://www.fly63.com/article/detial/725

关于 Node.js 里 ES6 Modules 的一次更新说明

关于 Node.js 里 ES6 Modules 的一次更新说明,总结来说:CommonJS 与 ES6 Modules 之间的关键不同在于代码什么时候知道一个模块的结构和使用它。

mocha自动化测试程序:node.js测试框架Mocha源码分析

Mocha.js是被广泛使用的Javascript测试框架,在浏览器和Node环境都可以使用。Mocha提供TDD和BDD的测试接口。 Mocha提供了:断言单元测试,可以进行功能性测试,同步代码测试,异步代码测试

用node.js开发一个可交互的命令行应用

在这个教程中,我们会开发一个命令行应用,它可以接收一个 CSV 格式的用户信息文件,教程的内容大纲:“Hello,World”,处理命令行参数,运行时的用户输入,异步网络会话,美化控制台的输出,封装成 shell 命令,JavaScript 之外

Node启动https服务器

首先你需要生成https证书,可以去付费的网站购买或者找一些免费的网站,可能会是key或者crt或者pem结尾的。不同格式之间可以通过OpenSSL转换

nodejs 异步转同步

nodej项目在微信环境开发,nodejs的异步特效,会导致请求没有完成就执行下面的代码,出现错误。经过多方查找,可以使用async模块来异步转同步,只有前一个function执行callback,下一个才会执行。

为什么要把 JavaScript 放到服务器端上运行?

JavaScript比C的开发门槛要低,尽管服务器端JavaScript存在已经很多年了,但是后端部分一直没有市场,JavaScript在浏览器中有广泛的事件驱动方面的应用,考虑到高性能、符合事件驱动、没有历史包袱这3个主要原因,JavaScript成为了Node的实现语言。

了解node.js事件循环

node.js的第一个基本论点是I / O的性能消耗是很昂贵。因此,使用当前编程技术的最大浪费来自于等待I / O完成。有几种方法可以处理性能影响

Node.js 应用:Koa2 使用 JWT 进行鉴权

在前后端分离的开发中,通过 Restful API 进行数据交互时,如果没有对 API 进行保护,那么别人就可以很容易地获取并调用这些 API 进行操作。那么服务器端要如何进行鉴权呢?

Node.js 前端开发指南

我们经常跟Node.js打交道,即使你是一名前端开发人员 -- npm脚本,webpack配置,gulp任务,程序打包 或 运行测试等。即使你真的不需要深入理解这些任务,但有时候你会感到困惑,会因为缺少Node.js的一些核心概念而以非常奇怪的方式来编码。

happypack提升项目构建速度

运行在 Node.js 之上的 Webpack 是单线程模型的,也就是说 Webpack 需要处理的任务需要一件件挨着做,不能多个事情一起做。happypack把任务分解给多个子进程去并发的执行,子进程处理完后再把结果发送给主进程。

点击更多...

内容以共享、参考、研究为目的,不存在任何商业目的。其版权属原作者所有,如有侵权或违规,请与小编联系!情况属实本人将予以删除!