笔记:记一次解决V8使用内存超过默认限制

原由: 前端

混合TypeScript和javaScript开发,完美升级老项目,这个老项目是一个巨无霸项目,很是庞大,是集团公司的最核心项目java


遇到问题: node

webpack打包时候遇到webpack

对于曾经开发过C++,addon的我,熟悉的味道,下面有一些v8的字符出现,感受应该是v8层面出现了问题c++


报错解决: git

任何报错,先看第一个报错,解决顶部的报错。github


问题定位: web

JS堆栈跟踪,javaScript heap out of memory ,内存不足面试


隐约记得,v8对使用内存的限制,64位系统是1.4G,32位系统是0.7G,Buffer属于C++层面,不会被限制。可是长度会被限制,当Buffer被建立时候就会被判断长度npm

https://github.com/nodejs/node/blob/master/lib/buffer.js#L90-L101

node.js官网对长度的文档描述:

这种简单问题不作阐述,继续


项目以前纯js开发,如今接入ts,为何一样的电脑,以前能够运行,如今却内存不足?

答案:

  1. 首先要从内存回收提及,为何要限制内存使用,由于1.4G广泛够用,再一个,内存回收是会阻塞主线程。300MB大概是0.5s,这里在我开发桌面端即时通信应用时,常常会遇到这个问题。一个20万人的群,一直以1000条/秒的速度推送消息到桌面端,时间一长,Node接入主进程层面就不行了。CPU和内存占用会飙升,要作不少特殊优化处理
  2. 我在ts中配置容许使用js,那么意味着要增长一个编译ts成js的过程,这个编译过程确定要占用大部份内存。因此以前纯js项目不会出现这个问题,
  3. 网上大部分都是手动更改webpack的源码文件,达到修改v8使用内存限制的目的,可是做为跨平台的产品来讲,必须支持两点:工程化+自动化、可跨平台无感知的状况才能使用
  4. v8的内存回收机制影响,跟上面第二点搭配,固然,如今这套东西,已经被面试官问烂了(就跟考试让你背古诗同样),我面试是不会问这些无聊的问题。做为一个Node.js的深度使用者,我以为是C++出生的人,可能会在Node.js走得更远,它更像是一个库,一个前端制做工具的库。若是要深刻后端,走得更远,建议仍是要学习java与c++
    • *

解决办法:

Node.js的8.0版本以上能够这样调整

export NODE_OPTIONS=--max_old_space_size=4096

也可使用自动化、工程化配置插件

increase-memory-limit

因为一些部署服务器上的配置未知,在测试事后,我选择了后者,编写了新的构建命令,这样达到效果。


难道作API工程师,不可能的,个人原则,使用第三方库,框架必须看它的 源码实现,包括Node.js

increase-memory-limit

源码只有几十行代码

#!/usr/bin/env node
const path = require('path');
const glob = require('glob');
const fs = require('fs');

const maxOldSpaceSize = process.env.LIMIT || 10240;
const cwd = process.cwd() + path.sep;

glob(path.join(cwd, "node_modules", ".bin", "*"), function (err, files) {

  files.forEach(file => {
    // readFileSync will crash on non-files. Skip over these
    let stat = fs.lstatSync(fs.realpathSync(file));
    if (!stat.isFile()) {
      return;
    }
    if (file.indexOf('increase-memory-limit') >= 0) {
      return;
    }
    // build scripts will hand in LIMIT via cross-env
    // avoid updating it while we are running it
    if (file.indexOf('cross-env') >= 0) {
      return;
    }
    let contents = fs.readFileSync(file).toString();
    let lines = contents.split('\n')

    let patchedContents = "";

    for (var index = 0; index < lines.length; index++) {
      var line = lines[index];
      if (line.startsWith("if [") || line.startsWith("@IF") || line.indexOf ('has_node') !== -1) {
        patchedContents += line + "\n";
      } else {
        patchedContents += line.replace(/node(\.exe)?\b(?: \-\-max\-old\-space\-size\=[0-9]+)?/, `node$1 --max-old-space-size=${maxOldSpaceSize}`) + "\n";
      }
    }

    fs.writeFileSync(file, patchedContents);
    console.log(`'${file.replace(cwd, "")}'`, "written successfully.");
  });

});

它依赖glob这个库

https://www.npmjs.com/package/glob

首先读取LIMIT配置

而后拿到node启动的命令路径(配置path.sep针对跨平台,cwd返回的路径作处理分隔)

var glob = require("glob")

经过glob这库,传入路径和配置后,拿到包含文件数组,而后读取文件流信息而且toString()

最核心的源码文件就是下面这个

patchedContents += line + "\n";
    } else {
      patchedContents += line.replace(/node(\.exe)?\b(?: \-\-max\-old\-space\-size\=[0-9]+)?/, `node$1 --max-old-space-size=${maxOldSpaceSize}`) + "\n";
    }
  }

  fs.writeFileSync(file, patchedContents);
  console.log(`'${file.replace(cwd, "")}'`, "written successfully.");

经过正则将读取的文件流信息,匹配相应的配置后,替换内容后同步写入(由于必须同步写入!!!不然项目没法启动,不能异步此处)


目前有一个系列写做计划,面试成长系列和踩坑成长系列同步进行,喜欢的话点个在看,关注下公众号:前端巅峰

相关文章
相关标签/搜索