常见loader源码简析，以及动手实现一个md2html-loader

时间  2020-04-20
标签 常见 loader 源码 以及 动手 实现 一个 md2html html 栏目 HTML 繁體版
原文   原文链接

本文会带你简单的认识一下webpack的loader，动手实现一个利用md转成抽象语法树，再转成html字符串的loader。顺便简单的了解一下几个style-loader，vue-loader，babel-loader的源码以及工做流程。css

md2html-loader源码地址html

loader简介

webpack容许咱们使用loader来处理文件，loader是一个导出为function的node模块。能够将匹配到的文件进行一次转换，同时loader能够链式传递。 loader文件处理器是一个CommonJs风格的函数，该函数接收一个 String/Buffer 类型的入参，并返回一个 String/Buffer 类型的返回值。vue

loader 的配置的两种形式

方案1:node

// webpack.config.js
module.exports = {
  ...
  module: {
    rules: [{
      test: /.vue$/,
      loader: 'vue-loader'
    }, {
      test: /.scss$/,
      // 先通过 sass-loader，而后将结果传入 css-loader，最后再进入 style-loader。
      use: [
        'style-loader',//从JS字符串建立样式节点
        'css-loader',// 把 CSS 翻译成 CommonJS
        {
          loader: 'sass-loader',
          options: {
            data: '$color: red;'// 把 Sass 编译成 CSS
          }
        }
      ]
    }]
  }
  ...
}
复制代码

方法2（右到左地被调用）webpack

// module
import Styles from 'style-loader!css-loader?modules!./styles.css';
复制代码

当链式调用多个 loader 的时候，请记住它们会以相反的顺序执行。取决于数组写法格式，从右向左或者从下向上执行。像流水线同样，挨个处理每一个loader，前一个loader的结果会传递给下一个loader，最后的 Loader 将处理后的结果以 String 或 Buffer 的形式返回给 compiler。git

使用 loader-utils 可以编译 loader 的配置，还能够经过 schema-utils 进行验证

import { getOptions } from 'loader-utils'; 
import { validateOptions } from 'schema-utils';  
const schema = {
  // ...
}
export default function(content) {
  // 获取 options
  const options = getOptions(this);
  // 检验loader的options是否合法
  validateOptions(schema, options, 'Demo Loader');

  // 在这里写转换 loader 的逻辑
  // ...
   return content;   
};
复制代码
  • content: 表示源文件字符串或者buffer
  • map: 表示sourcemap对象
  • meta: 表示元数据，辅助对象

同步loader

同步 loader，咱们能够经过return和this.callback返回输出的内容github

module.exports = function(content, map, meta) {
  //一些同步操做
  outputContent=someSyncOperation(content)
  return outputContent;
}
复制代码

若是返回结果只有一个，也能够直接使用 return 返回结果。可是，若是有些状况下还须要返回其余内容，如sourceMap或是AST语法树，这个时候能够借助webpack提供的api this.callbackweb

module.exports = function(content, map, meta) {
  this.callback(
    err: Error | null,
    content: string | Buffer,
    sourceMap?: SourceMap,
    meta?: any
  );
  return;
}
复制代码

第一个参数必须是 Error 或者 null 第二个参数是一个 string 或者 Buffer。 可选的：第三个参数必须是一个能够被这个模块解析的 source map。 可选的：第四个选项，会被 webpack 忽略，能够是任何东西【能够将抽象语法树(abstract syntax tree - AST)（例如 ESTree）做为第四个参数（meta），若是你想在多个 loader 之间共享通用的 AST，这样作有助于加速编译时间。】。npm

异步loader

异步loader，使用 this.async 来获取 callback 函数。api

// 让 Loader 缓存
module.exports = function(source) {
    var callback = this.async();
    // 作异步的事
    doSomeAsyncOperation(content, function(err, result) {
        if(err) return callback(err);
        callback(null, result);
    });
};
复制代码

详情请参考官网API

开发一个简单的md-loader

const marked = require("marked");

const loaderUtils = require("loader-utils");
module.exports = function (content) {
   this.cacheable && this.cacheable();
   const options = loaderUtils.getOptions(this);
   try {
       marked.setOptions(options);
       return marked(content)
   } catch (err) {
       this.emitError(err);
       return null
   }
    
};
复制代码

上述的例子是经过现成的插件把markdown文件里的content转成html字符串，可是若是没有这个插件，改怎么作呢？这个状况下，咱们能够考虑另一种解法，借助 AST 语法树，来协助咱们更加便捷地操做转换。

利用 AST 做源码转换

markdown-ast是将markdown文件里的content转成数组形式的抽象语法树节点，操做 AST 语法树远比操做字符串要简单、方便得多：

const md = require('markdown-ast');//经过正则的方法把字符串处理成直观的AST语法树
module.exports = function(content) {
    this.cacheable && this.cacheable();
    const options = loaderUtils.getOptions(this);
    try {
      console.log(md(content))
      const parser = new MdParser(content);
      return parser.data
    } catch (err) {
      console.log(err)
      return null
    }
};
复制代码

md经过正则切割的方法转成抽象语树

md-ast 

const md = require('markdown-ast');//md经过正则匹配的方法把buffer转抽象语法树
const hljs = require('highlight.js');//代码高亮插件
// 利用 AST 做源码转换
class MdParser {
	constructor(content) {
    this.data = md(content);
    console.log(this.data)
		this.parse()
	}
	parse() {
		this.data = this.traverse(this.data);
	}
	traverse(ast) {
    console.log("md转抽象语法树操做",ast)
     let body = '';
    ast.map(item => {
      switch (item.type) {
        case "bold":
        case "break":
        case "codeBlock":
          const highlightedCode = hljs.highlight(item.syntax, item.code).value
          body += highlightedCode
          break;
        case "codeSpan":
        case "image":
        case "italic":
        case "link":
        case "list":
          item.type = (item.bullet === '-') ? 'ul' : 'ol'
          if (item.type !== '-') {
            item.startatt = (` start=${item.indent.length}`)
          } else {
            item.startatt = ''
          }
          body += '<' + item.type + item.startatt + '>\n' + this.traverse(item.block) + '</' + item.type + '>\n'
          break;
        case "quote":
          let quoteString = this.traverse(item.block)
          body += '<blockquote>\n' + quoteString + '</blockquote>\n';
          break;
        case "strike":
        case "text":
        case "title":
          body += `<h${item.rank}>${item.text}</h${item.rank}>`
          break;
        default:
          throw Error("error", `No corresponding treatment when item.type equal${item.type}`);
      }
    })
    return body
	}
}
复制代码

完整的代码参考这里

ast抽象语法数转成html字符串

md-ast-string

loader的一些开发技巧

  1. 尽可能保证一个loader去作一件事情，而后能够用不一样的loader组合不一样的场景需求
  2. 开发的时候不该该在 loader 中保留状态。loader必须是一个无任何反作用的纯函数，loader支持异步，所以是能够在 loader 中有 I/O 操做的。
  3. 模块化：保证 loader 是模块化的。loader 生成模块须要遵循和普通模块同样的设计原则。
  4. 合理的使用缓存 合理的缓存可以下降重复编译带来的成本。loader 执行时默认是开启缓存的，这样一来， webpack 在编译过程当中执行到判断是否须要重编译 loader 实例的时候，会直接跳过 rebuild 环节，节省没必要要重建带来的开销。 可是当且仅当有你的 loader 有其余不稳定的外部依赖（如 I/O 接口依赖）时，能够关闭缓存：
this.cacheable&&this.cacheable(false);
复制代码
  1. loader-runner 是一个很是实用的工具，用来开发、调试loader,它容许你不依靠 webpack 单独运行 loader npm install loader-runner --save-dev
// 建立 run-loader.js
const fs = require("fs");
const path = require("path");
const { runLoaders } = require("loader-runner");

runLoaders(
  {
    resource: "./readme.md",
    loaders: [path.resolve(__dirname, "./loaders/md-loader")],
    readResource: fs.readFile.bind(fs),
  },
  (err, result) => 
    (err ? console.error(err) : console.log(result))
);
复制代码

执行 node run-loader

认识更多的loader

style-loader源码简析

做用：把样式插入到DOM中，方法是在head中插入一个style标签，并把样式写入到这个标签的 innerHTML 里 看下源码。

先去掉option处理代码，这样就比较清晰明了了

style-loader
返回一段js代码，经过require来获取css内容，再经过addStyle的方法把css插入到dom里 本身实现一个简陋的 style-loader.js 

module.exports.pitch = function (request) {
  const {stringifyRequest}=loaderUtils
  var result = [
    //1. 获取css内容。2.// 调用addStyle把CSS内容插入到DOM中（locals为true，默认导出css）
    'var content=require(' + stringifyRequest(this, '!!' + request) + ')’, 
    'require(' + stringifyRequest(this, '!' + path.join(__dirname, "addstyle.js")) + ')(content)’, 
    'if(content.locals) module.exports = content.locals’ 
  ]
  return result.join(';')
}
复制代码

须要说明的是，正常咱们都会用default的方法，这里用到pitch方法。pitch 方法有一个官方的解释在这里 pitching loader。简单的解释一下就是，默认的loader都是从右向左执行，用 pitching loader 是从左到右执行的。

{
  test: /\.css$/,
  use: [
    { loader: "style-loader" },
    { loader: "css-loader" }
  ]
}
复制代码

为何要先执行style-loader呢，由于咱们要把css-loader拿到的内容最终输出成CSS样式中能够用的代码而不是字符串。

addstyle.js

module.exports = function (content) {
  let style = document.createElement("style")
  style.innerHTML = content
  document.head.appendChild(style)
}
复制代码
babel-loader源码简析

首先看下跳过loader的配置处理，看下babel-loader输出

babel-loader-console
上图咱们能够看到是输出 transpile(source, options)的code和map 再来看下 transpile方法作了啥
babel-loader-transpile
babel-loader是经过babel.transform来实现对代码的编译的， 这么看来，因此咱们只须要几行代码就能够实现一个简单的babel-loader 

const babel = require("babel-core")
module.exports = function (source) {
  const babelOptions = {
    presets: ['env']
  }
  return babel.transform(source, babelOptions).code
}
复制代码
vue-loader源码简析

vue单文件组件（简称sfc）

<template>
  <div class="text">
    {{a}}
  </div>
</template>
<script>
export default {
  data () {
    return {
      a: "vue demo"
    };
  }
};
</script>
<style lang="scss" scope>
.text {
  color: red;
}
</style>
复制代码

webpack配置

const VueloaderPlugin = require('vue-loader/lib/plugin')
module.exports = {
  ...
  module: {
    rules: [
      ...
      {
        test: /\.vue$/,
        loader: 'vue-loader'
      }
    ]
  }

  plugins: [
    new VueloaderPlugin()
  ]
  ...
}
复制代码

VueLoaderPlugin 做用：将在webpack.config定义过的其它规则复制并应用到 .vue 文件里相应语言的块中。

plugin-webpack4.js

const vueLoaderUse = vueUse[vueLoaderUseIndex]
    vueLoaderUse.ident = 'vue-loader-options'
    vueLoaderUse.options = vueLoaderUse.options || {}
    // cloneRule会修改原始rule的resource和resourceQuery配置，
    // 携带特殊query的文件路径将被应用对应rule
    const clonedRules = rules
      .filter(r => r !== vueRule)
      .map(cloneRule)

    // global pitcher (responsible for injecting template compiler loader & CSS
    // post loader)
    const pitcher = {
      loader: require.resolve('./loaders/pitcher'),
      resourceQuery: query => {
        const parsed = qs.parse(query.slice(1))
        return parsed.vue != null
      },
      options: {
        cacheDirectory: vueLoaderUse.options.cacheDirectory,
        cacheIdentifier: vueLoaderUse.options.cacheIdentifier
      }
    }

    // 更新webpack的rules配置，这样vue单文件中的各个标签能够应用clonedRules相关的配置
    compiler.options.module.rules = [
      pitcher,
      ...clonedRules,
      ...rules
    ]
复制代码

获取webpack.config.js的rules项，而后复制rules，为携带了?vue&lang=xx...query参数的文件依赖配置xx后缀文件一样的loader 为Vue文件配置一个公共的loader：pitcher 将[pitchLoder, ...clonedRules, ...rules]做为webapck新的rules。

再看一下vue-loader结果的输出

vue-loader-result
当引入一个vue文件后，vue-loader是将vue单文件组件进行parse，获取每一个 block 的相关内容，将不一样类型的 block 组件的 Vue SFC 转化成 js module 字符串。 

// vue-loader使用`@vue/component-compiler-utils`将SFC源码解析成SFC描述符,,根据不一样 module path 的类型(query 参数上的 type 字段)来抽离 SFC 当中不一样类型的 block。
const { parse } = require('@vue/component-compiler-utils')
// 将单个*.vue文件内容解析成一个descriptor对象，也称为SFC（Single-File Components）对象
// descriptor包含template、script、style等标签的属性和内容，方便为每种标签作对应处理
const descriptor = parse({
  source,
  compiler: options.compiler || loadTemplateCompiler(loaderContext),
  filename,
  sourceRoot,
  needMap: sourceMap
})

// 为单文件组件生成惟一哈希id
const id = hash(
  isProduction
  ? (shortFilePath + '\n' + source)
  : shortFilePath
)
// 若是某个style标签包含scoped属性，则须要进行CSS Scoped处理
const hasScoped = descriptor.styles.some(s => s.scoped)
复制代码

而后下一步将新生成的 js module 加入到 webpack 的编译环节，即对这个 js module 进行 AST 的解析以及相关依赖的收集过程。

来看下源码是怎么操做不一样type类型（template/script/style）的，selectBlock 方法内部主要就是根据不一样的 type 类型，来获取 descriptor 上对应类型的 content 内容并传入到下一个 loader 处理

vue-loader源码
这三段代码能够把不一样type解析成一个import的字符串 

import { render, staticRenderFns } from "./App.vue?vue&type=template&id=7ba5bd90&"
import script from "./App.vue?vue&type=script&lang=js&"
export * from "./App.vue?vue&type=script&lang=js&"
import style0 from "./App.vue?vue&type=style&index=0&lang=scss&scope=true&"
复制代码

总结一下vue-loader的工做流程

  1. 注册VueLoaderPlugin 在插件中，会复制当前项目webpack配置中的rules项，当资源路径包含query.lang时经过resourceQuery匹配相同的rules并执行对应loader时 插入一个公共的loader，并在pitch阶段根据query.type插入对应的自定义loader
  2. 加载*.vue时会调用vue-loader,.vue文件被解析成一个descriptor对象，包含template、script、styles等属性对应各个标签， 对于每一个标签，会根据标签属性拼接src?vue&query引用代码，其中src为单页面组件路径，query为一些特性的参数，比较重要的有lang、type和scoped 若是包含lang属性，会匹配与该后缀相同的rules并应用对应的loaders 根据type执行对应的自定义loader，template将执行templateLoader、style将执行stylePostLoader
  3. 在templateLoader中，会经过vue-template-compiler将template转换为render函数，在此过程当中， 会将传入的scopeId追加到每一个标签的上，最后做为vnode的配置属性传递给createElemenet方法， 在render函数调用并渲染页面时，会将scopeId属性做为原始属性渲染到页面上
  4. 在stylePostLoader中，经过PostCSS解析style标签内容

参考文献

  1. webpack官网loader api
  2. 手把手教你写webpack yaml-loader
  3. 言川-webpack 源码解析系列
  4. 从vue-loader源码分析CSS Scoped的实现
相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程