seo-mask -- 为单页应用建立一个适合蜘蛛爬取的seo网站

时间 2019-11-17

原文原文链接

seo-mask

seo-mask是利用搜索引擎蜘蛛的爬取原理（蜘蛛只会爬取网页的内容，并不会关心解析网页里的css和js），制做一套专门针对seo的镜像网站，鄙人称它为针对seo的mask，让蜘蛛看到的是网站的mask更利于收录。无需改变原有网站的源码，此方法适合seo改形成本较大的具备动态数据的spa单页应用。css

与流行的seo方案对比

	优势	缺点
prerender 预渲染	部署方便，开发成本低	1. 没法render动态改变的页面(如：某商品详情页) ; 2. 页面太多时形成存储负担
ssr服务端渲染	一步到位，开发自主控制页面渲染	1. 对于已在线上运营的spa项目改形成本太大； 2. 开发过程须要考虑seo规范；3.须要对服务器深刻了解优化渲染
seo-mask	1. 无需改动源代码；2. 自由决定须要被爬取的内容	1.须要另外维护一套网站代码(开发成本极低)

适用范围

复杂型单页应用（如：论坛、商城、新闻等）
已经在线上运营改造服务端渲染成本巨大的单页应用
express做为启动服务器(后期会陆续推出适配不一样服务器的版本)

Demo

一个简易的博客网站html

Demo网站是一个基于cra开发的简易博客示例，在该项目的example目录，你能够下载下来本地运行：webpack

git clone https://github.com/lipten/seo-mask.git

cd seo-mask/example

npm install

npm run start
复制代码

Install

// With npm
npm install seo-mask

// With bower
bower install seo-mask
复制代码

Usage

请确保你的项目启动服务器是express或者是基于express的webpack-dev-server，再进行下面的操做。ios

在你的启动服务器实例var app = express()加入seo-mask中间件，还有相应的配置数据便可。

app.use(require('seo-mask')({
  routes: require('../seo/routes'),
  tdk_config: require('../seo/tdk'),
  layout_render: require('../seo/src/layout'),
}));
复制代码

若是是webpack-dev-server，则在devServer的配置里的before，加入代码：

webpack: devServer.beforegit

before(app, server) {
  app.use(require('seo-mask')({
    routes: require('../seo/routes'),
    tdk_config: require('../seo/tdk'),
    layout_render: require('../seo/src/layout'),
  }));

  ......
},
复制代码

传入一个对象，分别有routes、tdk_config和layout_render三个属性，具体释义和教程请接着往下看：github

SEO目录

在你的项目里新建一个seo目录，该目录用于配置你的mask网站路由及网站的TDK(title、description和keywords)配置，以及mask网站的全部内容。web

目录结构以下：express

my-app/
  ├── xxxx
  └── seo/
      ├── src/                  # mask网站内容
      |   |—— home/             # 根据自身业务需求创建seo-mask页面
      |   |   |—— index.ejs
      |   |   └── index.js
      |   |—— blog/             # 根据你的网站的页面作调整，这里假设是blog
      |   |   |—— index.ejs
      |   |   └── index.js
      |   |—— blog_detail/
      |   |   |—— index.ejs
      |   |   └── index.js
      |   |—— layout.ejs        # seo-mask网站也须要一个layout布置网站head或一些公共元素
      |   └── layout.js         # 提供layout_render渲染整个mask网站
      |—— routes.js             # routes配置匹配特定的路径指向对应的mask页面
      └── tdk.js                # 配置特定路径的默认tdk，必需要有一组做为网站的默认tdk
复制代码

编辑tdk.js、routes.js以及layout.js：

// seo/tdk.js

// 为特定路径配置默认tdk
module.exports = {
  // 默认tdk，至少写一组
  '^/$': {
    title: 'SEO-Mask 示例网站',
    description: '这是一个seo-mask示例网站，项目地址https://github.com/lipten/seo-mask',
    keywords: 'seo,example',
  },
  // 能够根据不一样路径匹配不一样的tdk
  '^/blog$': {
    title: 'Blog - SEO-Mask 示例网站',
  },
}

// seo/routes.js
module.exports = {
  '^/blog$': require('./src/blog'),
  '^/blog/\\d+$': require('./src/blog_detail'),
  '^/?$': require('./src/home'),
}

// seo/src/layout.js

const ejs = require('ejs')  //记得要装ejs模块：npm install -D ejs
const fs = require('fs')
const path = require('path')
const template = fs.readFileSync(path.resolve(__dirname, './layout.ejs'), 'utf8');

const layout_render = (children) => {
  return ejs.render(template, children)
}
module.exports = layout_render

复制代码

接着定义你的layout.ejs模板:

// seo/src/layout.ejs
<!DOCTYPE html>
<html>
<head>
  <meta charset="utf-8">
  <meta http-equiv="content-type" content="text/html;charset=utf-8">
  <meta http-equiv="X-UA-Compatible" content="IE=edge">
  <meta name=”renderer” content=”webkit”>
  <meta content="<%= tdk.keywords%>" name="keywords"/>
  <meta content="<%= tdk.description%>" name="description"/>
  <title><%= tdk.title%></title>
</head>
<body>
  <div id="root">
    <nav>
      <a href="/">home</a>
      <a href="/blog">blog</a>
    </nav>
    <%- result -%>
    <p>友情连接</p>
    <a href="http://xxx.xx">xx</a>
  </div>
</body>
</html>

复制代码

其余的页面模板能够用很简洁的html来写，js直接渲染:

// seo/src/home/index.ejs

<div>
  <h1>SEO-Mask 首页</h1>
  <h2>Hello, world!</h2>
  <p>
    这是一个简单的博客网站，您如今是经过搜索引擎蜘蛛访问看到这个简单的网站内容，您能够继续访问博客页面查看我写的“博客”。
  </p>
  <a href="/blog">前往博客</a>
</div>



// seo/src/home/index.js

const ejs = require('ejs')
const fs = require('fs')
const path = require('path')
const template = fs.readFileSync(path.resolve(__dirname, './index.ejs'), 'utf8');
const axios = require('axios');

module.exports = async (req) => {
  const result = ejs.render(template)
  return {result}
}
复制代码

须要从接口拉取动态数据的页面也能够作到：

// seo/src/blog/index.ejs

<div>
  <ul>
    博客列表
    <% post_list.map((item) => { %>
    <li><a href="/blog/<%= item.id-%>" target="_blank"><%= item.title-%></a></li>
    <% })%>
  </ul>
</div>


// seo/src/blog/index.js
const ejs = require('ejs')
const fs = require('fs')
const path = require('path')
const template = fs.readFileSync(path.resolve(__dirname, './index.ejs'), 'utf8');
const axios = require('axios');

module.exports = async (req) => {
  // 伪装博客数据是从api拉取的。。
  const res = await axios('/api/posts')
  const result = ejs.render(template, {post_list: res.data.items})
  return {result}
}

复制代码

须要在博客详情页设置网站标题为博客标题也能够作到：

// seo/src/blog_detail/index.ejs

<div>
  <h1>博客标题<%= post.title%></h1>
  <p><%= post.content%></p>
</div>


// seo/src/blog_detail/index.js
const ejs = require('ejs')
const fs = require('fs')
const path = require('path')
const template = fs.readFileSync(path.resolve(__dirname, './index.ejs'), 'utf8');
const axios = require('axios');

module.exports = async (req) => {
  const post_id = req.path.split('/')[2]
  // 伪装博客数据是从api拉取的。。
  const res = await axios.get(`/api/post/${post_id}`)
  const post = res.data
  const result = ejs.render(template, {post})
  // 设置博客标题为网站标题，动态设置tdk
  const tdk = {
    title: `${post.title} - SEO-Mask 示例网站`,
    description: post.description,
    keywords: 'SEO-Mask,blog'
  }
  return {result, tdk}
}

复制代码

Resource

单页应用SPA作SEO的一种清奇的方案npm

License

MITaxios