使用Flask部署图像分类模型

时间  2020-07-22
标签 使用 flask 部署 图像 分类 模型 栏目 Python 繁體版
原文   原文链接

做者|LAKSHAY ARORA
编译|VK
来源|Analytics Vidhyahtml

概述

  • 了解PyTorch和Flask的概况
  • 学习在PyTorch中创建图像分类模型
  • 了解如何使用Flask部署模型。

介绍

当涉及到社交媒体的健康运行时，图像分类是一个关键点。根据特定标签对内容进行分类能够代替各类法律法规。它变得很重要，以便对特定的受众群体隐藏内容。python

当我在Instagram上浏览时，我常常会遇到一些图片上有“敏感内容”的帖子。我确定你也有。git

任何有关人道主义危机、恐怖主义或暴力的图片一般被归类为“敏感内容”。Instagram如何对图片进行分类一直让我很感兴趣。这种不断的好奇心促使我去理解图像分类的过程。github

大部分图像是由Instagram部署的图像分类模型检测出来的。此外，还有一个基于社区的反馈循环。这是图像分类最重要的用例之一。web

在本文中，咱们将部署一个图像分类模型来检测图像的类别。json

目录

  1. 什么是模型部署？
  2. PyTorch简介
  3. 什么是Flask？
  4. 在机器上安装Flask和PyTorch
  5. 理解问题陈述
  6. 创建预训练的图像分类模型
  7. 创建一个图像Scraper
  8. 建立网页
  9. 设置Flask项目
  10. 部署模型的工做

什么是模型部署

在典型的机器学习和深度学习项目中，咱们一般从定义问题陈述开始，而后是数据收集和准备，而后是模型构建，对吗？flask

一旦咱们成功地构建和训练了模型，咱们但愿它能为最终用户所用。后端

所以，咱们必须“部署”模型，以便最终用户可使用它。模型部署是任何机器学习或深度学习项目的后期阶段之一。浏览器

在本文中，咱们将在PyTorch中构建一个分类模型，而后学习如何使用Flask部署相同的模型。在咱们进入细节以前，让咱们先简单介绍一下PyTorch。服务器

PyTorch简介

PyTorch是一个基于python的库，它提供了做为深度学习开发平台的灵活性。PyTorch的工做流程与python的科学计算库NumPy很是接近。

PyTorch被普遍用于构建深度学习模型。如下是PyTorch的一些重要优点

  • 易于使用的API–PyTorch API与python同样简单。
  • Python支持—PyTorch与Python完美集成。
  • 动态计算图——PyTorch为咱们提供了一个框架来构建计算图，甚至在运行时改变它们。这对于咱们不知道建立一个神经网络须要多少内存的状况颇有价值。

在接下来的章节中，咱们将使用一个预训练的模型来使用PyTorch来检测图像的类别。接下来，咱们将使用Flask进行模型部署。在下一节中，咱们将简要讨论Flask。

什么是Flask？

Flask是一个用Python编写的web应用程序框架。它有多个模块，使web开发人员更容易编写应用程序，而没必要担忧协议管理、线程管理等细节。

Flask为开发web应用程序提供了多种选择，并为咱们提供了构建web应用程序所需的工具和库。

在机器上安装Flask和PyTorch

安装Flask简单明了。这里，我假设你已经安装了python3和pip。要安装Flask，须要运行如下命令：

sudo apt-get install python3-flask

接下来，咱们须要安装PyTorch。运行本文中提供的代码不须要有GPU。

!pip install torch torchvision

就这样！如今让咱们开始一个问题陈述并创建一个模型。

理解问题陈述

让咱们讨论一下问题陈述，咱们想要建立一个包含以下文本框的网页（以下所示）。用户在这里输入网址。

这里的任务是从URL中抓取全部图像。对于每一个图像，咱们将使用图像分类模型预测图像的类别或类别，并在网页上按类别呈现图像。

下面是端到端模型的工做流-

设置项目工做流

  • 模型构建：咱们将使用预训练的模型Densenet 121来预测图像类。它能够在PyTorch的torchvision库中找到。这里，咱们的重点不是从头开始构建一个高度精确的分类模型，而是看看如何部署该模型并在web界面中使用它。
  • 建立一个图像Scraper：咱们将使用请求和BeautifulSoup库建立一个web scraper。它将从一个URL下载全部的图像并将其存储，这样咱们就能够对其进行预测。
  • 设计网页模板：咱们还将设计一个用户界面，用户能够提交一个网址，也能够获得结果，一旦计算。
  • 对图像进行分类并发送结果：一旦咱们从用户那里获得查询，咱们将使用该模型预测图像的类别并将结果发送给用户。

下面是咱们刚刚看到的步骤的一个表示：

让咱们讨论一下项目所需的全部组成部分：

创建预训练的图像分类模型

咱们将使用预训练的模型Densenet 121对图像进行分类。

你能够在这里下载完整的代码和数据集。

连接：https://github.com/lakshay-ar...

让咱们从导入一些必需的库开始，并从torchvision库获取densenet121模型。确保将参数“pretrained”添加为True。

# 导入所需的库
import json
import io
import glob
from PIL import Image
from torchvision import models
import torchvision.transforms as transforms

# 将参数“pretraining”传递为“True”，使用预训练的权重:
model = models.densenet121(pretrained=True)
# 切换到模型到“eval”模式:
model.eval()

如今，咱们将定义一个函数来转换图像。它将建立一个转换管道并根据须要转换图像。此方法以字节为单位获取图像数据，并对其应用一系列“转换”函数并返回张量。这段代码取自pytorch文档。

# 定义预处理的函数
def transform_image(image_bytes):
    my_transforms = transforms.Compose([transforms.Resize(255),
                                        transforms.CenterCrop(224),
                                        transforms.ToTensor(),
                                        transforms.Normalize(
                                            [0.485, 0.456, 0.406],
                                            [0.229, 0.224, 0.225])])
    image = Image.open(io.BytesIO(image_bytes))
    return my_transforms(image).unsqueeze(0)

如今，预训练的模型返回预测类id的索引。PyTorch已经为它提供了映射，以便咱们能够看到预测类的名称。你能够在这里下载地图。它有1000个不一样的类别。

# 加载由pytorch提供的映射
imagenet_class_mapping = json.load(open('imagenet_class_index.json'))

下面是一个示例：

接下来，咱们将定义一个函数来获取图像的类别。为此，咱们将图像的路径做为惟一的参数传递。

首先，它将打开并读取二进制格式的图像，而后对其进行转换。而后将变换后的图像传递给模型，获得预测类。它将使用映射并返回类名。

# 定义函数来得到图片的预测
# 它接受参数:图片路径并提供预测做为输出
def get_category(image_path):
  #以二进制形式读取图像
    with open(image_path, 'rb') as file:
        image_bytes = file.read()
    # 变换图像
    transformed_image = transform_image(image_bytes=image_bytes)
    # 使用模型来预测类
    outputs = model.forward(transformed_image)
    _, category = outputs.max(1)
    # 返回
    predicted_idx = str(category.item())
    return imagenet_class_mapping[predicted_idx]

让咱们在一些图像上尝试此函数：

get_category(image_path='static/sample_1.jpeg')
## ['n02089973', 'English_foxhound']

get_category(image_path='static/sample_2.jpeg')
## ['n11939491', 'daisy']

如今，咱们的模型能够预测图像的类。让咱们从构建图像Scraper开始。

创建一个图像Scraper

在本节中，咱们将构建一个web scraper，它将从提供的URL下载图像。咱们将使用BeautifulSoup库下载图像。你能够自由使用任何其余库或API来提供图像。

咱们将从导入一些必需的库开始。对于咱们将抓取的每一个url，将建立一个新目录来存储图像。咱们将建立一个函数get_path，它将返回为该URL建立的文件夹的路径。

# 导入所需的库
import requests
from bs4 import BeautifulSoup
import os
import time

def get_path(url):
    return "static/URL_" + str(url.replace("/","_"))
  
headers = {
    'User-Agent': "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/77.0.3865.90 Safari/537.36"
    }

如今，咱们将定义一个函数get_images。它将首先使用get_path函数建立目录，而后发送对源代码的请求。从源代码中，咱们将使用“img”标签提取源代码。

在此以后，咱们将只选择jpeg格式的图像。也能够添加png格式的图像。我已通过滤掉了，由于大多数png格式的图片都是logo。

最后，启动计数器并将带有计数器名称的图像保存到指定的目录中。

# 定义爬取图像并将其存储在目录中的函数
def get_images(url):
   # get the directory path
    path = get_path(url)
    try:
        os.mkdir(path)
    except:
        pass
    # 从URL请求源代码
    response = requests.request("GET", url, headers=headers)
    # 经过Beautiful Soup解析数据
    data = BeautifulSoup(response.text, 'html.parser')
    # 在源代码中找到图像标记
    images = data.find_all('img', src=True)
    # 从全部的图像标签中提取src
    image_src = [x['src'] for x in images]
    # 只选择jpeg
    image_src = [x for x in image_src if x.endswith('.jpeg') ]
    image_count = 1
    # 在指定目录存储图像
    for image in image_src:
        print(image)
        image_file_name = path+'/'+str(image_count)+'.jpeg' 
        print(image_file_name)
        # 以写入二进制形式打开文件并添加图像内容来存储它
        with open(image_file_name, 'wb') as f:
            res = requests.get(image)
            f.write(res.content)
        image_count = image_count+1

让咱们试试咱们刚刚创造的scraper！

get_images('https://medium.com/@allanishac/9-wild-animals-that-would-make-a-much-better-president-than-donald-trump-b41f960bb171')

如今，建立了一个新目录，并查看它的外观。咱们在一个地方下载了全部的图片。

注意：建议仅根据学习目的使用此图像Scraper。始终遵循目标网站的robots.txt文件，也称为机器人排除协议。这会告诉网络机器人哪些页面不能爬。

建立网页

咱们将建立两个网页一个是“home.html另外一个是“image_class.html”.

  • “home.html“是默认的，它将有一个文本框，用户能够在其中键入URL。
  • “image_class.html“将帮助咱们按类别渲染图像。

1.home.html

咱们须要在home.html文件以收集搜索容器中的数据。在form标签中，咱们将使用post方法，而且数据经过名为“search”的输入栏传递。

经过这样作，咱们的后端代码将可以知道咱们收到了一些名为“search”的数据。在后端，咱们须要处理并发送数据。

2.image_class.html

在计算结果时，另外一个页面将呈现以下结果。本页“image_class.html“将在每次查询时更新。你能够看到咱们在网页上显示了如下信息：

  1. 图像类别
  2. 图像
  3. 全部可用图像类别的频率计数

下面是执行此操做的代码：

def get_picture_html(path, tag):
    image_html = """<p> {tag_name} </p> <picture> <img src= "../{path_name}"  height="300" width="400"> </picture>"""
    return image_html.format(tag_name=tag, path_name=path)

# 定义在html文件中添加列表元素的函数
def get_count_html(category, count):
    count_html = """<li> {category_name} : {count_} </li>"""
    return count_html.format(category_name = category, count_ = count)

# 计数
def get_value_count(image_class_dict):
    count_dic = {}
    for category in image_class_dict.values():
        if category in count_dic.keys():
            count_dic[category] = count_dic[category]+1
        else:
            count_dic[category] = 1
    return count_dic

# 函数从image_class字典生成html文件
# 键将是图像的路径，而值将是与之关联的类。
def generate_html(image_class_dict):
    picture_html = ""
    count_html = ""
    
    # 循环这些键并将图像添加到html文件中
    for image in image_class_dict.keys():
        picture_html += get_picture_html(path=image, tag= image_class_dict[image])
        
    value_counts = get_value_count(image_class_dict)
    
    # 循环value_counts并向html文件中添加类的计数
    for value in value_counts.keys():
        count_html += get_count_html(value, value_counts[value])

下一步是创建Flask项目，将这些单独的部分组合起来解决这个挑战。

设置Flask项目

咱们在项目中完成了如下任务：

  1. 图像分类模型工做良好，可以对图像进行分类。
  2. 咱们已经创建了图像Scraper，将下载图像并存储它们。
  3. 咱们已经建立了网页来获取并返回结果。

如今咱们须要将全部这些文件链接在一块儿，这样咱们就能够有一个工做项目了。

让咱们看看目录结构。

注意：请确保将图像保存在static文件夹和html 文件放在templates文件夹中。Flask只会查找这些名字。若是你改变这些，你会获得一个错误。

运行Flask应用程序

Flask应用程序首先将home.html当有人发送图像分类请求时，Flask将检测一个post方法并调用get_image_class函数。

此函数将按如下步骤工做：

  1. 首先，它将发送一个请求来下载并存储这些图像。
  2. 接下来，它将把目录路径发送到get_prediction.py将计算并以字典形式返回结果的文件。
  3. 最后，它将把这个字典发送给generate_html.py，用户将返回生成该文件的输出。

# 导入库
from flask import Flask, render_template, request, redirect, url_for
from get_images import get_images, get_path, get_directory
from get_prediction import get_prediction
from generate_html import generate_html
from torchvision import models
import json

app = Flask(__name__)

# 映射
imagenet_class_mapping = json.load(open('imagenet_class_index.json'))

# 使用预训练模型
model = models.densenet121(pretrained=True)
model.eval()

# 定义从url获取图像并预测类的函数
def get_image_class(path):
    # 从URL获取图像并将其存储在给定的路径中
    get_images(path)
    # 根据所提供的目录预测图像的图像类别
    path = get_path(path)
    images_with_tags = get_prediction(model, imagenet_class_mapping, path)
    # 生成html文件以在咱们预测类以后呈现
    generate_html(images_with_tags)

一旦以上步骤完成，咱们就能够为用户提供结果。咱们将调用success函数，该函数将渲染image_class.html文件。

# 根页面为"home.html"    
@app.route('/')
def home():
    return render_template('home.html')

@app.route('/', methods=['POST', 'GET'])
def get_data():
    if request.method == 'POST':
        user = request.form['search']
        # 若是搜索按钮被点击，调用函数get_image_class
        get_image_class(user)
        #返回image_class.html
        return redirect(url_for('success', name=get_directory(user)))


@app.route('/success/<name>')
def success(name):
    return render_template('image_class.html')


if __name__ == '__main__' :
    app.run(debug=True)

获取源URL的全部图像的预测

到目前为止，咱们已经分别对每幅图像进行了预测。如今，咱们将用新参数修改get_category函数来解决这个问题。咱们将传递包含多个图像文件的目录路径。

如今，咱们将定义另外一个函数get_prediction，它将使用get_category函数并返回字典，其中键将是图像路径，值将是图像类。

稍后，咱们将把这个字典发送给generate_html.py将为咱们建立HTML文件的文件。

# 获取目录中出现的全部图像的类
def get_category(model, imagenet_class_mapping, image_path):
    with open(image_path, 'rb') as file:
        image_bytes = file.read()
    transformed_image = transform_image(image_bytes=image_bytes)
    outputs = model.forward(transformed_image)
    _, category = outputs.max(1)
    
    predicted_idx = str(category.item())
    return imagenet_class_mapping[predicted_idx]

# 它将建立一个图像路径和预测类的字典
# 咱们将使用该字典生成html文件。
def get_prediction(model, imagenet_class_mapping, path_to_directory):
    files = glob.glob(path_to_directory+'/*')
    image_with_tags = {}
    for image_file in files:
        image_with_tags[image_file] = get_category(model, imagenet_class_mapping, image_path=image_file)[1]
    return image_with_tags

如今，全部的代码文件都准备好了，咱们只须要将它们与主文件链接起来。

首先，建立一个Flask类的对象，该对象将以当前模块的名称做为参数。route函数将告诉Flask应用程序下一步在网页上呈现哪一个URL。

部署模型的工做

你能够在这里下载完整的代码和数据集。

连接：https://github.com/lakshay-ar...

如今，咱们运行get_class.py，Flask服务器就能够在 localhost:5000启动

打开web浏览器并转到localhost:5000，你将看到默认主页在那里呈现。如今，在文本框中输入任何URL并按search按钮。这可能须要20-30秒，这取决于网址中的图片数量和网速。

让咱们看看部署模型的工做状况。

视频:https://cdn.analyticsvidhya.c...

结尾

在本文中，我简要地解释了模型部署、Pytorch和Flask的概念。

而后咱们深刻了解了使用PyTorch建立图像分类模型并将其与Flask一块儿部署的过程当中涉及的各个步骤。我但愿这有助于你构建和部署图像分类模型。

另外，模型被部署在本地主机上。咱们也能够把它部署在云服务上，好比Google Cloud，Amazon，github.io等等，咱们也将在下一篇文章中讨论这一点。

原文连接：https://www.analyticsvidhya.c...

欢迎关注磐创AI博客站：
http://panchuang.net/

sklearn机器学习中文官方文档：
http://sklearn123.com/

欢迎关注磐创博客资源汇总站：
http://docs.panchuang.net/

相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程