神经网络1_neuron network原理_python sklearn建模乳腺癌细胞分类器（推荐AAA）

 python机器学习-乳腺癌细胞挖掘（博主亲自录制视频）

https://study.163.com/course/introduction.htm?courseId=1005269003&utm_campaign=commission&utm_source=cp-400000000398149&utm_medium=share

author: Toby，项目合做QQ：231469242

 

https://www.youtube.com/watch?v=lAaCeiqE6CE&list=PLXO45tsB95cJ0U2DKySDmhRqQI9IaGxck

人工神经网络 VS 生物神经网络 

二者是不同的

 生物神经网络是大天然通过千亿年进化而成，目前最早进人工智能神经网络没法达到

 

人工神经网络 ：经过正反馈和负反馈建立或删除神经元

生物神经网络  ：经过刺激产生新的连接，信号经过新的连接传递产生反馈，

目前最早进人工智能神经网络没法模拟生物神经网络

 

卷积神经网络 CNN (深度学习)应用：

图片识别，语音识别，药物发现

 

神经网络原理：hidden layer是经过函数传递值

了解神经网络，必须了解线性代数

 

神经网络对数字识别是一层层分解

 

https://blog.csdn.net/gamer_gyt/article/details/51255448

scikit-learn博主使用的是0.17版本，是稳定版，固然如今有0.18发行版，二者仍是有区别的，感兴趣的能够本身官网上查看

scikit-learn0.17（and 以前）上对于Neural Network算法 的支持仅限于 BernoulliRBM

scikit-learn0.18上对于Neural Network算法有三个  neural_network.BernoulliRBM ，neural_network.MLPClassifier，neural_network.MLPRgression 

Multi-layer Perceptron 多层感知机

MLP是一个监督学习算法，图1是带一个隐藏层的MLP模型 

 

具体可参考：点击阅读

 

1：神经网络算法简介

2：Backpropagation算法详细介绍

3：非线性转化方程举例

4：本身实现神经网络算法NeuralNetwork

5：基于NeuralNetwork的XOR实例

6：基于NeuralNetwork的手写数字识别实例

7：scikit-learn中BernoulliRBM使用实例

8：scikit-learn中的手写数字识别实例

 

一：神经网络算法简介

1：背景

以人脑神经网络为启发，历史上出现过不少版本，但最著名的是backpropagation

2：多层向前神经网络（Multilayer  Feed-Forward Neural Network）

                                                          

多层向前神经网络组成部分

输入层（input layer），隐藏层（hiddenlayer），输出层（output layer）

 

   每层由单元（units）组成

   输入层（input layer）是由训练集的实例特征向量传入

   通过链接结点的权重（weight）传入下一层，一层的输出是下一层的输入

   隐藏层的个数是任意的，输出层和输入层只有一个

   每一个单元（unit）也能够被称做神经结点，根据生物学来源定义

   上图称为2层的神经网络（输入层不算）

   一层中加权的求和，而后根据非线性的方程转化输出

   做为多层向前神经网络，理论上，若是有足够多的隐藏层（hidden layers）和足够大的训练集，能够模拟出任何方程

 

3：设计神经网络结构

    3.1使用神经网络训练数据以前，必须肯定神经网络层数，以及每层单元个数

    3.2特征向量在被传入输入层时一般被先标准化（normalize）和0和1之间（为了增强学习过程）

    3.3离散型变量能够被编码成每个输入单元对应一个特征可能赋的值

        好比：特征值A可能取三个值（a0,a1,a2），可使用三个输入单元来表明A

                    若是A=a0,那么表明a0的单元值就取1，其余取0

                    若是A=a1,那么表明a1的单元值就取1，其余取0，以此类推

    3.4神经网络便可以用来作分类（classification）问题，也能够解决回归（regression）问题

         3.4.1对于分类问题，若是是2类，能够用一个输入单元表示（0和1分别表明2类）

                                         若是多于两类，每个类别用一个输出单元表示

                因此输入层的单元数量一般等于类别的数量 

        3.4.2没有明确的规则来设计最好有多少个隐藏层

               3.4.2.1根据实验测试和偏差，以及准确度来实验并改进

4：算法验证——交叉验证法（Cross- Validation）

 

 

神经网络优势和缺点

优势：大数据高效，处理复杂模型，处理多维度数据，灵活快速

缺点：数据须要预处理

代替：TensorFlow，Keras

 

 

python sklearn建模处理乳腺癌细胞分类器

# -*- coding: utf-8 -*-
"""
Created on Sun Apr  1 11:49:50 2018

@author: Toby，项目合做QQ：231469242
神经网络
"""
#Multi-layer Perceptron 多层感知机
from sklearn.neural_network import MLPClassifier
#标准化数据，不然神经网络结果不许确，和SVM相似
from sklearn.preprocessing import StandardScaler
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
import mglearn
import matplotlib.pyplot as plt
mglearn.plots.plot_logistic_regression_graph()
mglearn.plots.plot_single_hidden_layer_graph()

cancer=load_breast_cancer()
x_train,x_test,y_train,y_test=train_test_split(cancer.data,cancer.target,stratify=cancer.target,random_state=42)

mlp=MLPClassifier(random_state=42)
mlp.fit(x_train,y_train)
print("neural network:")    
print("accuracy on the training subset:{:.3f}".format(mlp.score(x_train,y_train)))
print("accuracy on the test subset:{:.3f}".format(mlp.score(x_test,y_test)))

scaler=StandardScaler()
x_train_scaled=scaler.fit(x_train).transform(x_train)
x_test_scaled=scaler.fit(x_test).transform(x_test)

mlp_scaled=MLPClassifier(max_iter=1000,random_state=42)
mlp_scaled.fit(x_train_scaled,y_train)
print("neural network after scaled:")    
print("accuracy on the training subset:{:.3f}".format(mlp_scaled.score(x_train_scaled,y_train)))
print("accuracy on the test subset:{:.3f}".format(mlp_scaled.score(x_test_scaled,y_test)))


mlp_scaled2=MLPClassifier(max_iter=1000,alpha=1,random_state=42)
mlp_scaled.fit(x_train_scaled,y_train)
print("neural network after scaled and alpha change to 1:")    
print("accuracy on the training subset:{:.3f}".format(mlp_scaled.score(x_train_scaled,y_train)))
print("accuracy on the test subset:{:.3f}".format(mlp_scaled.score(x_test_scaled,y_test)))


plt.figure(figsize=(20,5))
plt.imshow(mlp.coefs_[0],interpolation="None",cmap="GnBu")
plt.yticks(range(30),cancer.feature_names)
plt.xlabel("columns in weight matrix")
plt.ylabel("input feature")
plt.colorbar()

　　

 

 

 

python信用评分卡建模（附代码，博主录制）

https://study.163.com/course/introduction.htm?courseId=1005214003&utm_campaign=commission&utm_source=cp-400000000398149&utm_medium=share