摘 要 近年来,人工神经网络的研究越来越受到人们的注目,其中BP神经网络是一种单向传播的多层前馈网络,它采用典型的有教师学习方式来进行预测和分类问题的处理。一个训练好的BP网络,理论上能够逼近任何自变量(网络的输入)和应变量(网络的输出)之间的函数关系。该模型在应用中自变量可以是连续的,也可以是离散的,不需要考虑自变量是否满足正态性及变量间独立等条件,可以识别变量间复杂的非线性关系,尤其是用现有统计方法无法达到目的或效果不好时,采用此模型往往收到很好的效果。 本文将BP神经网络用于冠心病患者的手术风险评估问题中,采用Levenberg-Marquardt优化算法来避免BP算法收敛速度慢的缺点,针对含隐层的BP网在训练过程中常常存在过度拟合(over-fitting),难以选择最优模型的问题,采用了“早停止”(early-stopping)策略。在对25例病例的测试中,发现BP神经网络取得了很高的测试正确率,且发现采用了“早停止”策略的模型比未采用“早停止”策略的模型有更好的测试正确率,因此这种BP神经网络方法值得在医学研究、特别是判别分析、风险评估领域进一步应用并推广。 关键词:BP神经网络; 过度拟合; 心脏搭桥手术; 风险评估 Abstract Artificial neural network have received much attention over the last few years, Back-propagation neural network belongs to multilayered feed-forward networks, it adopts typical supervised learning, it is being used in the areas of prediction and classification and most useful in situations in which the relation between input and output is nonlinear. Properly trained network is able to extract any functional or statistical relationship between the input and output present in the training data. In this model,independent variable can be either continuous or discrete, it is not limited by strict assumptions of normality、linearity, variable independence etc. BP neural network is playing a important role as a non-linear model. In this paper, BP neural network is used for the problem of risk evaluation of the patients who have coronary heart disease, we adopt Levenberg -Marquardt algorithm, it makes learning time short, convergence fast; we use early-stopping method to avoid over-fitting and choose optimization model. In the test of 25 cases, we find BP neural network gets good results in validation and BP neural network achieve better results with early-stopping method than without. So it is worthy to be popularized with this method, especially in the fields of prediction analysis and risk evaluation. Key words: BP neural network; over-fitting; coronary artery bypass grafting surgery; risk evaluation 目 录 第1章 绪论 1 1.1 课题背景 1 1.2 论文研究的目的和意义 2 1.3 国内外有关本课题的研究情况简介 2 1.4 论文研究的主要工作 3 1.4.1 本文的主要研究设想 3 1.4.2 预测及结果分析 4 第2章 人工神经网络理论 5 2.1 人工神经网络概念及特点 5 2.2 人工神经网络发展史 6 2.3 人工神经网络模型 7 2.3.1 神经元模型 7 2.3.2 神经网络模型 10 2.4 反向传播网络 11 2.4.1 BP网络结构 11 2.4.2 BP神经网络的算法 15 2.5 本章小结 19 第3章 BP神经网络的分析与设计 20 3.1 BP算法的改进及选择 20 3.2 过度拟合问题的解决 21 3.3 BP神经网络的设计 26 3.3.1 训练集的选取 26 3.3.2 输入变量的选择及归一化 26 3.3.3 神经网络权值的设置 27 3.3.4 学习率的设置 28 3.3.5 隐层数目的确定 29 3.3.6 传递函数的选取 29 3.4 本章小结 30 第4章 心脏搭桥手术的风险评估 31 4.1 模型的建立 31 4.1.1 参数变量的选取 31 4.1.2 BP网训练集、校验集、和测试集的确定 33 4.1.3 输入数据的预处理 33 4.1.4 BP神经网络模型的建立及训练 33 4.2 程序实现 34 4.3 结果及分析 35 4.3.1 网络的训练过程及结果 35 4.3.2 测试结果 38 4.3.3 线性回归分析 40 4.4 本章小结 41 结论 42 参考文献 44 致谢 46 第1章 绪 论 1.1课题背景 人工神经网络(Artificial Neural Networks,简称ANN)是一门涉及生物、电子、计算机、数学和物理等的交*学科,通过模拟生物体中神经网络的某些结构与功能,来克服目前计算机或其它系统不能解决的问题,可应用于识别感知、智能控制、专家系统等。人工神经网络模型是基于生理学的智能仿生模型,它是由大量处理单元(神经元)互相连接组成的大规模、非线性、自适应动力学系统,具有自组织、自适应、自学习的能力和非线性和非局域性等特点。 人工神经网络研究兴起于十九世纪末二十世纪中期。1943年美国心理学家Warren McCulloch和数学家Walter Pitts合作提出形式神经元的数学模型M-P模型,对脑模型、自动机和人工智能等领域产生重大影响,从此开创了神经网络理论研究的时代。其后经历过发展、低潮、复兴阶段,20世纪80年代后期,ANN研究进入热潮。 近年来在生物医药领域利用ANN模型进行的模式识别、判别和预测也越来越广泛。在基础研究方面应用ANN模型进行基因识别和DNA, RNA序列分析。药学方面,应用ANN进行药物分析和药代动力学研究、中草药鉴别,药物设计、化学结构识别、生产工艺控制等。临床方面,应用于临床预后及计算机辅助诊断、生存分析、医学信号检测与识别(图象识别、影像判别等)等。预防医学领域也有将ANN应用于食管癌流行趋势的研究,及流行性脑脊髓膜炎预报建模等的报道。将神经网络用于疾病手术的风险预测也越来越多起来,并且都取得了不错的效果。 1.2论文研究的目的和意义 |