تصميم شبكات عـصبية ملائمة لحل مسائل القيم الذاتية وتطبيقاتها == Design Suitable Neural Networks to Solve Eigen Value Problems and It?s Application
Author name:
عثمان مهدي صالح
Supervisor name:
عثمان مهدي صالح
General topic:
Mathematics
Specific topic:
Applied Mathematics
Degree:
Master
University:
University of Baghdad
Language:
English
University location:
Baghdad
First pages:
27T1163 - p.pdf
Abstract:
الهدف من هذه الرسالة هو تصميم شبكات عصبية ملائمة ذات تغذية تقدمية كطريقة لحل مسائل القيم الذاتية للمعادلات التفاضلية الاعتيادية الشاذة وغير الشاذة ذات الشروط الحدودية. الشبكة المقترحة تتعلق بحساب القيم الذاتية والدالة الذاتية المرافقة لها والتي تمثل الحل الغير صفري لنموذج المسالة.ايضا ناقشنا عدد من خوارزميات الاداء ذات المستوى العالي المستخدمة في خوارزميات تدريب الانتشار المرتد للشبكات العصبية ذات التغذية التقدمية وعرض نتائج المقارنة الحاصلة من تطبيق MATLAB مثل ﻟﻴفنبرﻙ - ماركواردت , شبيه نيوتن, تنظيم بيزن, ومن ثم تسريع اداء الشبكات المقترحة من خلال تعديل خوارزميات التدريب هذه, حيث ان بعضها يمتلك نسبة تقارب سريعة جدا لشبكات ذات احجام معقولة.الهدف الاخر لهذه الرسالة هو تحسين خوارزمية التدريب ﻟﻴفنبرﻙ - ماركوارت من خلال الاختيار المناسب للمعامل μk والذي يضمن التقارب لخوارزمية التدريب هذه.ايضا عالجنا عدة مشاكل واجهتنا اثناء تقنية التدريب مثل : التوقف المبكر, خزن الذاكرة , التنظيم وحساب مصفوفة هيسين ومعكوسها.اخيرا تم توضيح الشبكات المقترحة من خلال حل مسائل متنوعة ومقارنتها مع حلول بطرق مختلفة اخرى لاثبات سرعة , دقة وفاعلية استخدام تقنية الشبكات في حل هذا النوع من المعادلات. | The aim of this thesis is to design suitable feed forward neural networks to present a method to solve eigenvalue problems for non - singular ordinary differential equations with boundary conditions. The suggested networks concerned with the computation of eigenvalues and associated eigenfunction which represent the nontrivial solution of the problem model. Also, we will discuss several high performance algorithms used in back propagation training of the feed forward neural networks and present comparative results obtained in MATLAB implementation such as : Levenberg - Marquardt, quasi - Newton and Bayesian regularization, update procedure, then speeding suggested networks by modification these training algorithms, many of them have a very fast convergence rate for reasonable size networks.Other aims of this thesis is to modify Levenberg - Marquardt training algorithm by suitable choice of the parameter μk which guarantee super linearly convergence for this training algorithm. Also, we treat many problems that confront during the training technique such as : early stopping, memory storage, regularization and calculating of Hessian matrix and its inverse.Finally, illustrate the suggested networks by solving a variety of model problems and present comparisons with solutions obtained using other different methods to show speed, accuracy and effectiveness of using the networks technique for solving this type of equations
