تطوير خوارزميات التحسين الرياضي في الشبكات العصبية

الباحث

ونام عباس عبيد مطر

المشرف

أحمد صباح أحمد الجيلاوي

الجامعة

جامعة بابل

الكلية / القسم

كلية التربية للعلوم الصرفة / الرياضيات

الشهادة

ماجستير

السنة

2023

لغة الرسالة

انكليزي

الكلمات المفتاحية

Neural Networks ; Optimization Algorithms ; Mathematical Optimization ; Training Algorithms

الشبكات العصبية الاصطناعية هي منهجية حديثة ومتطورة جذبت اهتمام العديد من الباحثين في مختلف المجالات. بما في ذلك الهندسة وتكنولوجيا المعلومات والطب والإحصاء وبحوث العمليات. وتكتسب أهمية متزايدة نظرا لمروئتها الكبيرة مقارئة بالطرق التقليدية. فضلا عن قدرتها على التعلم والتكيف مع أي نموذج. عادة ما يتم تدريب الشبكات العصبية باستخدام أساليب وطرق قائمة على التدرج والتكرار لمحاولة تقليل وظيفة AMISH حيث يقوم النموذج بضبط وزنه ومنحدره. بالاعتماد على وظيفة التكلفة والتعلم المعزز (التعلم الخاضع للإشراف) للوصول إلى نقطة التقارب (القيمة المثلى). أخذت هذه الدراسة جانبين: الأول هو دراسة الشبكات العصبية الخطية. بأبسط أنواعها تستخدم في دراسة (الانحدار الخطيء الانحدار الخطي المتعدد. الانحدار متعدد الحدود. الانحدار اللوجستي) باستخدام طريقة النسب المتدرج التكرارية والمعادلة العادية كنهج تحليلي للتحسين أو كبديل لنزول التدرج من أجل تقليل دالة التكلفةء والوصول إلى نقطة التقارب للحد الأدنى. أما الجانب الآخر من الدراسة فهو كيفية تحسين وتطوير خوارزميات الشبكات العصبية من خلال إجراء مقارنات مع بعضها البعض واختيار أفضلها من حيث السرعة في الأداء والتكاليف المنخفضة والأكثر دقة وأفضل النتائج كما قمنا بتحليلها وأظهار نقاط القوة والضعف لكل منها. لقد ثبت أن آدم يقوم بتدريب النموذج بشكل جيد لأنه يعتمد على مراكز القوة في الخوارزميات السابقة. فقد تم حساب نتائجه باستخدام بايثون من خلال تطبيق أربعة برامج في وقت واحد. حيث يظهر البرنامج الأول رسما ثلاثي الأبعاد للدالة الموضوعية. ويظهر البرنامج الثاني شكل الدالة المضغوطة من الأعلى ويشير إلى تدرجات اللون كقيود للدالة: ثم يطبع النتائج ويعرض الحل كنقاط بيضاء في مسار البحث. حيث تمثل كل نقطة حلا يتم الحصول عليه من خلال تطبيق الخوارزمية.

Artificial neural networks are a modern and sophisticated methodology that has attracted the interest of many researchers in various fields, including engineering, information technology, medicine, statistics and operations research, and is gaining increasing importance due to its great flexibility compared to traditional methods, as well as its ability to learn and adapt to any model. Neural networks are usually trained using gradient-based and iteration methods to try to minimize the cost function, where the model adjusts its weight and slope, relying on the cost function and enhanced learning (supervised learning) to reach the convergence point (optimal value). This study took two aspects, the first is the study of linear neural networks, the simplest types of which are used in the study (linear regression, multiple linear regression, polynomial regression and logistic regression) using the method of iterative gradient descent and normal equation as an analytical approach to optimization or as an alternative to gradient descent in order to reduce the cost function, reaching the minimum convergence point. As for the other side of the study, it is how to improve and develop neural networks algorithms by making comparisons with each other and choosing the best ones in terms of speed in performance, low costs, the most accurate and the best results as we analyzed them and showed the strengths and weaknesses of each of them. Adam has been shown to train the model well because it depends on the power centers in the previous algorithms, his results were calculated using Python by applying four programs at once, where the first program shows a three-dimensional drawing of the objective function, the second program shows the shape of the compressed function from above and indicates color gradients as constraints of the function, then prints the results and displays the solution as white dots in the search path, where each point represents a solution obtained by applying the algorithm.

طلب نسخة من الملف

الملفات غير منشورة على الموقع. اترك بياناتك وسيتواصل معك موظفو قسم الشؤون الثقافية والفنون لإرسال النسخة مجاناً.

الاسم

رقم الهاتف

البريد الإلكتروني

الغرض من الطلب (اختياري)

إرسال الطلب