نمذجة اللغة العربية للتنبؤ بالكلمات التالية باستخدام التعلم العميق
Arabic Language Modeling to Predict Next Words Using Deep Learning
- الباحث
- مرتضى عدنان عبود
- المشرف
- سهاد مال الله كاظم
- الجامعة
- الجامعة التكنولوجية
- الكلية / القسم
- قسم علوم الحاسوب / علوم الحاسوب
- الشهادة
- ماجستير
- السنة
- 2024
- لغة الرسالة
- انكليزي
- الكلمات المفتاحية
- Arabic language modeling;Next word prediction;Deep learning;LSTM
الملخص
النمذجة اللغوية أو التنبؤ بالكلمات هو مجال فرعي مهم من معالجة اللغة الطبيعية (NLP) الذي يساعد في التنبؤ بالكلمة التالية في سلسلة؛ مما يعزز من كفاءة الكتابة ويقلل من الأخطاء الإملائية. نظرًا للاستخدام الواسع للأجهزة الرقمية في الاتصالات وغيرها من calgall فإن هذه التكنولوجيا ذات قيمة كبيرة. يُعَدَ التنبؤ بالكلمة التالية عملية معقدة، لأنها تتطلب استباق نية المستخدم، وتزداد هذه الصعوبة في اللغة العربية بسبب تعقيداتها المورفولوجية وتنوع لهجاتها. تتناول هذه الأطروحة الحاجة إلى أنظمة أكثر فعالية للتنبؤ بالكلمات Ay pall وهو موضوع ذو أهمية متزايدة في العصر الرقمي، من خلال تصميم وتطوير نظام متين يتناسب مع الخصائص الفريدة لهذه اللغة. يعتبر التعلم العميق، وهو عنصر أساسي في الذكاء الاصطناعي (81): محور هذا العمل. نستكشف العديد من الهياكل المعمارية للتعلم العميق، بما في ذلك الشبكات العصبية الالتفافية (CNNs) والشبكات العصبية التكرارية ،(RNNs) مع التركيز على شبكات الذاكرة طويلة وقصيرة الأمد (LSTM) والشبكات ثنائية الاتجاه (/81-1-511). تقترح هذه الأساليب ثلاثة نماذج: نموذج /811511،: نموذج هجين لا6131-/811511، ونموذج CNN-BILSTM يستفيد كل نموذج من مزايا CNNs، RNNs لتحسين فهم السياق وزيادة دقة التنبؤ. تم تقييم النماذج باستخدام de gene بيانات SANAD باستخدام مقاييس الدقة والدقة والاسترجاع ومؤشر 1]. حقق نموذج CNN-BILSTM دقة تصل إلى 6%97.39 بينما أظهر نموذج BILSTM-GRU دقة عالية بلغت 9096.53 واسترجاعًا بنسبة 992.46؟9. تشير هذه النتائج إلى أن نماذجنا الهجينة تقدم قدرات أفضل في التخصيص والتعميم مقارنة بالنماذج التقليدية. توضح هذه الأطروحة إمكانات تقنيات التعلم العميق المتقدمة لمعالجة تحديات التنبؤ بالكلمات العربية، مما يوفر حلا عمليًا وفعالًا في هذا المجال المتخصص.
Abstract
Word prediction, or language modeling, is a crucial subfield of Natural Language Processing (NLP) that aids in predicting the next word in a sequence, enhancing typing efficiency and reducing spelling errors. Given the extensive use of digital devices for communication and other tasks, this technology is precious. Predicting the next word is a complex task, as it requires anticipating user intent, and this challenge is heightened in Arabic due to its morphological complexity and diverse dialects. This thesis addresses the need for more effective systems for Arabic word prediction by designing and developing a better system tailored to this language's unique characteristics. Deep learning, a pivotal element of Artificial Intelligence, is fundamental to the work. This work examines diverse deep learning frameworks such as Convolutional Neural Networks (CNNs) and Recurrent Neural Networks (RNNs), with a particular emphasis on Long Short-Term Memory (LSTM) and Bidirectional LSTM (Bi-LSTM) architectures. Three models are introduced: a standalone Bi-LSTM model, a hybrid BiLSTM-GRU model, and a CNN- BiLSTM model. These models combine the capabilities of RNNs and CNNs to improve the accuracy of predictions and gain a more comprehensive understanding of contextual details. The models were evaluated using the SANAD dataset with accuracy, precision, recall, and F1-score evaluation metrics. The CNN-BiLSTM model achieved an accuracy of 97.39%, while the hybrid BiLSTM-GRU model achieved an accuracy of 96.66%. These results indicate that hybrid models provide better specificity and generalization capabilities than traditional models such as CNN, LSTM, GRU, and Bi-LSTM. This thesis demonstrates the potential of advanced deep learning techniques to address the challenges of Arabic word prediction, offering a practical and efficient solution in this specialized field.
طلب نسخة من الملف
الملفات غير منشورة على الموقع. اترك بياناتك وسيتواصل معك موظفو قسم الشؤون الثقافية والفنون لإرسال النسخة مجاناً.