- آخرین فایل ها
- پرفروشترین فایل ها
- پربازدیدترین فایل ها
مقدمه
شبکه های عصبی چند لایه پیش خور1 به طور وسیعی د ر زمینه های متنوعی از قبیل طبقه بندی الگوها، پردازش تصاویر، تقریب توابع و ... مورد استفاده قرار گرفته است.
الگوریتم یادگیری پس انتشار خطا2، یکی از رایج ترین الگوریتم ها جهت آموزش شبکه های عصبی چند لایه پیش خور می باشد. این الگوریتم، تقریبی از الگوریتم بیشترین تنزل3 می باشد و در چارچوب یادگیری عملکردی 4 قرار می گیرد.
عمومیت یافتن الگوریتمBP ، بخاطر سادگی و کاربردهای موفقیت آمیزش در حل مسائل فنی- مهندسی می باشد.
علیرغم، موفقیت های کلی الگوریتم BP در یادگیری شبکه های عصبی چند لایه پیش خور هنوز، چندین مشکل اصلی وجود دارد:
- الگوریتم پس انتشار خطا، ممکن است به نقاط مینیمم محلی در فضای پارامتر، همگرا شود. بنابراین زمانی که الگوریتم BP همگرا می شود، نمی توان مطمئن شد که به یک جواب بهینه رسیده باشیم.
- سرعت همگرایی الگوریتم BP، خیلی آهسته است.
از این گذشته، همگرایی الگوریتم BP، به انتخاب مقادیر اولیه وزنهای شبکه، بردارهای بایاس و پارامترها موجود در الگوریتم، مانند نرخ یادگیری، وابسته است.
در این گزارش، با هدف بهبود الگوریتم BP، تکنیک های مختلفی ارائه شده است. نتایج شبیه سازیهای انجام شده نیز نشان می دهد، الگوریتم های پیشنهادی نسبت به الگوریتم استاندارد BP، از سرعت همگرایی بالاتری برخوردار هستند.
خلاصه ای از الگوریتم BP
از قانون یادگیری پس انتشار خطا (BP)، برای آموزش شبکه های عصبی چند لایه پیش خور که عموماً شبکه های چند لایه پرسپترون 5 (MLP) هم نامیده می شود، استفاده می شود، استفاده می کنند. به عبارتی توپولوژی شبکه های MLP، با قانون یادگیری پس انتشار خطا تکمیل می شود. این قانون تقریبی از الگوریتم بیشترین نزول (S.D) است و در چارچوب یادگیری عملکردی قرار می گیرد.
بطور خلاصه، فرایند پس انتشار خطا از دو مسیر اصلی تشکیل می شود. مسیر رفت6 و مسیر برگشت 7 .
در مسیر رفت، یک الگوی آموزشی به شبکه اعمال می شود و تأثیرات آن از طریق لایه های میانی به لایه خروجی انتشار می یابد تا اینکه
_________________________________
1. Multi-Layer Feedforward Neural Networks
2. Back-Propagation Algorithm
3. Steepest Descent (S.D)
4. Performance Learning
5. Multi Layer Perceptron
6. Forward Path
7. Backward Path
نهایتاً خروجی واقعی شبکه MLP، به دست می آید. در این مسیر، پارامترهای شبکه (ماتریس های وزن و بردارهای بایاس)، ثابت و بدون تغییر در نظر گرفته می شوند.
در مسیر برگشت، برعکس مسیر رفت، پارامترهای شبکه MLP تغییر و تنظیم می گردند. این تنظیمات بر اساس قانون یادگیری اصلاح خطا1 انجام می گیرد. سیگنال خطا، رد لایه خروجی شبکه تشکیل می گردد. بردار خطا برابر با اختلاف بین پاسخ مطلوب و پاسخ واقعی شبکه می باشد. مقدار خطا، پس از محاسبه، در مسیر برگشت از لایه خروجی و از طریق لایه های شبکه به سمت پاسخ مطلوب حرکت کند.
در شبکه های MLP، هر نرون دارای یک تابع تحریک غیر خطی است که از ویژگی مشتق پذیری برخوردار است. در این حالت، ارتباط بین پارامترهای شبکه و سیگنال خطا، کاملاً پیچیده و و غیر خطی می باشد، بنابراین مشتقات جزئی نسبت به پارامترهای شبکه به راحتی قابل محاسبه نیستند. جهت محاسبه مشتقات از قانون زنجیره ای2 معمول در جبر استفاده می شود.
حجم:7005KB | بازدید :1291
فایل ورد قابل ویرایش توضیحی مختصر از متن فایل : مقدمه: اصولاً امروزه شهركهاي صنعتي بستر و شالوده رشد و ايجاد صنايع كوچك را فراهم مي كند. سازمان صنايع كوچك و شهركهاي صنعتي ايران هم به ايجاد روبناها مي پردازد و نواحي ، شهركها و مدلهاي مختلف توسعه اقتصادي نظير خوشه...
حجم:4886KB | بازدید :1618
فایل ورد قابل ویرایش توضیحی مختصر از متن فایل : طرح مقدماتی کارخانه تولید طناب نایلونی هر شرکت تولیدی از سه بخش کلی تشکیل شده است که بترتیب زیر میباشند. 1- بخش اداری 2- بخش حقوقی 3- بخش فنی و تخصصی و ما در این مجموعه به توضیح...
مقاله بررسی سیستم فروش در شرکت کارتن مشهد
حجم:4013KB | بازدید :1077
فایل ورد قابل ویرایش توضیحی مختصر از متن فایل : تاریخچه: شرکت کارتن مشهد(سهامی عام) در تاریخ 7/3/1363 تحت شمارة 3333 در ادارة ثبت شهرستان مشهد به ثبت رسید و در مرداد ماه سال 1368 بهرهبرداری آزمایشی و از ابتدای سال 1369 بهرهبرداری عملی از آن با ظرفیت 20.000 تن ورق و کارتن در...
حجم:3511KB | بازدید :2107
فایل ورد قابل ویرایش توضیحی مختصر از متن فایل : منابع و عوامل توليد بخش كشاورزي منابع اقتصادي روستاهاي ايران عمدتا شامل ؛ کشاورزي( زراعت، باغداري، دامداري ، شکار و صيد ) صنايع (دستي، روستايي، خانگي و کارگاهي) خدمات (عمومي، حمل و نقل و ...) ، دادوستد و پيله وري و...
حجم:2462KB | بازدید :1560
فایل ورد قابل ویرایش توضیحی مختصر از متن فایل : اقتصاد روستايي اقتصاد روستايي شاخه اي از اقتصاد است که با اقتصاد کشاورزي وابستگي متقابل دارد و در کليت ، خود جزئي از اقتصاد ملي است. هر گونه تغييري در اقتصاد ملي باعث تغيير در اقتصاد روستايي خواهد شد. اقتصاد روستايي با...
دانلود مقاله کامل الگوريتم هاي مسير يابي
حجم:2131KB | بازدید :1411
فایل ورد قابل ویرایش 142 صفحه توضیحی مختصر از متن فایل : مقدمه الگوريتمهاي مسيريابي در هريك از سه قرم گذشته فناوري خاصي رونق داشته باشد قرن هجدهم زمان توسعه سيستم هاي مكانيكي بزرگ به همراه انقلاب صنعتي بود. قرن نوزدهم عصر موتور بخار بود. قرن بيستم زمان جمع آو...
مقاله گرم کردن آب با نیروی خورشیدی
حجم:959KB | بازدید :1300
تقريباً همه ي ما در زندگي روزمره به آب گرم شده توسط انرژي خورشيدي بر خورده ايم. تا به حال چند بار شيلنگ آب را باز كرده ايد و با آب بسيار داغ درون آن مواجه شده ايد؟ خورشيد بدون توجه به تمـايل شـما آب درون شيـلنگ را گـرم مي كند. سيستم هاي گرمكن آب خورشيدي غير فعال از قديمي ترين و...