مقاله مروری: مطالعات تطبیقی تکنیک های یادگیری ماشین و کاربردهای اخیر آن

Survey Paper: Comparative Study of Machine Learning Techniques and its Recent Applications

چکیده

1. مقدمه

II. پیشینه

III. الگوریتم k-نزدیک ترین همسایگی ها

IV. نتیجه گیری

منابع

چکیده

     محوریت بنیادین تکامل بشریت، همواره جستجوی روش های تغییر طبیعت در راستای پاسخگویی به نیازهایمان بوده است. نقطۀ عطف اساسی در این زمینه، اختراع ماشینی تحت عنوان کامپیوتر است که قادر است وظیفه ای که به آن محول شده را در کسری از زمان به طول انجامیده توسط یک انسان معمولی، به انجام برساند. در عین حال که جالب به نظر می رسد، اما تنها ایراده وارده به این مسئله این است که تصمیم گیری، باید توسط انسانی صورت گیرد که در قیدوبند کالبد انسانی اش گرفتار است. تلاش های صورت گرفته در راستای بهره برداری کامل از منافع، منجر به بروز پدیده ای گشته است که هوش مصنوعی نامیده می شود. یادگیری ماشین بخشی از AI (هوش مصنوعی) به شمار می رود که از طریق نمونه های مرتبط متعدد به انتقال دانش به کامپیوتر می پردازد. در طی این سال ها، الگوریتم های یادگیری ماشین متنوعی همراه با مزایا و معایبشان توسعه داده شده اند. این مقاله، تلاش همه جانبه ای به منظور گرد آوری الگوریتم های ML مختلفی همچون رگرسیون ¬خطی، KNN(k-نزدیک ترین همسایگی) و مواردی از این قبیل می باشد. این مقاله، جدید ترین توسعه ها در این حوزۀ مطالعاتی را به چالش می کشد و درصدد تعریف بهترین کاربرد ها برای هریک از آنها مبتنی بر پژوهشات قبلی می باشد.

پیشینه
پیش از این، انواع الگوریتم یادگیری ماشین را مطرح نمودیم.[1] 1. یادگیری نظارت شده: این مدل وظیفه محور است و اهداف به خوبی تعریف شده اند. متغیر هدف موجود می باشد.
2. یادگیری نظارت نشده: این مدل داده محور است و نتیجه صرفاً مبتنی بر ورودی است. متغیر هدف یا متغیر وابسته موجود یا شناخته شده نمی باشد.
3. یادگیری تقویتی: مبتنی بر روش ابتکاری است، رویکرد برنامه نویسی پویا، از اشتباهات یاد می گیرد (بنابر رعایت قواعد بازی). وضعیت اولیه و وضعیت هدف تعریف شده اند.
4. یادگیری عمیق DL : (DL) مبتنی بر اصل ANN(شبکه های عصبی مصنوعی) و الهام گرفته از مفهوم بیولوژی سیستم عصبی می باشد. مدل‌های DL کارآمد هستند و عمدتاً به منظور دسته ‌بندی و پیش‌ بینی مورد استفاده قرار می گیرند.

الف. انواع یادگیری نظارت شده
آ. رگرسیون: مبتنی بر متغیر هدف پیوسته است، روش های به کار رفته برای وظیفۀ دسته بندی عبارتند از: رگرسیون خطی، رگرسیون درخت تصمیم، جنگل تصادفی، مدل KNN، ماشین ‌های بردار پشتیبان.
ب. دسته بندی: مبتنی بر متغیر هدف دسته بندی شده است. روش‌های مورد استفاده در وظیفۀ دسته‌بندی عبارتند از: رگرسیون لجستیک، نایو بیز(بیز ساده)، گرادیان کاهشی تصادفی، KNN(K-نزدیک‌ترین همسایگی)، SVM، درخت تصمیم، جنگل تصادفی.

i) رگرسیون خطی
رگرسیون خطی در زمرۀ متداول ترین تکنیک های آماری قرار دارد. این مدل رگرسیون، بر روی یک مجموعۀ داده به منظور تعیین همبستگی بین متغیرهای موردنظر و در راستای پیش‌بینی نتایج مبتنی بر رابطه به کار می رود. این مدل، بدین صورت بیان می شود:

بهبود حمله سرویس در شبکه حسگر بی سیم بر اساس یادگیری ماشین

Service Attack Improvement in Wireless Sensor Network Based on Machine Learning

چکیده
1- مقدمه
2. مطالعات مرتبط
3- روش پیشنهادی
3-1- حمله برخورد
3-2- حمله ناعادلانه
3-3- حمله خسته کننده
3-4- رویکرد مبتنی بر NN
4- نتیجه و بحث
4-1- امنیت در برابر حمله DoS با استفاده از SVM
4-2- تحلیل عملکرد
5- نتیجه گیری
منابع

چکیده

تعدد سنسورها در یک شبکه حسگر بی سیم (W.S.N.) یک گره شاخص فیزیکی است که امکان تعامل گره های حسگر تشخیصی را فراهم می کند. امنیت شبکه های حسگر بی سیم در بسیاری از کاربردهای عملی، یک مسئله اساسی است. هدف ما راه‌اندازی عدم پذیرش حملات سرویس و پاسخگویی به شبکه های حسگر بی سیم برای افزایش امنیت با شناسایی دشمن است. انواع متفاوت لایه های مختلف در وقوع WSN. این دو نوع تکنیک یادگیری ماشین ، شبکه عصبی (NN)، ماشین بردار پشتیبان (SVM)، حملات لایه کنترل دسترسی به رسانه (MAC) را تشخیص می دهند. باید این دو روش را مقایسه کنم. این شبکه یک گره حسگر بی سیم کانال دسترسی، MAC دارد. لایه محافظ ضروری است. از احتمال سناریو WSN، شبیه ساز شبکه بی سیم ، شبیه‌سازی خطای شخم Vanderbilt، استفاده کنید.

1- مقدمه

سنسور یک وسیله فیزیکی یا مجموعه ای از داده ها در مورد عملکردی است که اتفاق افتاده است و بیشتر سنسورها را برای جمع آوری اطلاعات از راه دور به یک ایستگاه آماده اعزام می کتند. وقتی این حسگرها به وفور برای مشاهده آب و هوای فیزیکی ساخته شده باشند ، ساختار W.S.N را تشکیل می دهند. شبکه های حسگر از راه دور در مورد مجموعه گسترده ای از مسائل امنیتی صحبت می کنند که باید مورد استفاده قرار گیرند. باید یکی از مشکلات را در نظر بگیریم. به عنوان مثال ، انرژی مهم‌ترین مسئله مربوط به W.S.N است. سنسور هاب‌های W.S.N توسط باتری یا نیروی خورشیدی کار می‌کنند. این سنسورها در تجهیزات ذخیره اطلاعات، نیروی پردازش و شرایط سرعت انتقال مکاتبات محدود شده اند.

5- نتیجه گیری

از هر دو روش یادگیری ماشین شبکه عصبی و SVM برای شناسایی حملات DoS استفاده می شود. این موارد تنها مثال هایی بدون برنامه ریزی مجدد هستند.آنها مبتنی بر یادگیری نظارت شده هستند. استفاده از این روش های، گره های بد می تواند طول عمر شبکه را برای صرفه جویی در نیرو طولانی کند. NN یک سیستم موازی توزیع شده است، یک برنامه خطی که می تواند این مشکل را حل کند حل نمی شود. روش آموزش SVM مبتنی بر هسته برای پیدا کردن حداقل جهانی به کار می رود. یک تحلیل اجرا بین این 2 تکنیک را می توان یافت، حملات SVM DoS را می توان با دقت 97% جستجو کرد، در حالی که N.N در صورتی که SVM دقیق تر از NN باشد ممکن است به 91% برسد. آن بیش از N.N زمان می برد، روش مبتنی بر SVM بیشتر شبیه N.N است تا جستجوی حملات DoS.

Abstract

A plurality of sensors in a wireless sensor network (W.S.N.) is a physical parameter node that allows detection sensor nodes to interact. Security is an essential issue in wireless sensor networks of many practical applications. Our goal is to launch denial of service attacks and respond to wireless sensor networks to enhance security by detecting the enemy. Different kinds of different layers in the occurrence WSN. These two types of machine learning techniques, neural network (NN), detect a Support Vector Machine (SVM), a media access control (MAC.) layer attacks. I have to compare the two methods. It has an access channel wireless sensor node, MAC. Protective layer is essential. Use scenario probability WSN. Wireless network simulator, Vanderbilt plow error simulation.

1. Introduction

A sensor is a physical article or an assortment of data about a function that happened, sending most sensors for gathering the information remotely to a preparing station. When these sensors are hugely composed of observing the physical climate, they structure a W.S.N. Remote sensor networks speak to a wide assortment of security issues that must be tended. We should consider one of a kind of difficulties. For instance, energy is the primary consideration related to W.S.N. W.S.N. Hubs sensor by a battery or sun oriented force. These are restricted in the information stockpiling asset, processing force and correspondence transfer speed terms.

5. Conclusion

Both SVM and neural network machine learning techniques are used to detect DoS attacks. These are just examples, without re-programming. They are based on supervised learning. Using these methods, malicious nodes can prolong the life of the network to save power. NN. is a distributed parallel systems; a linear program can solve the problem can not be solved. SVM training method using kernel-based to find the global minimum. An analysis of the performance between the two techniques can be found SVM DoS attacks can be detected, accuracy 97%, while the N.N. may reach 91% if SVM is more accurate than NN. It will take a longer time than N.N.; the SVM-based method is more like N.N. Rather than detecting DoS attacks.

تصویری از مقاله ترجمه و تایپ شده در نرم افزار ورد

بهبود حمله سرویس در شبکه حسگر بی سیم بر اساس یادگیری ماشین

Service Attack Improvement in Wireless Sensor Network Based on Machine Learning

سیستم شاخص ارزیابی جهت برآورد سرمایه فکری مبتنی بر یادگیری ماشین

An evaluation index system for intellectual capital evaluation based on machine learning

چکیده

1. مقدمه

2. روش شناسی

2.1 طراحی سیستم شاخص ارزیابی

2.2 پیش پردازش داده ها

2.3 طبقه بندی RF

3. نتیجه گیری

منابع

چکیده

در حال حاضر هنوز یک سیستم شاخص ارزیابی کامل سرمایه فکری در میان شرکت ها وجود ندارد. فقدان چنین سیستمی مانع از تبدیل ملایم سرمایه به ارزش شرکت می شود. بنابراین، این مقاله تلاش می کند تا یک سیستم شاخص ارزیابی موثر و عینی برای سرمایه فکری ایجاد کند. اولا داده های مربوط به سرمایه فکری برخی شرکت ها، از بازار سرمایه گذاری رشد (‏GEM) جمع آوری شد. سپس داده های اصلی در ۱۷۷۰ بخش موثر داده پیش پردازش شدند. بر این اساس، ۱۳ شاخص از سه بعد سرمایه فکری (‏به عنوان مثال سرمایه انسانی، سرمایه ساختاری و سرمایه ارتباطی) ‏انتخاب شدند و یک سیستم شاخص ارزیابی را تشکیل دادند. پس از آن، سیستم شاخص ارزیابی با دو الگوریتم یادگیری ماشینی (‏ML)‏، یعنی روش جنگل تصادفی (‏RF)‏ و ماشین بردار پشتیبان (‏SVM) ‏تایید شد. نتایج نشان می دهد که سیستم شاخص ارزیابی ما می تواند طبقه بندی سرمایه فکری شرکت ها را بهینه کند و از نقص های ذهنی در ارزیابی کیفی جلوگیری نماید. نتایج این تحقیق شفافیت جدیدی را در تصمیم گیری و مدیریت علمی شرکت ها ایجاد می کند.

1. مقدمه

سرمایه فکری مانند حق ثبت اختراع، شرکت های دانش بنیان را قادر می سازد تا رقابتی باقی بمانند و آن ها را تشویق می کند تا نوآوری را دنبال کنند و در نتیجه ارزش آفرینی چنین شرکت هایی را ارتقا دهند [‏1]‏. علاوه بر این، سرمایه فکری پایه و اساس شرکت ها برای تدوین استراتژی های موثر در برابر شرایط اضطراری است. به عنوان مثال سرمایه رابطه ای و سرمایه ساختاری، دو بعد مهم سرمایه فکری هستند که می توانند برای کاهش ریسک های ناشی از تغییرات غیرقابل پیش بینی محیط و پاسخ به امور تجاری پیچیده و تصادفی مورد استفاده قرار گیرند. علاوه بر این، رقابت بین شرکت ها اساسا رقابت استعدادها است. یک شرکت برای باقی ماندن در رقابت باید از سرمایه انسانی، یک محرک فعال سرمایه فکری و ترکیب موثر سرمایه، مدیریت و نوآوری استفاده کند.

Abstract

Currently, there is not yet a mature evaluation index system of intellectual capital among enterprises. The lack of such a system hinders the smooth transform of capital to enterprise value. Therefore, this paper attempts to set up an effective and objective evaluation index system for intellectual capital. First, the data on intellectual capital were collected from some enterprises from the Growth Enterprise Market (GEM). Next, the original data were preprocessed into 1770 effective pieces of data. On this basis, 13 indices were selected from three dimensions (e.g. human capital, structural capital, and relationship capital) of intellectual capital, forming an evaluation index system. After that, the evaluation index system was verified with two machine learning (ML) algorithms, namely, random forest (RF), and support vector machine (SVM). The results show that our evaluation index system can optimize the intellectual capital classification of enterprises, avoiding the subjective defects in qualitative evaluation. The research results shed important new light on the decision-making and scientific management of enterprises.

1. Introduction

Intellectual capital, such as patents, enables knowledge-based enterprises to remain competitive and encourages them to pursue innovation, thereby promoting the value creation of such enterprises [1]. Besides, intellectual capital is the basis for enterprises to formulate effective strategies against emergencies. For example, relational capital and structural capital, two important dimensions of intellectual capital, can be utilized to mitigate the risks arising from the unpredictable changes of the environment, and to respond to the complex and stochastic business affairs. Moreover, the competition between enterprises is essentially the competition of talents. To remain competitive, an enterprise must fully leverage human capital, an active driver of intellectual capital, and effectively combine capital, management, and innovation.

تصویری از مقاله ترجمه و تایپ شده در نرم افزار ورد

سیستم شاخص ارزیابی جهت برآورد سرمایه فکری مبتنی بر یادگیری ماشین

An evaluation index system for intellectual capital evaluation based on machine learning

مدل های یادگیری ماشینی خاص بیمار برای طبقه بندی سیگنال الکتروکاردیوگرام (ECG)

Patient Specific Machine Learning Models for ECG Signal Classification

خلاصه

1 مقدمه

2 کارهای مرتبط

3 مواد و روش ها

4 نتایج آزمایش

5 نتیجه گیری

منابع

چکیده

     آریتمی یکی از عمده ترین دلایل مرگ در سراسر جهان است. تقریبا 17.9 میلیون مرگ و میر،  ناشی از بیماریهای قلبی عروقی است. به منظور کاهش این میزان مرگ و میر ، بیماریهای قلبی عروقی باید به درستی شناسایی شود و درمان مناسب باید فورا به بیماران ارائه شود . در این مطالعه ، یک طبقه بندی جدید ماشین بردار پشتیبانی مبتنی بر گروه (SVM) برای طبقه بندی ضربان قلب به چهار کلاس از بانک اطلاعاتی آریتمی MIT-BIH پیشنهاد شده است. نتایج با دیگر طبقه بندی کننده هایی که SVM بودند ، الگوریتم جنگل تصادفی  (RF) ، الگوریتم K-نزدیکترین همسایه (KNN) و الگوریتم حافظه کوتاه مدت ماندگار ، مقایسه شد. چهار ویژگی که از سیگنالهای ECG که توسط طبقه بندیگرها استفاده شده ،  استخراج شده است ، موجک ها  ، آمار های مرتبه بالا ، فواصل R-R و خصوصیات مورفولوژیکی است. گروهی از SVM ها با دقت کلی 94.4٪ بهترین نتیجه را کسب کردند.

2- کارهای مرتبط
     بسیاری از محققان با به کارگیری ویژگی های استخراج مختلف سیگنال های ECG و روش های طبقه بندی گوناگون، از کاربرد پیش از این طبقه بندی خودکار آریتمی خبر دادند. برای تشخیص مؤثر موارد غیرطبیعی و پرداختن به مشکلات مختلفی که به دلیل آنالیز دستی سیگنال های ECG بوجود می آید، در چندین پژوهش استفاده از طیف گسترده ای از تکنیک های یادگیری ماشینی و یادگیری عمیق بررسی شد[9-10]. اصولا، طبقه بندی سیگنال ECG شامل چهار مرحله به نام پیش پردازش، دسته بندی، استخراج ویژگی ها و طبقه بندی می باشد. وظیفه اصلی کار پیش پردازش، آماده سازی سیگنال ها یعنی شناسایی و کاهش ضربان مصنوعات مربوط به سیگنال های ECG است. همچنین این مرحله شامل تقویت و نرمال سازی است. پس از پیش پردازش، دسته بندی انجام می شود، که در آن سیگنال برای بهبود حالت فعالیت های الکتریکی و عضلانی قلب به بخش های کوچک تقسیم می شود[11]. از مهم ترین و آخرین مراحل در تشخیص ضربان قلب که در تحقیقات پیشین بررسی شد، طبقه بندی و استخراج ویژگی ها است. می توان نقاط اوج را مستقیماً از مورفولوژی سیگنالهای ECG (تکنیک های زمان مساحت) یا در نتیجه تغییرات استخراج کرد. فواصل R-R، دامنه نوسان و مدت زمان کمپلکس QRS نقاط اوجی است که در بعضی از نوشتارها توجه بیشتری به آن شده است [12-14]. در هر صورت، این نقاط اوج به مورفولوژی و عناصر ECG حساس است. در این مرحله، تغیبر شکل، نشان دهنده جواب است. دیدگاه ترجیحی در مورد استخراج مولفه این است که از شمار ضربان موج برای پالس ها جلوگیری شود.

      طبق طبقه بندی های ECG، استفاده از هر طبقه بندی کننده چند طبقه ای می تواند برای طبقه بندی ECG انجام شود. نزدیکترین همسایگان K (KNN)، ماشین بردار پشتیبانی (SVM)، درخت تصمیم گیری (DT) [15] و شبکه عصبی مصنوعی (ANN) از جمله طبقه بندی کننده های مطرح است. از بین اینها، رایج ترین آن SVM است. با تلفیقی از SVM و استخراج ویژگی ها به وسیله 2 روش پیش پردازش، اسوسکی و همکاران روش جدیدی ارائه کردند [16] که پس از بررسی نتایج 13 نوع ریتم قلبی، قابلیت اتکا و سودمندی آن اثبات شد. محمدزاده و همکاران به منظور طبقه بندی آریتمی قلبی با سیگنال HRV، از روش GDA و SVM استفاده کردند[17]. SVM سلسله مراتبی [18] ، ترکیب SVM با بهینه سازی ازدحام ذره (PSO) [19] ، SVM وزنی [20] و حداقل مربعات SVM [21] برخی از تغییرات مختلفی هستند که در طبقه بندی سیگنال های ECG به کار رفته است. در میان برخی از طبقه بندی کننده هایی که همراه با ANN هستند، شبکه عصبی احتمالی (PNN) و پرسپترون چند لایه ای (MLP) بسیار رایج هستند. دررابطه با مجموعه ویژگی های مختلف، لوز و همکاران MLP را با دیگر طبقه بندی کننده ها مقایسه کردند [11]. برای استخراج ویژگی های مختلف توسط PCA چند مقیاسی، آلکویچ و سوباسی از سیگنال های حذف نویز، مدل سازی اتورگرسیو استفاده کردند [22].

مپینگ حساسیت به خشکسالی با دو الگوریتم SVM یک کلاسی

Drought sensitivity mapping using two one-class support vector machine algorithms

• برای دانلود رایگان مقاله انگلیسی با فرمت pdf بر روی عنوان انگلیسی مقاله کلیک نمایید.
• برای خرید و دانلود ترجمه فارسی آماده با فرمت ورد، روی عنوان فارسی مقاله کلیک کنید.

تصویری از مقاله ترجمه و تایپ شده در نرم افزار ورد

مپینگ حساسیت به خشکسالی با دو الگوریتم SVM یک کلاسی

Drought sensitivity mapping using two one-class support vector machine algorithms

• برای دانلود رایگان مقاله انگلیسی با فرمت pdf بر روی عنوان انگلیسی مقاله کلیک نمایید.
• برای خرید و دانلود ترجمه فارسی آماده با فرمت ورد، روی عنوان فارسی مقاله کلیک کنید.

طبقه بندی داده های بزرگ با طبقه بندی کننده های ماشین بردار پشتیبان با الگوریتم اصلاح شده PSO و مجموعه های ماشین بردار پشتیبان

Big Data Classification Using the SVM Classifiers with the Modified Particle Swarm Optimization and the SVM Ensembles

چکیده

1- مقدمه

2- دسته‌بندی‌کننده ماشین بردار پشتیبان

3- الگوریتم اصلاح شده بهینه‌سازی ازدحام ذرات

4- مجموعه ماشین بردار پشتیبان

5- دسته‌بندی‌کننده دوسطحی ماشین بردار پشتیبان

6- مطالعات آزمایشی

چکیده

مسئله طراحی دسته‌بندی‌کننده‌های ماشین بردار پشتیبان (SVM) با استفاده از الگوریتم اصلاح‌شده بهینه‌سازی ازدحام ذرات (PSO) و مجموعه‌های آن‌ها در این مطالعه مورد بررسی قرار گرفته است. حل این مسئله امکان اجرای دسته‌بندی داده‌ها با دقت بالا به خصوص دسته‌بندی داده‌های بزرگ (Big Data) را با صرف زمان قابل‌قبول فراهم می‌سازد. الگوریتم اصلاح‌شده PSO به جستجوی همزمان نوع توابع هسته، پارامترهای تابع هسته و ارزش پارامتر تنظیم‌ در دسته‌بندی‌کننده SVM می‌پردازد. طرح بازتولید ذرات به عنوان مبنای الگوریتم اصلاح‌شده PSO عمل نموده است. در پیاده‌سازی این الگوریتم، برخی ذرات، نوع تابع هسته خود را به تابعی که با ببشترین دقت دسته‌بندی با ذره مطابقت می‌کند، تغییر می‌دهند. الگوریتم ارائه‌شده PSO امکان کاهش مدت زمان صرف‌شده برای دسته‌بندی‌کننده‌های طراحی‌شده SVM که برای مسئله دسته‌بندی داده‌های بزرگ بسیار مهم است، فراهم می‌سازد. در اکثر موارد، این‌گونه دسته‌بندی‌کننده SVM کیفیت بالایی از دسته‌بندی‌ داده‌ها را ارائه می‌دهد. در موارد استثنایی می‌توان از مجموعه‌های SVM مبتنی بر الگوریتم بیشینه‌سازی غیرهمبستگی برای راهبردهای مختلف تصمیم‌گیری در مورد دسته‌بندی داده‌ها و قاعده رأی اکثریت استفاده کرد. علاوه بر این، دسته‌بندی‌کننده دوسطحی SVM نیز ارائه شده است. این‌نوع دسته‌بندی‌کننده به عنوان گروه دسته‌بندی‌‌کننده‌های SVM در سطح اول و به عنوان دسته‌بندی‌کننده SVM بر مبنای الگوریتم اصلاح‌شده PSO در سطح دوم عمل می‌کند. نتایج مطالعات آزمایشگاهی بر اثربخشی روش‌های ارائه‌شده جهت دسته‌بندی داده‌های بزرگ مهر تأیید می‌زند.

8- نتیجه‌گیری

کارآمدی روش‌های ارائه شده با توجه به نتایج آزمایشی مورد تأیید قرار گرفته است. دسته‌بندی کننده‌های SVM بر مبنای الگوریتم اصلاح شده PSO امکان دسته‌بندی داده‌ها را با دقت دسته‌بندی بالا فراهم ‌می‌سازند. علاوه بر این، الگوریتم اصلاح شده PSO امکان انتخاب بهترین نوع تابع هسته، مقادیر پارامترهای تابع هسته و مقدار پارامتر منظم‌سازی با صرف زمان مناسب را میسر می‌سازد که هنگام استفاده از الگوریتم قدیمی PSO بسیار کمتر می‌شود. ویژگی اصلی الگوریتم اصلاح شده PSO، استفاده از بازسازی ذرات است. مجموعه‌های SVM مبتنی بر الگوریتم بیشینه‌سازی رفع همبستگی در رابطه با استراتژی‌های متفاوت تصمیم‌گیری درباره دسته‌بندی داده‌ها و قاعده رأی اکثریت امکان کاهش تصمیم دسته‌بندی تصادفی بدست آمده بوسیله یک دسته‌بندی‌کننده را فراهم می آورند و به بهبود دقت دسته‌بندی نیز کمک می‌کنند. نقاط ضعف برخی دسته‌بندی‌کننده‌ها با نقاط قوت دسته‌بندی‌کننده‌های دیگر به واسطه ترکیب نتایج آن‌ها جبران می‌شود. دسته‌بندی‌کننده‌ها بین تصادف نتایج با یکدیگر تعادل برقرار کرده و معقول‌ترین تصمیم دسته‌بندی خروجی را پیدا می‌کنند. این امر امکان یافتن بهترین نتیجه دسته‌بندی با کمترین خطای دسته‌بندی را فراهم می‌نماید.

Abstract

The problem with development of the support vector machine (SVM) classifiers using modified particle swarm optimization (PSO) algorithm and their ensembles has been considered. Solving this problem would allow fulfilling the highprecision data classification, especially Big Data classification, with the acceptable time expenditures. The modified PSO algorithm conducts a simultaneous search of the type of kernel functions, the parameters of the kernel function and the value of the regularization parameter for the SVM classifier. The idea of particles’ «regeneration» served as the basis for the modified PSO algorithm. In the implementation of this algorithm, some particles change the type of their kernel function to the one which corresponds to the particle with the best value of the classification accuracy. The offered PSO algorithm allows reducing the time expenditures for the developed SVM classifiers, which is very important for Big Data classification problem. In most cases such SVM classifier provides the high quality of data classification. In exceptional cases the SVM ensembles based on the decorrelation maximization algorithm for the different strategies of the decision-making on the data classification and the majority vote rule can be used. Also, the two-level SVM classifier has been offered. This classifier works as the group of the SVM classifiers at the first level and as the SVM classifier on the base of the modified PSO algorithm at the second level. The results of experimental studies confirm the efficiency of the offered approaches for Big Data classification.

VII- CONCLUSION

The efficiency of the suggested approaches has been confirmed by the results of experimental studies. The SVM classifiers on the base of the modified PSO algorithm allow classifying data with the high classification accuracy. The modified PSO algorithm allows choosing the best kernel function type, values of the kernel function parameters and value of the regularization parameter within appropriate time expenditures, which turned out to be significantly less than when using the traditional PSO algorithm. The main feature of the modified PSO algorithm is using the «regeneration» of the particles. The SVM ensembles based on the decorrelation maximization algorithm for the different strategies of the decision-making on the data classification and the majority vote rule allow reducing the accident classification decision received by one classifier, and help to improve the classification accuracy. The shortcomings of some classifiers are compensated by strengths of others classifiers thanks to combination of their results. Classifiers counterbalance the results’ accident of each other, finding the most plausible output classification decision. It allows finding the best classification result with minimum classification error.

تصویری از مقاله ترجمه و تایپ شده در نرم افزار ورد

طبقه بندی داده های بزرگ با طبقه بندی کننده های ماشین بردار پشتیبان با الگوریتم اصلاح شده PSO و مجموعه های ماشین بردار پشتیبان

Big Data Classification Using the SVM Classifiers with the Modified Particle Swarm Optimization and the SVM Ensembles

کاربرد روش ماشین بردار پشتیبان موازی پیشرفته بر اساس هستی شناسی در تعلیم فیلتر کردن مقیاس پذیر اسپم

DAn ontology enhanced parallel SVM for scalable spam filter training

چکیده
1- مقدمه
2- کارهای مرتبط
3- موازی سازی SVM با نگاشت کاهش
4- تقویت هستی شناسی
5- نتایج تجربی
5-1- راندمان روش SMO موازی
5-2- مقایسه با یک SMO مبتنی بر MPI
5-3- دقت روش SMO موازی
5-4- ارزیابی روش SMO موازی با استفاده از روش های گروهی
5-5- تقویت هستی شناسی
6- نتیجه گیری ها و کار آتی
منابع

چکیده

هرزنامه در هر نوع و شکلی همچنان به طور فزاینده به آسیب رسانی خود ادامه می دهد. روش های مختلفی از جمله تکنیک های ماشین بردار پشتیبان (SVM) برای آموزش فیلترینگ هرزنامه و طبقه بندی آن ها پیشنهاد داده شده است. با این حال، آموزش SVM یک فرآیند به شدت محاسباتی است. با این حال، آموزش SVM یک فرآیند به شدت محاسباتی است. این مقاله یک الگوریتم SVM موازی مبتنی بر نگاشت کاهش را برای آموزش فیلتر مقیاس پذیر هرزنامه ارائه می کند. با توزیع، پردازش و بهینه سازی زیرمجموعه های داده های آموزش در بین چندین نود رایانه ای مشارکت کننده، روش SVM موازی زمان آموزش را به طور قابل توجهی کاهش می دهد. مفاهیم هستی شناسی برای به حداقل رساندن تاثیر افت دقت در حین توزیع داده های مورش در بین برخی از طبقه بندی کننده های SVM به کار گرفته می شوند. نتایج تجربی (آزمایشی) نشان می دهند که تقویت مبتنی بر هسته شناسی سبب بهبود سطح دقت تکنیک SVM موازی فراتز ار تکنیک ترتیبی اصلی می شود.

6- نتیجه گیری ها و کار آتی

در این مقاله الگوریتم SVM موازی مبتنی بر نگاشت کاهش برای آموزش سریع فیلترینگ هرزنامه ارائه شده است. با توزیع مجموعه داده ها به تعدادی از نودهای رایانشی، SVM موازی زمان آموزش را به طور قابل توجهی کاهش می دهد. به منظور کاهش افت دقت در طبقه بندی، روش SVM موازی به همراه مفاهیم هستی شناختی تقویت شده است. فرصت های متعددی برای بهبود بیشتر روش SVM موازی وجود دارد. ما قصد داریم تا درباره روش های مناسب در ارتباط با نحوه استخراج خودکار اطلاعات اضافی از نمونه های حاشیه ای و به کار گرفتن این حلقه پسخورد به فرآیند یادگیری ماشین را در SVM موازی تحقیق کنیم. در حال حاضر، روش حلقه پسخورد مبتنی بر هسته شناسی بیشتر بر مبنای تخصص انسانی و سرمایه گذاری متکی است تا بتواند زمینه های پنهانی را شناسایی کند که سبب کاهش مساله انتشار مفهوم می شود. ما قصد داریم تا درباره تکنیک های مرتبط با شناسایی خودکار انتشار مفهوم در طبقه بندی مشابه با کار ارائه شده در [42] تحقیق کنیم.

Abstract

Spam, under a variety of shapes and forms, continues to inflict increased damage. Varying approaches including Support Vector Machine (SVM) techniques have been proposed for spam filter training and classification. However, SVM training is a computationally intensive process. This paper presents a MapReduce based parallel SVM algorithm for scalable spam filter training. By distributing, processing and optimizing the subsets of the training data across multiple participating computer nodes, the parallel SVM reduces the training time significantly. Ontology semantics are employed to minimize the impact of accuracy degradation when distributing the training data among a number of SVM classifiers. Experimental results show that ontology based augmentation improves the accuracy level of the parallel SVM beyond the original sequential counterpart.

6- Conclusions

and future work In this paper we have presented a MapReduce based parallel SVM algorithm for fast spam filter training. By distributing the data set into a number of computing nodes, the parallel SVM reduces the training time considerably. To mitigate accuracy degradation in classification, the parallel SVM is augmented with ontology semantics. There is ample room for further improvement to the parallel SVM. We intend to research appropriate schemes on how to automatically extract additional intelligence from annotated instances and employ this with the feedback loop to the machine learning process within the parallel SVM. Currently, the ontology based feedback loop approach is mostly based and capitalizes on human expertise to identify hidden context which mitigates the problem of concept drift. We intend to research relevant techniques to automatically identify concept drift in classification similar to the work presented in [42].

تصویری از مقاله ترجمه و تایپ شده در نرم افزار ورد

کاربرد روش ماشین بردار پشتیبان موازی پیشرفته بر اساس هستی شناسی در تعلیم فیلتر کردن مقیاس پذیر اسپم

DAn ontology enhanced parallel SVM for scalable spam filter training

شناسایی آریتمی به کمک الکتروکاردیوگرام 2 لید با استفاده از شبکه عصبی مصنوعی و ماشین بردار پشتیبان برای یک دستگاه مانیتور ECG دستی

Arrhythmia Identification with Two-Lead Electrocardiograms Using Artificial Neural Networks and Support Vector Machines for a Portable ECG Monitor System

Abstract

An automatic configuration that can detect the position of R-waves, classify the normal sinus rhythm (NSR) and other four arrhythmic types from the continuous ECG signals obtained from the MIT-BIH arrhythmia database is proposed. In this configuration, a support vector machine (SVM) was used to detect and mark the ECG heartbeats with raw signals and differential signals of a lead ECG. An algorithm based on the extracted markers segments waveforms of Lead II and V1 of the ECG as the pattern classification features. A self-constructing neural fuzzy inference network (SoNFIN) was used to classify NSR and four arrhythmia types, including premature ventricular contraction (PVC), premature atrium contraction (PAC), left bundle branch block (LBBB), and right bundle branch block (RBBB). In a real scenario, the classification results show the accuracy achieved is 96.4%. This performance is suitable for a portable ECG monitor system for home care purposes.

1 Introduction

Telemedicine has been widely studied recently. In past research, allowing congestive heart failure patients to monitor their condition at home offered great economic advantages. Electrocardiograms (ECGs) are an important tool that provide useful information about the functional status of the heart. An automated method that accurately diagnoses cardiac diseases through the analysis of ECG signals is critical in healthcare [1], especially for real-time processing. Past research has addressed the problems of heart rate detection and classification of cardiac rhythms. The heart rate signal detects the QRS wave of the ECG and calculates inter-beat intervals [2–9]. The classification of cardiac rhythms is based on the detection of the different types of arrhythmia from the ECG waveforms [10–13].

However, ECG signals have coupling noises, due to factors such as 50/60 Hz power line signals, the baseline drift caused by patient breathing, bad electrodes, improper electrode location, or electromyograms. These noises result in false QRS wave detections. Thus, some studies have compared the robust performance of different algorithms for QRS wave detection [2]. Widrow et al. applied the adaptive filter to reduce noises that resulted from 60 Hz power lines and baseline drift, and then detect the QRS wave [14]. Pan and Tompkins designed a digital filter to reduce the noise and used a dynamic threshold to detect the QRS wave [4]. Trahanias used the mathematical morphology of the QRS complex to detect heart rates [5]. Chang used the ensemble empirical model decomposition to reduce noises in arrhythmia ECGs [15]. Fan used approximate entropy (ApEn) and Lempel-Ziv complexity as a nonlinear quantification to measure the depth of anaesthesia [16]. In these studies, the normal sinus ECG signal added different noise types and energy was used to evaluate the performance of these algorithms. Several researchers have extracted the features of ECG waveforms to detect the QRS complexes based on the arrhythmia database. Li et al. proposed the wavelet transforms method for detecting the QRS complex from high P or T waves, noise, and baseline drift [6]. Yeh and Wang proposed the difference operation method to detect the QRS complex waves [8]. Mehta and Lingayat used the support vector machine (SVM) method to detect the QRS complexes from a 12-leads ECG [9]. They also used the K-mean algorithm for the detection of QRS complexes in ECG signals [17].

Arrhythmia can be defined as either an irregular single heartbeat or a group of heartbeats. Some classification techniques are based on the ECG beat-by-beat classification with each beat being classified into several different arrhythmic beat types. These include artificial neural networks [11], fuzzy neural networks [18], Hermite functions combined with self-organizing maps [19], and wavelet analysis combined with radial basis function neural networks [20]. In these methods, the ECG waveform of each beat was picked up manually and different features were extracted to classify the arrhythmic types. Tsipouras et al. used the RR-interval signal to classify certain types of arrhythmia based on a group of heartbeats [12]. All the above methods have high classification accuracies that were obtained based on the complete morphology of the ECG or the correct RR-interval that was detected manually.

In this study, we propose an automatic configuration integrating digital signal processing and an artificial intelligence method to detect the position of heartbeats and recognize these heartbeats as belonging to the normal sinus rhythm (NSR) or four arrhythmic types. The four arrhythmic types are premature ventricular contraction (PVC), premature atrium contraction (PAC), left bundle branch block (LBBB), and right bundle branch block (RBBB). ECG signals are provided by the MIT-BIH Arrhythmia Database [21]. This automatic configuration had three steps, as follows:

1. The Lead II signals were normalized and filtered to reduce the coupled noise (Section 2.2).

2. The positions of QRS-complexes in Lead II were detected and marked via a well-trained SVM. Two waveforms of each heartbeat in Lead II and V1 were individually extracted according the markers in Lead II (Section 2.3).

3. The extracted waveform was used as a feature to recognize the arrhythmic type of a heartbeat. In this configuration, a self-constructing neural fuzzy inference network (SoNFIN) was used to recognize the arrhythmic type of the heartbeat using the raw Lead II and V1 signals (Section 2.4).

Moreover, the heartbeat detection accuracy has been increased by the SoNFIN classification results.

الگوریتم PSO-SVM تازه نیمه پیوسته موازی مشارکتی : مطالعه ای مبنی بر شناسایی آپنه خواب

A Novel Partially Connected Cooperative Parallel PSO-SVM Algorithm: Study Based on Sleep Apnea Detection

چکیده

1- مقدمه

2- اطلاعات فنی پیش نیاز

الف ) ماشین بردار پشتیبان

ب) بهینه سازی ازدحام ذرات (PSO)

ج) PSO موازی

3- روش و خط مشی مورد استفاده

الف ) تقسیم بندی سیگنال

ب) استخراج ویژگی

ج) الگوریتم PSO-SVM موازی

ارائه ی ذرات

مقدار دهی اولیه

ارزیابی ذرات

ساختار موازی

4- نتایج و مباحث

5- جمع بندی

منابع

چکیده

مشکلات خواب در میان عموم مردم، مشکل رایجی می باشد. این مشکلات از میان هر 5 نفر، 1 نفر را درگیر خودشان می کنند و عوارض جانبی کوتاه مدت و بلند مدت بر روی سلامتی انسان دارند. آپنه در زمان خواب (SA) رایج ترین و مهم ترین بخش از مشکلات خواب را شکل می دهد. این مقاله یک روش خودکار برای شناسایی رخداد های آپنه ارائه می دهد و به این منظور از چند سیگنال زیستی محدود استفاده می کند که مرتبط با مشکلات تنفسی می باشد. این کار تنها از جریان هوا، حرکات تنفسی شکمی و سینه ای به عنوان ورودی استفاده می کند. الگوریتم پیشنهاد شده شامل سه بخش اصلی می باشد که این بخش ها شامل تقسیم بندی سیگنال، تولید ویژگی و طبقه بندی می باشد. یک روش تقسیم بندی جدید در این قسمت ارائه شده است که به صورت هوشمند سیگنال های ورودی را برای طبقه بندی بعدی، تقسیم بندی می کند سپس ویژگی های مورد نیاز برای هر بخش با استفاده زا ضریب بسته های موجک و همچنین سیگنال های اصلی، ایجاد می شود. در فاز طبقه بندی یک الگوریتم PSO-SVM موازی یکتا مورد بررسی قرار می گیرد. در این قسمت PSO به منظور تنظیم کردن پارامتر های SVM و کاهش داده ها مورد استفاده قرار می گیرد. این ساختار موازی پیشنهاد شده به PSO کمک می کند تا به فضای جست جوی کارآمد تری دست پیدا کند و همچنین مانع همگرایی سریع و حالت بهینه ی محلی می شود که این مشکلات، به صورت رایج در دیگر مسئله های بهینه سازی دیده میشود. نتایج به دست آمده نشان می دهد که روش پیشنهاد شده روشی موثر و قوی برای شناسایی آپنه در زمان خواب می باشد و تست های آماری انجام شده نیز نشان دهنده ی برتری این روش نسبت به روش های قبلی ، حتی با سیگنال های ورودی بیشتر می باشد . این روش نسبت به روش های غیر ترکیبی PSO-SVM هم عملکرد بهتری دارد. استفاده از سیگنال های کمتر به معنی راحتی بیشتر سوژه و همچنین کاهش هزینه ها در طول ثبت داده ها می باشد.

5- جمع بندی

در این مقاله، یک الگوریتم موازی PSO-SVM پیشنهاد شده است تا بتوان آپنه در حالت خواب را شناسایی کرد. این کار بر اساس سه سیگنال ورودی ( جریان ورودی، جابجایی های شکمی و جابجایی های سینه ای) برای الگوریتم ، کار می کند. این الگوریتم شامل سه بخش اصلی می باشد ؛ بخش بندی سیگنال، تولید ویژگی و طبقه بندی. در هر بخش این الگوریتم جدید با توجه به ماهیت رخداد های آپنه ایجاد می شود. در فاز بخش بندی سیگنال، سیگنال ها به صورت پنجره های زمانی بدون هم پوشان تقسیم بندی می شوند که با نام RU ها شناخته می شود. هر RU ممکن است حداقل یک رخداد آپنه ی خواب را شامل شود. این روش بخش بندی با استفاده از پردازش دیجیتال سیگنال به ما کمک می کند تا نتایج بهتری را در فاز تولید بعدی در مقایسه با روش بخش بندی بدون آگاهی، به دست بیاوریم. بعد از این تقسیم بندی، ویژگی ها بر اساس ضریب تبدیل موجک و خود سیگنال اصلی، تولید می شود. در نهایت، یک PSO-SVM ، RU ها را به صورت بازه های شامل آپنه در زمان خواب یا RU های نرمال تقسیم بندی می کنند. ساختار واحد الگوریتم های موازی به PSO کمک می کند تا بهره وری و جست جو را با استفاده از ازدحام های متصل و تفکیک شده، بهتر انجام دهد.

Abstract

Sleep disorders are common in a general population. It effect one in 5 adults and has several short term and long term bad side effects on health. Sleep apnea (SA) is the most important and common component of sleep disorders. This paper presents an automatic approach for detecting apnea events by using few bio-singles that are related to breathe defect. This work uses only air flow, thoracic and abdominal respiratory movement as input. The proposed algorithm consists of three main parts which are signal segmentation, feature generation and classification. A new proposed segmentation method intelligently segments the input signals for further classification, then features are generated for each segment by wavelet packet coefficients and also original signals. In classification phase a unique parallel PSO-SVM algorithm is investigated. PSO used to tune SVM parameters, and also data reduction. Proposed parallel structure used to help PSO to search space more efficiently, also avoiding fast convergence and local optimal results that are common problem in similar parallel algorithms. Obtained results demonstrate that the proposed method is effective and robust in sleep apnea detection and statistical tests on the results shown superiority of it versus previous methods even with more input signals, and also versus single PSO-SVM. Using fewer signals means more comfortable to subject and also, reduction of cost during recording the data.

V- Conclusion

In this paper, a novel Parallel PSO-SVM algorithm is proposed to detect sleep apnea. It works based three input signals (airflow, abdominal and throat movements) to the proposed algorithm. This algorithm consists of three main parts; signal segmentation, feature generation, and classification. In each part new algorithm is developed by attention to the nature of sleep apnea events. In the signal segmentation phase, signals are segmented to non overlapped time windows named RUs. Each RU may contain at least one Sleep apnea event. This segmentation by smart processing the signals helps to achieve better result in future generation phase versus blind segmentation. After segmentation, features are generated by wavelet packet coefficients and also original signals. Finally, a parallel PSOSVM classified RUs as sleep apnea or normal. The unique structure of the parallel algorithms helps PSO to have both exploration and exploitation together, by use of connected and isolated swarms.

تصویری از مقاله ترجمه و تایپ شده در نرم افزار ورد

الگوریتم PSO-SVM تازه نیمه پیوسته موازی مشارکتی : مطالعه ای مبنی بر شناسایی آپنه خواب

A Novel Partially Connected Cooperative Parallel PSO-SVM Algorithm: Study Based on Sleep Apnea Detection

کاربرد تکنیک ماشین بردار پشتیبانی موازی مبنی بر MapReduce برای فیلتر کردن اسپم ها در مقیاس بزرگ

A MapReduce based Parallel SVM for Large Scale Spam Filtering

چکیده

1- مقدمه

2- توزیع SVM با استفاده از MapReduce

3- هستی شناختی به منظور افزایش دقت

4- نتایج تجربی

5- نتیجه گیری ها و کار آتی

منابع

چکیده

هرزنامه ها (اسپم ها) همچنان خسارت های زیادی را تحمیل می کنند. روش های مختلف از جمله تکنیک های مبتنی بر ماشین بردار پشتیبانی (SVM) برای طبقه بندی اسپم ها پیشنهاد داده شده است. با این حال، آموزش SVM یک فرآیند به شدت محاسباتی است. این مقاله یک الگوریتم SVM موازی را برای پالایش مقیاس پذیر اسپم ها ارائه می کند. از طریق توزیع، پردازش و بهبود زیرمجموعه های داده های آموزش در میان نودهای مختلف شرکت کنندع، روش SVM توزیع شده سبب کاهش قابل توجه زمان آموزش می شود. مفاهیم مبتنی بر هستی شناسی نیز برای به حداقل رساندن تاثیر افت دقت در هنگام توزیع داده های آموزش در بین طبقه بندی کننده های SVM به کار گرفته می شوند.

5- نتیجه گیری ها و کار آتی

در مقاله الگوریتم SVM موازی برای پالایش مقیاس پذیر اسپم ارائه شده است. با تفکیک مجموعه داده و به کارگیری تکنیک های محاسبات توزیع شده همانند MapReduce می توانیم زمان آموزش را به طور قابل ملاحظه ای بهبود دهیم. با این حال، این کار سبب تغییرات قابل توجه افت دقت می شود. در این کار مفاهیم مبتنی بر هستی شناختی برای بهبود دقت SVM موازی به کار گرفته شده است. برای کار آتی قصد داریم تا درباره روش های مناسب استخراج هوش اضافی از نمونه های تفسیر شده تحقیق کنیم و آن را به همراه یادگیری ماشین و فرآیند حلقه بازخورد SVM موازی به کار بگیریم. ما اعتقاد داریم که دقت با استفاده تفسیر خودکار مشابه با [20] بهبود بیشتری پیدا می کند.

Abstract

Spam continues to inflict increased damage. Varying approaches including Support Vector Machine (SVM) based techniques have been proposed for spam classification. However, SVM training is a computationally intensive process. This paper presents a parallel SVM algorithm for scalable spam filtering. By distributing, processing and optimizing the subsets of the training data across multiple participating nodes, the distributed SVM reduces the training time significantly. Ontology based concepts are also employed to minimize the impact of accuracy degradation when distributing the training data amongst the SVM classifiers.

V- CONCLUSIONS AND FUTURE WORK

In this paper we presented a parallel SVM algorithm for scalable spam filtering. By splitting the training set and applying distributed computing techniques such as MapReduce we can improve the training time considerably. However, this has varying yet noticeable degrees of accuracy degradation. In our work, we employ ontology based semantics to improve the accuracy of the parallel SVM. For future work, we intend to research appropriate schemes to extract additional intelligence from annotated instances and employ this within the machine learning, Parallel SVM feedback loop process. We believe that accuracy can be also further improved via automated annotation similar to [20].

تصویری از مقاله ترجمه و تایپ شده در نرم افزار ورد

کاربرد تکنیک ماشین بردار پشتیبانی موازی مبنی بر MapReduce برای فیلتر کردن اسپم ها در مقیاس بزرگ

A MapReduce based Parallel SVM for Large Scale Spam Filtering