یافتن خوشه هایی با اندازه ها، شکل ها و چگالی های مختلف در داده های نویزدار و با ابعاد بالا

Finding Clusters of Different Sizes, Shapes, and Densities in Noisy, High Dimensional Data

چکیده
1- مقدمه
2- یک تعریف بهتر از شباهت
3- یک تعریف بهتر از چگالی
4- یک الگوریتم خوشه بندی نزدیک ترین همسایه مشترک
5- مطالعات تجربی
6- تحلیل پیچیدگی
7- نتیجه گیری و کار آینده
منابع

چکیده
مساله یافتن خوشه ها در داده ها هنگامیکه خوشه ها با اندازه، شکل و چگالی های مختلف وجود دارند و هنگامیکه داده ها شامل میزان زیادی از داده های آشفته و پرت هستند چالش برانگیز می باشد. بسیاری از این مشکلات مخصوصا هنگامیکه داده ها با ابعاد بسیار بالا، مانند داده های متنی و سری زمانی وجود دارند، حتی قابل توجه تر می شوند. در این مقاله، ما یک تکنیک خوشه بندی جدید را ارائه می کنیم که این مشکلات را حل می کند. الگوریتم ما درابتدا نزدیکترین همسایه های هر نقطه داده را پیدا می کند و سپس شباهت بین هر جفت از نقاط را برحسب تعداد نزدیکترین همسایه ای که در دو نقطه مشترک هستند مجددا تعریف می کند. با استفاده از این تعریف شباهت، ما داده های آشفته و پرت را حذف می کنیم، نقاط محوری را شناسایی می کنیم و سپس خوشه ها را حول نقاط محوری می سازیم. استفاده از یک تعریف نزدیکترین همسایه مشترک شباهت مشکل چگالی متغیر را حل می کند، درحالیکه استفاده از نقاط مرکزی مشکل مربوط به شکل و اندازه را برطرف می کند. به طور تجربی نشان می دهیم که الگوریتم ما بهتر از روش های سنتی (مانند K-میانگین) در انواع مجموعه داده ها، مانند داده های نفوذ شبکه KDD Cup ’99، داده سری های زمانی علوم زمینی NASA و مجموعه نقاط دوبعدی، عمل می کند. درحالیکه الگوریتم ما می تواند خوشه هایی با چگالی بالا را همانند الگوریتم های خوشه بندی دیگر پیدا کند، می-تواند خوشه هایی را که این روش ها نادیده می گیرند، یعنی خوشه هایی با چگالی پایین و متوسط را نیز پیدا کند، که این خوشه ها مهم هستند چونکه آن ها نواحی نسبتا یکنواخت احاطه شده توسط ناحیه های غیریکنواخت یا با چگالی بالاتر را ارائه می کنند. پیچیدگی زمان اجرای تکنیک ما است چونکه ماتریس شباهت باید ساخته شود. اما، تعدادی از بهینه سازی ها را بحث می کنیم که به الگوریتم کنترل مجموعه داده های بزرگ به طور موثر اجازه می دهند. برای مثال، 100000 سند از مجموعه TREC می توانند در یک ساعت در یک کامپیوتر رومیزی خوشه بندی شوند.

3- یک تعریف بهتر از چگالی
در مجموعه داده ها با ابعاد بالا، مفهوم اقلیدسی سنتی چگالی، که تعداد نقاط بر واحد حجم است، بی معنی می باشد. برای دیدن این، فرض کنید که با افزایش تعداد ابعاد، حجم به سرعت افزایش می یابد، و مگر اینکه تعداد نقاط به طور نمایی با تعداد ابعاد افزایش یابد، چگالی به صفر میل می کند. بنابراین، در ابعاد بالا، استفاده از یک روش مبتنی بر چگالی (سنتی) مانند DBSCAN که نقاط محوری را به صورت نقاط در نواحی چگالی بالا و نقاط آشفته را به صورت نقاط در نواحی چگالی پایین تعریف می کند، امکان پذیر نیست (استفاده از DBSCAN امکان پذیر است اگر از چگالی اقلیدسی صرف نظر کنید، یعنی از معیار شباهت مانند معیار کسینوسی به جای فاصله اقلیدسی استفاده کنید).

اما، مفهوم دیگری از چگالی وجود دارد که این مشکل را ندارد، یعنی چگالی احتمال یک نقطه. در روش k نزدیکترین همسایه برای برآورد چگالی چندمتغیره ]2[، اگر یک نقطه همسایه های نزدیک زیادی داشته باشد، آنگاه با احتمال بیشتر در ناحیه ای است که یک چگالی احتمال نسبتا بالایی دارد. بنابراین، هنگامیکه به نزدیکترین همسایه های یک نقطه نگاه می کنیم، نقاطی با تعداد همسایه های نزدیک بیشتر (شباهت بالاتر) در نواحی چگال تری نسبت به نقاطی با همسایه های دورتر (شباهت پایین تر) قرار دارند.

در عمل، ما جمع شباهت های نزدیکترین همسایه های یک نقطه را به صورت یک معیار از این چگالی در نظر می گیریم. هرچه این چگالی بالاتر باشد، احتمال بیشتری دارد که این نقطه یک نقطه محوری یا یک نقطه نماینده باشد. هرچه چگالی پایین تر باشد، احتمال بیشتری دارد که این نقطه یک نقطه آشفته یا پرت باشد. توجه کنید که درحالیکه انگیزه ما شناسایی نقاطی است که بالاترین چگالی احتمال را دارند، از نقطه نظر نموداری، ما در حال شناسایی نقاطی هستیم که قوی ترین پیوندها را دارند. همچنین توجه کنید که چونکه در حال استفاده از یک نمودار SNN به عنوان نقطه شروع هستیم، چگالی های ما متناظر با یک چگالی احتمال دقیق یا قدرت پیوند نیستند، بلکه درعوض متناظر با مقادیری هستند که به یک همسایگی محلی بهنجار شده-اند.

طراحی اکتشاف فضایی شتاب دهنده های FPGA برای شبکه های عصبی کانولوشن

Design Space Exploration of FPGA Accelerators for Convolutional Neural Networks

چکیده
1- مقدمه
2- چارچوب جستجوی ما
3- ارزیابی یک نقطه طراحی
4-آزمایشات
5- کار مرتبط
6-نتیجه گیری
منابع

چکیده
افزایش استفاده از الگوریتم های یادگیری ماشین، مانند شبکه های عصبی پیچشی (CNNها)، باعث می شود که روش شتابدهنده های سخت افزاری بسیار جالب باشد. اما، به سوالی در مورد چگونه طراحی بهتر یک شتابدهنده برای یک CNN مورد نظر، حتی در یک سطح بنیادی هنوز پاسخ داده نشده است. این مقاله این چالش را با فراهم کردن یک چارچوب جدید که می تواند بطور جهانی و دقیق انتخاب های معماری مختلف برای شتابدهنده-های CNN در FPGAها را ارزیابی و جستجو کند رفع می کند. چارچوب جستجوی ما گسترده تر از هر کار قبلی برحسب فضای طراحی است و منابع FPGA مختلف را برای بیشینه سازی عملکرد شامل منابع DSP، پهنای باند حافظه درون تراشه و حافظه بیرون تراشه درنظر می گیرد. نتایج تجربی ما با استفاده از بزرگترین مدل های CNN شامل مدلی که 16 لایه پیچشی دارد کارآمدی چارچوب ما و همچنین نیاز به چنین روش جستجوی معماری سطح بالا برای یافتن بهترین معماری برای یک مدل CNN را نشان می دهد.

2 – چارچوب جستجوی ما
A. مرور شتابدهنده
مدل شتابدهنده ما شامل یک آرایه محاسبه و سه بافر درون تراشه بصورت نشان داده شده در شکل 2 است. یک آرایه محاسبه یک آرایه از عناصر محاسبه است که کم و بیش بلوک های همگن شامل ضرب کننده ها و جمع کننده ها هستند. در این مقاله، از جملات آرایه محاسبه و آرایه MAC استفاده می کنیم. یک آرایه محاسبه محاسبه بدنه حلقه کرنل تعمیم یافته درامتداد برخی ابعاد فضای تکرار را اجرا می کند. مجموعه این ابعاد شکل یک آرایه محاسبه نامیده می شود، که ساختار داخلی آرایه محاسبه را دیکته می کند.

بافرها حافظه های چرک نویس هستند که بطور جزیی یا کامل آرایه های ورودی/خروجی و پارامترهای وزن را ذخیره می کند. اگر بطور جزیی ذخیره شوند، توسط حافظه خارجی پشتیبانی شده (مانند DRAM) و داده ها باید بین بافرها و حافظه خارجی منتقل شوند، که بطور همزمان با محاسبه با توجه به بافرینگ مضاعف اتفاق می افتد. بنابراین یک بافر باید بافردهی مضاعف شود مگر اینکه به پشتیبانی توسط حافظه خارجی نیاز نداشته باشد.

فرض می کنیم که ضرب کننده ها و جمع کننده ها مورد نیاز برای اجرای عملیات بدنه حلقه کرنل با استفاده از بلوک های DSP اجرا می شوند. به همین ترتیب بافرها فرض می شود که با استفاده از بلوک های RAM اجرا می شوند. فرض می کنیم که پهنای باند حافظه بادوام ماکزیمم داده می شود که می تواند بطور تجربی توسط شبیه سازی کنترل کننده حافظه برای زمان کافی طولانی بدست آید.

استخراج و شناسایی بدافزار اندروید بر اساس مجوزها

Mining and Detection of Android Malware Based on Permissions

چکیده
1. مقدمه
2. آثار مرتبط
3. بررسی سیستم
4. طبقه بندی و ارزیابی
5. نتیجه گیری ها
منابع

چکیده
با توجه به توزیع باز اپلیکیشن و وجود بیش از 2 میلیارد کاربر فعال، پلتفرم اندروید کماکان به شکل خام توسط توسعه دهندگان بدافزار به کار گرفته می شود. با توجه به گزارش تهدیداتی McAfee، تعداد گروه های بدافزاری یافت شده در گوگل پلی در سال 2017 تا 30 درصد افزایش داشته است. یکی از مهمترین مکانیزم های محافظتی در برابر بدافزا مدل کنترل دسترسی مبتنی بر مجوز ر است. در این مقاله، مدل جدیدی را که مبتنی بر مجوز را ارائه می کنیم که از مزایای مدل می توان به کارایی و دقت بالا در تشخیص و آنالیز بدافزار اندروید اشاره نمود، همچنین قابلیت بالقوه در شناسایی بدافزار ناشناس قبلی را دارد. در این مدل، انتخاب مشخصه را با معرفی یک روش وزنی جدید به نام TF-IDFCF بهبود می بخشیم که مبتنی بر فرکانس کلاس مشخصه است. نتایج آزمایشات نشان می-دهد که روش ارائه شده دارای نرخ تشخیص بیش از 95.3% با نرخ مثبت کاذب پایین در زمان تست و بررسی با طبقه بندی کننده ها است.

2. آثار مرتبط
با استفاده از ویژگی های مربوط به مجوز تحقیقات زیادی در مورد طبقه بندی بدافزار اندروید انجام می شود. برخی از آثار مربوط به تشخیص بدافزار مبتنی بر مجوز اشاره می شود.

X. Lin و J.Lin چارچوبی را ارائه می کنند که هر دو مجوز درخواست شده و استفاده شده در اپلیکیشن های اندروید را در نظر می گیرد [4]. چارچوب دو تشخیص لایه بندی شده بدافزار است و تکنیک های یادگیری ماشین را به منظور رسیدن به دقت بالا استفاده می کند که این با پتانسیل تشخیص اپلیکیشن های بدافزار اندروید مبتنی بر مجوز همراه است. پ. روولی بهمراه وای ویگفاسن یک معماری ساده سرور- مشتری از سیستم تشخیص بدافزار مبتنی بر مجوز را ارائه می کنند که مجوزهای درخواست شده را چون نشانگرهای رفتاری می بیند [5]. سیستم دارای بخش های بررسی کننده مجوز جانب- مشتری و جانب- سرور است. بخش سمت – مشتری مجوزها را از اپلیکیشن های اندروید استخراج می کند و آنها را به بخش سمت- مشتری ارسال می کند. بخش جانب- مشتری اپلیکیشن ها را همچون بدافزار یا بی خطر طبقه بندی می کند. زد. آنگ و و. ژاو ماشین یادگیری مبتنی بر چارچوب را برای تشخیص اپلیکیشن های مخرب و بهبود امنیت در اندروید مبتنی بر کاربران دستگاهای تلفن همراه ارائه می کنند. این چارچوب مشخصات مختلف مبتنی بر مجوز استخراج شده از اپلیکیشن های اندروید را مونیتور می-کند و یادگیری ماشین را استفاده می کند تا اپلیکیشن ها را در دسته های مخرب و بی خطر طبقه بندی کند. سیستم بهره اطلاعاتی را بعنوان روش انتخاب مشخصه استفاده می کند. آنها مجوزهای بیشتری از اپلیکیشن های مختلف دانلود شده از نشانگرهای اندروید استخراج می کنند تا مدل را تولید کنند. زد. ژیائویان و اف. ژوان سیستم شناسایی بدافزار را ارائه می کنند که فعالیت اپلیکیشن دستگاه تلفن همراه را آنالیز می کند [7]. ویژگی ها استخراج شده روش آنالیز جزء اصلی را چون انتخاب مشخصه استفاده می کند و روش ماشین بردار پشتیبان به منظور آموزش و ساخت طبقه بندی کننده برای تشخیص بدافزار به کار گرفته می شود. با مشارکت کاربران دستگاه های تلفن همراه مبتنی بر اندروید، این چارچوب قادر به طبقه بندی کردن اپلیکیشن های اندروید در دسته های مخرب و بی خطر است. د. آرپ، ام. اشپریزنبارث، ام. هابنر، اچ. گاسکون، ک. ریک، و سی. سایمنز تاکید بر استفاده از روش تشخیص بدافزار اندروید دارند که قابلیت تشخیص اپلیکیشن های بدافزار در گوشی های هوشمند را اجرا می کند [8]. رویکرد از طریق جمع آوری تمامی ویژگی های احتمالی APK اندروید، آنالیز مربوط به استاتیک صفحه را انجام می دهد. این روش کل مشخصات را در فضای برداری مشترک جاسازی می کند و اپلیکیشن های مخرب را بطور خودکار شناسایی می کند. از مزیت های این رویکرد می توان به بهره وری زمان در آنالیز اپلیکیشن های ناشناخته اشاره کرد. روش را می توان بصورت مستقیم روی دستگاه های تلفن همراه استفاده کرد، و عمل محفاظت از راه-اندازی در برابر منابع غیرمطمئن اجرا می شود. عافر و همکاران مطالعه را از طریق آنالیز بدافزار برای استخراج مشخصات مربوط به بدافزار و رفتار انجام شده در سطح API انجام می دهند، آنها طبقه بندی کننده های یادگیری ماشین سبک- وزن و قدرتمند را با استفاده از مجموعه داده ها آموزش می دهند، داده ها از مجموعه ویژگی های بهره برداری شده حاصل می شود [9]. نتایج تجربی آنها به کمک طبقه بندی کننده KNN نشان از یک TPR با 99% و 2.2% است.

تاب خوردگی زمانی پویا عمیق کننده تکراری برای سری های زمانی

Iterative Deepening Dynamic Time Warping for Time Series

1. مقدمه
2. پس‌زمینه
3. روش جدید: انحراف زمانی پویای عمیق تکراری
3-1. کاهش ابعاد
4. ارزیابی تجربی
5. کارهای مربوطه
6. نتایج و کار آتی
منابع

1. مقدمه
سری‌های زمانی، شکل فراگیری از داده‌ها هستند که تقریباً در هر رشته علمی و کاربردهای تجاری اتفاق می‌افتد. اخیراً کارهای بسیاری در زمینه سازگاری الگوریتم‌های داده‌کاوی با پایگاه داده‌های سری زمانی انجام شده است. به عنوان مثال، داس و همکاران برای نشان دادن چگونگی آموختن قوانین ترکیبی سری زمانی تلاش کردند [7]. دبرگاس و هبریل در [8]، تکنیکی برای مقیاس‌گذاری الگوریتم‌های خوشه‌بندی سری زمانی در مجموعه داده‌های گسترده ارائه کردند. کغ و پازانی الگوریتم طبقه‌بندی سری زمانی جدید مقیاس‌پذیر را معرفی کردند [16]. تقریباً همه الگوریتم‌هایی که بر روی داده‌های سری زمانی کار می‌کنند، باید شباهت بین آنها را محاسبه کنند. فاصله اقلیدسی یا برخی از پسوندها یا اصلاحات آن به طور معمول مورد استفاده قرار می‌گیرد. با این وجود، همان‌طور که در بخش 2-1 نشان خواهیم داد، فاصله اقلیدسی ممکن است در اندازه‌گیری فاصله بسیار ناپایدار باشد.

دلیل اینکه فاصله اقلیدسی ممکن است نتواند ارزیابی بصری صحیحی از شباهت بین دو بخش ایجاد کند، این است که به انحرافات کوچک در محور زمان بسیار حساس است. شکل 1-A را در نظر بگیرید، دو دنباله تقریباً شکل کلی یکسانی دارند اما اشکال در محور زمان تراز نیستند. تراز غیرخطی نشان داده شده در شکل 1-B باعث میشود که اندازه فاصله بصری بیشتری محاسبه شود.

روشی که این امکان را برای تغییر الاستیک محور X فراهم می‌کند به منظور تشخیص اشکال مشابه با فازهای مختلف می‌باشد. چنین روشی مدتهاست که در جامعه پردازش گفتار شناخته‌شده است [26 و 29]. روش انحراف زمان پویا (DTW) توسط برند و کلیفورد به جامعه داده‌کاوی معرفی شد [4]. اگرچه آنها کاربرد این روش را نشان دادند اما اذعان کردند که پیچیدگی زمانی الگوریتم یک مشکل است و «… ممکن است عملکرد آن در بانک‌های اطلاعاتی بسیار بزرگ محدودیت باشد». با وجود ایراد روش انحراف زمان پویا، هنوز هم در زمینه‌های مختلف مورد استفاده گسترده قرار می‌گیرد. در بیوانفورماتیک، آچ و چورچ با موفقیت از روش انحراف زمان پویا در بیان داده‌های RNA استفاده کردند [1]. در مهندسی شیمی از آن برای هماهنگ‌سازی و نظارت بر فرآیندهای دسته‌ای در پلیمریزاسیون استفاده شد [14]. از روش انحراف زمان پویا با موفقیت برای تراز کردن داده‌های بیومتریک، مانند راه رفتن، امضاها و حتی اثر انگشت استفاده شد [11، 14، 22، 19]. محققان متعددی از جمله وولینگز و همکاران [30] و کیانی و همکاران [5]، استفاده از روش انحراف زمان پویا را برای تطبیق الگوی ECG نشان دادند. سرانجام در رباتیک، اوتس و همکاران نشان دادند كه روش انحراف زمان پویا را می‌توان براي خوشه‌بندي خروجي‌هاي حسي عامل مورد استفاده قرار داد [23].

2. پس‌زمینه
در این بخش با سه تجربه داده‌کاوی اصلی بر کاربرد انحراف زمان پویا متمرکز می‌شویم. برای تکمیل، الگوریتم انحراف زمان پویا کلاسیک را مرور می‌کنیم.

2-1. انحراف زمان پویا با فاصله اقلیدسی
اگرچه کاربرد انحراف زمان پویا به طور گسترده در بسیاری از حوزه‌ها نشان داده شده است [1، 5، 11، 14، 22، 23، 29 و 30]، برای تکمیل مثال‌های جالب مختصری در اینجا ارائه می‌دهیم. به طور خاص، متداول‌ترین سه وظیفه داده‌کاوی، دسته‌بندی، خوشه‌بندی و کشف قواعد متناظر، را در نظر می‌گیریم. در هر مثال، انحراف زمان پویا را با فاصله اقلیدسی که معمولاً بیشتر برای مقایسه اندازه فاصله برای سری‌های زمانی استفاده می‌شود، مقایسه می‌کنیم [2، 7، 8، 10 و 15].

2-1-1. دسته‌بندی
کارهای زیادی درباره دسته‌بندی سری‌های زمانی وجود دارد. چارچوب متداول پایگاه داده، سیلندر- بل- فونل است، این پایگاه داده ترکیبی در [28] معرفی و در [21، 13 و 9] و غیره مورد استفاده قرار گرفت. پایگاه داده شامل 3 دسته مسأله است، با دسته‌هایی که با استفاده از معادلات زیر تولید می‌شوند

بهینه سازی چند هدفه با استفاده از الگوریتم های تکاملی: مطالعه موردی مقایسه ای

Multiobjective Optimization Using Evolutionary Algorithms A Comparative Case Study

چکیده
1- مقدمه
2- الگوریتم‌های تکاملی چندهدفه
3- مسئله کوله‌پشتی
4- آزمایش‌ها
5- نتیجه‌گیری و چشم‌انداز آتی
منابع

چکیده
از سال 1985 چند روش تکاملی برای بهینه‌سازی چندهدفه توسعه یافته است که قادر به یافتن چند راه‌حل در یک دور اجرا (run) هستند. با این حال، اکثر مطالعاتِ مقایسه‌ای که در دسترس هستند، به صورت کیفی بوده و محدود به دو روش اصلی می‌شوند. در این مقاله یک مقایسه گسترده و کمّی عرضه شده است که از 4 الگوریتم‌ تکاملی چندهدفه برای مسئله 1/0 کوله‌پشتی (knapsack problem) استفاده می‌کند.

2- الگوریتم‌های تکاملی چندهدفه
مروری جامع بر الگوریتم‌های تکاملی در بهینه‌سازی چندهدفه در مقاله‌ای از فونسکا و فلمینگ صورت گرفته‌ است. نویسندگان این مقاله چند روش تکاملی را بررسی کرده‌اند که شامل روش‌های انباشت ساده، روش‌های جمعیتی غیرپارتو و روش‌های مبتنی بر پارتو می‌شود. همچنین روش‌های استفاده از القای همسایگی (niche) نیز آورده شده‌اند.

روش‌های انباشتی به ترکیب‌کردن اهداف درون یک تابع نردبانی بالاتر مشغول‌اند که برای محاسبات شایستگی (fitness) از آنها استفاده می‌شود. این روش‌ها یک راه‌حل منفرد (single) فراهم می‌آورند و نیازمند داشتن دانش عمیقی هستند که معمولاً دردسترس نیست. روش‌های جمعیتی غیرپارتو قادر هستند تا راه‌حل‌های غیرمغلوبی را به صورت موازی پیدا کرده و بنابراین جمعیت اساساً برای راه‌حل‌های غیرمغلوب کنترل می‌شود. اما برعکس روش‌های پارتو، روش‌های جمعیتی غیرپارتو از مفهومِ غلبه (dominance) پارتو به طور مستقیم استفاده نمی‌کنند. الگوریتم‌های تکاملی پارتو، راه‌حل‌ها را بر اساس رابطه > مقایسه می‌کنند تا احتمالِ تولیدمثل هر فرد را محاسبه کنند. اولین بار این نوع مسئله شایستگی را گلدبرگ پیشنهاد داد.

از آنجایی که حفظ‌کردن تنوع موضوع مهمی در حوزه بهینه‌سازی چندحالته است، بسیاری از الگوریتم‌های تکاملی چندهدفه شامل تکنیک‌های نیچینگ (قرارگرفتن در همسایگی) می‌شود و بیش از همه از روشِ اشتراک‌گذاریِ شایستگی استفاده می‌شود. به اشتراک‌گذاشتن شایستگی (Fitness sharing) بر مبنای این ایده است که افراد حاضر در یک محیط خاص، باید منابع دردسترس را با یکدیگر شریک شوند. همانطور که در طبیعت نیز چنین است. بنابراین، شایستگی یک فرد معین به این نحو تعیین می‌شود که هرچه آن فرد بیشتر تضعیف شود، افراد بیشتری در همسایگی او قرار می‌گیرند. همسایگی بر اساس معیار فاصله سنجیده می‌شود و با شعاع همسایگی σshare نشان داده می‌شود. به اشتراک‌گذاشتن هم می‌تواند در فضای ژنوتیپ و هم در فضای فنوتیپ (شرایط محیطی) روی دهد.

در مورد فشرده سازی مدل های عمیق با رتبه پایین و تجزیه کم رتبه

On Compressing Deep Models by Low Rank and Sparse Decomposition

چکیده
1 مقدمه
2 کار مرتبط
3 مدل فشرده‌سازی عمیق
4 بهینه‌سازی
5 تجزیه و تحلیل نظری
6 آزمایشات
1 6 تجزیه و تحلیل در کل شبکه‌ها
2 6 تجزیه و تحلیل در لایه‌های پیچشی
7 نتیجه‌گیری
منابع

چکیده
فشرده‌سازی عمیق اشاره به حذف افزونگی پارامترها و نقشه‌های ویژگی برای مدل‌های یادگیری عمیق دارد. تقریب رتبه پایین و هرس‌‌سازی برای ساختارهای تنک در بسیاری از کارهای فشرده‌سازی نقش مهمی ایفا می‌کند. با این حال، فیلترهای وزن تمایل دارند هم رتبه پایین و هم تنک باشند. نادیده‌گیری هر بخشی از این اطلاعات ساختاری در روش‌های قبلی منجر به آموزش مجدد تکرارشونده، به خطر انداختن دقت و نرخ فشرده‌سازی پایین خواهد شد. در اینجا ما چارچوبی یکپارچه را برای ادغام تجزیه تنک و رتبه پایین از ماتریس‌های وزنی با بازسازی نقشه‌های ویژگی را پیشنهاد می‌دهیم. مدل ما شامل روش‌هایی مانند اتصالات هرس‌کننده به عنوان موارد خاص است و توسط یک الگوریتم SVDfree سریع بهینه‌سازی شده است. به لحاظ نظری ثابت شده است که با استفاده از نمونه کوچک، به علت قابلیت تعمیم‌دهی آن، مدل ما می‌تواند نقشه‌های ویژگی‌ را در هر دو مجموعه آموزشی و تست بازسازی کند که در نتیجه آن شاهد در معرض خطر قرارگیری دقت کمتری پیش از آموزش مجدد بعدی خواهیم بود. با چنین «شروع گرمی» برای بازآموزی، روش‌ فشرده‌سازی همواره دارای چندین کیفیت و ویژگی خاص است از جمله: الف) نرخ فشرده‌سازی بالاتر (ب) اتلاف کم دقت و (ج) دور‌هایی کمتر برای فشرده‌سازی مدل‌های عمیق نیاز دارد. نتایج تجربی در چندین مدل محبوب مانند AlexNet، VGG-16 و GoogLeNet حاکی از آن است که مدل ما می‌تواند به طور قابل توجهی پارامترهای هر دو‌ی لایه‌های پیچشی و کاملا متصل را کاهش دهد. در نتیجه، مدل ما اندازه VGG-16 را 15 برابر کاهش می‌دهد و بهتر از سایر روش‌های فشرده سازی جدیدی است که از یک استراتژی واحد استفاده می‌کنند.

2- کار مرتبط
فشرده‌سازی توسط هرس‌‌سازی
هان و همکاران [8] روش هرسی ساده اما موثر را پیشنهاد کردند که با استفاده از آستانه سخت تعیین شده توسط انحراف معیار وزنی بود که در یک اسکالر ضرب شده بود. این آستانه کمک می‌کند تا کم‌اهمیت‌ترین وزنها با مقادیر مطلق کوچک را حذف کنید. یک مورد خاص از مدل ما زمانی است که ما شرایط بازسازی داده‌ها و رتبه پایین را نادیده می‌گیریم، سادگی روش ما به اندازه روش آستانه‌سازی سختی کاهش‌ می‌یابد که در [8] به آن اشاره شده است.

با این حال، رویکرد ما دارای دو مزیت عمده است [8]. نخست، به دلیل شرایط بازسازی نقشه ویژگی ما، مدل ما مقداردهی اولیه بهتری برای آموزش مجدد را فراهم می‌سازد. ما معمولا می‌توانیم همه لایه‌های پیچشی را در مدل‌هایی مانند AlexNet و VGG-16 به جای تکرار هرس و آموزش مجدد در یک دور فشرده کنیم. دوما با بهره‌گیری از هر دوی مولفه هموار و وزن‌های مهم، ما وزن‌های دیگری را در لایه های پیچشی کاهش می‌دهیم و مولفه‌های حاصل از آنها بسیار ضعیف‌تر از آنچه است که در [8] وجود داشته است. این مقدار بالقوه برای شتاب‌دهی مراحل استنتاج در مدل‌های عمیق است.

فشرده‌سازی با تقریب رتبه پایین: کاهش ابعاد پارامترها به وسیله تقریب رتبه‌پایین سبب حفظ فضای ‌ذخیره‌سازی می‌شود و در عین حال سبب کاهش پیچیدگی زمانی در حین آموزش و تست می‌شود. بیشتر روش‌ها [4، 12] به تخمین یک تانسور با کمینه‌سازی خطای بازسازی پارامترهای اصلی می‌پردازند. با این حال، این رویکردها هنگامی که لایه‌های چندگانه فشرده به صورت متوالی تکرار می‌شوند، خطاهای تجمعی دارند، و نقشه‌های ویژگی‌های خروجی از مقادیر اولیه با افزایش لایه های فشرده‌شده فاصله می‌گیرند.

رمزنگاری مبتنی بر ویژگی (ABE) با ورودی کمکی بهبود یافته برای امنیت داده های بزرگ

ABE with improved auxiliary input for big data security

چکیده
1 مقدمه
2 پیشینه
3 ABE با ورودی کمکی بهبودیافته
4 ساخت و ساز CP-ABE با ورودی کمکی بهبود یافته
5 ساخت KP-ABE با ورودی کمکی بهبود یافته
6 نتیجه‌گیری
منابع

چکیده
رمزنگاری مبتنی بر ویژگی (ABE) توسط اتحادیه امنیت ابری (CSA) به عنوان یکی از ابزارهای رمزگذاری  احتمالی برای کنترل دسترسی در برنامه‌های کاربردی کلان داده توصیه شده است. در ABE فایل اشتراکی می‌تواند با سیاستی مشخص تنها یک بار رمزگذاری شود و توسط هر گیرنده‌ای که ویژگی‌های آن ارضا شده باشد می‌تواند رمزگشایی شود. هنگامی که ABE در برخی از سناریوهای شبکه باز مستقر شود به طور ناگریز توسط حملات کانال‌های جانبی تحت حمله قرار می‌گیرد زیرا کلان داده‌ها از نقاط انتهایی متنوعی می‌آیند. در این مقاله ما طرح‌های CP-ABE و KP-ABE مقاوم در برابر نشت را در مدل ورودی کمکی بهبود یافته ارائه می‌دهیم که به مهاجم اجازه می‌دهد تا به پرس و جو  اطلاعات نشتی بیشتری با توجه به تصادفی بودن رمزنگاری پس از مشاهده چالش متن رمزنگاری شده  بپردازد. علاوه بر این، ما یک استخراج‌کننده قوی بهبود یافته از قضیه اصلاح شده لوین – گلدریچ  را برای اثبات امنیت ساخته‌ایم و ثابت کرده‌ایم که امنیت طرح ما متکی به ساخت و ساز ونگ  و همکاران است.

2-2 ساختار دسترسی
تعریف زیر توسط [32] ارائه شده است:
تعریف 2 (ساختار دسترسی): فرض کنید که مجموعه‌ای از ویژگی‌ها باشد. ما یک مجموعه مجاز یکنواخت بر روی شرایط را تعریف می‌کنیم که در آن است و آنگاه است. یک مجموعه یکنواخت به شکل یک ساختار دسترسی یکنواخت است که یک مجموعه غیرخالی از زیرمجموعه‌های است. اگر مجموعه‌ها در نباشند، آنگاه آنها مجموعه‌های غیرمجاز هستند.

تعریف LSS را می‌توان در [32] یافت. از بحثی که در [32] صورت گرفته است دریافتیم که هر طرح LSSS، با نام Π برای ساختار دسترسی را می‌توان برای بازسازی خطی استفاده کرد. فرض کنید که مجموعه‌ای ‌‌مجاز باشد و فرض کنید که به شکل باشد. آنگاه اگر سهم‌هایی معتبر از هر در Π باشند آنگاه ثابت‌هایی به شکل وجود دارند به طوریکه خواهد بود. این را می‌توان در زمان چندجمله‌ای یافت.

3- ABE با ورودی کمکی بهبودیافته
1-3 تعریف
یک طرح CP-ABE برای یک ساختار دسترسی یکنواخت کلی A از چهار الگوریتم PPT به صورت زیر تشکیل شده است:
1- راه‌اندازی : الگوریتم راه‌اندازی پارامتر امنیتی ƛ را به عنوان ورودی دریافت می‌کند و خروج‌های آن جفت کلید رمز/عمومی ارباب به شکل (MPK,MSK) است.
2- این الگوریتم ویژگی مجموعه S و کلید رمز ارباب MSK را به عنوان ورودی دریافت می‌کند و خروجی‌ آن یک کلید رمز SKk است.
3- رمزگذاری (M,A): الگوریتم رمزگذاری یک ساختار دسترسی یکنواخت A را می‌گیرد و پیام M به عنوان ورودی است و خروجی‌ آن یک متن رمزنگاری شده به شکل CT است.
4- رمزگشایی (CT,SK): این الگوریتم یک متن رمزنگاری شده CT را برای سیاست دسترسی A و کلید رمز SK را برای مجموعه S به عنوان ورودی می‌گیرد و خروجی آن در صورتی M است که ویژگی‌های مجموعه S، A را ارضا کنند.

رمزگذاری بر اساس ویژگی های متن رمزی

Ciphertext-Policy Attribute-Based Encryption

چکیده
1 مقدمه
2 تحقیقات مرتبط
3 پیش‌زمینه
4 ساختار سیستم ما
5 پیاده‌سازی
6 نتیجه‌گیری و جهت گیری های آزاد
منابع

چکیده
در سیستم‌های توزیع‌شده متعدد، کاربر باید تنها در صورت داشتن مجموعه مشخصی از گواهی‌نامه‌ها یا ویژگی‌ها، به داده‌ها دسترسی داشته باشد. در حال حاضر، تنها روش جهت اجرای این سیاست‌ها، استفاده از یک سرور مطمئن جهت نگهداری داده‌ها و واسطه قرار دادن کنترل دسترسی است. بااین‌حال، درصورتی‌که هر نوع سرور نگهدارندِ داده‌ها با خطر مواجه شود، در این صورت محرمانگی داده‌ها با خطر مواجه خواهد شد. ما در این مقاله، سیستمی را جهت تحقق کنترل دسترسی پیچیده بر روی‌ داده‌های رمزنگاری‌شده ارائه می‌کنیم که آن را رمزنگاری مبتنی بر ویژگی سیاست متن رمزی نام‌گذاری می‌کنیم. می‌توان با استفاده از تکنیک‌های خود، داده‌ها را به‌صورت محرمانه حتی در صورت قابل‌اطمینان نبودن سرور ذخیره، حفظ کرد؛ علاوه براین، روش‌های ما در برابر حملات تبانی امن خواهند بود. سیستم‌های رمزنگاری مبتنی بر ویژگی از ویژگی‌هایی جهت بیان داده‌های رمزنگاری‌شده استفاده کرده و سیاست‌هایی را در کلیدهای کاربر ایجاد کردند؛ درحالی‌که ویژگی‌های سیستم ما به‌منظور بیان گواهی‌نامه‌های کاربر مورداستفاده قرارگرفته و گروهی که اقدام به رمزنگاری داده‌ها می‌کند، سیاستی را در مورد افراد واجد شرایط جهت رمزگشایی تعیین می‌کند. بنابراین، روش‌های ما ازنظر مفهومی به روش‌های کنترل دسترسی مرسوم مانند کنترل دسترسی مبتنی بر نقش (RBAC) نزدیک‌تر هستند. علاوه براین، ما پیاده‌سازی سیستم خود را ارائه کرده و اندازه‌گیری‌های عملکردی خود را نشان می‌دهیم.

2- تحقیقات مرتبط
ساهای و واترز رمزنگاری مبتنی بر ویژگی (ABE) را به‌عنوان ابزاری جدید برای کنترل دسترسی رمزنگاری‌شده معرفی کردند. در یک سیستم رمزنگاری مبتنی بر ویژگی، متن‌های رمزی لزوماً نسبت به یک کاربر مشخص همانند رمزنگاری کلیدی عمومی معمول رمزنگاری نمی‌شوند. از طرف دیگر، رمزهای شخصی کاربران و متن‌های رمزی مرتبط با مجموعه‌ای از ویژگی‌ها یا یک سیاست نسبت به ویژگی‌ها خواهند بود. یک کاربر هنگامی قادر به رمزگشایی از یک متن رمزی خواهد بود که بین رمز شخصی او و متن رمزی، تطابق وجود داشته باشد. ساهای و واترز در سیستم اصلی خود، یک سیستم ABE نهایی را ارائه کردند که طی آن متن‌های رمزی با مجموعه‌ای از ویژگی‌های S برچسب‌گذاری شده و رمز شخصی یک کاربر با پارامتر نهایی k و مجموعه دیگر ویژگی‌های S’ مرتبط می‌شود. به‌منظور رمزگشایی یک متن رمزی از سوی کاربر، لازم است تا حداقل k ویژگی میان متن رمزی و رمزهای شخصی او همپوشانی داشته باشند. یکی از انگیزه‌ها و اهداف اصلی این موضوع، طراحی یک روش رمزنگاری هویت محور (یا فازی) تحمل‌کننده خطا بوده است که می‌تواند از هویت‌های بیومتریک استفاده کند.

مانع اصلی سیستم ABE آستانه‌ای ساهای-واترز در این مورد است که معناشناسی نهایی چندان گویا نبوده و ازاین‌رو با محدودیت‌هایی جهت طراحی سیستم‌های جامع‌تر مواجه است. گویال و همکاران ایده سیستم رمزنگاری مبتنی بر ویژگی سیاست کلیدی جامع‌تری را معرفی کردند. در ساختار آنها، یک متن رمزی مرتبط با مجموعه‌ای از ویژگی‌ها بوده و کلید کاربر می‌تواند مرتبط با هر ساختار درخت دسترسی یکنواخت باشد. می‌توان ساختار موردنظر گویال و همکاران را به‌صورت رویکرد تعمیم‌یافته تکنیک‌های ساهای-واتر دانست که طی آن به‌جای قرار دادن روش به اشتراک‌گذاری داده‌های مخفی شامیر در رمز خصوصی، فرد روش به اشتراک‌گذاری کلی‌تری را برای درخت‌های دسترسی یکنواخت ارائه می‌کند. همچنین گویال و همکاران امکان ارائه یک روش ABE سیاست متن رمزی را پیشنهاد دادند، اما هیچ ساختاری را ارائه نکردند.

پیرتی و همکاران پیاده‌سازی سیستم رمزنگاری ABE آستانه‌ای را ارائه کرده و کاربردهای مختلف روش رمزنگاری مبتنی بر ویژگی را نشان داده و چندین مفهوم اجرایی مانند لغو کلید را بیان کرده‌اند. چیس در تحقیق اخیر خود ساختاری را برای یک سیستم رمزنگاری مبتنی بر ویژگی چند نهادی ارائه کرده است که طی آن هر نهاد طیف مختلفی از ویژگی‌ها را مدیریت می‌کند. چالش اصلی در ایجاد ABE چند نهادی، جلوگیری از حملات تبانی میان کاربرانی است که مؤلفه‌های کلیدی را از نهادهای مختلف به دست می‌آورند. هرچند که سیستم چیس از سیستم ABE آستانه‌ای به‌عنوان سیستم ABE اصلی خود در هر نهاد استفاده کرده است، مسئله ABE چند نهادی به‌طورکلی با یافتن سیستم‌های ABE گویاتر، تلاقی دارد.

طبقه بندی تصویر با یادگیری انتقال با استفاده از مجموعه داده سفارشی: مطالعه مقایسه ای

Image Classification with Transfer Learning Using a Custom Dataset: Comparative Study

چکیده
1 مقدمه
2 مدل‌های پیش‌آموزش دیده شده
3 مجموعه داده (Dataset)
4 پیش‌پردازش و معیارهای ارزیابی
5 بحث و نتایج
6 نتیجه گیری
منابع و ماخذ

چکیده
آموزش شبکه های عصبی عمیق کار بسیار پرهزینه ای می باشد، که نه تنها فرایندی بسیار زمان بر خواهد بود، بلکه نیازمند توان محاسباتی بالایی نیز می باشد که عموماً هم به مجموعه داده های زیادی برای آموزش نیاز دارد و ازین حیث ممکن است همیشه در دسترس نباشد. با این وجود می توان از راه حل های جایگزین دیگری همچون مدل های پیش آموزش دیده شده که در مجموعه داده‌های استاندارد تصویربرداری کامپیوتری توسعه یافته‌اند کمک گرفت تا به رفع این چالش ها بیانجامد. در روش یادگیری انتقالی، ما اساساً سعی می‌کنیم از آنچه در یک وظیفه (Task) یاد گرفته شده است، برای بهبود تعمیم در وظیفه دیگر استفاده نماییم. در واقع ارزش گذاری داده هایی که یک شبکه در ‘وظیفه الف’ با مقدار زیادی از آن آموزش برچسب گذاری شده است را به یک ‘وظیفه ب’ جدید که داده های زیادی ندارد، منتقل می نماییم. به بیان دیگر، دانشِ یک مدل از قبل آموزش دیده شده به یک مسئله متفاوت، اما با ارتباط نزدیک از طریق یادگیری انتقالی منتقل خواهد شد. به عنوان نمونه، اگر ما یک طبقه بندی ساده برای پیش بینی اینکه آیا تصویری حاوی غذا است آموزش دهیم، می توانیم از دانش آموخته های مدل، برای شناسایی اشیای دیگری همچون نوشیدنی ها استفاده کنیم. این دانش می تواند به صورت های مختلفی به وجود آید که وابسته به مسئله و داده ها خواهد بود. در اینجا مدل‌های برتر می‌توانند به‌طور مستقیم دانلود و استفاده شوند، یا حتی در یک مدل جدید که وظیفه تشخیص مشکلات مربوط به شناسایی اشیا در کامپیوترها را بر عهده دارند ادغام گردند. بنابراین، ما با سرعت بخشیدن به مرحله آموزش و عملکرد مدل یادگیری عمیق، حتی کار با مجموعه داده کوچک را نیز بهبود می‌بخشیم. در این کار، ما پیشنهاد می‌کنیم تا وظیفه طبقه‌بندی را با استفاده از سه مدل از پیش آموزش دیده که عبارتند از: MobileNet V2 ، Resnet50  و VGG19  انجام دهیم و نتایج را با استفاده از چهار معیار ارزیابی کلیدی مورد بحث قرار بدهیم. مجموعه داده ها، متشکل از یک شی خاص است تا بتواند عملکرد مدل‌ها را مقایسه کند.

2- مدل‌های پیش‌آموزش دیده شده
2-1 موبایل نت V1
مدل MobileNet V1 از دسته مدل های CNN (شبکه عصبی کانولوشنال) است که برای استفاده در کاربردهای پردازش تصویر در تلفن همراه و سامانه های سیار طراحی شده است. ایده اصلی پشت MobileNet V1 این است که لایه های کانولوشنال، که برای وظایف بینایی رایانه ای ضروری هستند اما محاسبه آنها بسیار گران است، می توانند توسط کانولوشن‌های جداپذیر عمقی جایگزین شوند که در مقایسه با شبکه با کانولوشن‌های عادی با همان عمق در شبکه تعداد پارامترها را به طور قابل توجهی کاهش می‌دهد.

یک کانولوشن جداپذیر عمقی متشکل از دو کارکرد مختلف می باشد: کانولوشن عمقی و کانولوشن نقطه‌ای. کانولوشن عمقی ورودی را فیلتر می‌کند، در حالی که کانولوشن نقطه‌ای این مقادیر فیلتر شده را ترکیب نموده تا ویژگی‌های جدید ایجاد شود (کانولوشن نقطه‌ای لایه‌ای 1×1 است). ساختار بدنه MobileNet V1 در تصویر شماره 1 نشان داده شده است.

2-2 موبایل نت V2
MobileNet V2 نسخه بهبود یافته MobileNet V1 است که از بلوک‌های باقیمانده معکوس با امکان نیاز به فضای کمتر استفاده می‌کند. تعداد پارامترهای آن به طور قابل توجهی کمتر از MobileNet اصلی می باشد. MobileNet V2 بسیار سریعتر از MobileNet V1 بوده که به طور تقریبی دارای دو برابر دقت بیشتر و نیاز به پردازش کمتری نسبت به MobileNet V1 دارد.

به جای استفاده از کانولوشن از نوع جداپذیر عمقی به عنوان بلوک های ساختاری کارآمد، MobileNet V2 دو ویژگی جدید را به ساختار معماری اضافه می کند: گره های خطی بین لایه ها و اتصالات میان گره های خطی. ساختار بدنه MobileNet V2 در شکل 2 نشان داده شده است.

فناوری های حفاظت از امنیت و حریم خصوصی در ایمن سازی برنامه های بلاک چین

Security and privacy protection technologies in securing blockchain applications

چکیده
1 مقدمه
2 مروری بر بلاک چین
3 نظارت امنیتی
4 حفظ حریم خصوصی
5 مبادله داده
6 بحث و تحقیقات آینده
7 نتیجه گیری ها
منابع

چکیده
بلاک چین بعنوان یک فناوری کلیدی به منظور ایجاد شبکه های اعتماد و اجرای ارتباطات متقابل ارزشی موردتوجه زیادی قرار گرفته است. موارد استفاده فنی زیادی برای بلاک چین ها در زمینه های مختلفی مانند سیستم های ارز دیجیتالی، اینترنت اشیا (IOT)، شبکه های هوشمند، عرضه بلاک چین و امور مالی وجود دارد. با این حال، کاربرد گسترده بلاک چین نیز با مباحث امنیتی و حریم خصوصی مواجه است. این مقاله مرور و تحلیلی از حفظ حریم خصوصی، نظارت بر امنیت و تبادل داده در برنامه های مبتنی بر بلاک چین ارائه می دهد و تحلیل جامعی از کاربرد گسترده بلاک چین ارائه می دهد. علاوه بر این، جهت های تحقیقاتی آینده بلاک چین و روندهای توسعه را مورد بحث قرار می دهد. 

2- مروری بر بلاک چین
2-1- طبقه بندی بلاک چین
بلاک چین ها براساس تفاوت در مجوزهای خواندن و نوشتن و مجوزهای مدیریت داده به بلاک چین های عمومی، بلاک چین های مشارکتی (کنسرسیوم) و بلاک چین های خصوصی تقسیم می شوند که رایج ترین روش طبقه بندی است. ویژگی های بلاک چین عمومی، بلاک چین مشارکتی و بلاک چین خصوصی در ادامه معرفی می شوند.

بلاک چین عمومی: بلاک چین های عمومی نیز که با عنوان بلاک چین های بدون مجوز شناخته شده اند، دارای یک مجوز متمرکز نیستند. داده های مرتبط شامل مجموعه دسترسی های خواندن و نوشتن نمی شوند. هر گره در شبکه در هر زمان قابل دسترسی است و همه گره ها می توانند آزادانه در تراکنش های بلاک چین مشارکت کنند. آنها به طور کلی بعنوان بلاک چین هایی با عدم تمرکز کامل، ناشناس بودن زیاد و مقاومت در برابر دستکاری در نظر گرفته می شوند. بلاک چین های عمومی در مرکز بسیاری از برنامه های محبوب مانند بیت کوین قرار دارند.

بلاک چین مشارکتی: بلاک چین های مشارکتی نیز بعنوان بلاک چین های مجاز شناخته می شوند که بین بلاک چین های عمومی و بلاک چین های خصوصی قرار دارند. آنها یک روش غیرمتمرکز جزئی در ساختار در نظر می گیرند و به صورت مشترک توسط چندین شرکت یا نهاد مدیریت می شوند [20]. این شرکت کنندگان باید از قبل ثبت نام کنند و احراز هویت کنند و پیوستن به یک گره نیاز به مجوز سایر اعضای کنسرسیوم دارد. بلاک چین های کنسرسیوم در مقایسه با بلاک چین های عمومی شامل گره های مشارکتی کمتر هستند. این داده ها توسط شرکت کنندگان احراز هویت شده ای که حق دارند داده ها را بخوانند، ثبت و حفظ می شود.