محققان مانع هک شدن هوش مصنوعی شدند
به گزارش وبلاگ آژانس الکترونیکی، محققان در دانشگاه ایلینوی اعلام نموده اند یکی از بزرگترین نقص ها در آموزش هوش مصنوعی، آسیب پذیری آن ها در برابر حملات هکرها است. در این زمینه سیستم های تشخیص عکس یا بازسازی تصاویر با بیشترین حملات روبرو می شوند.
حملات گسترده به این سیستم ها زنگ خطری برای مقامات در بخش مراقبت های پزشکی محسوب می گردد، جایی که اغلب این روش برای بازسازی تصاویر پزشکی مورد استفاده قرار می گیرد. در صورتی که هوش مصنوعی تصویر اشتباهی دریافت کند، نتیجه آن تشخیص غلط نوع بیماری خواهد بود.
برای جلوگیری از چنین مسئله ای، دانشمندان روش جدیدی برای آموزش سیستم های یادگیری عمیق ارائه نموده اند که آن ها را در برابر خطا مقاوم تر می نماید و همچنین آن ها را در زمانی که مسائل امنیتی اهمیت بالایی دارند، قابل اطمینان تر می نماید.
محققان برای دستیابی به این روش، شبکه عصبی مسئول بازسازی تصاویر را به یک مدل با امکان فراوری نمونه های رقابتی (تصاویر با تفاوت های اندک نسبت به عکس های اصلی) متصل کردند. در طی آموزش، یکی از هوش های مصنوعی بدنبال فریب دیگری با نمایش تصاویر متفاوت نسبت به نمونه های اصلی بود.
در طی این آزمایش، مدل مخصوص بازسازی تصاویر دائما در حال تحلیل تصاویر بود تا بتواند تغییرات در آن ها را تشخیص دهد و متوجه گردد با یک تصویر ویرایش شده روبه رو است یا خیر. در نهایت این سیستم توانست تمام تصاویر ویرایش شده را شناسایی کند که از عملکرد بهتر آن نسبت به سایر شبکه های عصبی خبر می دهد.
دانشمندان در هنگام آزمایش ها سعی کردند به صورت دستی سیستم را هک نموده و تصاویر ویرایش شده را به آن نشان دهند که تمام آن ها از سوی هوش مصنوعی رد شدند.
منبع : دیجیاتو
منبع: آی تابناک