امکان گمراه ساختن سیستم های هوش مصنوعی

امکان گمراه ساختن سیستم های هوش مصنوعی

در این بخش از اخبار فناوری اطلاعات شرکت مهرسانا قصد داریم به بررسی امکان گمراه ساختن سیستم های هوش مصنوعی بپردازیم.

علی رغم همه مزایا و سهولت هایی که تکنولوژی برای بشر به ارمغان آورده است، ترس از ربوده شدن مشاغل انسانی توسط تکنولوژی های عصر جدید مثل هوش مصنوعی (AI)، یادگیری ماشینی و رباتیک همچنان وجود دارد. اگرچه، برخی از محققین با این نظر که تکنولوژی به زودی می تواند مشاغل را از انسان ها بگیرد، موافق نیستند.

برخی از محققین دانشگاه کالیفرنیا، لس آنجلس (UCLA) در ایالات متحده آزمایش های مختلفی انجام داده اند که نشان دهنده محدودیت های سخت “یادگیری عمیق” (deep learning) ماشین ها هستند.

مسیر طولانی پیشروی هوش مصنوعی

تیمی از دانشگاه کالیفرنیا در ژورنال PLOS Computational Biology گفتند: “نوعی از هوش مصنوعی که تحت عنوان شبکه های کامپیوتری یادگیری عمیق شناخته می شوند چقدر باهوش هستند و چقدر در تقلید از مغز انسان دقیق هستند؟ این سیستم ها در سال های اخیر خیلی پیشرفت کرده اند، ولی هنوز راهی طولانی برای پیمودن در پیشرو دارند.”

اشتیاق هایی برای استفاده از این شبکه ها در انجام بسیاری از وظایف فردی و حتی مشاغل وجود دارد. اما نتایج آزمایش های صورت گرفته توسط محققین نشان می دهد که گمراه کردن این سیستم ها کار ساده ای بوده و روش شناسایی اشیا با استفاده از دید کامپیوتری این شبکه ها به طور قابل توجهی با دید بشری فرق دارد.

سیستم های هوش مصنوعی به آسانی گمراه می شوند

آزمایش اول

به گفته فیلیپ کلمن (Philip Kellman) استاد فیزیولوژی در UCLA و محقق ارشد در این بررسی، دید ماشینی اشکال هایی دارد. در آزمایش اول، فیزیولوژیست ها به یکی از بهترین شبکه های یادگیری عمیق به نام VGG-19 تصاویری رنگی از حیوانات و اشیا را نشان دادند. تصاویر تغییر داده شده بودند. به طور مثال، سطح یک توپ گلف به جای بدنه یک قوری چای قرار داشت، راه راه های گورخر روی یک شتر قرار گرفته بود و طرح های لوزی شکل آبی و قرمز یک جوراب روی یک فیل قرار داده شده بود.

VGG-19 توانست تنها 5 شی از 40 شی را به درستی شناسایی کند. VGG-19 فکر کرد که شانس اینکه فیل واقعا فیل باشد صفر درصد و شانس اینکه قوری چای واقعا قوری چای باشد 0/41 درصد است. انتخاب اول VGG-19 برای قوری چای، یک توپ گلف بود که نشان می دهد شبکه های هوش مصنوعی به بافت یک شی بیشتر از شکل آن دقت می کنند.

هونگ جینگ لو (Hongjing Lu) استاد فیزیولوژی UCLA و محقق دیگر این پروژه گفت: “ما می توانیم این سیستم های هوش مصنوعی را به سادگی گمراه کنیم. مکانیزم های یادگیری آنها پیچیدگی کمتری از ذهن انسان دارد.”

آزمایش دوم

در آزمایش دوم، فیزیولوژیست ها مجسمه های شیشه ای را به VGG-19 و یک شبکه یادگیری عمیق دیگر به نام AlexNet نشان دادند. به هر دو شبکه آموزش داده شده بود که اشیا را با استفاده از یک دیتابیس تصویری به نام ImageNet شناسایی کنند. اما هر دو شبکه در شناسایی مجسمه های شیشه ای شکست خوردند.

آزمایش سوم

در آزمایش سوم، محققین نقاشی هایی که با رنگ مشکی روی زمینه سفید کشیده شده بودند را به VGG-19 و AlexNet نشان دادند. هدف از این سه آزمایش این بود که آیا این سیستم ها می توانند اشیا را از روی شکلشان بشناسند؟

محققین نتیجه گرفتند که انسان ها کل شیء را می بینند در حالی که شبکه های AI تنها قسمت هایی از اشیا را شناسایی می کنند.

نویسنده مطلب: پریسا عصاره | شرکت مهرسانا | اخبار فناوری اطلاعات

درباره شرکت فناوری اطلاعات مهرسانا

ارائه دهنده خدمات طراحی وب سایت ، گرافیک ، برنامه نویسی و تولید محتوای آموزشی

ارسال دیدگاه

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *