پنل هوش مصنوعی عامل گرا در رباتیک همزمان با برگزاری دومین روز رویداد ربوکاپ آزاد ایران برگزار شد. دکتر نیره زاغری، استادیار دانشگاه در ارائه‌ای با عنوان "خود مدل سازی و فراشناخت" به بررسی و شناخت از موضوع "فراشناخت" پرداخت. فراشناخت به توانایی درک و مدیریت فرآیندهای فکری خود گفته می‌شود و به ما امکان می‌دهد درباره شیوه‌های تفکر و یادگیری خود تأمل کنیم. این مهارت که شامل آگاهی و کنترل ذهنی است، نقش مهمی در بهبود یادگیری، حل مسائل پیچیده و تصمیم‌گیری آگاهانه دارد. به عبارتی، فراشناخت، به نوعی چیدمان تفکر را در مغز انجام می دهد.

این استاد دانشگاه عنوان کرد: ذات انسان مولد و تولیدکننده علم و خلاقیت است و درون هر ذهن انسان، ترتیب متفاوتی قر دارد و بهره بردن از آن، استعداد هر انسانی است. برخی از استعدادها ذاتی و برخی اکتسابی است که می توان نوع اکتسابی را به ربات ها آموخت.

او ادامه داد: در موضوع فراشناخت، مهارت های متفاوتی مطرح می شود که شامل به خاطرسپاری، فهم و درک، به کار بردن، تجزیه و تحلیل، ارزیابی، و خلق ایده است. به طورکلی، اگر پایه و اساس شناخت اولیه به درستی شکل گرفته باشد، فرایند یادگیری به خوبی انجام می شود. در واقع، طراحی مدلی که براساس رفتار مغز انسان شکل می گیرد، به مقوله فراشناخت برمی گردد.

او تاکید کرد: ربات ها قرار است در آینده به گونه ای برنامه ریزی شوند تا برای قرار گرفتن در محیط های متغیر و متفاوت آمادگی لازم را داشته باشند. یک ربات خام مانند ذهن آدمی است که چیزی داخل آن وجود ندارد اما با قرار دادن اطلاعات درون آن، به مرور شکل می گیرد.

نباید به ربات ها و هوش مصنوعی به طور کامل اعتماد کرد

مریم حاجی اسماعیلی، استاد مدعو دانشگاه آزاد اسلامی واحد تهران مرکزی در ارائه‌ای با عنوان «عاملیت ایمن و اخلاق مدار» در جریان برگزاری پنل‌های تخصصی نوزدهمین دوره مسابقات ربوکاپ آزاد ایران به ابعاد موضوع «اخلاق مداری در هوش عامل گرا» اشاره کرد.

حاجی اسماعیلی با اشاره به اهمیت حریم خصوصی در دنیای امروز گفت: بحث حریم خصوصی در حال حاضر موضوع داغی است. از سال ۲۰۲۴ روند نگارش قوانین هوش مصنوعی آغاز شد که ارتباط مستقیمی با کمک به برقراری امنیت استفاده از داده ها در کار با هوش مصنوعی دارد.

او عنوان کرد: در ارتباط با ربات ها و هوش مصنوعی، اگر در حوزه های فنی ورود کنیم، لایه هایی را با عنوان لایه های اخلاق باید در آن مشاهده کنیم. چیزی که در ربات و عاملیت هوش مصنوعی اهمیت دارد، عمل کردن به صورت ایمن است. وقتی هدفی برای آن تعریف می شود، تنها انجام هدف برای ما ملاک نیست بلکه ایمن عمل کردن آن اهمیت بیشتری دارد. به طوری که اگر موجب آسیب فیزیکی و روانی برای انسان شود، می تواند خطراتی را برای جامعه ایجاد کند. بنابراین، خطرات غیرقابل پیش بینی در آن نباید رخ دهد.

او در ادامه با اشاره به موضوع اخلاق مداری تاکید کرد: اخلاق مداری در ربات ها می تواند کرامت انسان را در تصمیم گیری ها نیز لحاظ کند که در روابط انسانی، بحث احترام، صداقت و عدالت را مدنظر قرار می دهد. درواقع، عاملیت ایمن و اخلاق مدار در هوش مصنوعی عمل گرا در رباتیک مجموعه اصول، طراحی ها و چارچوب هایی را شامل می شود که باید متناسب با کاربرد آنها باشد.

او عنوان کرد: این عاملیت ها باید مستقل باشند تا جریان های رسانه ای و سیاسی در آنها تاثیر گذار نباشد. نکاتی که در بحث اخلاق مداری مطرح است، شامل استفاده از محدودکننده های رفتاری در معماری عامل است. این قبیل محدودکننده ها شامل طراحی سیستم هایی برای پاسخگویی و توضیح پذیری؛ بهره گیری از مدل های اخلاق ترکیبی که نتیجه گیری را به دنبال دارد؛ و نظارت انسانی یا بازبینی تصمیمات ربات در شرایط بحرانی می شود.

این استاد دانشگاه اظهار داشت: برای ایمن و اخلاقی عمل کردن ربات ها باید از اجبار فیزیکی پرهیز کرد و به عبارتی باید برمبنای همان رعایت کرامت فردی برخورد کرد. ابعاد مختلفی را در بحث عاملیت از نظر اخلاقی می توان مد نظر قرار داد که شامل بعد فنی، بعد اخلاقی، بعد حقوقی و اجتماعی؛ بعد روان شناسی و بعد آینده نگری (نگرانی های بلندمدت) است.

او با اشاره به این که نباید به طور کامل به ربات ها و هوش مصنوعی اعتماد کرد و همواره باید جنبه احتیاط را نگاه داشت، تاکید کرد: در مقوله اخلاق در ربات ها، هر چقدر نشت اطلاعات کم تر شود، سودمندی ربات ها کم تر می شود.

گفتنی است همزمان با برگزاری نوزدهمین نمایشگاه‌ ربوکاپ آزاد به میزبانی دانشگاه آزاد اسلامی واحد تهران مرکزی در نمایشگاه بین المللی تهران، اساتید دانشگاه با حضور در پنل‌های تخصصی به بررسی ابعاد گوناگون تعامل فناورانه هوش مصنوعی و رباتیک می‌پردازند.