سهشنبه 03 مهر 1403 - 04:05
خالق ChatGPT: لطفاً عاشق چتباتهای ما نشوید
زومیت/ شرکت OpenAI درمورد ایجاد روابط عاطفی کاربران با چتباتهای هوش مصنوعی خود نگران است.
شرکتهای توسعهدهندهی چتباتهای هوش مصنوعی همواره سعی دارند عملکرد مدلهای خود را تا حد امکان شبیه انسان کنند. ظاهراً OpenAI کمی نگران «بیشازحد انسان بودن» مدلهای هوش مصنوعی و تأثیر آنها روی هنجارهای اجتماعی است.
OpenAI در گزارش جامع فعالیتهای خود، به صراحت اعلام کرد که ترجیح میدهد کاربران نسبت به GPT-4o احساسات عاطفی پیدا نکنند.
با توجه به پست وبلاگی OpenAI، این شرکت تلاش زیادی انجام داده است تا کاربران هنگام مکالمه با GPT-4o، احساس کنند با یک انسان حرف میزنند. این تلاشها شامل ویژگی صوتی جدید برای تقلید گفتار انسان بههمراه سرعت بالاتر پاسخگویی میشود و میتوانید با چتبات، گفتوگویی صوتی شبیه به مکالمه با یک انسان واقعی داشته باشید.
اکنون OpenAI متوجه شده است کاربران با ChatGPT-4o مانند انسان واقعی رفتار میکنند. این شرکت میگوید: «در مراحل اولیهی تست، ازجمله آزمایشهای داخلی و شبیهسازی حملات سایبری، متوجه شدیم کاربران از عباراتی استفاده میکنند که برقراری ارتباط با مدل را نشان میدهد. درحالیکه موارد ذکرشده بیضرر بهنظر میرسند، اما بررسی اثرات بلندمدت آنها نیاز به بررسی بیشتر دارد.»
OpenAI به دو دلیل موضوع انسانپنداری چتباتها را خبر بدی میداند. اول اینکه، وقتی هوش مصنوعی شبیه انسان بهنظر برسد، ما بیشتر مستعد باورکردن حرفهای آن بهعنوان واقعیت هستیم. این یعنی مردم درمقایسهبا زمانی که هوش مصنوعی شبیه ربات رفتار میکند، بسیار بیشتر در معرض توهمات و اطلاعات اشتباه آن قرار میگیرند.
مورد دوم اینکه OpenAI نگران است هنجارهای اجتماعی با GPT-4o تحریف شوند. شرکت مورد بحث احتمال میدهد این مدل، نیاز به تعاملات اجتماعی را کاهش دهد و درحالیکه امکان دارد به افراد تنها کمک کند، اما احتمالاً بر روابط سالم تأثیر خواهد داشت.
GPT-4o طوری طراحی شده است که اگر در حال صحبت باشد و کاربر نیز شروع به حرفزدن کند، صحبتهای چتبات قطع میشود تا به حرفهای کاربر گوش دهد و شاید این سبک حرفزدن در مکالمات دنیای واقعی نیز تأثیر داشته باشد.
درحالحاضر، OpenAI نحوهی برقراری ارتباط احساسی افراد با چتباتهای خود را زیر نظر خواهد گرفت و در صورت لزوم، سیستمهایش را اصلاح میکند. نگرانیهای این شرکت، دید بسیار جالبی درمورد عوارض جانبی استفاده از مدلهای هوش مصنوعی ارائه میدهد.
پربیننده ترین
-
عکس مسی درآمد؛ آخرین توپ طلا با آرایشگر ویژه!
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
آخرین وضعیت راهها در چهارمین روز از سال جدید؛ محور چالوس از شنبه دوباره بسته میشود
-
زنده؛ بیرانوند در یک قدمی استقلال
-
"دنا پلاس اتومات" بخریم یا "تارا اتومات؟"/ مقایسه اختصاصی "آخرینخودرو" از دو خودروی پرطرفدار
-
چالش/ بازیکن داخل تصویر رو حدس بزن (16)
-
5 نشانه ضعیف شدن ریه ها و بهترین روش تقویت آن چیست؟
-
لندکروزر یا ۲۰۶؟ / مقایسه جالب "آخرینخودرو" به بهانه سخنان جنجالی میرسلیم
-
سپ، برترین شرکت در خاورمیانه شد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (28)
-
ویدیو تست و بررسی فیدلیتی پرایم جدید در آخرین خودرو
-
چالش/ بازیکن داخل تصویر رو حدس بزن (14)
-
لحظه به لحظه با جدال پرسپولیس مقابل النصر
-
چالش/ بازیکن داخل تصویر رو حدس بزن (22)
-
یحیی مچ ساپینتو را خواباند / برد ارزشمند پرسپولیس در صدمین شهرآورد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (19)
-
چالش/بازیکن داخل تصویر رو حدس بزن (11)
آخرین اخبار
-
صفحه اول روزنامه جمهوری اسلامی سهشنبه ۳ مهر
-
صفحه اول روزنامه همشهری سهشنبه ۳ مهر
-
جاده ای خوش منظره در ایالت کرالا
-
آبشار زیبای تامول در مکزیک
-
صفحه اول روزنامه دنیای اقتصاد سهشنبه ۳ مهر
-
صفحه اول روزنامه اقتصاد مردم سهشنبه ۳ مهر
-
صفحه اول روزنامه ابرار اقتصادی سهشنبه ۳ مهر
-
صفحه اول روزنامه جهان صنعت سهشنبه ۳ مهر
-
صفحه اول روزنامه آسیا سهشنبه ۳ مهر
-
صفحه اول روزنامه ابتکار سهشنبه ۳ مهر
-
صفحه اول روزنامه شرق سهشنبه ۳ مهر
-
صفحه اول روزنامه کیهان سهشنبه ۳ مهر
-
صفحه اول روزنامه ایران سهشنبه ۳ مهر
-
صفحه اول روزنامه قدس سهشنبه ۳ مهر
-
صفحه اول روزنامه شهروند سهشنبه ۳ مهر
سایر اخبار مرتبط
نظرات
ثبت نظر
مهمترین اخبار
سیگنال دلاری به بورس رسید
دوشنبه 02 مهر 1403 - 22:20:00
در اولین حراج پاییزی سکه مرکز مبادله ربع صدر نشین شد
دوشنبه 02 مهر 1403 - 20:57:03
ردیابی افزایش قیمت شیر از تولید تا خانوار
دوشنبه 02 مهر 1403 - 22:10:00
روایت تجارت نیوز از تورم ۴۲ درصدی مسکن
دوشنبه 02 مهر 1403 - 21:45:00
ترکیه در صدر سفرهای هوایی ۵ ماه ابتدایی سال
دوشنبه 02 مهر 1403 - 21:15:00