سهشنبه 03 مهر 1403 - 01:54
خالق ChatGPT: لطفاً عاشق چتباتهای ما نشوید
زومیت/ شرکت OpenAI درمورد ایجاد روابط عاطفی کاربران با چتباتهای هوش مصنوعی خود نگران است.
شرکتهای توسعهدهندهی چتباتهای هوش مصنوعی همواره سعی دارند عملکرد مدلهای خود را تا حد امکان شبیه انسان کنند. ظاهراً OpenAI کمی نگران «بیشازحد انسان بودن» مدلهای هوش مصنوعی و تأثیر آنها روی هنجارهای اجتماعی است.
OpenAI در گزارش جامع فعالیتهای خود، به صراحت اعلام کرد که ترجیح میدهد کاربران نسبت به GPT-4o احساسات عاطفی پیدا نکنند.
با توجه به پست وبلاگی OpenAI، این شرکت تلاش زیادی انجام داده است تا کاربران هنگام مکالمه با GPT-4o، احساس کنند با یک انسان حرف میزنند. این تلاشها شامل ویژگی صوتی جدید برای تقلید گفتار انسان بههمراه سرعت بالاتر پاسخگویی میشود و میتوانید با چتبات، گفتوگویی صوتی شبیه به مکالمه با یک انسان واقعی داشته باشید.
اکنون OpenAI متوجه شده است کاربران با ChatGPT-4o مانند انسان واقعی رفتار میکنند. این شرکت میگوید: «در مراحل اولیهی تست، ازجمله آزمایشهای داخلی و شبیهسازی حملات سایبری، متوجه شدیم کاربران از عباراتی استفاده میکنند که برقراری ارتباط با مدل را نشان میدهد. درحالیکه موارد ذکرشده بیضرر بهنظر میرسند، اما بررسی اثرات بلندمدت آنها نیاز به بررسی بیشتر دارد.»
OpenAI به دو دلیل موضوع انسانپنداری چتباتها را خبر بدی میداند. اول اینکه، وقتی هوش مصنوعی شبیه انسان بهنظر برسد، ما بیشتر مستعد باورکردن حرفهای آن بهعنوان واقعیت هستیم. این یعنی مردم درمقایسهبا زمانی که هوش مصنوعی شبیه ربات رفتار میکند، بسیار بیشتر در معرض توهمات و اطلاعات اشتباه آن قرار میگیرند.
مورد دوم اینکه OpenAI نگران است هنجارهای اجتماعی با GPT-4o تحریف شوند. شرکت مورد بحث احتمال میدهد این مدل، نیاز به تعاملات اجتماعی را کاهش دهد و درحالیکه امکان دارد به افراد تنها کمک کند، اما احتمالاً بر روابط سالم تأثیر خواهد داشت.
GPT-4o طوری طراحی شده است که اگر در حال صحبت باشد و کاربر نیز شروع به حرفزدن کند، صحبتهای چتبات قطع میشود تا به حرفهای کاربر گوش دهد و شاید این سبک حرفزدن در مکالمات دنیای واقعی نیز تأثیر داشته باشد.
درحالحاضر، OpenAI نحوهی برقراری ارتباط احساسی افراد با چتباتهای خود را زیر نظر خواهد گرفت و در صورت لزوم، سیستمهایش را اصلاح میکند. نگرانیهای این شرکت، دید بسیار جالبی درمورد عوارض جانبی استفاده از مدلهای هوش مصنوعی ارائه میدهد.
پربیننده ترین
-
عکس مسی درآمد؛ آخرین توپ طلا با آرایشگر ویژه!
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
آخرین وضعیت راهها در چهارمین روز از سال جدید؛ محور چالوس از شنبه دوباره بسته میشود
-
زنده؛ بیرانوند در یک قدمی استقلال
-
"دنا پلاس اتومات" بخریم یا "تارا اتومات؟"/ مقایسه اختصاصی "آخرینخودرو" از دو خودروی پرطرفدار
-
چالش/ بازیکن داخل تصویر رو حدس بزن (16)
-
5 نشانه ضعیف شدن ریه ها و بهترین روش تقویت آن چیست؟
-
لندکروزر یا ۲۰۶؟ / مقایسه جالب "آخرینخودرو" به بهانه سخنان جنجالی میرسلیم
-
سپ، برترین شرکت در خاورمیانه شد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (28)
-
ویدیو تست و بررسی فیدلیتی پرایم جدید در آخرین خودرو
-
چالش/ بازیکن داخل تصویر رو حدس بزن (14)
-
لحظه به لحظه با جدال پرسپولیس مقابل النصر
-
چالش/ بازیکن داخل تصویر رو حدس بزن (22)
-
یحیی مچ ساپینتو را خواباند / برد ارزشمند پرسپولیس در صدمین شهرآورد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (19)
-
چالش/بازیکن داخل تصویر رو حدس بزن (11)
آخرین اخبار
-
روزبه چشمی بخشیده نمیشود
-
میثاقی: رای پرونده جنجالی بیرانوند به نفع پرسپولیس شد
-
گاریدو مثل ایرانیها نیست میخواهد در دربی پیروز باشد
-
درخواست جالب یک راننده تاکسی از لامین یامال
-
آنالیز استقلال و پرسپولیس پیش از شهرآورد پایتخت
-
زمان اعلام رای بیرانوند و پرسپولیس مشخص شد
-
همدانی: دلیل حواشی استقلال سوء مدیریت است
-
اکبرپور: چرا باید مشاور مدیرعامل کنفرانس برگزار کند؟
-
شمسایی: دو کارت زرد در مرحله حذفی به کارمان می آید
-
همه از گتوزو حساب میبردن، خود گتوزو از...
-
واکنش اکبرپور و جباری به تاکتیک تیم استقلال نکونام
-
شمسایی: بیندونیمه بازی با گواتمالا رو به تهدید آوردم
-
محمد صلاح بعدی مصر از آکادمی توتی در میآید!
-
۳ نفری که مسابقات جهانی کشتی را از سایه المپیک خارج میکنند!
-
جباری: گاریدو از نظر شخصیتی و فنی مربی پخته ای است
سایر اخبار مرتبط
نظرات
ثبت نظر
مهمترین اخبار
سیگنال دلاری به بورس رسید
دوشنبه 02 مهر 1403 - 22:20:00
در اولین حراج پاییزی سکه مرکز مبادله ربع صدر نشین شد
دوشنبه 02 مهر 1403 - 20:57:03
ردیابی افزایش قیمت شیر از تولید تا خانوار
دوشنبه 02 مهر 1403 - 22:10:00
روایت تجارت نیوز از تورم ۴۲ درصدی مسکن
دوشنبه 02 مهر 1403 - 21:45:00
ترکیه در صدر سفرهای هوایی ۵ ماه ابتدایی سال
دوشنبه 02 مهر 1403 - 21:15:00