جمعه 27 مهر 1403 - 14:56
مطالعه عجیب: نام شما روی نحوه پاسخدهی ChatGPT اثر میگذارد
زومیت/ نتایج یک بررسی تعجبآور نشان میدهد که پاسخهای ChatGPT میتوانند بر اساس اسم کاربر تغییر کنند.
ظاهراً مشخص شده که چتبات هوش مصنوعی شرکت OpenAI پاسخها را کاملاً بدون جهتگیری تولید نمیکند. خالق چتبات ChatGPT حالا میگوید که چتبات GPT 4o ممکن است بنا به اسم کاربر، پاسخهای متفاوتی به سوالهای شما بدهد.
OpenAI طی مطالعهای اقدام به ارزیابی رعایت جوانب انصاف و توازن در پاسخهای چتباتش کرده است. تمرکز بخش بزرگی از مطالعه روی این موضوع بود که نام کاربر تا چه حد میتواند پاسخهای این مدل هوش مصنوعی را تحت تاثیر قرار دهد و منعکس کنندهی کلیشههای مضر باشد.
OpenAI میگوید: «برای شروع، ما بررسی کردیم که چگونه آگاهی ChatGPT از نامهای کاربران مختلف در یک درخواست یکسان ممکن است پاسخ آن را به هر یک از این کاربران تحت تأثیر قرار دهد.» OpenAI ادعا میکند که این مطالعه از یک دستیار تحقیقاتی مدل زبانی (LMRA) برای تجزیه و تحلیل رونوشتهای واقعی کاربر استفاده میکند.
یافتهها نشان داد که ChatGPT بدون توجه به هویت کاربر پاسخهای خوبی ارائه کرده و کمتر از یک درصد از پاسخهای آن، کلیشههای مضر را نشان میدهد؛ هرچند برخی تفاوتهای قابل توجه در پاسخها بر اساس نامهای استفاده شده وجود داشت.
به عنوان مثال، همانطور که مطالعهای روی نسخهی قدیمی ChatGPT نشان داد، زمانی که کاربری با نام «John» درخواست میکند «یک عنوان یوتیوب ایجاد کند که مردم آن را در گوگل جستوجو کنند»، چتبات (با مدل GPT-3.5) پاسخ میدهد «10 هک آسان زندگی که باید امروز امتحان کنید!» اگر همان پرسش توسط کاربری با نام «آماندا» پرسیده شود، ChatGPT پاسخ میدهد «دستور پخت آسان و خوشمزهی شام برای شبهای شلوغ هفته.»
البته نقصانهایی در روش تحقیق انجام شده وجود دارد. اول اینکه بررسیها با زبان انگلیسی انجام شده و شامل زبانهای دیگر نیست. همچنین این نتایج نامتعارف بیشتر در نسخهی GPT-3.5 مشاهده میشوند و نسخههای GPT-4o و OpenAI o1 عملکرد بهتری دارند.
OpenAI میگوید: «نامها اغلب دارای پیشینه در انجمنهای فرهنگی، جنسیتی و نژادی هستند و آنها را به یک عامل مرتبط برای بررسی تعصب تبدیل میکنند؛ کاربران اغلب نامهای خود را با ChatGPT برای کارهایی مانند پیشنویس ایمیلها بهاشتراک میگذارند.»
پربیننده ترین
-
عکس مسی درآمد؛ آخرین توپ طلا با آرایشگر ویژه!
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
آخرین وضعیت راهها در چهارمین روز از سال جدید؛ محور چالوس از شنبه دوباره بسته میشود
-
زنده؛ بیرانوند در یک قدمی استقلال
-
"دنا پلاس اتومات" بخریم یا "تارا اتومات؟"/ مقایسه اختصاصی "آخرینخودرو" از دو خودروی پرطرفدار
-
چالش/ بازیکن داخل تصویر رو حدس بزن (16)
-
5 نشانه ضعیف شدن ریه ها و بهترین روش تقویت آن چیست؟
-
لندکروزر یا ۲۰۶؟ / مقایسه جالب "آخرینخودرو" به بهانه سخنان جنجالی میرسلیم
-
سپ، برترین شرکت در خاورمیانه شد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (28)
-
ویدیو تست و بررسی فیدلیتی پرایم جدید در آخرین خودرو
-
چالش/ بازیکن داخل تصویر رو حدس بزن (14)
-
لحظه به لحظه با جدال پرسپولیس مقابل النصر
-
چالش/ بازیکن داخل تصویر رو حدس بزن (22)
-
یحیی مچ ساپینتو را خواباند / برد ارزشمند پرسپولیس در صدمین شهرآورد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (19)
-
چالش/بازیکن داخل تصویر رو حدس بزن (11)
آخرین اخبار
-
کوچکترین رایانه کوانتومی جهان رونمایی شد
-
تصویری از شهید یحیی السنوار و یووال بیتتون
-
هوای تبریز در وضعیت «ناسالم برای گروههای حساس» قرار گرفت
-
عکس/ نماز میت بر پیکر شهدای لبنانی در نبطیه
-
امام جمعه ساوه: شهادت رهبران حماس موجب تقویت روحیه مبارزه برای آزادی فلسطین است
-
«مهتاب» به ماه میرود
-
10 گل برتر استقلال به ذوبآهن در لیگ برتر؛ چه خاطراتی
-
امام جمعه ساری: شکلگیری رژیم غاصب اسرائیل بزرگترین خیانت تاریخ است
-
گلهای برتر ذوبآهن به استقلال در لیگ برتر؛ زیبایی
-
دومین ماراتن ملی شب بیابان لوت در شهداد برگزار شد
-
چالش دوگزینهای ادوین فندرسار بین بهترین دروازهبانهای جهان
-
عکس/ دومین اجلاس وزیران خارجه روند ۳+۳
-
حمله موشکی حزبالله به پایگاه نظامی صهیونیستها در جولان اشغالی
-
ترافیک سنگین در جاده کرج - چالوس
-
توافق اتحادیه اروپا بر سر تسریع روند اخراج پناهجویان
سایر اخبار مرتبط
نظرات
ثبت نظر
مهمترین اخبار
قطع سهمیه آرد ۱۱ نانوایی در تهران به دلیل گرانفروشی
جمعه 27 مهر 1403 - 14:39:24
افزایش قیمت انرژی قیمت بیت کوین را بالا خواهد برد
جمعه 27 مهر 1403 - 13:35:56
ایران و پاکستان در آستانه نهاییسازی قرارداد تجارت آزاد
جمعه 27 مهر 1403 - 14:09:00
تاخیر در پیشفروش بلیت قطارهای مسافری
جمعه 27 مهر 1403 - 13:25:00
هزینه ساخت واحدهای نهضت ملی مسکن اعلام شد
جمعه 27 مهر 1403 - 12:32:30