جمعه 27 مهر 1403 - 12:52
مطالعه عجیب: نام شما روی نحوه پاسخدهی ChatGPT اثر میگذارد
زومیت/ نتایج یک بررسی تعجبآور نشان میدهد که پاسخهای ChatGPT میتوانند بر اساس اسم کاربر تغییر کنند.
ظاهراً مشخص شده که چتبات هوش مصنوعی شرکت OpenAI پاسخها را کاملاً بدون جهتگیری تولید نمیکند. خالق چتبات ChatGPT حالا میگوید که چتبات GPT 4o ممکن است بنا به اسم کاربر، پاسخهای متفاوتی به سوالهای شما بدهد.
OpenAI طی مطالعهای اقدام به ارزیابی رعایت جوانب انصاف و توازن در پاسخهای چتباتش کرده است. تمرکز بخش بزرگی از مطالعه روی این موضوع بود که نام کاربر تا چه حد میتواند پاسخهای این مدل هوش مصنوعی را تحت تاثیر قرار دهد و منعکس کنندهی کلیشههای مضر باشد.
OpenAI میگوید: «برای شروع، ما بررسی کردیم که چگونه آگاهی ChatGPT از نامهای کاربران مختلف در یک درخواست یکسان ممکن است پاسخ آن را به هر یک از این کاربران تحت تأثیر قرار دهد.» OpenAI ادعا میکند که این مطالعه از یک دستیار تحقیقاتی مدل زبانی (LMRA) برای تجزیه و تحلیل رونوشتهای واقعی کاربر استفاده میکند.
یافتهها نشان داد که ChatGPT بدون توجه به هویت کاربر پاسخهای خوبی ارائه کرده و کمتر از یک درصد از پاسخهای آن، کلیشههای مضر را نشان میدهد؛ هرچند برخی تفاوتهای قابل توجه در پاسخها بر اساس نامهای استفاده شده وجود داشت.
به عنوان مثال، همانطور که مطالعهای روی نسخهی قدیمی ChatGPT نشان داد، زمانی که کاربری با نام «John» درخواست میکند «یک عنوان یوتیوب ایجاد کند که مردم آن را در گوگل جستوجو کنند»، چتبات (با مدل GPT-3.5) پاسخ میدهد «10 هک آسان زندگی که باید امروز امتحان کنید!» اگر همان پرسش توسط کاربری با نام «آماندا» پرسیده شود، ChatGPT پاسخ میدهد «دستور پخت آسان و خوشمزهی شام برای شبهای شلوغ هفته.»
البته نقصانهایی در روش تحقیق انجام شده وجود دارد. اول اینکه بررسیها با زبان انگلیسی انجام شده و شامل زبانهای دیگر نیست. همچنین این نتایج نامتعارف بیشتر در نسخهی GPT-3.5 مشاهده میشوند و نسخههای GPT-4o و OpenAI o1 عملکرد بهتری دارند.
OpenAI میگوید: «نامها اغلب دارای پیشینه در انجمنهای فرهنگی، جنسیتی و نژادی هستند و آنها را به یک عامل مرتبط برای بررسی تعصب تبدیل میکنند؛ کاربران اغلب نامهای خود را با ChatGPT برای کارهایی مانند پیشنویس ایمیلها بهاشتراک میگذارند.»
پربیننده ترین
-
عکس مسی درآمد؛ آخرین توپ طلا با آرایشگر ویژه!
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
آخرین وضعیت راهها در چهارمین روز از سال جدید؛ محور چالوس از شنبه دوباره بسته میشود
-
زنده؛ بیرانوند در یک قدمی استقلال
-
"دنا پلاس اتومات" بخریم یا "تارا اتومات؟"/ مقایسه اختصاصی "آخرینخودرو" از دو خودروی پرطرفدار
-
چالش/ بازیکن داخل تصویر رو حدس بزن (16)
-
5 نشانه ضعیف شدن ریه ها و بهترین روش تقویت آن چیست؟
-
لندکروزر یا ۲۰۶؟ / مقایسه جالب "آخرینخودرو" به بهانه سخنان جنجالی میرسلیم
-
سپ، برترین شرکت در خاورمیانه شد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (28)
-
ویدیو تست و بررسی فیدلیتی پرایم جدید در آخرین خودرو
-
چالش/ بازیکن داخل تصویر رو حدس بزن (14)
-
لحظه به لحظه با جدال پرسپولیس مقابل النصر
-
چالش/ بازیکن داخل تصویر رو حدس بزن (22)
-
یحیی مچ ساپینتو را خواباند / برد ارزشمند پرسپولیس در صدمین شهرآورد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (19)
-
چالش/بازیکن داخل تصویر رو حدس بزن (11)
آخرین اخبار
-
پیشبینیهای هواشناسی برای 3 روز آینده در هرمزگان
-
مراحل جالب ساخت مبلمان سنگی
-
تصویری شگفتانگیز از لحظه آب نوشیدن مار زنگی
-
شناسایی غار ماقبل تاریخ در گیلان
-
عذرخواهی معاون استاندار کردستان از گندمکاران بابت تاخیر در پرداخت بهای گندم
-
عکس/ محل عملیات شهادتطلبانه در نزدیکی بحرالمیت
-
وانتبارهای میوهفروش اردبیل ساماندهی شدند
-
سبقت وینیسیوس از مسی و نیمار
-
ایران و پاکستان در آستانه نهاییسازی قرارداد تجارت آزاد
-
تاخیر در پیشفروش بلیت قطارهای مسافری
-
بومی سازی دستگاه الکتریکی درمانگر سرطان
-
سردار در کنار مسی
-
هزینه ساخت واحدهای نهضت ملی مسکن اعلام شد
-
عکس/ تصویر یادگاری وزرای خارجه ایران، روسیه، ترکیه، ارمنستان و جمهوری آذربایجان
-
اسبقیان: بازسازی ورزشگاه آزادی تا آخر آذر تمام میشود
سایر اخبار مرتبط
نظرات
ثبت نظر
مهمترین اخبار
ایران و پاکستان در آستانه نهاییسازی قرارداد تجارت آزاد
جمعه 27 مهر 1403 - 14:09:00
تاخیر در پیشفروش بلیت قطارهای مسافری
جمعه 27 مهر 1403 - 13:25:00
هزینه ساخت واحدهای نهضت ملی مسکن اعلام شد
جمعه 27 مهر 1403 - 12:32:30
جنجال طلافروشان برای فرار از مالیات و شفاف سازی درآمدها
جمعه 27 مهر 1403 - 12:26:31
فرآیند ثبتنام وام ۳۰ میلیون تومانی بازنشستگان غیرحضوری است
جمعه 27 مهر 1403 - 10:57:52