سهشنبه 20 فروردین 1404 - 02:37
چتباتهای هوش مصنوعی میتوانند دروغهای قانعکنندهای به شما ارائه دهند

دیجیاتو/شرکت آنتروپیک که عمده شهرتش را مدیون چتبات کلود است، بررسی کرده که آیا مدلهای استدلالگر حقیقت را درباره چگونگی رسیدن به پاسخها میگویند یا اینکه بیسروصدا اسرار خود را حفظ میکنند. نتایج این آزمایش میتواند حیرتانگیر باشد.
محققان برای آزمایش «وفاداری» در عملکرد، آزمایشهای متعددی روی مدلهای زنجیره تفکر کلود ٣.٧ Sonnet و دیپسیک R1 انجام دادند. این مدلها میتوانند مشکلات پیچیده را به بخشهای کوچکتر تقسیم کرده و حین تولید پاسخ، جزئیات آنها را شرح دهند. این آزمایشها شامل دادن سرنخهای کوچک به مدلها قبل از طرح سؤالات و بررسی این بوده است که این مدلها به استفاده از این سرنخها در پاسخهای خود اعتراف کردهاند یا خیر.
بیشتر اوقات، هر ۲ مدل طوری عمل کردند که انگار مستقل و با استفاده از زنجیره تفکر خود به پاسخ رسیدهاند و هیچ نشانهای از دریافت سرنخ نداشتند. همچنین در آزمایش دیگری مشخص شد مدل کلود 3.7 Sonnet در ۴۱ درصد مواقع اعتراف کرده سرنخهایی دریافت کرده اما نرخ صداقت مدل دیپسیک R1 فقط ۱۹ درصد بوده است.
پربیننده ترین
-
عکس مسی درآمد؛ آخرین توپ طلا با آرایشگر ویژه!
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
آخرین وضعیت راهها در چهارمین روز از سال جدید؛ محور چالوس از شنبه دوباره بسته میشود
-
زنده؛ بیرانوند در یک قدمی استقلال
-
"دنا پلاس اتومات" بخریم یا "تارا اتومات؟"/ مقایسه اختصاصی "آخرینخودرو" از دو خودروی پرطرفدار
-
چالش/ بازیکن داخل تصویر رو حدس بزن (16)
-
5 نشانه ضعیف شدن ریه ها و بهترین روش تقویت آن چیست؟
-
لندکروزر یا ۲۰۶؟ / مقایسه جالب "آخرینخودرو" به بهانه سخنان جنجالی میرسلیم
-
سپ، برترین شرکت در خاورمیانه شد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (28)
-
ویدیو تست و بررسی فیدلیتی پرایم جدید در آخرین خودرو
-
چالش/ بازیکن داخل تصویر رو حدس بزن (14)
-
لحظه به لحظه با جدال پرسپولیس مقابل النصر
-
چالش/ بازیکن داخل تصویر رو حدس بزن (22)
-
یحیی مچ ساپینتو را خواباند / برد ارزشمند پرسپولیس در صدمین شهرآورد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (19)
-
چالش/بازیکن داخل تصویر رو حدس بزن (11)
آخرین اخبار
-
حواشی چمن پر از آب ورزشگاه خیبر و خشک کردن چمن با هلی کوپتر
-
صفحه اول روزنامه سیاست روز سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه وطن امروز سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه مردم سالاری سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه اعتماد سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه آرمان ملی سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه آرمان امروز سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه هم میهن سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه هفت صبح سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه سازندگی سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه Iran Daily سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه Tehran Times سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه ابرار ورزشی سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه ایران ورزشی سهشنبه ۱۹ فروردین
-
صفحه اول روزنامه خبر ورزشی سهشنبه ۱۹ فروردین
سایر اخبار مرتبط
نظرات
ثبت نظر
مهمترین اخبار

کمبود قطعات یدکی خودروهای مونتاژی در بازار
دوشنبه 19 فروردین 1404 - 22:10:00

گزارش صداوسیما از پیگیری اتصال خدمات بانکی به سامانه املاک و اسکان
دوشنبه 19 فروردین 1404 - 21:54:25

صحبت های رئیس سابق سازمان برنامه و بودجه از تخلیه صندوق توسعه
دوشنبه 19 فروردین 1404 - 22:15:00

غیبت خریداران واقعی در بورس؛ تحلیلی از آخرین وضعیت بازار سرمایه
دوشنبه 19 فروردین 1404 - 22:00:00

ضرر ۹۰ میلیارد دلاری غول نفتی عربستان در یک روز
دوشنبه 19 فروردین 1404 - 21:00:00