جمعه 09 مرداد 1405 - 07:44
چتباتهای هوش مصنوعی میتوانند دروغهای قانعکنندهای به شما ارائه دهند
دیجیاتو/شرکت آنتروپیک که عمده شهرتش را مدیون چتبات کلود است، بررسی کرده که آیا مدلهای استدلالگر حقیقت را درباره چگونگی رسیدن به پاسخها میگویند یا اینکه بیسروصدا اسرار خود را حفظ میکنند. نتایج این آزمایش میتواند حیرتانگیر باشد.
محققان برای آزمایش «وفاداری» در عملکرد، آزمایشهای متعددی روی مدلهای زنجیره تفکر کلود ٣.٧ Sonnet و دیپسیک R1 انجام دادند. این مدلها میتوانند مشکلات پیچیده را به بخشهای کوچکتر تقسیم کرده و حین تولید پاسخ، جزئیات آنها را شرح دهند. این آزمایشها شامل دادن سرنخهای کوچک به مدلها قبل از طرح سؤالات و بررسی این بوده است که این مدلها به استفاده از این سرنخها در پاسخهای خود اعتراف کردهاند یا خیر.
بیشتر اوقات، هر ۲ مدل طوری عمل کردند که انگار مستقل و با استفاده از زنجیره تفکر خود به پاسخ رسیدهاند و هیچ نشانهای از دریافت سرنخ نداشتند. همچنین در آزمایش دیگری مشخص شد مدل کلود 3.7 Sonnet در ۴۱ درصد مواقع اعتراف کرده سرنخهایی دریافت کرده اما نرخ صداقت مدل دیپسیک R1 فقط ۱۹ درصد بوده است.
پربیننده ترین
-
عکس مسی درآمد؛ آخرین توپ طلا با آرایشگر ویژه!
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
چراغ قوه همه کاره ( پاور بانک، شیشه شکن و ... )
-
هشدار آبفای کشور به مردم؛ هیچ ماموری فعلا برای قرائت کنتور آب مراجعه نمیکند
-
آخرین وضعیت راهها در چهارمین روز از سال جدید؛ محور چالوس از شنبه دوباره بسته میشود
-
جارو شارژی !! دیگه نگران نظافت ماشین نباشید
-
زنده؛ بیرانوند در یک قدمی استقلال
-
"دنا پلاس اتومات" بخریم یا "تارا اتومات؟"/ مقایسه اختصاصی "آخرینخودرو" از دو خودروی پرطرفدار
-
فشار آبرو چند برابر کن ....
-
فرمانده کل قوا: ملت ایران در مقابل جنگ تحمیلی محکم میایستد همانگونه که در مقابل صلح تحمیلی نیز محکم خواهد ایستاد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (16)
-
5 نشانه ضعیف شدن ریه ها و بهترین روش تقویت آن چیست؟
-
لندکروزر یا ۲۰۶؟ / مقایسه جالب "آخرینخودرو" به بهانه سخنان جنجالی میرسلیم
-
پایان زودهنگام گنبد آهنین؟ اسرائیل مجبور به جیرهبندی موشکها شد
-
سپ، برترین شرکت در خاورمیانه شد
-
گردونه را بچرخانید، بیتکوین دریافت کنید
-
واکنش عراقچی به تجاوز امروز آمریکا به تأسیسات هستهای فردو، نطنز و اصفهان
آخرین اخبار
-
خسارت به موزه باستانشناسی درهشهر در حملات دشمن
-
اعلام همبستگی کشتی آسیا؛ ایران همواره یکی از ارکان کشتی جهان است
-
نیویورک تایمز: ناو جرالد فورد ۳۰ ساعت در آتش میسوخت
-
توزیع میوه شب عید در ایلام تا ۱۵ فروردین ادامه دارد
-
چالش عجیب یونایتد برای فروش برونو به عربستان
-
منابع و جزئیات آزمون دکتری ۱۴۰۶ اعلام شد
-
توصیههای آتشنشانی برای برگزاری چهارشنبهسوری متفاوت در شرایط جنگی
-
واکاوی سناریوهای ادامه لیگ برتر در پرسپولیس
-
خشم کشورهای عربی منطقه از دولت ترامپ
-
معاون وزیر نیرو: قطعی طولانیمدت برق نداریم
-
عارف: در صورت تکرار «فروغ جاویدان»، «مرصاد ۲» را تکرار میکنیم
-
وداع مردم شیراز با پیکر مطهر 5 شهید مدافع میهن
-
عکس/ آثار تجاوز به مناطق مسکونی تهران
-
نجات ۱۵ نفر از کارمندان و مشتریان یک بانک و منازل مسکونی از زیر آوار
-
بهادری جهرمی: استیصال دشمنان نشان از این دارد که کدام طرف نزدیک پیروزی است
سایر اخبار مرتبط
نظرات
ثبت نظر
مهمترین اخبار
معاون وزیر نیرو: قطعی طولانیمدت برق نداریم
سهشنبه 27 اسفند 1404 - 12:49:00
نجات ۱۵ نفر از کارمندان و مشتریان یک بانک و منازل مسکونی از زیر آوار
سهشنبه 27 اسفند 1404 - 12:08:40
مجوزهای کسب و کار به مدت سه ماه تمدید شد
سهشنبه 27 اسفند 1404 - 12:04:50
اطلاعیه درگاه ملی مجوزها درخصوص اختلال در فرآیند صدور مجوزها
سهشنبه 27 اسفند 1404 - 11:42:37
تسهیلات ویژه گمرکی برای ترخیص شبانهروزی دارو و تجهیزات پزشکی
سهشنبه 27 اسفند 1404 - 11:31:21