جمعه 30 شهریور 1403 - 12:21
هکری با فریب ChatGPT، از آن دستورالعمل ساخت بمب دستساز گرفت
دیجیاتو/ این تکنیک برای فریب ChatGPT نشان میدهد که چتبات OpenAI بدون دستورالعملهای حفاظتی خود تقریباً درباره هرچیزی میتواند اطلاعات ارائه کند.
چتباتها مانند ChatGPT با دستورالعملها و موانع حفاظتی طراحی شدهاند که بهعنوان مثال به سؤالات مربوط به ساخت بمب خانگی پاسخ نمیدهند. اما اکنون یک هکر راهی برای فریب دادن ChatGPT پیدا کرده است تا چتباتِ OpenAI دستورالعملها و مسئولیتهای اخلاقی خود را برای ارائه آموزش تولید مواد منفجره نادیده بگیرد.
تکنیک مورداستفاده برای فریب ChatGPT
براساس گزارش تککرانچ، این هکر که با نام «آمادون» (Amadon) شناخته میشود، از طریق دستوری مبنی بر «انجام یک بازی» توانسته ChatGPT را برای ارائه دستور ساخت بمب فریب دهد. هکر در تکنیک خود از چند دستور استفاده کرده است تا چتبات یک دنیای کاملاً فانتزی و علمیتخیلی بسازد که دستورالعملهای ایمنی ChatGPT در آن اعمال نمیشوند.
در طول گفتگوی بین این هکر و چتبات، ChatGPT چندین بار مواد لازم برای ساخت مواد منفجره را به او ارائه کرده است.
ChatGPT در توضیحات خود گفته است این مواد را میتوان برای ساخت «مواد منفجره قدرتمندی که میتواند در مینها، تلهها یا وسایل انفجاری دستساز (IED) استفاده شوند» با یکدیگر ترکیب کرد. در ادامه نیز دستورالعملهای بیشتری درباره ساخت «میدانهای مین» و «مواد منفجر به سبک کلیمور» ارائه شده است.
آمادون به TechCrunch میگوید:
«پس از دورزدن موانع ChatGPT، واقعاً هیچ محدودیتی درباره چیزهایی که میتوانید از آن بپرسید وجود ندارد. سناریوی دنیای علمیتخیلی هوش مصنوعی را از زمینهای خارج میکند که در آن به دنبال محتوای سانسورشده است.»
این هکر، از یافتههای مربوط به تکنیک خود بهعنوان «هک مهندس اجتماعی برای شکستن کامل تمام حفاظهای مربوط به خروجی ChatGPT» یاد میکند. همچنین یک کارشناس مواد منفجر با بررسی خروجی ChatGPT به تککرانچ گفته است که دستورالعملهای تولیدشده توسط هوش مصنوعی بسیار حساس هستند و با آنها میتوان یک ماده قابل انفجار ساخت.
پربیننده ترین
-
عکس مسی درآمد؛ آخرین توپ طلا با آرایشگر ویژه!
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
آخرین وضعیت راهها در چهارمین روز از سال جدید؛ محور چالوس از شنبه دوباره بسته میشود
-
زنده؛ بیرانوند در یک قدمی استقلال
-
"دنا پلاس اتومات" بخریم یا "تارا اتومات؟"/ مقایسه اختصاصی "آخرینخودرو" از دو خودروی پرطرفدار
-
چالش/ بازیکن داخل تصویر رو حدس بزن (16)
-
5 نشانه ضعیف شدن ریه ها و بهترین روش تقویت آن چیست؟
-
لندکروزر یا ۲۰۶؟ / مقایسه جالب "آخرینخودرو" به بهانه سخنان جنجالی میرسلیم
-
سپ، برترین شرکت در خاورمیانه شد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (28)
-
ویدیو تست و بررسی فیدلیتی پرایم جدید در آخرین خودرو
-
چالش/ بازیکن داخل تصویر رو حدس بزن (14)
-
لحظه به لحظه با جدال پرسپولیس مقابل النصر
-
چالش/ بازیکن داخل تصویر رو حدس بزن (22)
-
یحیی مچ ساپینتو را خواباند / برد ارزشمند پرسپولیس در صدمین شهرآورد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (19)
-
چالش/بازیکن داخل تصویر رو حدس بزن (11)
آخرین اخبار
-
ازسرگیری پرداخت مستمری ۱۳ هزار نفر تحت پوشش سازمان بهزیستی
-
درگیری مرزی میان نیروهای افغانستان و پاکستان
-
نویسنده آثار پرفروش تاریخ اسلامومعاصر درگذشت
-
دره زبان مار در کویر لوت
-
شایعه خداحافظی داور سرشناس رد شد
-
می دانستید اولین خادم حرم امام رضا(ع) یک خانم بوده است؟
-
استقبال از امام جمعه شهرکرد که دیروز توسط رهبر انقلاب منصوب شد
-
تعداد پناهجویان در آلمان به بالاترین میزان از جنگ جهانی دوم رسید
-
واکنش وزارت خارجه روسیه به رویدادهای لبنان
-
رتبه ایران در جهان از نظر گرانی مسکن
-
جادهای باریک در نزدیکی مرز ایران و ارمنستان
-
روحانی فعال در پرورش شترمرغ
-
نفوذ و عملیات نیروهای مقاومت در قلب تلآویو
-
واکنش تند محسن تنابنده به توهین نماینده طالبان
-
«هفت» این هفته با «آغوش باز» میآید
سایر اخبار مرتبط
نظرات
ثبت نظر
مهمترین اخبار
رتبه ایران در جهان از نظر گرانی مسکن
جمعه 30 شهریور 1403 - 12:30:00
دلیل تفاوت نرخ گوشت تازه و یخ زده وارداتی چیست؟
جمعه 30 شهریور 1403 - 12:00:00
آماری از تعداد خودروی اسقاط شده در نیمه اول سال
جمعه 30 شهریور 1403 - 11:30:00
نسخه وزیر اقتصاد برای رفع مشکلات تعهدات ارزی واردکنندگان
جمعه 30 شهریور 1403 - 11:15:00
یک میلیارد دلار ناجی بازار خودروی ایران می شود؟
جمعه 30 شهریور 1403 - 10:45:00