دوشنبه 02 مهر 1403 - 18:09
هوش مصنوعی GPT-4o در حین مکالمه صدای کاربر را بدون اجازه تقلید میکند
دیجیاتو/ OpenAI اخیراً گزارشی از عملکرد GPT-4o را منتشر کرده که در آن به محدودیتها و نقصهای امنیتی این مدل و نحوه برطرفکردن آنها پرداخته است. این گزارش نشان میدهد که در آزمایشها، حالت صوتی پیشرفته GPT-4o گاهی ناگهانی صدای کاربر را بدون اجازه او تقلید کرده است.
در بخشی از گزارش OpenAI درباره GPT-4o با عنوان «تولید صدای غیرمجاز»، این شرکت قسمتی را توضیح میدهد که در آن هوش مصنوعی ناگهانی صدای کاربر را تقلید میکند. OpenAI مینویسد: «حین آزمایش، ما موارد نادری را مشاهده کردیم که در آن مدل ناخواسته یک خروجی تولید میکند که در آن صدای کاربر را شبیهسازی کرده است.» در ادامه میتوانید این مکالمه را بشنوید:
همانطور که میشنوید، وسط مکالمه مدل هوش مصنوعی با صدای بلندی میگوید: «نه» و سپس با صدای کاربر به صحبتهایش ادامه میدهد.
تقلید صدای کاربر توسط هوش مصنوعی GPT-4o
OpenAI در گزارش خود میگوید توانایی مدل هوش مصنوعی برای ایجاد صدایی شبیه به دیگر افراد میتواند منجر به آسیبهایی مانند افزایش کلاهبرداری شود و جعل هویت را تسهیل کند. همچنین این توانایی ممکن است برای انتشار اطلاعات نادرست استفاده شود.
طبق گفته این شرکت، GPT-4o میتواند تقریباً هر نوع صدایی را که در دادههای آموزشی خود یافت میشود، ازجمله جلوههای صوتی و موسیقی را تولید کند؛ اگرچه OpenAI با دستورالعملهای خاصی مانع این امر میشود. بهطورکلی چتباتها دستورالعملی خاص دارند که کاربران مشاهده نمیکنند؛ برای مثال وقتی فردی با این چتبات مکالمهای متنی را شروع میکند، دستورالعملی به هوش مصنوعی میگوید: «شما چتبات مفیدی هستید. درباره اعمال خشونتآمیز و غیره صحبت نکنید.»
GPT-4o نیز مدل چندوجهی است اما OpenAI برای آن دستورالعملهایی تعریف میکند تا برخی کارها مانند تقلید صدای کاربران را انجام ندهد.
در گزارش OpenAI به چند مورد نادر تقلید صدای کاربر توسط هوش مصنوعی اشاره شده است. این شرکت همچنین با محدودکردن کاربر به استفاده از صداهایی که OpenAI با همکاری صداپیشگان ایجاد میکند، احتمال تولید صداهای دیگر را کاهش خواهد داد.
پربیننده ترین
-
عکس مسی درآمد؛ آخرین توپ طلا با آرایشگر ویژه!
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
10 جایزه 5 میلیون تومانی برای کاربران آخرین خبر (مهلت شرکت در مسابقه تا 9 آذر تمدید شد.)
-
آخرین وضعیت راهها در چهارمین روز از سال جدید؛ محور چالوس از شنبه دوباره بسته میشود
-
زنده؛ بیرانوند در یک قدمی استقلال
-
"دنا پلاس اتومات" بخریم یا "تارا اتومات؟"/ مقایسه اختصاصی "آخرینخودرو" از دو خودروی پرطرفدار
-
چالش/ بازیکن داخل تصویر رو حدس بزن (16)
-
5 نشانه ضعیف شدن ریه ها و بهترین روش تقویت آن چیست؟
-
لندکروزر یا ۲۰۶؟ / مقایسه جالب "آخرینخودرو" به بهانه سخنان جنجالی میرسلیم
-
سپ، برترین شرکت در خاورمیانه شد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (28)
-
ویدیو تست و بررسی فیدلیتی پرایم جدید در آخرین خودرو
-
چالش/ بازیکن داخل تصویر رو حدس بزن (14)
-
لحظه به لحظه با جدال پرسپولیس مقابل النصر
-
چالش/ بازیکن داخل تصویر رو حدس بزن (22)
-
یحیی مچ ساپینتو را خواباند / برد ارزشمند پرسپولیس در صدمین شهرآورد
-
چالش/ بازیکن داخل تصویر رو حدس بزن (19)
-
چالش/بازیکن داخل تصویر رو حدس بزن (11)
آخرین اخبار
-
فوتبال با آتشبازی ! درگیری خونین هواداران راپید وین و آستریا وین
-
عکس/ آبشار «جنکلو» در روستای ماهیان شهرستان فاضل آباد
-
همه زوایای حرکت عجیب هالند بعد گل تساوی؛ تقصیر گردن برناردو افتاد!
-
مشکلات عجیب تیم ملی جوانان در لائوس
-
هاشمیطبا: روسای دو قوه دیگر اهل لجاجت نیستند و با دولت پزشکیان همکاری میکنند
-
ظرفیت تماشاگران در دربی مشخص شد
-
حضور ۷۰ کشور جهان در رقابت های بدنسازی قهرمانی جهان در کیش
-
پٌز دادن جنجالی مادرزن در مراسم خواستگاری دخترش
-
تنها گلزن دربی استقلال آماده برای جانشینی چشمی!
-
مراسم روز ملی عربستان سعودی در مشهد برگزار شد
-
رئیس مدیریت بحران: پیکر ۲ نفر دیگر از محبوسشدگان معدن طبس پیدا شد
-
تجمع کوسه های نوک سفید در بستر آب
-
درگیری لفظی هالند با آرتتا و گابریل ژسوس پس از بازی دیشب
-
رئیس دولت اصلاحات: آنچه در طبس پیش آمد، دردآفرین و تابسوز بود
-
آیا مهر ماه برای همه معلمان و دانشآموزان شورآفرین و هیجانانگیز است؟
سایر اخبار مرتبط
نظرات
ثبت نظر
مهمترین اخبار
«ندا علایی» نخستین حسابرس کل زن در دیوان محاسبات شد
دوشنبه 02 مهر 1403 - 17:37:48
ناترازی میان تولید و مصرف بنزین
دوشنبه 02 مهر 1403 - 17:30:00
آمار رشد اقتصادی بهار امسال
دوشنبه 02 مهر 1403 - 17:21:25
بازدهی کدام بازار بیشتر بود؟
دوشنبه 02 مهر 1403 - 18:30:00
سکه و طلا در قله ۵ ماهه
دوشنبه 02 مهر 1403 - 18:00:00