زومیت/ گزارش OpenAI نشان می‌دهد این شرکت از ساخت بیش‌ از ۲۵۰ هزار عکس جعلی مرتبط با انتخابات ریاست‌جمهوری اخیر آمریکا جلوگیری کرده است.
 
براساس تخمین OpenAI، چت‌بات هوش مصنوعی ChatGPT بیش‌ از ۲۵۰ هزار درخواست برای تولید تصاویر نامزدهای انتخابات ریاست‌جمهوری ۲۰۲۴ ایالات‌ متحده را در آستانه‌ی روز انتخابات رد کرده است.

طبق گفته‌ی OpenAI، رد درخواست‌ها شامل تولید تصاویری از رئیس‌جمهور منتخب دونالد ترامپ، کامالا هریس معاون جو بایدن، تیم والز فرماندار مینه‌سوتا و جی‌دی ونس معاون رئیس‌جمهور منتخب بوده است.

براساس داده‌های شرکت یادگیری ماشین Clarity، تعداد دیپ‌فیک‌ها در سال گذشته ۹۰۰ درصد افزایش یافته است.

OpenAI در گزارش ۵۴ صفحه‌ای خود در اکتبر (مهر و آبان ۱۴۰۳) اعلام کرد از ۲۰ عملیات و شبکه‌های فریبکارانه که تلاش می‌کردند از مدل‌های این شرکت سوءاستفاده کنند جلوگیری کرده است. گفته می‌شود هیچ‌یک از عملیات‌های مرتبط با انتخابات نتوانستند تعاملات گسترده‌ای با مخاطبان برقرار کنند.

قانون‌گذاران به‌طور خاص نسبت‌ به اطلاعات نادرست در عصر هوش مصنوعی که از اواخر ۲۰۲۲ با راه‌اندازی ChatGPT گسترش یافت، نگران هستند. مدل‌های زبانی بزرگ هنوز جدید هستند و به‌طور مداوم اطلاعات نادرست و غیرقابل‌ اعتماد تولید می‌کنند.

الکساندرا ریوز گیونز، مدیرعامل مرکز دموکراسی و فناوری به CNBC گفت:‌ «رأی‌دهندگان نباید برای کسب اطلاعات درباره‌ی رأی‌گیری یا انتخابات فقط به چت‌بات‌های هوش مصنوعی اتکا کنند؛ زیرا نگرانی‌های زیادی درمورد دقت و کامل‌بودن اطلاعات ارائه‌شده از طرف این چت‌بات‌ها وجود دارد.»