«میدجرنی»(Midjourney) در حال برنامه‌ریزی برای انتشار یک به‌روزرسانی ارتقایافته است که به کاربران امکان می‌دهد تا تصاویر آپلودشده از وب را با استفاده از هوش مصنوعی این شرکت ویرایش کنند.

به نقل از تک کرانچ، این به‌روزرسانی که به گفته «دیوید هولتز»(David Holtz) مدیرعامل میدجرنی، اوایل هفته آینده منتشر خواهد شد، به کاربران امکان می‌دهد تا اشیاء موجود در تصاویر را بازسازی کنند و رنگ‌ها و جزئیات آنها را براساس توضیحات تغییر دهند.

ویرایش تصاویر با هوش مصنوعی اخیرا به یک موضوع داغ تبدیل شده است. پلتفرم‌هایی مانند «متا»(Meta) با نحوه برچسب‌گذاری تصاویر ویرایش‌شده با فناوری‌های هوش مصنوعی در مقابل تصاویری که از ابتدا با یک مدل هوش مصنوعی تولید شده‌اند، سعی دارند با انتشار تصاویر جعلی مقابله کنند. این در حالی است که شرکت‌هایی مانند «گوگل»، ویژگی‌های هوش مصنوعی قوی را منتشر کرده‌اند که هیچ نشانه بصری ندارند تا نشان ‌دهند که تصاویر با هوش مصنوعی اصلاح شده‌اند.

میدجرنی سال گذشته متعهد شد که از یک استاندارد فنی به نام «ویژگی نوع منبع دیجیتال» استفاده کند که ابرداده‌ها را در تصاویر ادغام می‌کند و نشان می‌دهد آنها توسط هوش مصنوعی تولید شده‌اند. با وجود این، این شرکت یکی از معدود پلتفرم‌های اصلی هوش مصنوعی است که از یک فناوری ابرداده موسوم به «C2PA» استفاده نکرده است. این فناوری، منشأ کامل یک تصویر را از جمله تجهیزات و نرم‌افزار مورد استفاده برای ایجاد آن ردیابی می‌کند.

هولتز خاطرنشان کرد که این ویژگی ارتقایافته در آغاز به یک زیرمجموعه از جامعه کنونی محدود می‌شود. این کار با افزایش اعتدال انسانی و همچنین تعدیل‌کننده‌های جدید و پیشرفته هوش مصنوعی برای جلوگیری از سوءاستفاده انجام می‌شود. وی افزود: ما مطمئن نیستیم که چگونه به کارگیری این ویژگی را به طور دقیق محدود کنیم. بازخورد جامعه میدجرنی از طریق یک نظرسنجی تعیین می‌شود که نشان می‌دهد کدام کاربران ابتدا به آن دسترسی خواهند داشت.

انتشار این نوع فناوری‌های ویرایش بدون وجود حفاظت کافی، خطراتی دارد زیرا آنها می‌توانند نقض قانون کپی‌رایت را در مقیاس گسترده تسهیل کنند یا باعث گسترش دیپ‌فیک‌های گمراه‌کننده شوند. دیپ‌فیک‌ها مانند آتش در رسانه‌های اجتماعی پخش می‌شوند و تشخیص حقیقت را از اطلاعات نادرست دشوارتر می‌کنند. برای مثال، اخیرا تصاویر جعلی تولید هوش مصنوعی از تخریب و رنج انسان‌ها پس از «طوفان هلن» به وب سرازیر شد.

میدجرنی دقیقا یک نمونه درخشان از استقرار هوش مصنوعی مسئول نبوده است. برای مثال، این پلتفرم به دلیل استفاده از محتوای دارای حق چاپ برای آموزش مدل‌های هوش مصنوعی خود مورد شکایت قرار گرفته است اما در ماه‌های اخیر اقداماتی را برای محدود کردن گسترش دیپ‌فیک‌ها، از جمله فیلترهای شخصیت‌های سیاسی مرتبط با انتخابات ریاست جمهوری آمریکا انجام داده است.