اما همراه این قابلیت های هوش مصنوعی چالش هایی نیز وجود دارد مانند دستکاری تصاویر یا سرقت آنها.

تکنیک برچسب زنی روی تصاویر احتمال سرقت را کاهش می دهد و اکنون تکنیک«فتوگارد» متعلق به MIT CSAIL می تواند از دستکاری تصاویر جلوگیری کند.

فتو گارد با جایگزین کردن پیکسل ها در یک تصویر عمل و به این ترتیب توانایی هوش مصنوعی برای درک عکس را مختل می کند.

روش حمله رمزگذار برای ارائه این اختلالات، نمایش نهفته مدل الگوریتمی از تصویر مورد نظر را هدف قرار می‌دهد. به طور دقیق تر محاسبات ریاضی پیچیده‌ای به کار می رود که موقعیت و رنگ هر پیکسل در تصویر را هدف می گیرد و به این ترتیب هوش مصنوعی نمی تواند محتوای پیش روی خود را درک کند.

روش حمله «ریزش» پیشرفته تر و شدیدتر است و یک تصویر را به عنوان عکسی متفاوت در مقابل هوش مصنوعی استتار می کند. این روش یک تصویر را به عنوان هدف تعریف می کند و اختلالات در تصویر خود را به گونه ای ارتقا می دهد که شبیه به هدف خود باشد. هرگونه تلاش برای تغییر عکس مذکور با کمک هوش مصنوعی روی عکس جعلی به ایجاد تصویری غیرواقعی منجر می شود.

هادی سلمان مولف ارشد تحقیق و دانشجوی مقطع دکتری در MIT می گوید: حمله رمزگذار سبب می شود مدل هوش مصنوعی تصور کند تصویر ورودی که قرار است اصلاح شود، یک عکس دیگر است. حال آنکه حمله «ریزش» سبب می شود مدل هوش مصنوعی اصلاحات را در تصویر دیگری انجام دهد.

این روش غیرقابل هک نیست و ممکن است هکرها سعی کنند تا تصاویر محافظت شده را به طور معکوس مهندسی کنند.