سخت افزار/ متا اطلاعاتی درباره برنامه خود برای استفاده از هوش مصنوعی به منظور شناسایی نوجوانانی که درباره سن خود در اینستاگرام دروغ می‌گویند، منتشر کرده است. اوایل سال آینده، متا برنامه دارد از یک ابزار به نام «adult classifier» استفاده کند که گزارش شده می‌تواند کاربرانی را که کمتر از 18 سال دارند، شناسایی کند. سپس این ابزار به طور خودکار تنظیمات محدودکننده‌تری از نظر حریم خصوصی را برای آن‌ها در اینستاگرام اعمال خواهد کرد.

الیسون هارتنت، مدیر بخش مدیریت محصولات مربوط به جوانان و تأثیرات اجتماعی در متا، گفت که این نرم‌افزار به دنبال نشانه‌هایی مثل حساب‌هایی که کاربر دنبال می‌کند و محتوایی که مرتباً با آن‌ها تعامل دارد، خواهد بود. حتی اگر در پروفایل کاربر سن بالای 18 سال قید شده باشد، نرم‌افزار این موضوع را نادیده خواهد گرفت.

در سپتامبر گذشته، متا به تدریج شروع به ارائه حساب‌های نوجوانان کرد. برای این حساب‌ها، این پلتفرم رسانه اجتماعی تنظیمات سخت‌گیرانه‌ای از نظر حریم خصوصی برای کاربران زیر 16 سال اعمال می‌کند. به عنوان مثال، این حساب‌ها به طور خودکار روی حالت خصوصی تنظیم می‌شوند و نمی‌توانند به افرادی که نمی‌شناسند پیام بفرستند.

نوجوانان نمی‌توانند این تنظیمات را بدون تأیید والدین تغییر دهند
وقتی صحبت از ابزارهای نرم‌افزاری برای تشخیص اینکه آیا فرد زیر سن قانونی است یا نه می‌شود، این سوال پیش می‌آید که دقت این ابزار چقدر خواهد بود. متا هنوز اعلام نکرده که این ابزار چقدر دقیق خواهد بود.

افرادی که به اشتباه شناسایی شده‌اند، می‌توانند درخواست تجدید نظر دهند، اما متا هنوز در حال بهبود این فرآیند است تا مشخص شود چگونه انجام خواهد شد.

علاوه بر این، نوجوانانی که سعی می‌کنند به صورت دستی سن خود را در حساب کاربری‌شان تغییر دهند، مجبور خواهند شد هویت خود را اثبات کنند. این کار می‌تواند با ارائه یک مدرک هویتی یا سلفی ویدیویی به یوتی انجام شود.متا پیش‌تر با یوتی برای تأیید سن در بخش دوستیابی فیس‌بوک همکاری داشته است. یک الگوریتم برای تخمین سن افراد براساس ویژگی‌های صورت استفاده می‌شود – پس از اینکه یوتی تخمین سن را به متا اعلام کرد، هر دو طرف ویدیو را حذف می‌کنند.

تصمیم متا برای استفاده از یک ابزار هوش مصنوعی جدید برای جلوگیری از دروغ‌گفتن نوجوانان در مورد سن خود در شرایطی انجام می‌شود که پلتفرم‌های رسانه‌های اجتماعی و تأثیرات آن‌ها بر نوجوانان، تحت انتقاد قانون‌گذاران و مقامات ناظر قرار گرفته‌اند. متا قصد دارد از این ابزار برای اطمینان از امنیت نوجوانان در پلتفرم‌های خود استفاده کند. تیک‌تاک و دیگر شرکت‌ها نیز تحت فشار قرار دارند به دلیل تأثیراتشان بر نوجوانان و کاربران جوان‌تر به طور کلی، اقدامات مشابهی انجام دهند.

اگر این پلتفرم‌های شبکه اجتماعی به اندازه حالا اعتیادآور نباشند، تنظیم آن‌ها بسیار ساده‌تر خواهد بود. اما بیشتر پلتفرم‌های رسانه‌های اجتماعی از طریق تبلیغات درآمد کسب می‌کنند، بنابراین می‌خواهند کاربران را تا حد ممکن آنلاین نگه دارند و کاربران جوان‌تر معمولاً در برابر این تاکتیک‌ها مقاومت کمتری دارند.