زومیت/ شاید انسان‌ها در آینده فقط به دستیاران گوش‌به‌فرمان برای مغز متفکرِ هوش مصنوعی تبدیل شوند.
 
با پیشرفت سریع هوش مصنوعی، نگرانی‌ها از خطرهای بالقوه‌ی آن بیشتر شده است. فراتر از دغدغه‌هایی مانند امنیت شغلی و حفظ حریم خصوصی، حالا هشدارهایی درباره‌ی خطر «نابودی بشر» به گوش می‌رسد. رومن یامپولسکی، محقق حوزه‌ی ایمنی هوش مصنوعی ادعا می‌کند که احتمال پایان یافتن نسل بشر با هوش مصنوعی، ۹۹٫۹۹۹۹۹۹ درصد است.

در یکی از قسمت‌های اخیر پادکست Dwarkesh Patel، دو پژوهشگر شرکت آنتروپیک با نام‌های شولتو داگلاس و ترنتون بریکن آینده‌ی تاریکی ترسیم کردند که در آن انسان‌ها به ابزارهایی فرمان‌بردار تبدیل می‌شوند. آن‌ها می‌گویند انسان‌ها در آینده به ربات‌هایی گوشتی تبدیل می‌شوند که فقط دستور می‌گیرند و اجرا می‌کنند. به‌باور آن‌ها، امکان دارد چنین سناریویی فقط طی ۲ تا ۵ سال آینده رقم بخورد.

داریو آمودی، مدیرعامل آنتروپیک می‌گوید تا ۵۰ درصد از مشاغل ساده و ابتدایی اداری به‌زودی با هوش مصنوعی از بین خواهد رفت. این موضوع عملاً می‌تواند مسیر ورود نسل جدید به بازار کار را ببندد. این نکته نه‌تنها نگرانی‌های اقتصادی به‌همراه دارد، بلکه هویت جدید و وابسته‌ای برای انسان‌ها تعریف می‌کند.

از نظر بریکن، ترسناک‌ترین سناریو زمانی رخ می‌دهد که هوش مصنوعی قادر به انجام همه‌ی کارها غیر از وظایف فیزیکی شود. در این وضعیت، انسان‌هایی با ایرپاد و عینک هوشمند فقط نقش واسطه‌ای میان دستورات و اجرا خواهند داشت؛ فرمان‌هایی که ازطرف «ارباب رباتیک» و از طریق دوربین‌ها صادر می‌شود.

درحالی‌که غول‌های فناوری در رقابت برای دستیابی به هوش مصنوعی فوق‌ پیشرفته (AGI) تلاش می‌کنند، آینده‌ای که روزگاری شبیه به داستان‌های علمی‌تخیلی بود حالا به تهدید واقعی تبدیل شده است. اگر دست‌یابی به AGI صرفاً به منابع مالی و پردازشی بستگی داشته باشد، بشر می‌تواند در این بازی کنترل را به‌طور کامل از دست بدهد.