زومیت/ از جمله هدایای غم انگیزی که روشنگری برای بشر به ارمغان آورد رسیدن به این نتیجه بود که انسان‌ها روزی ممکن است منقرض شوند. اعتقاد روشنگری به عقلانیت به عنوان بالاترین دستاورد بشر و نظریه تکامل داروین، زمینه ظهور عقلانیت مافوق بشری را با امکان پیشرفت تکاملی به قیمت از دست دادن نوع بشر، فراهم کرده است.
انقلاب نجومی قرن هفدهم نشان داد که منظومه شمسی هم بر اساس عالی‌ترین اصول عقل عمل می‌کند و هم شامل ستاره‌های دنباله دار و اجرام آسمانی است که برخورد آن‌ها به زمین می‌تواند قابل تصور باشد. سوابق زمین‌شناسی، همانطور که توسط کنت دو بوفون (ریاضی دان، منجم و طبیعت شناس مشهور فرانسوی دوران روشنگری) تفسیر شد، نشان داد که در طول تاریخ انقراض‌های زیادی رخ داده که طی آن گونه‌های زیستی برای همیشه از عرصه گیتی ناپدید شدند.

به نقل از اکونومیست،تحقیقات «کنت دو بوفون» و دانشمندان هم عصر او بستری را برای چارلز داروین فراهم کرد تا این گونه انقراض‌ها را به عنوان موتور تکامل و در نتیجه نیرویی که انسان‌ها را شکل داده، شناسایی کند و از این طریق به طور ضمنی، سرنوشت احتمالی آن‌ها را تشخیص دهد. علم نوپای ترمودینامیک یک بعد کیهانی به قطعیت «یک پایان» اضافه کرد. بر این اساس خورشید، زمین و کل جهان در نهایت به یک «مرگ گرمایی» بی‌جان می‌رسند.
بعدها قرن بیستم این ایده را نیز اضافه کرد که انقراض ممکن است به طور طبیعی رخ ندهد، بلکه از طریق ابزار مصنوعی یا ساخته دست بشر رخ دهد. علت مطرح شدن چنین دیدگاهی بهره‌برداری از قدرت محبوس شده در هسته اتم بود. انرژی هسته‌ای که توسط برخی از کاشفان آن را به عنوان راهی برای به تعویق انداختن نامحدود مرگ ناشی از گرما می‌شناختند، به زودی به یک خطر بسیار نزدیک‌تر و ملموس تبدیل شد. و تهدید ملموس فاجعه قریب الوقوع ناشی از آن، بر سایر فناوری‌ها تأثیر گذاشت.

در این میان هیچ عاملی در تولید سلاح هسته‌ای به اندازه کامپیوتر مقصر قلمداد نشده است. کامپیوتر نقش حیاتی در توسعه زرادخانه‌های هسته‌ای ایفا کرده است. اعتقاد روشنگری به عقلانیت به عنوان بالاترین دستاورد بشر و نظریه تکامل داروین، زمینه پیدایش عقلانیت مافوق بشری را با امکان پیشرفت تکاملی به قیمت از دست دادن نوع بشر، فراهم کرد.

هوش مصنوعی در اندیشه گروه کوچکی از دانشگاهیان که در چند دهه گذشته خود را وقف در نظر گرفتن خطر وجودی کرده‌اند، ظاهر شده است. در واقع، اغلب به نظر می رسید که خطر وجودی هسته اصلی نگرانی‌های آن‌ها باشد. جهانی که دارای موجوداتی باشد که بهتر از انسان‌ها و نهادهایشان فکر می کنند و سریعتر عمل می‌کنند و منافعی همسو با نوع بشر ندارد، مکان خطرناکی خواهد بود.

برای مردم بیرون و درون این حلقه که خطرات ظهور و بروز هوش مصنوعی باعث نگرانی آن‌ها شده بود، این اصطلاح رایج شد که بگویند احتمال خیلی کمی برای توسعه هوش مصنوعی فوق بشری که منجر به انقراض انسان می‌شود، وجود دارد. در واقع نمی‌توان احتمال این اتفاق را رد کرد ولی در عین حال احتمال بسیار کمی برای تحقق آن وجود دارد. ظهور اشکال مرتبط با هوش مصنوعی به بحث‌ها در مورد خطر وجودی آن میان افکار عمومی و حتی وزرای دولت‌ها در بسیاری کشورها دامن زده است. حتی امروز نامه‌های بسیاری به صندوق مکاتبات الکترونیک وزرا درباره خطر هوش مصنوعی از سوی شهروندان ارسال شده است.  اما یک فناوری برای اینکه جهان را متحول کند، نیازی به پایان جهان ندارد

پیشرفت هوش مصنوعی بسیار سریع است. این خطراتی را متوجه اوضاع کنونی می‌کند که نیاز به بررسی و رسیدگی دارد. اما در زمینه خاص GPT-۴، LLM du jour، و امثال آن، صحبت از خطرات وجودی تقریبا پوچ به نظر می رسد. آنها نثر، شعر و رمز را تولید می کنند. آنها تصاویر، صدا و ویدئو تولید می‌کنند. آنها بر اساس الگوها پیش بینی می کنند. به راحتی می‌توان فهمید که این قابلیت‌ها ظرفیت عظیمی برای شیطنت تولید می‌کنند. اما به سختی می‌توان تصور کرد که این قابلیت‌ها بتوانید بر «قدرت کنترل تمدن‌ها» متمرکز شود یا بتواند جایگزینی برای«اصالت انسانی» باشد.

اما به این معنا نیست که مقیاس تغییراتی که هوش مصنوعی ممکن است به همراه داشته باشد را می توان نادیده گرفت یا باید به حداقل رساند. یک فناوری برای اینکه جهان را متحول کند، نیازی به پایان جهان ندارد.
گذار به دنیایی مملو از برنامه‌های رایانه‌ای که قادر به مکالمه و درک زبان در سطوح انسانی هستند و از قدرت فوق‌انسانی جذب داده‌ها و تشخیص الگو برخوردارهستند، تازه آغاز شده است. حتی اگر سرعت فعلی پیشرفت هوش مصنوعی کاهش یابد (که ممکن است) یا از پیشرفت‌های اساسی (که بعید به نظر می‌رسد) باز بماند. می‌توان انتظار داشت که هوش مصنوعی نه تنها برچگونگی کسب درآمد و سازماندهی زندگی مردم، بلکه در نحوه تفکر آن‌ها در مورد «انسانیت خود» نیز تتاثیر گذار خواهد بود.