جنگ هسته‌ای و استفاده مخرب از هوش مصنوعی در فهرست جدی‌ترین تهدیدهای بلندمدت برای بقای انسان قرار گرفته‌اند. ارزیابی تازه کمیسیون تهدیدهای جهانی سلامت در قرن بیست‌ویکم نشریه پزشکی The Lancet هشدار می‌دهد که این خطرها، در بدترین سناریوها، می‌توانند به فاجعه‌ای در مقیاس انقراض بشر تا پایان قرن منجر شوند.
این ارزیابی را گروهی متشکل از ۳۵ متخصص تهیه کرده‌اند و در آن ۱۷ تهدید عمده برای سلامت و رفاه انسان بررسی شده است. تغییرات اقلیمی، آلودگی هوا، مقاومت میکروب‌ها در برابر داروها، سوءتغذیه کودکان و همه‌گیری‌ها نیز در این فهرست قرار دارند؛ با این حال، جنگ هسته‌ای و سوءاستفاده از هوش مصنوعی به دلیل ظرفیت ایجاد پیامدهای فاجعه‌بار، توجه ویژه‌ای جلب کرده‌اند.
در سناریوی جنگ هسته‌ای، نگرانی تنها به انفجار و تلفات مستقیم محدود نیست. تبادل گسترده سلاح‌های هسته‌ای می‌تواند دوده و ذرات زیادی را وارد جو کند، نور خورشید را کاهش دهد و به افت شدید دما و اختلال در تولید غذا بینجامد. چنین زمستان هسته‌ای‌ای ممکن است زنجیره تأمین غذا را در مناطق گسترده‌ای از جهان مختل کند و بازماندگان را نیز با خطر قحطی روبه‌رو سازد.
در سوی دیگر، هوش مصنوعی می‌تواند از چند مسیر خطرآفرین باشد: کمک به طراحی عوامل بیماری‌زای مصنوعی، سوءاستفاده در حملات سایبری و اثرگذاری بر تصمیم‌گیری‌های نظامی. برخی پژوهشگران همچنین درباره احتمال ازدست‌رفتن کنترل انسان بر سامانه‌های بسیار پیشرفته هوش مصنوعی هشدار داده‌اند؛ هرچند درباره احتمال وقوع این سناریوها میان متخصصان اختلاف نظر جدی وجود دارد.
با این حال، گزارش به معنی پیش‌بینی قطعی انقراض انسان تا سال ۲۱۰۰ نیست. منظور متخصصان این است که احتمال وقوع رویدادهای فاجعه‌بار، حتی اگر پایین باشد، به‌دلیل پیامدهای بالقوه بسیار سنگین آن‌ها باید جدی گرفته شود. پژوهشگران مؤسسه RAND نیز در ارزیابی جداگانه‌ای درباره هوش مصنوعی نتیجه گرفته‌اند که ایجاد تهدیدی در حد انقراض بشر با این فناوری بسیار دشوار است، اما نمی‌توان احتمال آن را به‌طور کامل رد کرد.
کارشناسان بر ضرورت همکاری بین‌المللی، تقویت سامانه‌های سلامت، کنترل خطرهای فناوری و کاهش احتمال درگیری هسته‌ای تأکید دارند. پیام اصلی این هشدارها این نیست که پایان بشر حتمی است؛ بلکه تصمیم‌های سیاسی و فناوری امروز می‌توانند در کاهش یا تشدید خطرهایی نقش داشته باشند که آثارشان تا دهه‌های آینده ادامه پیدا می‌کند.
