یک داستان‌ تخیلی هوش مصنوعی به طرز خطرناکی وایرال شده است

بار دیگر یک اثر داستانی آغشته به ایده‌های هوش مصنوعی به شکلی نگران‌کننده فراگیر شده است.

این بار نوبت به داستانی آینده‌نگر برای اروپایی‌ها با عنوان Europe 2031 رسیده است. پیش از آن، اثری از سیتیرینی ریسرچ با نام The 2028 Global Intelligence Crisis منتشر شد؛ روایتی درباره بیکاری گسترده کارکنان اداری که حتی باعث افت قیمت سهام در بازار گردید. قبل‌تر نیز داستان AI 2027 مطرح شده بود که در آن یک هوش مصنوعی فوق‌هوشمند بشر را نابود می‌کند. معاون کنونی رئیس‌جمهور ایالات متحده هم گفته است که این داستان را مطالعه کرده است.

داستان Europe 2031 توسط هشت نفر نوشته شده که خود را گروه کوچکی از پژوهشگران هوش مصنوعی، اعضای اندیشکده‌ها و سرمایه‌گذارانی معرفی می‌کنند که تمام دوران حرفه‌ای خود را در نقطه تلاقی هوش مصنوعی پیشرفته و سیاست‌گذاری اروپایی سپری کرده‌اند.

به نقل از گیزمودو نفوذ و تأثیر چنین اسنادی بر افکار عمومی، از نگاه نویسنده، پدیده مطلوبی نیست. او معتقد است تا اندازه‌ای حق دارد درباره این موضوع اظهارنظر کند، زیرا خودش نیز کتابی متشکل از سناریوهای فرضی نوشته که در چند کشور منتشر شده.

نگارش آثار آینده‌نگرانه معمولاً از یک پایان فاجعه‌بار آغاز می‌شود و سپس نویسنده مسیر رسیدن به آن نقطه را به‌صورت معکوس طراحی می‌کند. دلیلش این است که داستان‌پردازی نوعی میان‌بُر است؛ واقعیت کنار گذاشته می‌شود و فقط مراحلی روایت می‌شوند که به مقصد از پیش تعیین‌شده منتهی گردند. حتی اگر نویسنده کاملاً صادقانه توضیح دهد که مشغول خلق داستان است، باز هم بسیاری از خوانندگان تصور می‌کنند با پیش‌بینی آینده روبه‌رو هستند.

نویسنده می‌گوید بارها به مخاطبانش تأکید کرده که نباید بر اساس نوشته‌های او تصمیم‌گیری کنند و توضیح داده که تصور سناریوهای مختلف صرفاً عادتی ذهنی برای کنترل اضطراب شخصی‌اش است. با این حال، بسیاری از افرادی که این روایت‌های فرضی را خوانده‌اند، به او گفته‌اند که دچار ترس شده‌اند. بدتر از آن، برخی حتی از او درخواست راهنمایی و مشورت کرده‌اند.

نتیجه‌ای که او از این تجربه گرفته، این است که نوشتار مؤثرترین ابزار برای ایجاد ترس در انسان‌هاست و ایده‌هایی که باعث ترس می‌گردند، به‌سادگی در ذهن‌ها ماندگار می‌شوند.

در چنین فضایی، اکنون داستانی که مردم را نگران کرده، اثری است که از بی‌توجهی اروپا به استقلال در حوزه هوش مصنوعی سخن می‌گوید. این داستان درست مانند آثار علمی‌تخیلی عامه‌پسند آغاز می‌‌گردد و از همان شیوه معروف نشان بده، نگو استفاده می‌کند؛ همان روشی که در کارگاه‌های نویسندگی دانشگاهی آموزش داده می‌شود.

کارولین مقداری آب سرد به صورتش می‌پاشد و به انعکاس چهره‌اش در آینه سرویس بهداشتی خیره می‌شود. دستانش می‌لرزند. او لبه روشویی را محکم می‌گیرد و منتظر می‌ماند تا این حالت فروکش کند. از پنجره کوچک و مرتفع، تکه‌ای از آسمان واشینگتن را می‌بیند که صاف و درخشان است.

سرنوشت کارولین چندان خوشایند نیست. او نمی‌تواند اروپا را متقاعد کند که به‌موقع اقدام کند و در نهایت به فردی تلخ‌کام و سرخورده تبدیل می‌شود که پس از ترک شغلش، از نظر مالی به یکی از دوستان میلیاردرش وابسته می‌شود. علاوه بر این، مادرش نیز جان خود را از دست می‌دهد.

اگر تصویر بزرگ‌تر را ببینیم، اروپا تقریباً هیچ دفاع مؤثری ندارد و هکرهای مجهز به هوش مصنوعی به‌راحتی از سد سامانه‌های امنیتی قدیمی آن عبور می‌کنند. اقتصاد اروپا و احتمالاً خود اتحادیه اروپا در آستانه فروپاشی قرار می‌گیرند، زیرا این قاره از رقابت جهانی در زمینه هوش مصنوعی کنار گذاشته می‌شود. در این میان، دو قدرت بزرگ یعنی ایالات متحده و چین تمام اهرم‌های قدرت را در اختیار دارند.

نویسندگان در بخش پایانی کتاب می‌نویسند که حتی در سال ۲۰۲۶ نیز این قاره می‌توانست مسیر متفاوتی در پیش بگیرد، به شرط آنکه شجاعت و اراده سیاسی لازم برای انجام اقدامات اساسی و سختگیرانه را از خود نشان می‌داد.

به گزارش گاردین، این داستان به بحث‌های داغ درباره ضرورت استقلال فناوری اتحادیه اروپا در جریان نشست‌های گروه هفت دامن زده. برخی از اعضای پارلمان اروپا آن را خوانده‌اند و حتی گفت‌وگوهای غیررسمی دیپلماتیک میان بریتانیا و آلمان نیز تحت تأثیر این روایت قرار گرفته است. از دید نویسنده، این مسئله واقعاً نگران‌کننده است.

برداشت نویسنده از داستان‌های آینده‌نگرانه این است که آن‌ها در اصل نوعی دروغ هستند، هرچند می‌توانند ابهام‌های ذهنی را کنار بزنند؛ به‌ویژه زمانی که سناریوی مطرح‌شده، موضوعی باشد که مردم پیش‌تر درباره آن حرف زده‌اند اما هرگز به‌طور جدی به پیامدها و الزامات تحقق آن نیندیشیده‌اند. با این حال، حتی نویسندگانی بسیار توانمندتر از او نیز بعدها از بخشی از تخیلات خود ابراز پشیمانی کرده‌اند.

برای نمونه، کیم استنلی رابینسون ظاهراً بعدها اظهار تأسف کرده که در رمان Ministry for the Future به‌گونه‌ای از ارزهای دیجیتال یاد کرده که می‌توانست به‌عنوان بخشی از راه‌حل بحران اقلیمی تعبیر شود.

بریت ری در یکی از سخنرانی‌های کیم استنلی رابینسون در دانشگاه استنفورد نقل می‌کند که او گفته از اشاره به بیت‌کوین و ارزهای دیجیتال در رمان Ministry for the Future پشیمان است و اکنون آن‌ها را نوعی کلاهبرداری فریبکارانه می‌داند. او همچنین توضیح داده که شرایط و احساس جمعی ما نسبت به مجموعه بحران‌های جهانی، با زمانی که این کتاب را در سال ۲۰۱۹ می‌نوشت، کاملاً تغییر کرده است.

بنابراین، باید به یاد داشت که داستان‌ها پیش از هر چیز، ساخته و پرداخته تخیل هستند و در درجه نخست نوعی دروغ محسوب می‌شوند و به همین دلیل همیشه باید با همین نگاه به آن‌ها نگریست.