هوش مصنوعی به یکی از جدی‌ترین موضوعات جلسه شورای امنیت سازمان ملل تبدیل شد؛ جایی که سم آلتمن، مدیرعامل OpenAI و داریو آمودی، مدیرعامل Anthropic درباره سرعت پیشرفت این فناوری و خطرات احتمالی آن هشدار دادند. آلتمن گفت جهان اکنون با یک انتخاب روبه‌رو است؛ هوش مصنوعی می‌تواند عصر تازه‌ای از کشف و خلاقیت ایجاد کند یا به دوره‌ای از آشفتگی و بی‌ثباتی منجر شود.
آلتمن هشدار داد اگر سیستم‌های هوش مصنوعی بیش از حد مستقل شوند، ممکن است سریع‌تر از نهادهای انسانی حرکت کنند، قدرت در اختیار تعداد محدودی از شرکت‌ها و کشورها متمرکز شود و حتی تصمیم‌هایی گرفته شود که انسان‌ها دیگر به‌طور کامل دلیل یا پیامد آنها را درک نکنند. او تأکید کرد سیستم‌های پیشرفته باید همچنان تحت کنترل انسان باقی بمانند.
آمودی نیز از ضرورت همکاری بین‌المللی برای کنترل ریسک‌های هوش مصنوعی گفت و خواستار استانداردهای جهانی برای آزمایش مدل‌های جدید و سازوکارهای نظارتی شد. او همچنین درباره احتمال سوءاستفاده از AI برای توسعه سلاح‌های بیولوژیکی و خطر از دست رفتن کنترل بر سیستم‌های بسیار پیشرفته هشدار داد.
در همین حال، آنتونیو گوترش، دبیرکل سازمان ملل نیز خواستار ایجاد چارچوب چندجانبه برای مدیریت ریسک‌های هوش مصنوعی شده است. او تأکید کرده کشورهایی که در خط مقدم توسعه این فناوری قرار دارند باید درباره خطرات جدید اطلاعات بیشتری به اشتراک بگذارند و برای آزمایش، ارزیابی و ایجاد استانداردهای مشترک همکاری کنند.
یکی از نگرانی‌های اصلی مطرح‌شده در سازمان ملل، این است که سرعت توسعه هوش مصنوعی از سرعت شکل‌گیری قوانین و سازوکارهای نظارتی بیشتر شده است. در مقابل، درباره میزان و نحوه تنظیم این فناوری میان دولت‌ها اختلاف نظر وجود دارد و همه کشورها رویکرد یکسانی نسبت به محدودیت‌های AI ندارند.
با این حال، سخنان مدیران OpenAI و Anthropic فقط درباره خطر نبود. آنها به ظرفیت عظیم هوش مصنوعی برای افزایش بهره‌وری، کمک به پزشکی و تسریع کشفیات علمی نیز اشاره کردند. پیام اصلی جلسه این بود که تصمیم‌های مهم درباره آینده این فناوری نباید فقط در اختیار چند شرکت فناوری باشد و نقش دولت‌ها و نهادهای بین‌المللی نیز باید جدی گرفته شود.
به این ترتیب، هوش مصنوعی حالا فقط یک رقابت فناوری میان شرکت‌ها نیست؛ بلکه به موضوعی در سطح امنیت بین‌المللی تبدیل شده است. پرسش اصلی سازمان ملل این است که آیا جهان می‌تواند پیش از آنکه سیستم‌های AI بسیار قدرتمندتر و مستقل‌تر شوند، قواعد مشترکی برای کنترل ریسک‌های آنها ایجاد کند یا نه.
