هشدار ترسناک سم آلتمن: هوش مصنوعی آن‌قدر سریع باگ پیدا می‌کند که دیگر نمی‌توان همه آن‌ها را وصله کرد!

گیزمکس
نویسنده: صادق محمدی
شنبه 02 آبان 1405
سم آلتمن مدیرعامل OpenAI در حال هشدار درباره خطر هوش مصنوعی برای امنیت سایبری
سم آلتمن درباره افزایش سرعت کشف آسیب‌پذیری‌های امنیتی با هوش مصنوعی هشدار داد.

سم آلتمن، مدیرعامل OpenAI، هشدار داده است که با پیشرفت هوش مصنوعی، دیگر نمی‌توان صرفاً با انتشار وصله‌های امنیتی با تمام آسیب‌پذیری‌های نرم‌افزاری مقابله کرد. او معتقد است سازمان‌ها، شرکت‌ها و دولت‌ها هنوز سرعت رشد توانایی‌های هوش مصنوعی در کشف و بهره‌برداری از حفره‌های امنیتی را جدی نگرفته‌اند؛ خطری که می‌تواند امنیت بخش بزرگی از اینترنت را تحت فشار قرار دهد.

این هشدار در شرایطی مطرح شده که پژوهشگران امنیت سایبری با کمک هوش مصنوعی دو آسیب‌پذیری جدی در زبان برنامه‌نویسی PHP شناسایی کرده‌اند. این زبان در ساخت وب‌سایت‌ها و برنامه‌های تحت وب کاربرد گسترده‌ای دارد و نقص‌های آن، بسته به شرایط، می‌توانند زمینه اجرای کد مخرب از راه دور و دسترسی غیرمجاز به اطلاعات را فراهم کنند.

آلتمن در سخنرانی خود در مدرسه کسب‌وکار دانشگاه استنفورد تأکید کرد که مشکل فقط باگ‌هایی نیست که امروز شناسایی می‌شوند؛ مدل‌های هوش مصنوعی به پیشرفت ادامه می‌دهند، در حالی که بسیاری از سازمان‌ها پس از رفع چند آسیب‌پذیری، تصور می‌کنند خطر برطرف شده است. از نگاه او، دفاع سایبری باید با سرعت و توانایی‌های جدید هوش مصنوعی هماهنگ شود.

پرونده PHP نمونه‌ای از این تغییر است. طبق اعلام OpenAI، مدل GPT-5.6 Sol در شناسایی یک نقص مهم مشارکت داشته و شرکت امنیت سایبری Wiz نیز آسیب‌پذیری دیگری را به‌طور مستقل شناسایی کرده است. پس از هماهنگی میان پژوهشگران، توسعه‌دهندگان و شرکت‌های امنیتی، نسخه‌های اصلاح‌شده منتشر شدند. این ماجرا نشان می‌دهد هوش مصنوعی می‌تواند به مدافعان کمک کند باگ‌هایی را پیدا کنند که شناسایی یا اثبات امکان سوءاستفاده از آن‌ها برای انسان‌ها دشوار بوده است.

تبلیغات

اما همین توانایی روی دیگر خطر را هم دارد. اگر مهاجمان بتوانند از ابزارهای مشابه برای یافتن نقص‌ها و ساخت روش‌های سوءاستفاده استفاده کنند، فاصله زمانی میان کشف یک آسیب‌پذیری و حمله به سامانه‌های اصلاح‌نشده ممکن است کوتاه‌تر شود. به همین دلیل، کارشناسان امنیت سایبری درباره افزایش حجم آسیب‌پذیری‌های کشف‌شده و دشوارتر شدن اولویت‌بندی و رفع آن‌ها هشدار داده‌اند.

این اتفاق به معنی بی‌فایده شدن به‌روزرسانی‌ها نیست؛ برعکس، به‌روزرسانی سریع و درست اهمیت بیشتری پیدا کرده است. مدیران سایت باید نسخه زبان برنامه‌نویسی، سیستم مدیریت محتوا، افزونه‌ها و کتابخانه‌های مورد استفاده خود را بررسی کنند، وصله‌های رسمی را پس از ارزیابی سازگاری نصب کنند، از اطلاعات نسخه پشتیبان داشته باشند و ورود مدیران را با احراز هویت چندمرحله‌ای ایمن کنند. اگر از PHP استفاده می‌کنید، نسخه نصب‌شده را با اطلاعیه‌های رسمی PHP تطبیق دهید و صرفاً به به‌روز بودن قالب یا افزونه‌ها اکتفا نکنید.

جمع‌بندی:

هشدار آلتمن را نباید به این معنا برداشت کرد که هک شدن همه سایت‌ها اجتناب‌ناپذیر است. مسئله اصلی تغییر سرعت بازی است: هوش مصنوعی می‌تواند هم ابزار کشف و رفع باگ باشد و هم در اختیار مهاجمان قرار بگیرد. در چنین شرایطی، امنیت دیگر پروژه‌ای نیست که با یک بار به‌روزرسانی تمام شود؛ پایش مداوم، مدیریت وصله‌ها، محدود کردن دسترسی‌ها و آمادگی برای واکنش به حادثه اهمیت بیشتری پیدا می‌کنند.

نظرات کاربرانکپی متنکپی لینک