هک حالت امنیتی ChatGPT؛ محققان توانستند تاریخچه چت کاربران را سرقت کنند!

گیزمکس
نویسنده: صادق محمدی
- 17 آبان 1405
: آسیب‌پذیری امنیتی ChatGPT و دور زدن قابلیت Lockdown Mode برای سرقت تاریخچه مکالمات کاربران
پژوهشگران امنیتی توانستند با سوءاستفاده از نقص پیش‌نمایش HTML، محدودیت‌های امنیتی ChatGPT را دور بزنند.

پژوهشگران امنیت سایبری شرکت Check Point موفق شدند یک آسیب‌پذیری در ChatGPT را شناسایی کنند که امکان دور زدن قابلیت امنیتی Lockdown Mode و سرقت تاریخچه گفت‌وگوهای کاربران را فراهم می‌کرد. این نقص امنیتی حتی در برخی سناریوها می‌توانست بدون نیاز به کلیک کاربر، اطلاعات مکالمات را به سرور مهاجم ارسال کند؛ البته OpenAI پیش از انتشار عمومی گزارش، مشکل را برطرف کرده است.

قابلیت Lockdown Mode در ChatGPT برای محافظت از کاربران در برابر حملات موسوم به Prompt Injection طراحی شده است. در این حملات، مهاجم دستورهای مخربی را در متن، فایل یا محتوایی قرار می‌دهد که هوش مصنوعی آن را پردازش می‌کند. هدف این است که مدل یا ابزارهای متصل به آن را فریب دهد تا اطلاعات خصوصی را افشا کنند یا اقدامات ناخواسته‌ای انجام دهند.

اما پژوهشگران Check Point دریافتند که پیش‌نمایش کدهای HTML در محیط ChatGPT می‌تواند راهی برای عبور از برخی محدودیت‌های این حالت امنیتی باشد. این قابلیت به کاربران اجازه می‌دهد خروجی‌های HTML را مستقیماً در محیط چت مشاهده کنند. محتوای نمایش‌داده‌شده در یک محیط ایزوله یا Sandbox اجرا می‌شود تا به اطلاعات اصلی برنامه دسترسی نداشته باشد.

مشکل از جایی آغاز می‌شد که نحوه مدیریت پنجره‌های بازشونده در این محیط، امکان دور زدن بخشی از محدودیت‌های Sandbox را فراهم می‌کرد. محققان با استفاده از فریم‌های تو‌در‌تو و یک مسیر جایگزین برای باز کردن پنجره جدید، توانستند محتوایی را خارج از محدودیت‌های مورد انتظار اجرا کنند. به این ترتیب، مهاجم می‌توانست مسیر ارتباطی تازه‌ای برای ارسال اطلاعات به سرور خود ایجاد کند.

این آسیب‌پذیری فقط به سرقت تاریخچه چت محدود نبود. طبق آزمایش‌های Check Point، مهاجم می‌توانست از پنجره‌های جعلی برای فریب کاربران و سرقت اطلاعات ورود استفاده کند یا آن‌ها را به دانلود بدافزار ترغیب کند. در نسخه دسکتاپ قدیمی ChatGPT موسوم به ChatGPT Classic، خطر جدی‌تر بود؛ زیرا در سناریوی آزمایش‌شده، باز شدن پنجره مخرب به کلیک کاربر نیاز نداشت و حتی امکان ارسال بی‌صدای تاریخچه مکالمات وجود داشت.

با این حال، جزئیات فنی حمله در مرورگر و برنامه دسکتاپ یکسان نبود. در نسخه مرورگری، کاربر باید روی پیش‌نمایش مخرب کلیک می‌کرد؛ اما در برنامه دسکتاپ قدیمی، پژوهشگران توانستند سناریویی را اجرا کنند که بدون تعامل مستقیم کاربر، اطلاعات مکالمات را منتقل می‌کرد. بنابراین نباید نتیجه گرفت که تمام کاربران ChatGPT در همه پلتفرم‌ها به یک شکل در معرض این حمله قرار داشته‌اند.

Check Point این آسیب‌پذیری را به‌صورت مسئولانه به OpenAI گزارش کرد. طبق گزارش پژوهشگران، OpenAI در ۱۸ سپتامبر ۲۰۲۶ اعلام کرد که اصلاحیه لازم را منتشر کرده است. تیم Check Point نیز پس از آزمایش مجدد تأیید کرد که روش سوءاستفاده توصیف‌شده دیگر کار نمی‌کند. در نتیجه، این گزارش به معنای وجود یک راه نفوذ فعال و تأییدشده در نسخه فعلی ChatGPT نیست.

اهمیت این آسیب‌پذیری فراتر از یک باگ در ChatGPT است. این اتفاق نشان می‌دهد حتی اگر یک مدل هوش مصنوعی محدودیت‌های امنیتی قدرتمندی داشته باشد، ضعف در اجزای اطراف آن مانند پیش‌نمایش HTML، مرورگر داخلی، پنجره‌های جانبی یا ابزارهای متصل می‌تواند کل زنجیره حفاظت را تضعیف کند. برای کاربران، پیام عملی خبر این است که Lockdown Mode یک لایه دفاعی مفید است، اما نباید آن را تضمین مطلق امنیت دانست؛ به‌ویژه هنگام باز کردن محتوای ناشناس یا استفاده از GPTهای ساخته‌شده توسط دیگران.

OpenAI قابلیت Lockdown Mode را برای کاربرانی طراحی کرده که با اطلاعات حساس سروکار دارند و به محافظت بیشتری در برابر حملات مبتنی بر تزریق دستور نیاز دارند. فعال‌سازی این قابلیت برخی امکانات مانند دسترسی زنده به وب، Deep Research، Agent Mode، اتصال زنده به سرویس‌های خارجی و دانلود فایل را محدود می‌کند. با این حال، خود OpenAI تأکید کرده که این حالت برای همه کاربران ضروری نیست و بیشتر برای شرایط پرریسک در نظر گرفته شده است.

ماجرای کشف این نقص بار دیگر نشان می‌دهد امنیت ابزارهای هوش مصنوعی فقط به قدرت مدل و فیلترهای آن وابسته نیست؛ بلکه تمام اجزایی که مدل از طریق آن‌ها با فایل‌ها، وب و برنامه‌های دیگر ارتباط برقرار می‌کند باید به‌دقت بررسی شوند.

منبع این گزارش

نظرات کاربرانکپی متنکپی لینک