به نقل از سرویس امنیت سایت گیزمکس پژوهشگران امنیت سایبری از وجود یک آسیبپذیری تازه در مرورگرهای مجهز به هوش مصنوعی خبر دادهاند؛ نقصی که میتواند با دستورات پنهان در یک صفحه وب، مدل AI را فریب دهد و آن را به انجام اقدامات ناخواسته و حتی خطرناک وادار کند. این حمله که برخی آن را به «هیپنوتیزم» هوش مصنوعی تشبیه کردهاند، بار دیگر نگرانیها درباره امنیت نسل جدید مرورگرهای هوشمند را افزایش داده است.
بر اساس گزارش منتشرشده، مرورگرهای هوش مصنوعی مانند Atlas، Comet و همچنین افزونه Claude برای Google Chrome در برابر حملات Prompt Injection آسیبپذیر هستند. در این حمله، یک صفحه وب معمولی میتواند شامل دستورهای پنهانی باشد که هنگام تحلیل محتوا، مدل هوش مصنوعی را به اجرای فرمانهای مهاجم سوق میدهد.
به گزارش سایت Futurism پژوهشگران شرکت LayerX این تکنیک را BioShocking نامیدهاند؛ روشی که به گفته آنها، میتواند مرورگر را متقاعد کند که در یک «دنیای خیالی» قرار دارد و بنابراین محدودیتهای امنیتی را نادیده بگیرد. در آزمایشها نیز مشخص شده که چنین حملهای میتواند به اقداماتی مانند تغییر رمز عبور، سرقت اطلاعات حساس، نصب بدافزار و دسترسی به منابع خصوصی کاربران منجر شود.
این تهدید در شرایطی مطرح شده که مرورگرهای مبتنی بر هوش مصنوعی بهسرعت در حال فراگیر شدن هستند و بسیاری از کاربران آنها را برای سادهسازی کارهای روزانه بهکار میبرند. با این حال، کارشناسان میگویند هرچه این ابزارها بیشتر خودکار شوند، احتمال سوءاستفاده نیز افزایش مییابد و لازم است کاربران در استفاده از آنها نهایت احتیاط را داشته باشند.
