پژوهشگران امنیت سایبری هشدار می‌دهند که عامل‌های هوش مصنوعی یا AI Agents می‌توانند با دستورهای مخربی که در صفحات وب، ایمیل‌ها و اسناد پنهان شده‌اند، فریب بخورند. این حمله که «تزریق غیرمستقیم پرامپت» نام دارد، ممکن است باعث شود عامل هوش مصنوعی برخلاف هدف اصلی کاربر عمل کند.
تفاوت این تهدید با فیشینگ سنتی در این است که مهاجم لزوماً به کلیک مستقیم کاربر نیاز ندارد. اگر یک عامل هوش مصنوعی محتوای آلوده را برای خلاصه‌سازی یا انجام یک کار بررسی کند، ممکن است دستورهای جاسازی‌شده در آن محتوا را به‌اشتباه معتبر تلقی کند و به لینک مخرب مراجعه کند یا اطلاعاتی را در اختیار مهاجم بگذارد.
گزارش پژوهشی منتشرشده در مارس ۲۰۲۶ در آرشیو علمی arXiv، نتایج یک رقابت امنیتی با ۴۶۴ شرکت‌کننده را بررسی کرده است. در این ارزیابی، ۲۷۲ هزار تلاش برای حمله به ۱۳ مدل پیشرفته انجام شد که ۸۶۴۸ مورد موفق گزارش شد. نرخ موفقیت حمله میان مدل‌ها و سناریوهای آزمایش متفاوت بود؛ بنابراین این ارقام را نباید معادل نرخ آسیب‌پذیری در استفاده روزمره دانست.
در نمونه‌ای دیگر، وب‌سایت تخصصی The Register در ماه مه ۲۰۲۶ از روشی با نام ChatGPhish گزارش داد که در آن محتوای مخرب یک صفحه وب می‌توانست لینک‌های فیشینگ، هشدارهای امنیتی جعلی یا کدهای QR آلوده را در پاسخ یک دستیار هوش مصنوعی ظاهر کند. این گزارش نشان می‌دهد حتی پاسخ ظاهراً معتبر یک ابزار هوش مصنوعی نیز ممکن است تحت تأثیر محتوای کنترل‌شده توسط مهاجم قرار بگیرد.
کارشناسان برای کاهش خطر توصیه می‌کنند دسترسی عامل‌های هوش مصنوعی به ایمیل، فایل‌ها، رمزهای عبور و ابزارهای اجرایی محدود باشد. همچنین اقدامات حساس مانند ارسال پیام، انتقال اطلاعات یا اجرای فرمان‌ها بهتر است به تأیید انسانی نیاز داشته باشند؛ زیرا صرف اتکا به دستورهای حفاظتی مدل، امنیت کامل را تضمین نمی‌کند.
با گسترش استفاده از عامل‌های هوش مصنوعی در مرور وب، برنامه‌نویسی و مدیریت حساب‌های کاری، امنیت این ابزارها به موضوعی مهم برای کاربران و شرکت‌ها تبدیل شده است. نکته کلیدی این است که هر محتوایی که عامل هوش مصنوعی می‌خواند لزوماً قابل اعتماد نیست و نباید بدون بررسی، دسترسی گسترده به حساب‌ها و اطلاعات حساس در اختیار آن قرار گیرد.
