اعتماد کورکورانه به هوش مصنوعی، راهی تازه برای ورود مجرمان سایبری باز می‌کند

گسترش استفاده از عوامل هوش مصنوعی، در کنار افزایش بهره‌وری، تهدیدهای تازه‌ای برای امنیت سایبری ایجاد کرده است. اعتماد کورکورانه به این سیستم‌ها می‌تواند فرصت‌های جدیدی برای سوءاستفاده مجرمان سایبری فراهم کند. گزارش کسپرسکی بر اهمیت بررسی و نظارت مستمر بر برنامه‌ها و عوامل هوش مصنوعی تأکید دارد.

اتکای بیش از حد به هوش مصنوعی می‌تواند کاربران را به اهداف بالقوه‌ای برای مجرمان سایبری تبدیل کند. افراد و شرکت‌ها در مسیر افزایش بهره‌وری و سرعت، بخش قابل‌توجهی از فعالیت‌های خود را بدون انجام بررسی‌های لازم به عوامل هوش مصنوعی واگذار می‌کنند.

اعتماد کورکورانه به هوش مصنوعی می‌تواند خطرات امنیت سایبری را به شکل قابل‌توجهی افزایش دهد. امروزه، مهم‌ترین نقاط ضعف امنیتی دیگر صرفاً در نرم‌افزار یا سخت‌افزار نیستند، بلکه در نحوه تعامل افراد، به‌ویژه با عوامل هوش مصنوعی، نهفته‌اند.

قابلیت‌های هوش مصنوعی با سرعت زیادی در حال توسعه است و این سیستم‌ها اکنون می‌توانند برنامه‌ریزی کنند، از APIها و ابزارهای کنترلی استفاده کنند و وظایف پیچیده را به‌صورت خودکار و بدون دخالت مستقیم انسان انجام دهند.

با این حال، این پیشرفت‌ها خطر اتکای کامل به راحتی و بهره‌وری را نیز به همراه دارد.

به گفته یکی از متخصصان تحقیقات امنیتی کسپرسکی، در حالت ایده‌آل، هر مرحله از توسعه برنامه‌های هوش مصنوعی باید مورد بررسی قرار گیرد، اما نظارت واقعی بر این فرایندها اغلب به دلیل تمرکز بر سرعت و رعایت مهلت‌های زمانی نادیده گرفته می‌شود. زمانی که اعتماد به هوش مصنوعی به اعتماد کورکورانه تبدیل شود، خطر قابل‌توجهی برای امنیت سایبری ایجاد خواهد شد.

مجرمان سایبری دیگر لزوماً نیازی به شناسایی پیچیدگی‌های فنی برای اجرای حملات ندارند؛ بلکه می‌توانند از اعتماد بیش از حد کاربران به هوش مصنوعی سوءاستفاده کنند.

این تهدید تنها کاربران را هدف قرار نمی‌دهد و به زیرساخت‌های اصلی شرکت‌های فناوری که به نرم‌افزارهای متن‌باز وابسته هستند نیز گسترش می‌یابد. برنامه‌نویسان و عوامل هوش مصنوعی برای انجام وظایف خود به این نرم‌افزارها متکی هستند و همین وابستگی می‌تواند به نقطه‌ای برای اجرای حملات تبدیل شود.

طبق گزارش کسپرسکی، ۳۱ درصد از شرکت‌ها حملاتی را تجربه کرده‌اند که زنجیره تأمین آنها را هدف قرار داده است. یکی از نمونه‌های این حملات، حمله به کتابخانه جاوااسکریپت Axios بود که طی آن مهاجمان توانستند کنترل آن را به دست بگیرند و نسخه‌ای مخرب از نرم‌افزار را مستقر کنند.

علاوه بر این، Kaspersky Container Security هزاران پیکربندی نادرست بالقوه را در جریان فرایندهای یکپارچه‌سازی و استقرار مداوم در پلتفرم GitHub Actions شناسایی کرده است.

تداوم این تهدیدها نشان می‌دهد که تأیید، بررسی و نظارت مستمر بر برنامه‌ها و عوامل هوش مصنوعی برای حفظ ایمنی و امنیت آنها اهمیت زیادی دارد.