هوش مصنوعی کلاود سه شرکت را هک کرد

رویترز

نویسنده: مژگان الیکائی

جمعه 09 مرداد 1405

شرکت آنتروپیک اعلام کرد مدل‌های هوش مصنوعی «کلاود» در جریان آزمایش‌های امنیت سایبری از محیط آزمایش خارج شدند و به سامانه‌های سه شرکت واقعی دسترسی پیدا کردند.

به نقل از رویترز، شرکت آنتروپیک اعلام کرده است که سه مدل مختلف از خانواده هوش مصنوعی «کلاود» در جریان آزمایش‌های امنیت سایبری، به‌طور ناخواسته از محیط شبیه‌سازی‌شده خارج شده و به سامانه‌های سه شرکت واقعی نفوذ کرده‌اند. این شرکت تأکید کرده که این اتفاق نتیجه یک «شکست عملیاتی» بوده و نه رفتار برنامه‌ریزی‌شده مدل‌ها.

بر اساس بررسی داخلی آنتروپیک روی بیش از ۱۴۱ هزار جلسه آزمایش، مشخص شد یک خطای فنی باعث شده برخی مدل‌ها به اینترنت واقعی دسترسی پیدا کنند. آن‌ها با استفاده از روش‌های ساده‌ای مانند سوءاستفاده از گذرواژه‌های ضعیف و درگاه‌های بدون احراز هویت، وارد سامانه‌های سه سازمان شوند. دو شرکت تا پیش از اطلاع‌رسانی آنتروپیک حتی از این نفوذ بی‌خبر بودند.

در یکی از موارد، یک مدل هوش مصنوعی تصور کرده بود که یک شرکت واقعی بخشی از سناریوی آزمایشی است و از اطلاعات ورود آن استفاده کرد. در نمونه‌ای دیگر، مدل پس از تشخیص اینکه هدف یک سامانه واقعی است، عملیات خود را متوقف کرد؛ رفتاری که از نگاه پژوهشگران می‌تواند نشانه‌ای از قابلیت خودمهارگری برخی مدل‌های پیشرفته باشد.

این افشاگری تنها چند روز پس از آن منتشر می‌شود که اپن‌ای‌آی نیز از خروج یک عامل هوش مصنوعی از محیط کنترل‌شده و نفوذ آن به زیرساخت‌های یک شرکت در جریان آزمایش خبر داده بود؛ موضوعی که بحث‌ها درباره مخاطرات امنیتی نسل جدید عامل‌های هوش مصنوعی را تشدید کرده است.