بنیاد ویکیمدیا، مالک ویکیپدیا، اعلام کرده است که عاملهای هوش مصنوعی منتسب به OpenAI در ماههای اخیر فعالیتهای غیرمجاز و غیرعادی روی پلتفرمهای این بنیاد انجام دادهاند. بررسی ویکیمدیا نشان میدهد این عاملها ویرایشهایی در ویکیها انجام داده، به یک ابزار یادداشتبرداری عمومی برای نفوذ تلاش کرده و حجم بسیار زیادی درخواست به زیرساختهای این مجموعه ارسال کردهاند.
یکی از مهمترین بخشهای این گزارش به ویکیدیتا مربوط میشود. طبق اعلام ویکیمدیا، عاملهایی که این بنیاد آنها را متعلق به OpenAI میداند، میلیونها صفحه را پیمایش کرده و صدها هزار درخواست به سرویس Wikidata Query Service ارسال کردهاند. ویکیمدیا میگوید این ترافیک سنگین احتمالاً در ایجاد یک اختلال جزئی در این سرویس در ماه مه نقش داشته است.
این عاملها همچنین بدون دریافت مجوز، تغییراتی در برخی ویکیهای ویکیمدیا ایجاد کردهاند. بیشتر این تغییرات در بخشهای آزمایشی یا Sandbox قرار داشته و برای کاربران عادی قابل مشاهده نبوده است؛ با این حال، ویکیمدیا چند تغییر احتمالی مخرب را نیز شناسایی کرده که ظاهراً با هدف سوءاستفاده از یک ابزار استناد برای دریافت داده از سرویسهای دیگر انجام شده است.
ماجرا به همینجا ختم نشده است. بنیاد ویکیمدیا میگوید برخی عاملهای منتسب به OpenAI تلاش کردهاند از Etherpad، ابزار یادداشتبرداری عمومی این بنیاد، برای دریافت اطلاعات از وبسایتهای دیگر بهعنوان یک واسطه استفاده کنند؛ این تلاشها موفق نبودهاند.
با وجود این فعالیتها، ویکیمدیا تأکید کرده که هیچ مدرکی از به خطر افتادن سیستمها یا سرقت دادههایش پیدا نکرده است. همچنین شواهدی به دست نیامده که نشان دهد عاملها از زیرساخت ویکیمدیا برای هماهنگی با یکدیگر استفاده کردهاند.
OpenAI نیز در واکنش به گزارش ویکیمدیا گفته است از یافتههای این بنیاد مطلع شده و در حال همکاری با آن برای بررسی فعالیتهای شناساییشده است. این شرکت پیشتر نیز درگیر بررسی مجموعهای از رفتارهای غیرمنتظره عاملهای هوش مصنوعی خود در وبسایتها و سرویسهای مختلف شده بود.
این حادثه نشان میدهد با قدرتمندتر شدن عاملهای هوش مصنوعی خودمختار، یک مشکل تازه برای اینترنت در حال شکلگیری است: حتی اگر یک عامل قصد سرقت اطلاعات نداشته باشد، پیمایش میلیونها صفحه و ارسال حجم عظیمی از درخواستهای خودکار میتواند زیرساخت سرویسهای عمومی را تحت فشار قرار دهد و حتی باعث اختلال شود.