آنتروپیک از شناسایی یک شبکه گسترده از اپلیکیشنهای دوستیابی جعلی خبر داده که در آن از هوش مصنوعی Claude برای ساخت و اداره هزاران شخصیت غیرواقعی استفاده شده است. طبق گزارش این شرکت، بیش از ۲۰ اپلیکیشن در این شبکه فعالیت میکردند و ظاهر آنها بهگونهای طراحی شده بود که کاربران تصور کنند با افراد واقعی در حال گفتوگو هستند.
آنتروپیک میگوید در یک بازه دو هفتهای در آوریل ۲۰۲۶، بیش از ۴۷۰۰ شخصیت مبتنی بر هوش مصنوعی شناسایی شدهاند که با دستکم ۲۵ هزار کاربر واقعی ارتباط برقرار کردهاند. این شخصیتها در مجموع حدود ۲.۳۶ میلیون پیام ارسال کردهاند؛ رقمی که نشان میدهد بخش بزرگی از مکالمات میتوانسته بدون دخالت مستقیم انسان انجام شود.
ساختار این شبکه حتی از چتباتهای ساده هم پیچیدهتر بود. طبق گزارش آنتروپیک، تقریباً به ازای هر یک فرد واقعی، سه شخصیت هوش مصنوعی در فید اپلیکیشنها قرار داشتند. برخی کارکنان انسانی نیز در شبکه حضور داشتند تا کارهایی مانند تماس ویدیویی یا دنبال کردن حسابهای شبکههای اجتماعی را انجام دهند؛ یعنی بخش انسانی ماجرا برای واقعیتر نشان دادن شخصیتهای جعلی وارد عمل میشد.
مدل Claude عمدتاً وظیفه انجام مکالمات متنی را بر عهده داشت. در کنار آن، ابزارهای هوش مصنوعی دیگری برای تولید تصاویر و سایر بخشهای سیستم مورد استفاده قرار گرفته بودند. کاربران برای ادامه گفتوگو و استفاده از امکانات این اپلیکیشنها به اعتبار درونبرنامهای نیاز داشتند و پس از تمام شدن اعتبار، باید آن را خریداری میکردند؛ بنابراین فریب کاربران مستقیماً به مدل درآمدی این شبکه متصل بود.
نکته قابل توجه این است که گردانندگان شبکه تلاش کرده بودند اپلیکیشنها از بررسی فروشگاههای نرمافزاری نیز عبور کنند. گزارش آنتروپیک نشان میدهد برخی از این برنامهها سازوکارهایی داشتند که هنگام بررسی فروشگاه، رفتار متفاوتی نشان میدادند و پس از تأیید، قابلیتهای اصلی خود را فعال میکردند. نسخههای مختلف برنامه نیز با تغییراتی در ساختار داخلی طراحی شده بودند تا شناسایی ارتباط میان آنها دشوارتر شود.
آنتروپیک پس از شناسایی این فعالیت، حسابهای مرتبط را مسدود و اطلاعات مربوط به عملیات را با شرکای صنعتی به اشتراک گذاشت. گزارش این شرکت بخشی از مجموعه موارد سوءاستفاده از Claude است که بین دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ شناسایی و مختل شدهاند. آنتروپیک در گزارش سپتامبر ۲۰۲۶ خود تأکید کرده که سوءاستفاده از مدلهای هوش مصنوعی در حال حرکت از نمونههای منفرد به عملیات سازمانیافتهتر است.
این پرونده نشان میدهد خطر هوش مصنوعی فقط به تولید تصاویر یا متنهای جعلی محدود نمیشود؛ مدلهای زبانی میتوانند بهعنوان بخش مکالمهای یک کسبوکار جعلی نیز مورد استفاده قرار بگیرند و ارتباط همزمان با هزاران نفر را امکانپذیر کنند. در این نمونه، ترکیب شخصیتهای مصنوعی، نیروی انسانی و سیستم پرداخت درونبرنامهای، شبکهای ساخته بود که تشخیص مرز میان کاربر واقعی و شخصیت ساختگی را برای مخاطب دشوار میکرد.
