گزارش جنجالی درباره آنتروپیک؛ هوش مصنوعی Claude به جاسوسی از کاربران متهم شد!

گزارشی تازه مدعی شده است Anthropic از ابزاری داخلی به نام Clio برای تحلیل برخی تعاملات کاربران Claude استفاده می‌کند. هرچند این شرکت می‌گوید هدف، افزایش ایمنی و بهبود عملکرد مدل است، اما این افشاگری بحث‌های تازه‌ای درباره حریم خصوصی کاربران به راه انداخته است.

شرکت Anthropic، سازنده چت‌بات هوش مصنوعی Claude، با موجی از انتقادها روبه‌رو شده است...

دلیل این جنجال، افشای این موضوع است که این شرکت از ابزاری داخلی برای رصد برخی تعاملات کاربران با Claude استفاده می‌کند؛ اقدامی که به گفته منتقدان، بدون اطلاع‌رسانی شفاف انجام شده و پرسش‌های جدی درباره حریم خصوصی کاربران ایجاد کرده است.

بیشتر بخوانید: هوش مصنوعی Claude کل دیتابیس یک شرکت را پاک کرد

ماجرا پس از آن آغاز شد که تعدادی از کاربران و توسعه‌دهندگان با بررسی اسناد فنی و گفت‌وگوهای منتشرشده از سوی کارکنان Anthropic متوجه شدند این شرکت در برخی موارد، مکالمات کاربران را از طریق ابزاری موسوم به «Clio» تحلیل می‌کند.

بر اساس توضیحات Anthropic، هدف از این سامانه، شناسایی سوءاستفاده از مدل‌های هوش مصنوعی، بهبود عملکرد Claude و ارتقای ایمنی سیستم است.

Anthropic تأکید کرده است که Clio به‌جای نمایش مستقیم اطلاعات هویتی کاربران، داده‌ها را به‌صورت خلاصه و ناشناس پردازش می‌کند و برای کارکنان تنها اطلاعات موردنیاز جهت بررسی مشکلات یا سوءاستفاده‌ها قابل مشاهده است.

با این حال، منتقدان معتقدند نحوه اطلاع‌رسانی شرکت درباره این فرآیند شفاف نبوده و بسیاری از کاربران از وجود چنین سازوکاری بی‌اطلاع بوده‌اند.

این موضوع بار دیگر بحث قدیمی درباره مرز میان بهبود مدل‌های هوش مصنوعی و حفظ حریم خصوصی کاربران را زنده کرده است.

شرکت‌های فعال در حوزه هوش مصنوعی معمولاً بخشی از داده‌های کاربران را برای آموزش مدل‌ها، شناسایی تخلفات یا رفع اشکال بررسی می‌کنند، اما میزان شفافیت در اعلام این موضوع و امکان انصراف کاربران، همواره یکی از چالش‌های اصلی این صنعت بوده است.

به گزارش futurism در واکنش به این گزارش، Anthropic اعلام کرده که فعالیت Clio مطابق سیاست‌های حفظ حریم خصوصی این شرکت انجام می‌شود و این ابزار برای نظارت گسترده بر کاربران طراحی نشده است.

با این حال، انتشار این گزارش می‌تواند فشارها بر شرکت‌های توسعه‌دهنده هوش مصنوعی را برای شفاف‌سازی بیشتر درباره نحوه جمع‌آوری و استفاده از داده‌های کاربران افزایش دهد؛ به‌ویژه در شرایطی که رقابت میان شرکت‌هایی مانند OpenAI، گوگل، متا و Anthropic بیش از هر زمان دیگری بر پایه اعتماد کاربران شکل گرفته است.