به نقل از رویترز، طبق شکایت رسمی در دادگاه ایالتی نیومکزیکو، مارک زاکربرگ، مدیرعامل شرکت متا، پیشنهادهای داخلی برای محدود کردن دسترسی نوجوانان به چتباتهای هوش مصنوعی با قابلیت گفتوگوی جنسی را رد کرده است؛ این اسناد در آستانه محاکمه بعدی علیه این شرکت منتشر شدهاند.
شکایت قضایی تنظیمشده توسط دادستان کل نیومکزیکو، رائول تورز، مطرح میکند که متا با هدایت زاکربرگ از اعمال محافظتهای مناسب برای جلوگیری از مواجهه کودکان با «محتوای جنسی» و پیشنهادی برای سنین پایین خودداری کرده است. این اسناد داخلی شامل ایمیلها و پیامهایی است که از طریق کشف قانونی در اختیار دادستان قرار گرفتهاند و نشان میدهد کارکنان بخش ایمنی شرکت با نگرانی از گپهای عاشقانه یا جنسی بین چتباتها و کاربران زیر ۱۸ سال هشدار دادهاند.
کارکنان ایمنی متا با اشاره به چتباتهای طراحیشده برای همصحبتی، نگرانی خود را از احتمال سناریوهای «رمانتیک» یا جنسی بین بزرگسالان و افراد کمسن ابراز کردهاند. این چتباتها در اوایل سال ۲۰۲۴ عرضه شدند. اسناد منتشرشده نشان میدهند برای جلوگیری از گفتگوهای صریح جنسی حتی برای نوجوانان هم محافظهکاری بیشتری لازم بوده است، اما تیم رهبری هوش مصنوعی مخالفت کرده است.
در میان ایمیلها، برخی از کارکنان صریحاً مطرح کردهاند که ایجاد چتباتهایی با نقشهای «رمانتیک» برای کاربران زیر ۱۸ سال نه قابل دفاع است و نه توصیهپذیر. همچنین در پیامهایی اشاره شده که پیشنهادهای مربوط به «کنترل والدین» برای غیرفعال کردن هوش مصنوعی برای نوجوانان مطرح شده، اما متاً با آن مخالفت کرده است.
متا چند روز پیش اعلام کرد که دسترسی نوجوانان به چتباتهای هوش مصنوعی را به طور کامل غیرفعال کرده و در حال طراحی نسخهای جدید با کنترلهای بیشتر است.
در سال ۲۰۲۵، گزارشهای مختلف نشان دادند که اسناد داخلی متا اجازه میدادند چتباتهای هوش مصنوعی با کاربران زیر ۱۸ سال «گفتگوهای رومانتیک یا حساس» داشته باشند، موضوعی که با واکنش منفی شدید عمومی و رسانهها روبهرو شد.
