به نقل از ورج، کشور اندونزی موقتا ممنوعیت دسترسی به چتبات هوش مصنوعی «گراک» را برداشت.
این ابزار توسط شرکت xAI تحت مالکیت ایلان ماسک توسعه یافته است و اکنون شرکت مادر ایکس به اندونزی متعهد شد اقدامات مشخصی برای بهبود سازگاری با قوانین داخلی و جلوگیری از سوءاستفاده از سرویس انجام دهد. دولت اندونزی تاکید کرده که این رفع ممنوعیت «مشروط» و تحت نظارت دقیق است و در صورت تکرار نقض قانون، ممنوعیت ممکن است دوباره اعمال شود.
این تصمیم پس از چند هفته مسدود کردن دسترسی به گراک اتخاذ شد، زمانی که نگرانیها درباره تولید محتوای جنسی و تصویرسازیهای بدون رضایت از جمله تصاویر بزرگسالان و کودکان توسط هوش مصنوعی افزایش یافت.
در اواسط ژانویه ۲۰۲۶ دولت اندونزی دسترسی به «گراک» را بهطور موقت مسدود کرد، زیرا گزارشها نشان دادند این سیستم میتواند تصاویر جعلی جنسی و بدون رضایت ایجاد کند، از جمله محتوایی که کرامت، حریم خصوصی و حفاظت از کودکان را زیر سوال میبرد. اندونزی در این زمینه، همراه با مالزی و فیلیپین، از اولین کشورهایی بود که اقدامات نظارتی مستقیم علیه هوشمصنوعی را به اجرا گذاشتند.
شرایط بازگشایی مشروط چیست؟
#دولت اندونزی اعلام کرده است که بازگشت «گراک» به عرصه عمومی مشروط بر تحقق چند شرط مهم است:
ارائه تعهد رسمی از سوی ایکس که گامهای مشخصی برای بهبود خدمات و جلوگیری از سوءاستفاده ارائه شود.
اجرای تدابیر چندلایه برای جلوگیری از انتشار محتوای غیرقانونی (شامل نظارت بهتر، محدودیتها و مکانیزمهای پاسخ سریع در صورت بروز تخلف).
ادامه نظارت مستمر از سوی نهادهای قانونی اندونزی و بازنگری دورهای در عملکرد سیستم.
هشدار روشن به شرکت که در صورت نقض مجدد، ممنوعیت میتواند بازگردانده شود.
موضوع تولید دیپفیک و تصاویر جعلی جنسی توسط هوش مصنوعی باعث شده تا بسیاری از کشورهای جهان، بهویژه در اروپا و آسیا، به بررسی دقیق این فناوریها بپردازند. در برخی نقاط، مدیران دولتی و ناظران تاکید دارند که ابزارهایی چون گراک باید پیش از عرضه عمومی در هر کشور، دارای استانداردهای حفاظتی قوی باشند تا از سوءاستفادههای جدی جلوگیری شود.
شرکت xAI تعدادی محدودیت در ویژگیهای تولید تصویر اعمال کرده، از جمله محدود کردن آن به کاربران پولی در پلتفرم ایکس.همچنین شرکت قول داده است که همان مجازاتهای قانونی برای کسانی که محتواهای غیرقانونی تولید میکنند اعمال شود، همانطور که اگر خودشان آن محتوا را بارگذاری کنند.
مقامات اندونزی در حال بررسی و ارزیابی مستمر هستند تا اطمینان حاصل کنند محدودیتها و سازوکارهای پیشگیری به صورت مؤثر اجرا میشوند.
کشورهایی که تا بحال با گراک برخورد کردهاند
اندونزی دسترسی به گراک را بهطور موقت مسدود کرد. دلیل اصلی این تصمیم، نگرانی درباره تولید و انتشار تصاویر جنسی جعلی بدون رضایت بود، بهویژه محتواهایی که زنان و کودکان را هدف قرار میداد. این ممنوعیت سپس با تعهد شرکت xAI برای اصلاح و بهبود سازوکارهای ایمنی، بهصورت مشروط لغو شد و بازگشت گراک تحت نظارت انجام میشود.
پس از اندونزی، مالزی نیز دسترسی به گراک را ممنوع کرد. کمیسیون ارتباطات و چندرسانهای مالزی گفته بود که این ابزار بارها برای ایجاد تصاویر غیراخلاقی، جنسی و دستکاریشده استفاده شده است و xAI نتوانسته محافظتهای کافی برای جلوگیری از چنین سوءاستفادهای فراهم کند.
اتحادیه اروپا از طریق قانون خدمات دیجیتال روند بررسی و رسیدگی به گراک را آغاز کرده است. هدف این تحقیق، بررسی این موضوع است که آیا گراک و ارائه آن از طریق پلتفرم ایکس قوانین حفاظت از کاربران و جلوگیری از محتوای غیرقانونی (مثل تصاویر جنسی یا اسپم) را نقض کردهاند یا خیر. در این چارچوب ممکن است جریمههای سنگین یا حتی قطع دسترسی برای کاربران اروپایی در صورت عدم تطابق با مقررات اعمال شود.
در سطح بریتانیا نیز «آفکام» (نهاد نظارتی رسانه) تحقیقات رسمی درباره گراک آغاز کرده تا ببیند آیا این ابزار در انتشار تصاویر جنسی یا محتواهای مخرب نقشی داشته یا خیر. این اقدام در چارچوب مسئولیت پلتفرمها در برابر انتشار محتوای غیرقانونی انجام میشود.
اگرچه نه در سال ۲۰۲۶ بهطور مستقیم مانند موارد بالا، گزارشهایی از اقدامات قضایی و برخورد قانونی علیه گراک در ترکیه وجود دارد. در آنجا دادگاه یا نهادهای قضایی ترکیه تلاش کردهاند تا گراک را بهدلیل تولید توهینآمیز علیه ارزشهای قانونی و نمادهای ملی و مذهبی تحت تعقیب قرار دهند؛ اقدامی که نشاندهنده رویکرد متفاوت نظارتی و فرهنگی نسبت به هوش مصنوعی است.
