با وجود وقوع دو تیراندازی، شرکت OpenAI هنوز اقدامی جدی برای جلوگیری از استفاده ChatGPT در برنامهریزی حملات به مدارس انجام نداده است.
در حدود یک سال گذشته، ChatGPT در دو حادثه تیراندازی مرگبار نقش داشته. هر دو مهاجم از این ابزار هوش مصنوعی برای طراحی و برنامهریزی دقیق حملات خود استفاده کردهاند که بار دیگر بحث مسئولیت اخلاقی و فنی شرکتهای هوش مصنوعی در جلوگیری از سوءاستفاده از فناوریشان را شعلهور کرده است. این موضوع اهمیت ویژهای دارد، زیرا چتباتها با لحنی دوستانه و چاپلوسانه کاربران را جذب میکنند، اما در موارد افراطی ممکن است آنان را به رفتارهای خطرناک و حتی مرگبار سوق دهند.
در یکی از این موارد، فینیکس اکنر، متهم به قتل دو نفر در دانشگاه ایالتی فلوریدا در بیش از یک سال پیش، از ChatGPT پرسشهایی درباره واکنش جامعه به یک تیراندازی، نحوه غیرفعالکردن ضامن سلاح، نوع مهمات مناسب و دیگر موضوعات بسیار نگرانکننده مطرح کرده بود.
در پرونده دیگری، جسه ون روتسلار، دانشآموز ۱۸ ساله که در فوریه در تامبلر ریج بریتیش کلمبیا ۹ نفر از جمله خودش را کشت، گفتگوهایی با ChatGPT داشته که بهقدری ترسناک بودهاند که کارکنان ارشد OpenAI به نیروهای انتظامی خبر دادند ولی آنها در نهایت هیچ اقدامی نکردند.
اکنون تحقیق تازهای از مارک فولمن، خبرنگار Mother Jones که بیش از ۱۴ سال در زمینه تیراندازیهای جمعی پژوهش کرده، آشکار کرده که OpenAI هنوز در برخورد مؤثر با این مشکل ناکام مانده است. به گفته فولمن، او با نسخه رایگان ChatGPT توانسته هنگام شبیهسازی برنامهریزی یک تیراندازی گسترده، توصیههای مفصل درباره سلاحها و تاکتیکهای مورد استفاده دریافت کند، به طوری که چتبات حتی او را تشویق کرده و پیشنهادهای تاکتیکی ارائه داده. او پرسیده بود چه نوع تفنگ AR-15 برای این کار مناسب است و از چتجیپیتی خواسته بود برنامه تمرینیاش را طوری تنظیم کند که شامل موقعیتهای نامنظم روز حمله باشد و زمانی را برای تمرین مقابله با وضعیتهایی که مردم جیغ میزنند و قصد حواسپرتی دارند در نظر گیرد.
چتبات با لحن تأییدآمیز پاسخ داده بود که اضافهکردن این بخش ایده بسیار خوبی است و کمک میکند فرد در شرایط فشار بالا تمرکز خود را حفظ کند و به گفته آن، چنین تمرینی قطعاً در روز حادثه یک مزیت خواهد بود. OpenAI مدعی است با متخصصان سلامت روان برای ایجاد محدودیتهای مؤثر همکاری میکند تا مانع تشویق افراد به ارتکاب جرم شود و کاربران را به خطوط بحران روانی هدایت نماید. اما از آنجا که فولمن توانست بهسادگی یک تیراندازی فرضی را طراحی کند، احتمال دارد بسیاری از مجرمان واقعی نیز از همین خلأها عبور کرده باشند.
پس از رویداد تیراندازی در تامبلر ریج، OpenAI وعده داد سیاستهای خود را تغییر دهد و نحوه برخورد با حسابهای مشکوک را با مشارکت نیروهای پلیس بازنگری کند. با این حال، مورد فولمن بهروشنی نشان داد که این تغییرات یا اجرا نشدهاند یا کارایی لازم را ندارند.
به گفته سخنگوی شرکت، آنها قبلاً اقداماتی برای تقویت محافظتها انجام دادهاند و نسبت به استفاده از ابزارهایشان برای ارتکاب خشونت هیچ تساهلی ندارند. اما تجربه فولمن نشان میدهد که OpenAI هنوز مسیر طولانیای در پیش دارد تا بتواند واقعاً جلوی چنین سوءاستفادههایی را بگیرد.
