افشای چت‌های هولناک ChatGPT؛ پای هوش مصنوعی به پرونده تیراندازی مرگبار باز شد

گیزمکس
نویسنده: فوائد مبینی
- 05 مهر 1405
افشای لاگ‌های ChatGPT و پرونده تیراندازی مرگبار علیه OpenAI
افشای بخشی از گفتگوهای ChatGPT با عامل تیراندازی مرگبار، موج تازه‌ای از شکایت‌ها علیه OpenAI ایجاد کرده است.

پرونده‌های قضایی علیه OpenAI وارد مرحله تازه‌ای شده‌اند؛ جایی که بخشی از گفتگوهای ChatGPT با عامل تیراندازی مرگبار مدرسه‌ای در کانادا، به موضوع اصلی دعوا تبدیل شده است. گزارش‌های جدید نشان می‌دهد این کاربر پیش از حمله، برای مدت طولانی درباره خشونت و تیراندازی با ChatGPT گفتگو داشته است.

ماجرا به تیراندازی فوریه ۲۰۲۶ در شهر Tumbler Ridge کانادا مربوط می‌شود؛ حادثه‌ای که ۹ نفر در آن کشته شدند. خانواده‌های قربانیان OpenAI را متهم کرده‌اند که با وجود شناسایی گفتگوهای نگران‌کننده، مقام‌های محلی را از این موضوع مطلع نکرده است.

در ادامه، پرونده وارد مرحله حقوقی گسترده‌تری شد و دولت بریتیش‌کلمبیا نیز در سپتامبر علیه OpenAI و سم آلتمن شکایت کرد. یکی از درخواست‌های مطرح‌شده، دسترسی به لاگ‌های کامل گفتگوهای ChatGPT است تا مشخص شود پیش از حادثه دقیقاً چه اتفاقی در این گفتگوها رخ داده است.

گزارش‌های منتشرشده درباره بخشی از این گفتگوها ادعا می‌کنند که پس از مسدود شدن حساب اولیه، کاربر حساب دیگری ساخته و تلاش کرده درخواست‌های خشونت‌آمیز خود را با قالب‌های فرضی مطرح کند. برخی گزارش‌ها همچنین مدعی‌اند ChatGPT در مواردی به این گفتگوها پاسخ‌هایی داده که اکنون به یکی از محورهای اصلی انتقادها تبدیل شده است.

تبلیغات

این پرونده تنها نمونه موجود نیست. در آمریکا نیز خانواده یکی از قربانیان تیراندازی دانشگاه ایالتی فلوریدا علیه OpenAI شکایت کرده‌اند و در دادخواست خود مدعی شده‌اند که فرد مظنون پیش از حمله با ChatGPT درباره موضوعات مرتبط با تیراندازی گفتگو داشته است.

OpenAI در مقابل تأکید کرده است که ChatGPT دارای سیستم‌های ایمنی برای شناسایی سوءاستفاده و خطر آسیب در دنیای واقعی است و در پرونده فلوریدا نیز گفته که این سرویس کاربر را به دریافت کمک واقعی و مراجعه به متخصصان تشویق کرده است. بنابراین، نقش و مسئولیت حقوقی ChatGPT در این حوادث همچنان موضوع اختلاف در دادگاه‌هاست.

منبع این گزارش

نظرات کاربرانکپی متنکپی لینک