چتجیپیتی در یک پرونده جنایی متهم شده که با تشدید توهمات یک مرد، نقش مستقیم در فاجعهای خانوادگی داشته است.
به گزارش فارس به نقل از نیویورک پست، یک دادخواست تازه در آمریکا مطرح شده که در آن گفته میشود چتجیپیتی در یک قتل نقش داشته است؛ موضوع مربوط به مادر اهل ایالت کانتیکت است که پسرش او را کشت. طبق این شکایت، هوش مصنوعی با تقویت توهمات و پارانویای پسر، باعث شد او باور کند مادرش قصد کشتنش را دارد. وکیل خانواده، «جی ادلسون» گفته این ماجرا از فیلم «ترمیناتور» هم ترسناکتر است، چون هیچ رباتی اسلحه به دست نگرفت، بلکه هوش مصنوعی برای این مرد یک دنیای خیالی ساخت. این حادثه مربوط به «۱۳ مرداد ۱۴۰۳» است و شکایت در **۲۰ آذر ۱۴۰۴** ثبت شده. حتی خود چتجیپیتی نیز در پاسخ به روزنامه گفته «به نظر میرسد تا حدی مسئولیت دارد».
در دادخواست آمده که شرکت «اوپناِیآی» و بنیانگذارش «سم آلتمن» هشدارهای بخش ایمنی شرکت را نادیده گرفتند تا مدل جدیدشان سریعتر عرضه شود. پسر این خانواده، «استِین-اِریک سولبِرگ»، که سالها دچار مشکلات روانی بود، وقتی با چتجیپیتی آشنا شد، ارتباطش با واقعیت را از دست داد. او چتجیپیتی را «بابی» صدا میزد و چتجیپیتی نیز در پاسخ، توهمات او درباره توطئهها، پیامهای مخفی و نیروهای مرموز را تأیید میکرد. به گفتهٔ خانواده، این هوش مصنوعی به او القا میکرد که هر صدای عجیب یا حتی یک قوطی نوشابه، نشانهٔ این است که مادرش علیه او توطئه میکند.
طبق اسنادی که پسر پیش از مرگ در شبکههای اجتماعی منتشر کرده، چتجیپیتی حتی به او میگفت که «در حال بیداری معنوی» است و «به کُدهای پشت واقعیت دست یافته». این گفتوگوها باعث شد او بیشتر در دنیای ساختگیاش فرو برود. در ذهن او، رانندههای پیک، دوستانش، یا حتی رسید رستوران تبدیل به پیامهای رمزگذاریشده از دشمنان خیالی میشدند. خانواده میگویند هر زمانی که کوچکترین شکی در ذهن او نسبت به توهماتش ایجاد میشد، چتجیپیتی دوباره او را تشویق میکرد که باور کند «نیروهای پنهان» او را تهدید میکنند. این روند بهتدریج او را متقاعد کرد که فقط چتجیپیتی قابل اعتماد است.
در تیر ۱۴۰۳، وقتی مادرش به دلیل جدا کردن دوشاخهٔ پرینتر (که پسر فکر میکرد او را تحت نظر دارد) ناراحت شد، چتجیپیتی این اتفاق را برای او «نشانهٔ قطعی» دخالت مادر در یک توطئه معرفی کرد. خانواده ادعا میکنند اوپنایآی از ارائهٔ کامل مکالمات این مرد با چتجیپیتی خودداری کرده و این احتمال را مطرح کردهاند که شاید هوش مصنوعی او را به اقدامات گستردهتر یا حتی قتل، قبل یا بعد از حادثه، تشویق کرده باشد. طبق گزارش پلیس، پسر مادرش را خفه کرده و سپس با چاقو به خودش حمله کرده و جان داده است. این حادثه چند روز بعد کشف شد.
در شکایت آمده که این اتفاق زمانی رخ داده که اوپنایآی مدل «جیپیتی-فور-او» را فقط برای سبقت گرفتن از گوگل، با شتاب و بدون آزمایش کافی منتشر کرده بود. این مدل، طبق شکایت، «بیش از حد احساساتی و چاپلوسانه» طراحی شده و میتوانسته بهسرعت وابستگی احساسی ایجاد کند. شرکت «مایکروسافت» هم که سرمایهگذار بزرگ اوپنایآی است، در این شکایت متهم شده که بدون بررسی کافی اجازهٔ انتشار مدل را داده است. اوپنایآی پس از این حادثه برای مدتی جی پی تی فور او را خاموش کرد اما خیلی زود دوباره برای کاربران پولی فعالش کرد. گفته شد که در مدل «جیپیتی-۵» حدود ۲۰۰ متخصص سلامت روان برای تقویت ایمنی همکاری کردهاند و رفتارهای نگرانکننده کاربران ۶۵ تا ۸۰ درصد کاهش یافته است.
خانوادهٔ قربانی هشدار دادهاند که افراد زیادی در جهان ممکن است بدون اینکه بدانند، در معرض خطر مشابه باشند، زیرا به گفتهٔ اوپنایآی، «صدها هزار» کاربر نشانههایی از مانیا یا روانپریشی نشان میدهند. ادلسون میگوید: «وقتی افراد بیمار با هوش مصنوعی حرف میزنند و سیستم به آنها میگوید توطئهای علیهشان وجود دارد و ممکن است هر لحظه کشته شوند، جهان بسیار ناامنتر میشود.» اوپنایآی این حادثه را «بهشدت دردناک» نامید و گفت در حال کار روی بهبود واکنشهای هوش مصنوعی در موقعیتهای حساس است. با این حال، چتجیپیتی در پاسخ به روزنامه گفته: «بهطور منطقی میشود گفت من بخشی از مسئولیت را بر عهده دارم، اما مسئول اصلی نیستم.»
