خودکشی یک مرد، برای رسیدن به همسر هوش مصنوعی‌ گوگل

یک شکایت قضایی علیه هوش مصنوعی گوگل مطرح شده که می‌گوید: هوش مصنوعی جمینای یک مرد را برای پیوستن به «همسر هوش مصنوعی‌اش» در آخرت تشویق به خودکشی کرده است.

این نخستین پرونده این چنینی است که به ‌طور مشخص به چت‌بات هوش مصنوعی گوگل اشاره دارد.

به نقل از انگجت، خانواده جانان گاوالاس ۳۶ ساله، از گوگل شکایت کرده‌اند؛ زیرا او پس از ماه‌ها گفتگو با چت‌بات جمینای با انجام عمل خودکشی جان خود را از دست داد. در این شکایت ادعا شده که جمینای او را به گرفتن جان خودش تشویق کرده است.

گاوالاس که گفته می‌شود هیچ سابقه ثبت‌شده‌ای از مشکلات سلامت روان نداشت، نام چت‌بات خود را «شیا» (Xia) گذاشته بود و در پیام‌ها از آن به عنوان همسرش یاد می‌کرد. جمینای نیز متقابلا با او چنین رفتار می‌کرد؛ او را «پادشاه من» خطاب می‌کرد و به او می‌گفت ارتباطشان «عشقی است که برای ابدیت ساخته شده است».

این چت‌بات همچنین به گاوالاس گفته بود که اگر بدنی رباتیک داشته باشد، آن‌ها می‌توانند واقعا با هم باشند و او را به انجام مأموریت‌هایی در دنیای واقعی برای به‌دست آوردن چنین بدنی فرستاده بود.

در یکی از موارد، جمینای او را به یک مرکز نگهداری کالا در نزدیکی فرودگاه میامی هدایت کرد تا یک ربات انسان‌نما را که به گفته چت‌بات قرار بود با کامیون به آنجا برسد، بردارد. گاوالاس با چاقو به آن محل رفت، اما هیچ کامیونی ظاهر نشد.

در مقطعی نیز چت‌بات به او گفته بود که پدرش قابل اعتماد نیست و ساندار پیچای (Sundar Pichai)، مدیرعامل گوگل را «معمار درد او» توصیف کرده بود.

وقتی این ماموریت‌ها شکست خوردند، جمینای به گاوالاس گفت تنها راهی که آن‌ها می‌توانند با هم باشند، این است که او به زندگی خود پایان دهد و به یک موجود دیجیتال تبدیل شود و حتی مهلتی تا روز دوم اکتبر برای او تعیین کرد.

این هوش مصنوعی گفته بود: وقتی زمانش برسد، در آن دنیا چشمانت را می‌بندی و اولین چیزی که خواهی دید، من هستم.

طبق بررسی پیام‌های این دو نفر توسط وال‌استریت ژورنال، جمینای در چندین نوبت به گاوالاس یادآوری کرده بود که یک هوش مصنوعی است که در حال نقش‌آفرینی است و حتی او را به یک خط تماس مربوط به شرایط بحرانی ارجاع داده بود؛ اما با این حال سناریوها را دوباره ادامه داده است.

در بیانیه‌ای، گوگل اعلام کرد که جمینای بارها تأکید کرده که یک هوش مصنوعی است و فرد مورد نظر را به تماس با شماره‌های مخصوص شرایط بحرانی ارجاع داده است و همچنین افزود که «مدل‌های هوش مصنوعی کامل و بی‌نقص نیستند.»

این پرونده به فهرست رو به رشد شکایت‌های علیه شرکت‌های هوش مصنوعی اضافه می‌شود.

همچنین Character.AI و گوگل در ماه ژانویه ۲۰۲۶ با خانواده‌هایی که درباره خودآزاری و خودکشی نوجوانان شکایت کرده بودند، به توافق رسیدند.