اعتماد به توصیه هوش مصنوعی برای یک کشاورز چینی به بهای نابودی نزدیک به ۲۵ هکتار از محصولاتش تمام شد. او پس از دریافت چند توصیه موفق از یک چتبات، این بار نیز بدون بررسی تخصصی، ترکیبی از مواد شیمیایی پیشنهادی را در مزرعه کنجد خود استفاده کرد. اما روز بعد مشخص شد یکی از علفکشهای توصیهشده با محصول او سازگار نبوده و تقریباً تمام نهالهای کنجد از بین رفتهاند.
اعتماد بیش از حد به توصیههای هوش مصنوعی میتواند پیامدهای جدی داشته باشد؛ موضوعی که یک کشاورز ۶۷ ساله در شهر چوتشو چین بهطور دردناکی تجربه کرد.
به نقل از Techspot، او پس از دریافت چند توصیه موفق از یک چتبات برای کنترل علفهای هرز و آفات، این بار نیز بدون بررسی صحت اطلاعات به پیشنهاد هوش مصنوعی عمل کرد؛ نتیجه، از بین رفتن حدود ۲۵ هکتار از محصولات کنجد او بود.
چتبات به این کشاورز توصیه کرده بود برای از بین بردن علفهای هرز از ترکیبی شامل علفکش «فلوفناسِت» و چند ماده شیمیایی دیگر استفاده کند. کشاورز نیز بدون آنکه درباره سازگاری این ترکیبات با محصول خود تحقیق کند، دستورالعمل ارائهشده را اجرا کرد.
صبح روز بعد، او متوجه شد بخش بزرگی از مزرعهاش از بین رفته است. حدود ۲۴٫۷ هکتار نهال کنجد خشک شده و مرده بودند. کشاورز که متوجه اشتباه شده بود، دوباره از همان چتبات پرسید دلیل نابودی محصولات چه بوده است.
پاسخ هوش مصنوعی نشان داد یکی از مواد توصیهشده، یعنی فلوفناست، عامل اصلی این مشکل بوده است. این علفکش عمدتاً برای کنترل علفهای هرز پهنبرگ در مزارع سویا استفاده میشود، اما کنجد نیز یک گیاه پهنبرگ است و در نتیجه میتواند تحت تأثیر این ماده شیمیایی قرار بگیرد.
مشکل دیگری نیز در نحوه مصرف ماده وجود داشت. طبق اطلاعات بعدی، این علفکش باید بهصورت محدود و مستقیماً روی مناطق آلوده استفاده میشد، در حالی که کشاورز آن را در سراسر مزرعه پخش کرده بود. در نتیجه، اشتباه در توصیه و اجرای نادرست آن به نابودی تقریباً کل محصول منجر شد.
این اتفاق بار دیگر محدودیتهای استفاده از هوش مصنوعی برای تصمیمهای حساس را نشان میدهد. چتباتها ممکن است اطلاعات ناقص، نادرست یا خارج از زمینه ارائه کنند و حتی اگر در گذشته چندین بار پاسخ درستی داده باشند، این موضوع تضمینی برای صحت پاسخهای بعدی نیست. به همین دلیل، توصیههای مربوط به کشاورزی، مواد شیمیایی، پزشکی و سایر حوزههای حساس باید حتماً با منابع تخصصی و کارشناسان بررسی شوند.
ماجرا همچنین یادآور نمونههای دیگری از اعتماد بیش از حد به پاسخهای هوش مصنوعی است. در نمونهای دیگر، فردی پس از پرسیدن درباره جایگزینهای نمک از ChatGPT، مادهای را بهعنوان جایگزین دریافت کرد که برای مصرف غذایی مناسب نبود و در نهایت به مسمومیت با برومید منجر شد.
