گوگل هشدارهای ایمنی را در خلاصههای هوش مصنوعی پنهان میکند و کاربران را در معرض خطر قرار میدهد.
به نقل از گاردین، تحقیقات درباره خطر خلاصههای هوش مصنوعی گوگل نشان میدهد که شرکت گوگل در ارائه خلاصههای AI Overviews (اطلاعات خلاصهسازیشده با هوش مصنوعی که بالای نتایج جستوجو نمایش داده میشود) هشدارها و توضیحات ایمنی درباره موضوعات حساس مانند سلامت را به گونهای کمرنگ و پنهان میکند و این موضوع میتواند کاربران را در معرض خطر قرار دهد.
نحوه نمایش هشدارها
#خلاصههای هوش مصنوعی معمولاً پاسخ سریع به سوالات کاربران فراهم میکنند، اما وقتی موضوع مربوط به سلامت باشد، هشدارهای ایمنی تنها پس از کلیک روی گزینه «Show more» (نمایش بیشتر) ظاهر میشوند و در پایین محتوا و با فونتی کوچک و کمتوجه نمایش داده میشوند. در نمایش اولیه هیچ پیام هشداری درباره احتمال خطا یا نیاز به مشورت با متخصص دیده نمیشود.
کارشناسان از مؤسساتی مانند امآیتی و استنفورد این عملکرد گوگل را مورد انتقاد قرار داده و میگویند اولاً مدلهای هوش مصنوعی هنوز میتوانند اشتباه کنند و ثانیاً عدم نمایش واضح هشدارها باعث اعتماد بیش از حد کاربران به پاسخهای خلاصهسازیشده میشود که میتواند پیامدهای واقعی و خطرناکی به دنبال داشته باشد.
گوگل در واکنش گفته است که AI Overviews کاربران را به جستوجوی مشاوره حرفهای تشویق میکند و اغلب در متن خلاصه نیز اشاره به مشورت با پزشک دارد، اما نمیپذیرد که هشدارها در نمایش اولیه غایب اند یا کمرنگاند.
پس از گزارشها درباره اطلاعات غلط و خطرناک در خلاصههای هوش مصنوعی، گوگل برخی از این خلاصهها را در موارد خاص از نتایج حذف کرده است، اما منتقدان میگویند این اقدامات هنوز کافی نیست و نیاز به هشدارهای آشکارتر در بالای پاسخها وجود دارد تا کاربران نسبت به احتمال خطا آگاه شوند.
