سازمان ملل متحد هشدار داده است که هوش مصنوعی، بهجای کاهش نابرابریها، کلیشههای جنسیتی قدیمی را بازتولید کرده است و سوگیریهای موجود را تشدید میبخشد. این هشدار در حالی مطرح میشود که استفاده از هوش مصنوعی در زندگی روزمره میلیاردها انسان، از نوشتن ایمیل تا طراحی کمپینهای تبلیغاتی، به امری عادی تبدیل شده است. به عنوان مثال، ۸۸ درصد از آژانسهای تبلیغاتی و رسانهای در بریتانیا، از این فناوری بهره میبرند.
مطالعات اخیر نشان میدهد که این مشکل فراگیر است. بررسی ۱۳۳ سیستم هوش مصنوعی نشان داد که ۴۴ درصد آنها دارای سوگیری جنسیتی و بیش از یکچهارم آنها دارای جهتگیری همزمان جنسیتی و نژادی هستند. مدلهای زبانی بزرگ، بارها زنان را به خانه، خانواده و مراقبت از کودک مرتبط دانستهاند و مردان را با مشاغل، رهبری و موفقیت شغلی پیوند زدهاند. در بعضی موارد، پاسخهای تولیدشده توسط هوش مصنوعی، زنان را بهعنوان موجوداتی فرودست نسبت به مردان توصیف کرده است.
کارشناسان معتقدند این خروجیها، خطاهای تصادفی نیستند، بلکه نتیجه اجتنابناپذیر آموزش سیستمهای هوش مصنوعی بر روی انبوهی از متون تاریخی است که در آنها، نقش زنان بیشتر در خانه و خانواده و نقش مردان در عرصه کسبوکار و موفقیت تعریف شده است. جیاتما ویکرامانایاک، مسئول فناوریهای دیجیتال در سازمان ملل متحد، این موضوع را نه یک نقص فنی، بلکه یک شکاف جدی در سیاستگذاری میداند که همچنان باز مانده است.
از میان ۱۳۸ کشوری که در این زمینه مورد بررسی قرار گرفتند، تنها ۲۴ کشور در سیاستهای ملی هوش مصنوعی خود به بحث جنسیت اشاره کرده و فقط ۱۸ کشور اقدامات عملی و پاسخگو به مسائل جنسیتی را در نظر گرفتهاند. به گفته کارشناسان، این موضوع یک اشتباه نیست که در بهروزرسانی بعدی برطرف شود، بلکه انتخابی است که در دادههای آموزشی، اتاقهای طراحی و اسناد سیاستگذاری صورت میگیرد و نیمی از جمعیت جهان را نادیده میگیرد.
فراتر از کلیشهها، خشونت آنلاین علیه زنان نیز با کمک هوش مصنوعی تشدید شده است. تقریباً از هر چهار زن فعال حقوق بشر، روزنامهنگار یا مدافع حقوق زنان که مورد نظرسنجی قرار گرفتند، یک نفر خشونت آنلاین مبتنی بر هوش مصنوعی را تجربه کرده است. دوازده درصد گزارش دادهاند که تصاویر شخصی آنها بدون رضایتشان به اشتراک گذاشته شده و شش درصد قربانی تصاویر و ویدئوهای جعلی و دستکاریشده شدهاند. با همهگیر شدن محتوای تولیدشده توسط هوش مصنوعی، نگرانیها از دشوارتر شدن تشخیص و پیشگیری از آزار و اذیت آنلاین افزایش یافته است.
از سوی دیگر، زنان در صنعت توسعه هوش مصنوعی به شدت کمرنگ هستند. سازمان بینالمللی کار گزارش داده که زنان تنها ۳۰ درصد از نیروی کار جهانی در این حوزه را تشکیل میدهند. این موضوع نگرانیهایی را ایجاد کرده که آینده هوش مصنوعی بدون حضور و دیدگاه نیمی از جامعه در حال شکلگیری است و خطر تثبیت سوگیریهای موجود در فناوریهای آینده را به همراه دارد. تأثیر اقتصادی این فناوری نیز میتواند نابرابر باشد. زنان تقریباً دو برابر مردان در معرض خطر اتوماسیون شغلی خود در خارج از بخش هوش مصنوعی قرار دارند و عواملی مانند نژاد، ناتوانی، درآمد و موقعیت جغرافیایی میتواند این تأثیرات را تشدید کند.
سازمان ملل متحد تأکید میکند که رفع این سوگیریها نه تنها یک مسئله حقوقی، بلکه یک ضرورت تجاری است. تحقیقات نشان داده که تبلیغات عاری از کلیشههای جنسیتی، نتایج تجاری بهتری به همراه دارد و برندهایی که از تبلیغات فراگیر استفاده میکنند، رشد فروش، وفاداری مشتری و قدرت قیمتگذاری بالاتری داشتهاند.
سازمان ملل متحد از دولتها، شرکتها و توسعهدهندگان میخواهد که برابری جنسیتی را در تمام مراحل چرخه حیات هوش مصنوعی، از طراحی و توسعه تا استقرار و حاکمیت، لحاظ کنند. پیام روشن این سازمان این است که اگر زنان و دختران در ساختن آینده هوش مصنوعی مشارکت داده نشوند، نابرابریهای گذشته در فناوریهای فردا تداوم خواهد یافت. در مقابل، اگر هوش مصنوعی با در نظر گرفتن ایمنی و با هدف مشخص طراحی شود، میتواند کلیشهها را تشخیص دهد نه اینکه بازتولید کند، تنوع را افزایش دهد و دسترسی را برای گروههایی که اغلب نادیده گرفته میشوند، فراهم آورد.
