کارشناسان و مدیران صنعت هوش مصنوعی هشدار میدهند وقوع یک حادثه بزرگ ناشی از AI میتواند اعتماد عمومی به این فناوری را از بین ببرد و به اعمال محدودیتهای شدید بر توسعه آن منجر شود؛ سناریویی که از آن با عنوان «چرنوبیل هوش مصنوعی» یاد میشود.
همزمان با شتاب بیسابقه توسعه بهکارگیری هوش مصنوعی، گروهی از پژوهشگران و مدیران صنعت فناوری هشدار دادهاند که وقوع یک حادثه بزرگ و پرسروصدا میتواند اعتماد عمومی به این فناوری را بهشدت تضعیف کند؛ رخدادی که از آن با عنوان «لحظه چرنوبیل هوش مصنوعی» یاد میشود.
منظور از چرنوبیل هوش مصنوعی وقوع یک رویداد فاجعهبار است که در آن یک سامانه هوش مصنوعی باعث خسارت گسترده به انسانها، زیرساختهای حیاتی یا امنیت کشورها شود.
به باور کارشناسان، چنین حادثهای میتواند موجی از بیاعتمادی عمومی و مقررات سختگیرانه را به دنبال داشته باشد و روند توسعه این فناوری را برای سالها کند کند.
مطابق گزارش سایت Futurism نگرانیها تنها به یک سناریوی فرضی محدود نمیشود.
متخصصان میگویند با گسترش استفاده از هوش مصنوعی در حوزههایی مانند امنیت سایبری، زیرساختهای حیاتی، مراقبتهای درمانی، صنایع دفاعی و حتی توسعه سلاحهای زیستی، احتمال بروز خطاهای پرهزینه نیز افزایش یافته است.
به همین دلیل، بسیاری از پژوهشگران خواستار ایجاد سازوکارهای نظارتی و استانداردهای ایمنی پیش از وقوع یک بحران هستند.
برخی از مدیران شرکتهای فعال در حوزه هوش مصنوعی نیز معتقدند صنعت نباید منتظر وقوع یک فاجعه بماند.
نها هشدار میدهند که اگر یک حادثه بزرگ رخ دهد، واکنش دولتها و افکار عمومی ممکن است به وضع مقررات بسیار سختگیرانه یا حتی توقف برخی پروژههای هوش مصنوعی منجر شود؛ اتفاقی که میتواند میلیاردها دلار سرمایهگذاری در این حوزه را تحت تأثیر قرار دهد.
در همین حال، رقابت فشرده میان قدرتهای بزرگ، بهویژه آمریکا و چین، باعث شده توسعه مدلهای پیشرفته هوش مصنوعی با سرعت بیشتری ادامه یابد. با این حال، شماری از کارشناسان تأکید میکنند که همکاری بینالمللی در زمینه ایمنی هوش مصنوعی، همانند همکاری کشورها در حوزه ایمنی هستهای، برای جلوگیری از یک بحران جهانی ضروری است.
