ریاضیدانان در حال تعیین برخی محدودیتها هستند. امروز، ۱۶ ریاضیدان پس از مشورت با همکاران و سازمانهای مرتبط، بیانیهی لایدن درباره هوش مصنوعی و ریاضیات را منتشر کردند.
این بیانیه که تا زمان انتشار بیش از ۱۳۰ امضاکننده را جذب کرده بود، چالشهای کلیدی ناشی از استفاده گسترده از هوش مصنوعی در پژوهشهای ریاضی و همچنین توصیههایی را برای پژوهشگران فردی، سازمانها، دولتها و شرکتهای تجاری ترسیم میکند.
کریستوف سورگر (Christoph Sorger)، دبیرکل اتحادیه بینالمللی ریاضیات (IMU)، در ستونی در تاییدیه این اتحادیه نوشت:
من انتظار ندارم که همهی همکاران با تکتک جملات این بیانیه موافق باشند. این بیانیه از جامعهی ریاضیات میخواهد به گونهای پاسخ دهد که شفاف و بر پایهی ارزشهای رشتهی ما هدایت شود.
رودریگو اوچیگامه (Rodrigo Ochigame)، انسانشناس هوش مصنوعی در دانشگاه لایدن هلند که در تدوین این بیانیه نقش داشته، به گیزمودو گفت:
رسیدن به اجماع بر سر یک متن کامل آسان نبود و این فرآیند صبر همگان را آزمود. ما این کار را به روش سخت انجام دادیم. تصمیم گرفتیم متن را تنها زمانی منتشر کنیم که به اجماع کامل برسیم، پس از جمعآوری بازخوردهای گسترده از طیف وسیعی از افراد و بحث و بررسی مفصل هر بند. این سند ۱۱ صفحهای از یک کارگاه آموزشی که در سپتامبر سال گذشته برگزار شد، حاصل شده. لازم به ذکر است که این بیانیه استفاده از هوش مصنوعی در پژوهشهای ریاضی را محکوم نمیکند. بلکه، معنای واقعی استفاده مسئولانه از هوش مصنوعی را در چارچوب ارزشهایی مانند دقت، شفافیت، و وزن قضاوت و خلاقیت انسانی در پسِ اکتشافات ریاضی زیر سوال میبرد.
بیانیه میگوید که پیشرفت کنترلنشدهی هوش مصنوعی در ریاضیات، استقلال ریاضیات را در معرض تهدید قرار میدهد. به عنوان مثال، بیانیه استدلال میکند که اثباتهای تولید شده توسط هوش مصنوعی به سختی در رویههای مرسوم برای ایدهپردازی، ارائهی استدلالهای رسمی و غیررسمی در ریاضیات و اعتبارسنجی آنها گنجانده میشوند. همچنین هشدار میدهد که وقتی چنین نتایجی از طریق اطلاعیههای مطبوعاتی غیررسمی یا پستهای وبلاگ بدون اعتبارسنجی دقیق ترویج میشوند، اگر خطاهای قابل توجهی در کار هوش مصنوعی وجود داشته باشد، برای ریاضیدانان دشوار است که اطلاعات نادرست منتشر شده را اصلاح کنند.
دنیل لیت (Daniel Litt)، ریاضیدان دانشگاه تورنتو که در تدوین بیانیه نقشی نداشت، به گیزمودو گفت:
عجلهای برای اعلام نتایجی وجود دارد که اغلب به درستی بررسی یا به درستی زمینهسازی نمیشوند، و این موضوع از سوی تعدادی از استارتاپهای ریاضی هوش مصنوعی مشاهده شده. به طور کلی، این نتایج عمدتاً درست هستند و همچنین جالب نیستند. البته، شرکتها انگیزههای مالی برای اغراق در مورد میزان جالب بودن آنها دارند.
یکی دیگر از نگرانیهای عمده این است که عاملهای هوش مصنوعی، متون علمی را از مخازنی مانند arXiv خراش میدهند تا پاسخهای خود را بسازند، اما به ندرت به درستی به کار انسانی که بر پایهی آن بنا شدهاند، استناد میکنند. جیم پورتیجز (Jim Portegies)، ریاضیدان دانشگاه فناوری آیندهوون هلند، به ساینتیفیک آمریکن گفت که در حالی که مخازنی مانند arXiv برای دسترسی آزاد طراحی شدهاند، شرکتهای فناوری اغلب از اشتراکگذاری جزئیات کلیدی در مورد نحوهی رسیدن هوش مصنوعی به نتایج خود امتناع میکنند.
برخی از توصیههای کلیدی این بیانیه شامل افشای استفاده از هوش مصنوعی در پژوهشها، فرآیندهای سختگیرانهتر داوری همتا، و سرمایهگذاری در زیرساختهای محاسباتی عمومی برای ایجاد رقابت برابر با شرکتهای بزرگ فناوری است. باز هم، این بیانیه تاکید میکند که تمرکز بیشتری باید بر روی انسانها باشد؛ صرف نظر از اینکه آیا آنها از هوش مصنوعی در نحوهی تعامل خود با ریاضیات استفاده میکنند یا خیر.
اولریکه تیلمن (Ulrike Tillmann)، معاون اتحادیه بینالمللی ریاضیات (IMU)، در اظهارات تاییدیه خود گفت:
ریاضیات، یک تلاش عمیقاً انسانی است و باید همیشه باقی بماند.
در میان توصیهها، اوچیگامه به گیزمودو گفت که سادهترین موردی که میتوان اجرا کرد، افشای استفاده از ابزارها و در نتیجه، توسعه دستورالعملهای واضحتر برای افشای هوش مصنوعی در ریاضیات است. او افزود که مقررات مربوط به صنعت هوش مصنوعی بسیار فراتر از ریاضیات را تحت تأثیر قرار میدهد، بنابراین باید اولویتبندی شود.
لیت، که همچنین از جمله متخصصان مشاور برای رد اخیر یک حدس ریاضی قدیمی توسط OpenAI بود، گفت:
این بیانیه قطعاً به موقع به نظر میرسد و بسیاری از نکات آن بازتاب افکار خود من است. من فکر میکنم هوش مصنوعی یک فناوری بسیار مهم و قدرتمند است که پتانسیل کمک به ما در بسیاری از مسائل جالب ریاضی را دارد… اما فکر نمیکنم این ابزارها به تنهایی این کار را انجام دهند.
سورگر افزود:
واکنشهای جامعهی ریاضیات دقیقاً نشان میدهد که چرا این بیانیه مفید است، زیرا باعث تأمل و بحث در مورد آنچه میخواهیم محافظت کنیم، آنچه حاضریم تغییر دهیم، و کجا به شفافیت بیشتری نیاز داریم، میشود.
در واقع، هدف اصلی این بیانیه آغاز بحثهای جدی در مورد تأثیر هوش مصنوعی بر ریاضیات است، حوزهای از تحقیقات بنیادی که اگر واقعاً به آن فکر کنید، تقریباً از تمام جنبههای علم پشتیبانی کرده. و این روند قرار است ماه آینده ادامه یابد، زیرا برجستهترین ریاضیدانان در فیلادلفیا برای کنگره بینالمللی ریاضیدانان که توسط اتحادیه بینالمللی ریاضیات میزبانی میشود، گرد هم میآیند.
