خطرات هوش مصنوعی برای علم
طی چند سال اخیر هوش مصنوعی چنان علم را تحت‌تأثیر قرار داده است که در تاریخ علم، کمتر مثالی از چنین سطح تأثیرگذاری بتوان سراغ گرفت. فهم آدمی از جهان به یکباره متحول شده است. بابت مشاهده‌ی نمونه‌‌ای از دانشی که با کمک هوش مصنوعی در حوزه‌ی تکامل انسان تولید شده، اینجا را ببینید.
مهم‌ترین ایرادی که طی این سال‌ها، و به‌طور سنتی، به هوش مصنوعی وارد بوده این است که هوش مصنوعی فاقد خلاقیت انسانی است. نشریه‌ی ساینتیفیک رپورتز، مقاله‌ای را در شماره‌ی اخیرش منتشر کرده که خط بطلانی‌ست بر این ایراد سنتی؛ زیرا نشان می‌دهد که خلاقیت هوش مصنوعی در تکالیفی که نیازمند تفکر واگرا است بیش از انسان است.
بااین‌حال دیروز مقاله‌ی هشدارآمیزی در نشریه‌ی معتبر نیچر، که خود از جایگاه‌های اصلی نشر داده‌های علمی با کمک هوش مصنوعی است، منتشر شده و به دلیل اهمیت بالای موضوع، مقاله‌ی دیگری نیز در شرح آن آمده است.
در مقاله‌ی اصلی باعنوان «هوش مصنوعی و توهم فهم در پژوهش‌های علمی» طبقه‌بندی‌ای از دیدگاه‌های دانشمندان درباره‌ی هوش مصنوعی عرضه می‌شود و نشان می‌دهد که جذابیت هوش‌مصنوعی برای دانشمندان ناشی از وعده‌هایی است که برای بهبود بهره‌وری و افزایش عینیت، با غلبه بر کاستی‌های انسانی به خود می‌دهیم. اما راه‌حل‌های پیشنهادی هوش‌مصنوعی همچنین می‌تواند از محدودیت‌های شناختی ما سوء‌استفاده کند و توهم فهمیدن را در ما ایجاد کند؛ به این نحو که به اشتباه گمان می‌کنیم بیشتر از آنچه واقعاً می‌دانیم درباره‌ی جهان می‌فهمیم. چنین توهم‌هایی جامعه‌ی علمی را به سوی شکل‌گیری تک‌فرهنگ علمی که در آن انواع روش‌ها، پرسش‌ها و دیدگاه‌های متکی بر هوش‌مصنوعی بر رویکردهای جایگزین تسلط پیدا می‌کنند، سوق می‌دهد و از تنوع در علم که از منظر معرفت‌شناسی تکاملی موتور محرک تکامل در علم است می‌کاهد. علم کمتر نوآورانه، و در برابر خطاها آسیب‌پذیرتر می‌شود. گسترش ابزارهای هوش مصنوعی در علم، خطرِ رسیدن به مرحله‌ای از پژوهش‌های علمی را دارد که در آن ما بیشتر تولید می‌کنیم اما کمتر می‌فهمیم.
در مقاله‌ی دوم که در شرح مقاله‌ی اول و با عنوان «چرا دانشمندان بیش از حد به هوش مصنوعی باور دارند؛ و درباره‌ی آن چه باید کرد؟» منتشر شده، آمده که وقتی صحبت از عینیت، بهره‌وری و درک مفاهیم پیچیده به میان می‌آید، دانشمندان به اشتباه برای هوش مصنوعی توانایی‌های مافوق بشری تصور می‌کنند.
چهار تصور نادرست نسبت به هوش مصنوعی:
نویسندگان مقاله به چهار نوع دیدگاه نادرست به هوش مصنوعی، که در میان دانشمندان رایج است، اشاره می‌کنند:
یک. هوش مصنوعی قادر به خواندن و هضم خستگی‌ناپذیر مقالات علمی است و بنابراین، ادبیات علمی را جامع‌تر از دانشمندان می‌داند.
دو. هوش مصنوعی عینی‌تر از انسان‌ها، یافته‌های علمی را ارزیابی می‌کند، زیرا کمتر احتمال دارد در حمایت از یک فرضیه، ادبیات جمع‌آوری شده را جهت‌دارانه قضاوت کند.
سه. هوش‌مصنوعی در تجزیه و تحلیل مجموعه‌ای از داده‌های زیاد و پیچیده از محدودیت‌های ذهن انسان فراتر می‌رود.
چهار. هوش مصنوعی داده‌هایی را شبیه‌سازی می‌کند که به دست آوردن آنها برای انسان بسیار دشوار یا پیچیده است.
به تعبیر نویسندگان باید از توهم اینکه هوش مصنوعی تبیین‌های عمیق‌تر و با دامنه‌ی گستردگی بیشتر عرضه می‌کند بیرون آییم. همچنین بپذیریم که میزان عینیت داده‌هایش بیش از انسان نیست. توصیه‌ی نویسندگان مقاله به پژوهشگران آن است که همواره این خطرات را در حین پژوهش به یاد داشته باشند.
تکمله: برای ما مخاطبان این پژوهش‌ها نیز مهم است که اولاً با محدودیت‌های یادشده آشنا باشیم و اعتبار گزافی برای یافته‌های برآمده از هوش مصنوعی قائل نشویم. ثانیاً و مهم‌تر از آن، دچار توهم فهمیدن نشویم. اگر دانشمندان دچار این توهم در فهمیدن هستند ما نیز وضعیت بهتری نداریم. در جهانی که در معرض بمباران اطلاعات هستیم فهمیدن کم‌رنگ شده است. سهولت در رسیدن به پاسخ به پرسش‌ها از راه پرسیدن آنها از هوش مصنوعی، ضرورتاً با لذت فهمیدن همراه نیست. گاه پرسش‌هایی که در ذهن می‌مانند بدون آنکه پاسخ آنها را بدانیم بیش از رسیدن به پاسخ‌ها به رشد انسان کمک می‌کنند.
علم‌ورزی، همانند فلسفیدن، نوعی کنش‌گری و تعامل با جهان است. پرسه‌زدن در جهانِ نادانسته‌ها لذت‌بخش‌تر از جواب‌های حاضر و آماده است. گاه ممکن است هوش مصنوعی بدون تلاش ما را به قله برساند، اما هدف از کوهنوردی صرفاً رسیدن به قله نیست: طی مسیر کردن نیز به همان میزان مهم است.