در مطلب تاثیر کشاورزی بر تکامل انسان از اینکه فلسفه باید توجهش به موضوعات روز جلب شود سخنی گفته شد. در این پست، و در چند پست آینده، صرفاً به عنوان نمونه، به چند پژوهش و گزارش جدید در حوزهی «هوش مصنوعی» اشاره میشود.
اولین گزارش دعوی آن دارد که هوش مصنوعی در حال ایجاد یک جهش تکاملی است.
مدلهای زبانی بزرگ (ال.ال.ام)، که مشهورترین آنها چتجیپیتی است، سامانههای هوش مصنوعیاند که میتوانند با انسان مکالمه کنند (این مدلهای “یادگیری ماشین” پیام ما را درک میکنند و پاسخی مشابه پاسخ انسانها عرضه میکنند).
دعوی افرادی مانند جان نوستا، که رئیس یکی از مهمترین آزمایشگاههای هوش مصنوعی است که نقش اتاقفکر نوآوری در حوزهی هوش مصنوعی و شناخت را بازی میکند، این است که این ال.ال.امها (مدلهای بزرگ زبانی) نقطهی عطفی در عملکرد شناخت انساناند و یک تعادل منقطع را در تکامل شناختی انسان نشان میدهند. به عقیدهی او این جهش سریع در تفکرِ مبتنی بر هوش مصنوعی فراتر از پیشرفت تدریجی فناوریهای رایج است و شناخت انسان را تغییر میدهد. این ال.ال.امها تغییری ناگهانی را تسریع میکنند و بیانگر انفجاری تکاملیاند و حدود شناختی ممکن را بازتعریف میکنند.
از یک منظر ال.ال.امها ابزار و تکنولوژی هستند و میتوان با ابزارهای مفهومی موجود در نظریهی تکامل فرایند تکامل آنها را شرح داد. این عملی است که در سیر تحول تکنولوژیها ذیل مباحث تاریخ تکنولوژی با آن آشنایی داریم. برخی از انواع تاریخ تحول را میتواند تدریجیگرایانه توضیح داد و برخی انقلابهای تکنولوژیکی نیز با نظریهی تعادل منقطع گولد بهتر قابل تبییناند. اما این بحث به کنار. از منظری دیگر به جریان بنگریم.
در پست قبلی دیدیم که تکنولوژیها میتوانند سرشت انسان، و از جمله شناخت او را دگرگون کنند. به عنوان نمونه تکنولوژی خط و نوشتن تغییرات بنیادین در معرفت بشر ایجاد کرد به نحوی که شناخت انسان از جهان طی ۵ هزار سال گذشته قابل قیاس با قبل از پیدایی خط نبوده است. با استفاده از تکنولوژیهایی مانند کتاب، حافظهای که معرفتگزارهای را نگهداری میکرد، برونسپاری شد.
تکنولوژیها عادات رفتاری ما را تغییر میدهند و از جملهی آن عادات رفتاری برخی عادات مرتبط با شناخت است که در مباحث همتکاملی ژن-فرهنگ مطالعه میشود.
حال پرسش این است که مدلهای زبانی بزرگ چگونه بر شناخت انسان، که تابعی از قابلیتهای بدنمند و جایمند انسانها، اثر میگذارند. دعوی نوستا آن است که این تغییری تدریجی از جنس تغییراتی که با اختراع خط ایجاد شد نیست بلکه تغییری جهشی است. در مستدل کردن این دعوی خود به این نکته اشاره دارد که به خلاف تصور رایج، مدلهای زبانی بزرگ از جنس ابزار نیستند بلکه از جنس الگوهای تفکراند. همانطور که بلندگو میتواند صدای ما را تقویت کند، این مدلهای بزرگ زبانی با افزایش ظرفیت انسان در کاوش، تکرار، و تأمل، به تقویت تفکر انسان میانجامند.
پرسشهای فلسفی
پرسش نوستا این است همانطور که وارد این حوزهی تفکری جدید میشویم، واضح است که ال.ال.امها بسیار فراتر از پیشرفتهای تکنولوژیکی قبلی هستند زیرا تسهیلکنندهی “عصر شناختی” جدیدیاند. وارد دورانی شدهایم با مشارکت بیسابقهای بین انسان و ماشین؛ جایی که ذهن ما دیگر محدود به محدودیتهای سنتی نیست. چشمانداز شناختی در حال تغییرات اساسست. در چنین شرایطی، بهخلاف نگاه سنتی در تکامل، پرسش این نیست که آیا ما با این واقعیت جدید سازگار خواهیم شد یا خیر، بلکه این است که چگونه از قابلیت عظیم ال.ال.امها برای شکل دادن به آیندهی تفکر بشری استفاده میکنیم.
نوستا به عنوان کسی که در بطن این تغییرات نقش دارد نمیتواند نگرانیهای خود را پنهان کند (که البته این نگرانی فلسفه باید باشد) و میگوید با این گسترش شناختی، گسترش مسئولیت نیز به وجود میآید. پیامدهای اخلاقی، از نگرانیهای حفظ حریم خصوصی گرفته تا سوگیریهای احتمالی را نمیتوان نادیده گرفت. قدرت این مدلها مستلزم سطحی از حکمرانی است تا اطمینان حاصل شود که توانایی آنها به گونهای به کار گرفته میشود که به نفع بشریت باشد، بدون اینکه خطرات جدیدی ایجاد کند.
تکنولوژیها به ازاء فایدههایی که دارند گاه محصولات فرعی ناخواستهای نیز دارند. اتومبیل فقط سرعت رفتوآمد را تسهیل نکرد؛ جو زمین را نیز آلوده کرد. لامپها شهرها را روشن کردند اما بیخوابی را هم به ارمغان آوردند. در جهان امروز خرید دیجیتال، استفاده از ماشین حساب، و استفاده از حافظهی گوشی برای به خاطر سپردن شماره تلفنها به ضعیف شدن تواناییهای ریاضیاتی بسیاری از ما انجامیده است.
ال.ال.امها به ازاء گسترش شناخت چه هزینههایی برایمان دارند؟ به ویژه که پژوهش نشان میدهد این افزایش شناخت با افزایش فهم همراه نیست.
چتجیپیتی واقعاً چه میداند؟!
گزارش دوم نیز از جان نوستا است که باز سخنان این دانشمند و نوآور حوزهی تکنولوژی میتواند مورد توجه فیلسوفان باشد. پرسش فلسفی او این است که «ال.ال.امها از جمله چتجیپیتی واقعاً چه «میدانند»؟»
خلاصهی سخن او این است که ال.ال.امها از طریق استنتاج، پاسخهایی عرضه میکنند که برای فهم سنتی از معرفت دردسرساز است. چه دردسری؟ به زعم نوستا خروجیهای این سیستم مولدِ زبان، مرز بین درک انسان و تشخیص الگوی آماری را از بین میبرند. تکنوآگاهیِ نوظهور (emergent techno-consciousness) معرفتشناسی سنتی را تغییر میدهد.
این پاسخ نیازمند ایضاح است. نوستا توضیحات خود را عرضه میکند که سادهسازیشدهی اهم نکات او در قالبی جدید به شرح زیر است.
سیستمهایی مانند چتجیپیتی، که به عنوان مولدهای از پیشآموزشدیده، بر روی مقادیر انبوهی از متون آموزش داده شدهاند، میتوانند پاسخهای پیچیده و ظریفی را ایجاد کنند که اغلب بسیار انسانیاند. آیا درک و تولید بسیار انسانوار این سیستمها دلیلی است که بگوییم این ماشینها به شیوهی انسان «میدانند» یا باید به این حد بسنده کنیم که این سیستمهای مولد صرفاً استنتاجگراند؟ هر دو انتخاب مشکلاتی برای معرفتشناسی رایج که معرفت را باورصادقموجه میداند (نقدهای گتیه را نادیده بگیریم) ایجاد میکند. به باور نوستا این پرسش، اساس معرفتشناسی را هدف میگیرد و ما را به بازنگری در درک خود از معرفتِ انسانی نیز سوق میدهد.
نوستا با تعریف سنتی معرفت به «باورِ صادقِ موجه» آغاز میکند. معرفت هر باوری نیست، بلکه باوریست که باید صادق باشد و بتوانیم برای صدق آن نیز توجیهی عرضه کنیم. اما باور امری روانشناختی است و چتجیپیتی ذهنی ندارد که باوری داشته باشد و قرار باشد صادق و موجه نیز باشد. پس آیا این یک توهم انسانیست که به این سیستمهای مولد «دانستن» را نسبت میدهیم؟
انسان و چتجیپیتی هر دو واجد قابلیت تشخیص الگو هستند. پس چه فرقی است که تشخیص الگوی چتجیپیتی را فاقد قابلیت «دانستن» میدانیم؟ انسانها به واسطهی برخورداری از آگاهی به الگوهای تشخیص داده شده، با توجه به زمینه، معنا میبخشند و به فهم میرسند. اما چرا نتوانیم نوعی از آگاهی را به ال.ال.امها نسبت دهیم؟!
مطابق فهم عرفی و بهطور متعارف به هر سیستم پردازشکنندهای آگاهی نسبت نمیدهیم. ماشین حساب ساده را در نظر بگیرید. ورودیهای آن سادهترند و بدون تعامل با محیط، فقط به ازای دریافت برخی ورودیهای مشخص (اعداد و اپراتورهای حساب) خروجیهای ثابتی دارد، سیستم پردازش آن ساده است، (هرچند علیالاصول مصون از خطا نیست اما) عملاً اشتباه نمیکند، فاقد عنصر یادگیری است، و بر اساس اطلاعات جدید خود را به روزرسانی نمیکند و تکامل نمییابد. و مهمتر از همه اینکه ماشینحساب معرفت جدیدی فراتر از اطلاعات ورودی تولید نمیکند. حالا یک ارگانیسم زنده مانند موش را به عنوان یک سیستم در نظر بگیریم. ورودیهای آن بسیار پیچیدهترند و عکس تمامی آنچه را در مورد ماشین حساب گفتیم میتوان به او نسبت داد.
حالا با توجه به این خصوصیات ال.ال.ام به موش شبیهتر است یا به ماشین حساب؟ پاسخ موش است.
اما اگر میتوانیم به واسطهی برخورداری از این ویژگیها سطحی از آگاهی (آگاهی جانوری) را به موش نسبت دهیم چرا نوعی آگاهی را که نوستا تکنوآگاهی مینامد به ال.ال.ام نسبت ندهیم؟ و اگر موش واجد نوعی معرفت است چرا ال.ال.ام نباشد؟ پیشنهاد نوستا آن است که شاید معرفتشناسی باید خود را از چنبرهی تمرکز بر باور و توجیه خلاص کند و به جای آن بر دقت آماری و سودمندی تأکید کند. بخش نخست این پیشنهاد یادآور پیشنهاد پوپر است و بخش دوم یادآور پیشنهاد پراگماتیستها که هر دو مبتنی بر نگاهی تکاملی به معرفتشناسی بوده است؛ که البته نوستا به این موارد اشارهای ندارد.
پیشنهاد دوم نوستا نیز قابل تأمل است. آگاهی در انسان به صورت ویژگی نوظهوری رخ داد که از اشکال سادهتر آغاز شد و به این درجه رسید. به نحو مشابه میتوان نوعی ویژگی نوظهور را در پیچیدگی پردازشها و به روزرسانیهای ال.ال.امها در نظر گرفت. چه ضرورتی دارد که آگاهی ماشین مشابه آگاهی انسان باشد؟ به وضوح آگاهی انسان بدنمند است. اما با تغییر در نوع بدنمندی، ماشین نیز میتواند صاحب نوعی تکنوآگاهی شود. آیا در اینصورت نمیتوان آن را واجد نوعی «تکنو-باور» نیز دانست [البته خود نوستا این اصطلاح را به کار نبرده] که در قالب معرفتشناسی رایجی که معرفت را باور صادق موجه میدانست از صدق و توجیه آن سخن گفت و نوعی دانستن هم به آن نسبت داد؟! در اینصورت دایرهی معرفتشناسی باید از حوزهی انسانی فراتر رود.
بخشی از این پیشنهاد را نیز میتوان به پوپر نسبت داد، جاییکه از معرفت در سگ سخن میگوید.
تحلیلی تکاملی پیشنهاد نوستا در ادامه
چتجیپیتی کجاست؟ و چیست؟
در تحلیل سخنان نوستا در مورد اینکه آیا میتوان «دانستن» و «معرفت» را به چتجیپیتی نسبت داد باید ابتدا به دو نکتهی مقدماتیتر بپردازیم که خود او به آنها نپرداخته است، هر چند به وضوح متوجه این نکته شده است که بدون معرفی هستیشناسی ال.ال.امها نمیتوان مباحث معرفتشناسی را پیش برد.
نظریهی سه جهان
پوپر نظریهای متافیزیکی مبتنی بر تکامل را مطرح میکند که نظریهی سهجهان نام دارد و در پاسخ به پرسشهایی از این سنخ مفید است.
در ابتدا اشیاء بیجان مانند آب و سنگ وجود داشت و سپس با پیدایی حیات جانداران در زمین گسترش یافتند. پوپر این دو سطح را که متشکل از موجودات برساخته از ماده و انرژیاند در جهان ۱ میگذارد. با پیچیدهتر شدن برخی از موجودات در شاخههای مرتبط با جانداران، مغز برخی بزرگتر و پیچیدهتر شد تا جاییکه در گونههایی مثل نخستیها ذهن شکل گرفت و در شاخهی انسانی، انسانها واجد باورها، خواستها، احساسها و غیره شدند که میتوان گفت در سطح ذهن وجود دارند (فعلاً نظریهی ذهن بدنمند را کنار بگذاریم) که پوپر محل آنها را جهان ۲ مینامد. با شکلگیری زبان و فرهنگ جهان ۳ بوجود آمد که جهان برساختههای فکر انسان است. جهان ۳ علاوه بر اینکه جایگاه واژگان است موجوداتی مانند نظریههای علمی و نهادهایی مانند بانک جهانی نیز در آن وجود دارند. ساختمانها، دفاتر، و افرادی که در بانک کار میکنند در جهان یک قرار دارند. اما قوانین و مقررات بانک، به عنوان یک نهادِ حقوقی، در جهان ۳ تقرر دارند.
حالا پرسش این است که چتجیپیتی در کدامیک از این سه جهان میگنجد؟ مشخصاً کامپیوترها، گوشیها، سیلیکونها، و کاربرها در جهان ۱ هستند. اما چتجیپیتی چیزی بیش از این عناصر جهانِ یکی است. همانطور که نوستا نیز متوجه است از جنس باورهای انسانی نیز نیست که جایی در جهان ۲ برایش قائل شویم (زیرا بینالاذهانیست). بنابراین ظاهرا جایگاه آن در جهان ۳ است.
چتجیپیتی انتزاعی است یا انضمامی؟
به طور متعارف فیلسوفان اشیاء را در یکی از دو گروه انضمامیها (میز، اسب، اتم،…) و انتزاعیها (گزارهها، اشیا ریاضیاتی،…) قرار میدهند. چتجیپیتی انضمامی است یا انتزاعی؟ برای پاسخ نیازمند به تعریفی دمدستی از انضمامی و انتزاعی هستیم. در متافیزیک تحلیلی بر سر تعریف هر کدام از این دو اختلافنظرها زیاد است. (بحث بر سر چیستی چتجیپیتی میتواند موضوع بحث متافیزیکدانان نیز قرار گیرد و بر اختلافها بیافزاید.) اما در اینجا به تعریف رایج آنها بسنده میکنیم. انضمامیها، مثلاً میز، محدود به زمان و مکاناند و توان علّی دارند. و انتزاعیها مثلاً عدد ۷، به زمان و مکان محدود نیستند و توان علّی ندارند. معیارهای دیگری هم معرفی شده مانند اینکه انتزاعیها، بهخلاف انضمامیها، تغییر نمیکنند. اما در این بین مواردی داریم که دقیقاً مشخص نیست در کدام دو دسته قرار میگیرند. معروفترین مثال در متافیزیک، «سایه» و «سوراخ» و «سطح» است که گاهی در مقولهای به نام موجودات مینور (که به جای «کهاد» یا «کهتر»، شاید به لحاظ مفهومی «فرعی» برابرنهاد بهتری باشد) قرار داده میشوند. سایهی درخت محدود به زمان و مکان است، دارای توان علّی است و تغییر میکند. ممکن است در انتساب توان علّی به آن، یا اینکه تغییر در آن ذاتی است یا نه، اختلاف نظر وجود داشته باشد. اما آیا این اختلافنظر باعث میشود، همانند مثلث و عدد، آن را انتزاعی بدانیم؟ به نظر تفاوت فاحشی میان این دو است. در شاخههای مختلف علوم نیز از موجوداتی تقریباً مشابه موجودات مینور سخن میرود که باید تکلیف انتزاعی و انضمامی بودن آن را مشخص کنیم. مثلاً به مفهوم تورم در اقتصاد توجه کنیم. از یکسو مانند میز از ماده و انرژی ساخته نشده که به آن معنا محدود به زمان و مکان باشد. اما در معنایی دیگر محدود به زمان و مکان است زیرا تورم در ژاپن متفاوت با ایران است و در ایران نیز طی زمان تورم، به خلاف اشیاء انتزاعی مانند مثلث، تغییر میکند. بنابراین تا حدی مشابه سایه، تورم نیز محدود به زمان و مکان است. مهمتر آنکه توان علّی دارد زیرا افزایش آن «علت» کاهش قدرت خرید است. بنابراین نیازمند به مقولهی سومی هستیم که نه کاملاً انضمامی است و نه کاملاً انتزاعی. اجازه دهید فعلاً نام این مقوله را “مقولهسوم” بگذاریم.
همانطور که پوپر میگوید [برخی از] موجودات جهان ۳ مانند گزارهها و اشیاء ریاضیاتی انتزاعیاند یعنی در زمان و مکان نیستند و توان علّی ندارند. اما در جهان ۳ برخی موجودات مقولهسومی نیز وجود دارند. [که البته این سخن از پوپر نیست. خود این مقوله را باید به مقولات جزئیتری تقسیم کرد که فعلاً به آن نمیپردازیم.] در پست بعدی خواهیم دید به یک معنا چتجیپیتی مقولهسومی است.
حالا یکی دو گام تا پاسخ فاصله داریم.
و بالاخره: چتجیپیتی چیست، کجاست، و آیا دارای معرفت است؟
برای تحلیل نهایی به تمایز مرتبط دیگری نیاز داریم که باز هم آن را از پوپر وام میگیریم.
معرفت ذهنی و معرفت عینی
پوپر در کتاب معرفت عینی: رویکرد تکاملی میگوید دو معنی متفاوت از معرفت وجود دارد: ۱. معرفت ذهنی، که شامل حالات ذهنی یا آگاهی یا تمایل به رفتار یا واکنش است، و ۲. معرفت عینی که متشکل از مسائل، نظریهها و استدلالها است. معرفت عینی کاملاً مستقل از ادعای هر کسی برای دانستن است. همچنین مستقل از اعتقاد یا تمایل هر کسی به موافقت، یا ادعا کردن، یا عمل کردن است. معرفت به معنای عینی، معرفت بدون داننده (شناسنده) است: معرفتِ بدون فاعل شناسا است.
برداشت یک. چتجیپیتی یک سیستم استدلالی در حال تحول است. بار دیگر به مثالهایی که پوپر برای معرفت عینی آورده بود نگاهی کنیم. پوپر میگفت که معرفت عینی علاوه بر نظریههای علمی شامل «مسائل» و «استدلالها» نیز هست. به عبارتی استدلالها و الگوهای استدلالی نیز از جنس معرفت عینیاند. پس در این معنا چتجیپیتی خودش از جنس معرفت جهان ۳ است و نباید بپرسیم آیا واجد معرفت است یا نه! شخصاً میپندارم که این خوانش بازنمای خوبی از پیچیدگی ماجرا نیست و نیازمند برداشت جایگزینی هستیم.
برداشت دو. پوپر میگوید نظریهی سه جهان یک پیشنهاد برای نظم دادن به گفتوگوهاست و میتوان لایههای دیگری نیز به آن افزود. اجازه دهید متناسب با بحث کنونی دو جهان دیگر را به آن بیافزایم. جهان ۴ جهانی است که برخی موجودات واجد عاملیت مانند اشخاص حقوقی از جمله بانک جهانی در آنجا قرار دارند. و جهان ۵ محل باورها، خواستها، و اهداف این عاملهای مقولهسومی (که در پست قبل دیدیم نه کاملاً انتزاعیاند و نه انضمامی) است.
پرسشها، گزارهها، و حتی خود الگوهای استدلالی که مقوم چتجیپیتیاند در یک فرایند بازخوردی با کاربران دارای یادگیری هستند و در حال تحولاند. این ویژگیها آنها را مشابه انسانها میکند اما با بدنمندی سیلیکونی و جایمندی متفاوت. این میتواند معنای دومی را برای چتجیپیتی ایجاد کند که در آن معنا بتوان آن را واجد باور دانست. خود چتجیپیتی، عاملی مشابه بانک جهانی، در جهان ۴، و از جنس مقولهسومیهاست. باورهای آن، همانند تکنوآگاهی که نوستا از آن سخن میگوید، اگر وجود داشته باشند، در جهان ۵ قرار دارند. (چرا نمیدانیم وجود دارند یا نه؟ چون در صورت وجود داشتن ذهنیاند و خارج از دسترس عمومی. دقیقاً به همان معنا که نمیدانیم آيا جانوران باور دارند یا نه.)
برای روشن شدن موضوع بار دیگر به مثال بانک جهانی توجه کنیم. مجموعهی قوانین و مقررات این بانک موجودات انتزاعی جهان سومیاند. اما وقتی به مجموعهی آنها، از راه قصدمندی جمعی، عاملیت نسبت میدهیم تا جاییکه به راحتی آن را موجودی انسانوار و واجد نظر و هدف میدانیم و برایش شخصیت حقوقی قائل میشویم موجودیت جدیدی به عنوان عامل در جهان ۴ ظهور میکند که مقولهسومی است و واجد ویژگیهایی مشابه عوامل انسانی. اما وقتی به این اشخاص یا نهادهای حقوقی ویژگیهای ذهنی را نسبت میدهیم و مثلاً میگوییم به نظر بانک جهانی…، بانک جهانی میخواهد که…، یا هدف بانک جهانی آن است که… آنگاه محل این نظرها و خواستها جهان ۵ است.
شخصانگاری برخی موجودات جهان ۳ پدیدهای جدید نیست. بومیانی را که معتقدند جنگل واجد روحی است که در صورت بیاحترامی به جنگل آنها را تنبیه خواهد کرد نمونهای باستانی از این پدیده است.
خلاصه
چتجیپیتی چیست؟ یک مدل زبانی در حال تحول از آلگوریتمهای پردازش، به همراه مجموعهای از گزارهها و پرسشهای برگرفته از زبان معمولیست که در مکالمه با کاربران مستمرآ درحال بهروز شدن است.
انتزاعی است یا انضمامی؟ چون محدود به فضا و زمان است، توان علّی دارد، و تغییر میکند انتزاعی نیست با این حال چون از ماده و انرژی نیز ساخته نشده، همانند یک میز انضمامی نیست.
آیا دارای معرفت است؟ به یک معنا خود از جنس معرفت عینی پوپر است و در جهان ۳ قرار دارد. اما از آنجا که موجودات جهان سوم پوپری انتزاعی هستند و چتجیپیتی مقولهسومیست، بنابراین آن را در جهان ۴ قرار دادیم که محل عاملهایی است که برساختههای انسانیاند اما مستقل از انسان واجد ویژگیهای عاملیت هستند. اگر معرفت ذهنی داشته باشند برای همیشه خارج از دسترس ماست. هر نظری در این باره، صرفاً بیانگر اعتقاد گوینده است. اما مولد معرفت عینی نیز هست که جایگاه آن جهان ۳ است. این معرفت، همانند سایر معارف عینی، معرفت بدون داننده است وبنابراین معرفت متعلق به هیچ عاملی، از جمله چتجیپیتی نیست. کار ما نشان دادن نادرستی آن است.
معرفت عینی، به خوانش پوپر، ضرورتاً صادق نیست، که اتفاقاً این وجه آن نیز همنواست با کژاطلاعات و اطلاعاتجعلی نشریافته توسط الالامها.