قدرت کامپیوتر و عقل انسان

۱. کامپیوترها تجسم قوانین رسمی‌اند، نه صرفاً حرکت

ماشین‌ها، هنگامی که به درستی کار می‌کنند، تنها قانون‌مند نیستند؛ بلکه خود تجسم قانون‌اند.

ماشین‌ها تجسم قانون‌اند. فراتر از حرکت فیزیکی یا نیروی خود، ماشین‌ها اساساً نمایانگر و اجراکننده قوانین یا قواعد رسمی هستند. یک ماشین حساب قوانین حساب را تجسم می‌کند؛ یک پرس پانچ قانون عملکرد خود را به‌طور کورکورانه و بدون توجه به جنس ماده اعمال می‌کند. این نظم بی‌وقفه و دقیق، نه صرفاً حرکت، مشخصه ماشین مدرن است.

تبدیل اطلاعات. تحول ماشین‌ها، به‌ویژه ماشین‌های الکترونیکی، دید ما را از مبدل‌های نیرو به مبدل‌های اطلاعات تغییر داده است. دستگاه‌هایی مانند سیستم‌های تزریق سوخت الکترونیکی جایگزین اتصالات مکانیکی با سیگنال‌های اطلاعاتی شده‌اند. این نکته نشان می‌دهد که جوهر مکانیزم در تجسم قواعد حاکم بر جریان اطلاعات است، مستقل از شکل مادی آن.

مجرد در برابر تجسم‌یافته. در حالی که ماشین‌های فیزیکی باید از قوانین طبیعی پیروی کنند، طراحی‌های مجرد ماشین‌ها (مانند آنچه در داستان‌های علمی-تخیلی دیده می‌شود) تنها محدود به قواعد بازی‌ای هستند که تعریف می‌کنند. ویژگی حیاتی هر بازی، کامل بودن و سازگاری قواعد آن است که انتقال‌های حالت را بدون ابهام تضمین می‌کند. این پیروی مجرد از قواعد، هسته اصلی محاسبه است.

۲. کامپیوتر به‌عنوان استعاره‌ای از جهان مکانیزه

در معنای مهمی، کامپیوتر اینجا صرفاً وسیله‌ای است برای انتقال ایده‌هایی که بسیار مهم‌تر از خود کامپیوترها هستند.

جهانی بازسازی‌شده به تصویر کامپیوتر. کامپیوتر به‌عنوان استعاره‌ای قدرتمند به ما کمک می‌کند تا درک کنیم چگونه جامعه به‌تدریج مانند یک ماشین سازمان یافته است، حتی پیش از وجود کامپیوترهای الکترونیکی. این تحول، دید ما را نسبت به جهان و فرایندها و حتی انسان‌ها به صورت مکانیکی آسان‌تر می‌کند.

ابزارها شکل‌دهنده ادراک‌اند. ابزارها و ماشین‌ها صرفاً وسایل عملی نیستند؛ آن‌ها ابزارهای آموزشی و نمادهایی‌اند که وارد محاسبات تخیلی ما می‌شوند. از نیزه‌هایی که رابطه انسان با طبیعت را تغییر دادند تا ساعت‌هایی که زمان را کمیّت‌بندی کردند، ابزارها فهم ما از جهان و خودمان را عمیقاً دگرگون کرده و عامل تغییر بوده‌اند.

ماشین‌های خودگردان. ساعت، به‌عنوان نخستین ماشین خودگردان مهم (مدل حرکت سیارات)، برداشت زمان را از رویدادهای تکرارشونده به واحدهای انتزاعی و قابل اندازه‌گیری تغییر داد. این زمینه‌ساز دیدگاه علمی مبتنی بر توالی‌های ریاضی شد که انسان را از تجربه مستقیم دور کرد و راه را برای مکانیزه‌تر شدن واقعیت هموار ساخت.

۳. کامپیوترها ماشین‌های جهانی‌اند، اما با محدودیت‌های بنیادین روبرو هستند

تورینگ نیز به این سؤال پاسخ داد: ماشینی تورینگ می‌تواند ساخته شود که هر فرایندی را که به‌طور طبیعی می‌توان آن را روش مؤثر نامید، تحقق بخشد.

ماشین جهانی تورینگ. آلن تورینگ در سال ۱۹۳۶ اثبات کرد که یک ماشین مجرد واحد (ماشین جهانی تورینگ) می‌تواند هر ماشین دیگری را که با روش مؤثر قابل توصیف است، تقلید کند. کامپیوترهای مدرن اصولاً ماشین‌های جهانی تورینگ‌اند، یعنی هر کامپیوتری می‌تواند هر کامپیوتر دیگری را تقلید کند و هر فرایندی را که به صورت الگوریتمی قابل بیان باشد، اجرا نماید.

محدودیت‌های محاسبه‌پذیری. با این حال، جهانی بودن به معنای توانایی انجام هر کاری نیست. محدودیت‌های منطقی بنیادینی وجود دارد:

• مسائل غیرقابل تصمیم: مسائلی که هیچ روش مؤثری برای حل آن‌ها وجود ندارد (مانند مسئله توقف).
• روش‌های غیرعملی: مسائلی که اصولاً قابل حل‌اند اما به منابع یا زمان غیرقابل قبول نیاز دارند.
• فرایندهای غیرقابل فرموله شدن: جنبه‌هایی از تفکر یا واقعیت انسانی که نمی‌توان آن‌ها را به قواعد صریح و بدون ابهام کاهش داد.

فرموله‌سازی، نقص‌ها را آشکار می‌کند. الزام به فرموله کردن یک فرایند برای برنامه کامپیوتری، نقاد بی‌رحمی است که ابهامات، ناسازگاری‌ها یا خلأهای فهم ما را که در تفکر انسانی یا زبان طبیعی ممکن است نادیده گرفته شوند، نمایان می‌سازد و نشان می‌دهد کجا درک ما ناقص یا نادرست است.

۴. عقلانیت ابزاری، عقلانیت را با صرف منطق برابر می‌داند

ما تقریباً به نقطه‌ای رسیده‌ایم که تقریباً هر معضل واقعی انسانی به‌عنوان پارادوکسی صرف، تناقضی ظاهری که با کاربرد منطقی سرد و دقیق از دیدگاهی بالاتر قابل حل است، دیده می‌شود.

علم به‌مثابه «سم». اگرچه علم خیر عظیمی به همراه داشته، موفقیت آن منجر به اتکای بیش از حد به تعریف باریک عقلانیت شده است که آن را صرفاً معادل منطق و قابلیت محاسبه می‌داند. این «عقلانیت ابزاری» جهان را مجموعه‌ای از مسائل می‌بیند که باید با منطق سرد و روش‌های فنی حل شوند.

انکار تعارضات انسانی. این دیدگاه محدود، وجود معضلات واقعی انسانی، تعارضات و ارزش‌های ناسازگار را انکار می‌کند. درگیری‌های سیاسی، شکاف‌های اجتماعی و حتی جنگ‌ها صرفاً به‌عنوان شکست‌های ارتباطی یا مسائل فنی قابل حل با تکنیک‌های پردازش اطلاعات دیده می‌شوند و برخورد منافع انسانی عمیق و غیرمنطقی نادیده گرفته می‌شود.

حقیقت به‌مثابه اثبات‌پذیری. عقلانیت ابزاری حقیقت را به اثبات‌پذیری صرف در یک نظام رسمی تبدیل می‌کند. گزاره‌های علمی که بر پایه قضاوت و شهود انسانی ناپایدارند، به‌عنوان حقایق قطعی تلقی می‌شوند و دیگر اشکال فهم مانند هنر یا حکمت را بی‌اعتبار می‌سازد. این دیدگاه در توضیح ارزش‌ها که خود بر قضاوت انسانی استوارند، ناتوان است.

۵. مدل‌های کامپیوتری واقعیت را ساده‌سازی می‌کنند و بازتاب‌دهنده تعصبات مدل‌سازند

مدل همیشه ساده‌سازی است، نوعی ایده‌آل‌سازی از آنچه قصد مدل‌سازی آن را دارد.

مدل‌ها نظریه‌ها را ارضا می‌کنند. مدل کامپیوتری تجسم نظریه‌ای است که قوانین آن را رعایت می‌کند و امکان استخراج پیامدها را از طریق شبیه‌سازی فراهم می‌آورد. اجرای برنامه‌ای مبتنی بر نظریه به ما اجازه می‌دهد نظریه را «در حال عمل» ببینیم و پیامدهای آن را به‌صورت پویا بررسی کنیم، مانند شبیه‌سازی مسیر سقوط جسم.

ساده‌سازی ذاتی است. مدل‌ها ناگزیر واقعیت را ساده می‌کنند و آنچه را برای هدف خاصی «ضروری» دانسته‌اند، انتخاب می‌کنند. این انتخاب عملی از قضاوت است که اغلب تحت تأثیر مدل‌های ذهنی ضمنی، ارزش‌ها و تعصبات فرهنگی مدل‌ساز قرار دارد. آنچه حذف می‌شود ممکن است حیاتی باشد و خود مدل ممکن است ویژگی‌هایی را وارد کند که در سیستم مدل‌شده وجود ندارد.

عملکرد در برابر توضیح. عملکرد موفق مدل به‌تنهایی آن را به‌عنوان نظریه یا توضیح جامع تأیید نمی‌کند. مدل پیچیده‌ای ممکن است رفتار را با اصلاحات موقتی (مانند مثال «تلاطم اتر») به‌درستی شبیه‌سازی کند، اما فاقد ساختار یا اصول کلی لازم برای فهم واقعی باشد، برخلاف مدل‌هایی که بر نظریه‌های عمیق و وحدت‌بخش مبتنی‌اند.

۶. دیدگاه هوش مصنوعی نسبت به هوش انسانی ساده‌انگارانه و نادرست است

اندک مفاهیم «علمی» وجود دارند که به اندازه «ضریب هوشی» یا «IQ» تفکر دانشمندان و عموم را به‌هم ریخته باشند.

هوش وابسته به زمینه است. مفهوم یک «هوش» قابل اندازه‌گیری و واحد (مانند IQ) بسیار گمراه‌کننده است. هوش تنها در نسبت به حوزه‌های خاص فکر و عمل در یک زمینه فرهنگی و اجتماعی معنا دارد. مقایسه هوش در حوزه‌های بسیار متفاوت (مثلاً برنامه شطرنج در برابر قضاوت یک مادر) بی‌معنی است.

تمرکز محدود هوش مصنوعی. هوش مصنوعی اغلب بر این فرض ساده استوار است که هوش به فرایندهای حل مسئله قابل فرموله شدن (مانند GPS) تقلیل‌پذیر است. این دیدگاه ماهیت چندوجهی هوش انسانی را نادیده می‌گیرد که شامل شهود، حکمت، خلاقیت است و عمیقاً با تجربه زیسته و حساسیت عاطفی درآمیخته است.

استعاره «سیستم پردازش اطلاعات». دیدن انسان‌ها و کامپیوترها صرفاً به‌عنوان گونه‌هایی از یک جنس («سیستم پردازش اطلاعات») ساده‌سازی بیش از حد است. در حالی که انسان‌ها اطلاعات را پردازش می‌کنند، شیوه‌ها و زمینه‌های این پردازش، از جمله دانش حرکتی و دانش حاصل از رفتار انسانی، ممکن است اساساً متفاوت و غیرقابل فرموله شدن در قالب محاسباتی باشند.

۷. فهم انسانی فراتر از پردازش اطلاعات قابل فرموله است

دانستن با اطمینان اینکه فردی آنچه به او گفته شده را فهمیده، به معنای درک کل ساختار باورهای او و معادل با شریک شدن در کل تجربه زندگی اوست.

فهم نیازمند زمینه و تجربه است. فهم زبان طبیعی یا هر پدیده پیچیده دیگری صرفاً مسأله تحلیل نحوی یا نگاشت به ساختارهای مفهومی رسمی نیست. این امر نیازمند ساختار باور وسیع و پیوسته‌ای است که از کل تجربه زندگی فرد، شامل زمینه‌های عاطفی و فرهنگی، ساخته شده است.

محدودیت‌های نمایش رسمی. روشن نیست که همه دانش و فهم انسانی، به‌ویژه دانش حرکتی یا دانش حاصل از تعامل اجتماعی و تجربه عاطفی، بتواند به‌طور کامل در ساختارهای اطلاعاتی قابل دستکاری توسط کامپیوتر رمزگذاری شود. نمایش‌های نمادین ممکن است اطلاعات ضروری را از دست بدهند.

حالت‌های متعدد تفکر. شواهد عصبی نشان می‌دهد مغز انسان از حالت‌های تفکر متمایزی استفاده می‌کند (مثلاً نیمکره چپ منطقی و متوالی و نیمکره راست کلی‌نگر و شهودی) که به‌طور مستقل و همزمان عمل می‌کنند. تفکر شهودی، که ممکن است با استانداردهای متفاوتی از شواهد (مانند استعاره) کار کند، ممکن است به بینش‌هایی دست یابد که برای فرایندهای صرفاً منطقی در دسترس نیستند، که نشان می‌دهد تفکر انسانی صرفاً به محاسبه رسمی تقلیل‌پذیر نیست.

۸. محدودیت‌های اخلاقی تعیین می‌کنند که کامپیوترها چه کارهایی نباید انجام دهند

پرسیدن این سؤال که «قاضی (یا روان‌پزشک) چه می‌داند که ما نمی‌توانیم به کامپیوتر بگوییم؟» خود یک توهین عظیم است.

فراتر از «توانستن» به «باید». پرسش‌های اساسی درباره کامپیوترها نه درباره توانایی‌های فنی آن‌ها («آیا می‌توانند X را انجام دهند؟») بلکه درباره شایستگی اخلاقی واگذاری وظایف خاص به آن‌ها («آیا باید X را انجام دهند؟») است. صرف اینکه کامپیوتری بتواند قضاوت قضایی یا روان‌پزشکی کند، به معنای این نیست که باید این کار را انجام دهد.

هوش بیگانه. هوش کامپیوتری، هرچقدر پیشرفته باشد، اساساً بیگانه با مشکلات و دغدغه‌های واقعی انسانی است. مشکلات انسانی ناشی از نیازهای زیستی، عاطفی و اجتماعی منحصر به فرد و در زمینه تجربه زیسته، ارزش‌ها و هنجارهای فرهنگی است که کامپیوترها نمی‌توانند به شیوه انسانی درک یا شریک شوند.

حکمت غیرقابل محاسبه است. وظایفی که نیازمند حکمت‌اند، یعنی تلفیق دانش، تجربه، ارزش‌ها و شهود به شیوه‌های پیچیده و اغلب غیرمنطقی، نباید به کامپیوترها واگذار شود. از آنجا که راهی برای حکیم کردن کامپیوترها نداریم، واگذاری چنین وظایفی بی‌مسئولیتی و بالقوه زیان‌آور است.

۹. برنامه‌های غیرقابل فهم منجر به ترک مسئولیت می‌شوند

این بدان معناست که اگرچه ماشین‌ها از نظر نظری در معرض نقد انسانی‌اند، چنین نقدی ممکن است تا مدت‌ها پس از آنکه مرتبط است، بی‌اثر باشد.

فراتر از درک انسانی. برنامه‌های کامپیوتری بزرگ و پیچیده که اغلب به‌تدریج توسط تیم‌هایی ساخته می‌شوند، می‌توانند به سرعت از درک هر فرد یا حتی توسعه‌دهندگان اولیه فراتر روند. این امر کارکردهای درونی، معیارها و قواعد تصمیم‌گیری آن‌ها را عملاً غیرشفاف می‌کند.

مقاومت در برابر تغییر. این سیستم‌های غیرقابل فهم در برابر تغییرات اساسی مقاوم می‌شوند. هر تغییر مهم ممکن است کل سیستم را از کار بیندازد و منجر به اتکا به منطق موجود و کم‌فهم شود. این امر قواعد تجسم‌یافته در برنامه را مصون از چالش یا بازبینی اخلاقی می‌سازد.

تخریب تاریخ و زمینه. اتکا به داده‌های قابل خواندن توسط ماشین و گزارش‌های تولیدشده توسط کامپیوتر می‌تواند منجر به تخریب یا بازسازی تاریخ شود، همان‌طور که در جنگ ویتنام دیده شد. داده‌های غیر استاندارد کنار گذاشته می‌شوند و خروجی‌های کامپیوتری اعتبار بیش از حد می‌یابند و قضاوت انسانی و زمینه تاریخی را کنار می‌زنند.

۱۰. عقلانیت ابزاری زبان را فاسد و دغدغه‌های انسانی را کم‌ارزش می‌کند

عدالت، برابری، خوشبختی، مدارا، همه مفاهیمی که... در قرون گذشته به‌عنوان ذاتی یا مورد تأیید عقل شناخته می‌شدند، ریشه‌های فکری خود را از دست داده‌اند.

زبان صرفاً ابزار است. عقلانیت ابزاری زبان را به ابزاری صرفاً کاربردی برای دستکاری اشیاء و رویدادها تقلیل می‌دهد. مفاهیم از معانی غنی و غیرمنطقی خود تهی شده و به اختصاراتی برای داده‌های واقعی تبدیل می‌شوند. این امر زبان را فاسد می‌کند و بیان ارزش‌ها، احساسات یا تجربیات ذهنی را دشوار یا ناممکن می‌سازد.

از دست دادن ارزش‌های عینی. وقتی عقلانیت محدود به محاسبه و طبقه‌بندی حقایق شود، مفاهیمی مانند عدالت، آزادی یا کرامت پایه عقلانی خود را از دست می‌دهند. آن‌ها علمی‌ناپذیر و بی‌معنا می‌شوند و هیچ مبنای عینی برای اثبات برتری یک ایده‌آل بر ضد آن باقی نمی‌ماند.

رمزآلودگی و تخصص‌گرایی. زبان پر از اصطلاحات تخصصی نخبگان فناوری کار آن‌ها را رمزآلود می‌کند و هاله‌ای از تخصص ایجاد می‌کند که فهم عامه را کنار می‌زند. این امر ایده اینکه تنها متخصصان می‌توانند مسائل پیچیده را حل کنند تقویت می‌کند و افراد را ناتوان و انتخاب‌های ارزشی و تعارضات پنهان را مخفی می‌سازد.

۱۱. بازپس‌گیری انتخاب انسانی در برابر اجتناب‌ناپذیری فناوری

قدرت هیچ نیست مگر قدرت انتخاب.

اجتناب‌ناپذیری فناوری افسانه است. این تصور که برخی پیشرفت‌های فناوری غیرقابل توقف‌اند و «راه بازگشتی نیست» افسانه‌ای خطرناک است. این باور مسئولیت را از افراد و نهادها می‌گیرد و حس ناتوانی در برابر نیروهای فراتر از کنترل را تقویت می‌کند.

تصمیم در برابر انتخاب. در حالی که ماشین‌ها و افراد تحت عقلانیت ابزاری می‌توانند تصمیم‌هایی بر اساس محاسبات و قواعد از پیش تعیین‌شده بگیرند، عمل اصیل انسانی شامل انتخاب است. انتخاب زنجیره استدلال را نه با «چون به من گفتی» بلکه با «چون من انتخاب کردم» خاتمه می‌دهد و خودمختاری و مسئولیت را اعلام می‌کند.

بازپس‌گیری کرامت انسانی. مقاومت در برابر امپریالیسم عقلانیت ابزاری مستلزم بازپس‌گیری کرامت، اصالت و خودمختاری فردی است. این یعنی شناخت اینکه عقلانیت شامل شهود و احساس نیز هست، همه حقیقت‌ها قابل اثبات رسمی نیستند و ملاحظات اخلاقی باید راهنمای کاربرد علم و فناوری باشند، به‌ویژه با انتخاب نکردن واگذاری وظایفی که نیازمند حکمت و ارزش‌های انسانی‌اند.