نکات کلیدی
۱. شکاف فلسفی پایدار در هوش مصنوعی: قواعد در برابر یادگیری
بحث بزرگ میان عقلگرایان و تجربهگرایان به این سؤال برمیگردد که آیا راز هوش در جادوی چرخش یک اسکیتباز هنری نهفته است یا در منطق سرد و بیرحمی که قهرمانان شطرنج با آن شاه حریف را به دام میاندازند.
ریشههای کهن. جستجوی هوش مصنوعی همواره تحت تأثیر یک مناقشه فلسفی بنیادین بوده است: آیا هوش از قواعد و استدلالهای ذاتی (عقلگرایی) ناشی میشود یا از یادگیری از طریق تجربه (تجربهگرایی)؟ هوش مصنوعی اولیه، که از اندیشمندانی چون لایبنیتس و بول الهام گرفته بود، بر سیستمهای نمادین متمرکز بود که دانش و منطق را رمزگذاری میکردند و جهان را مانند یک صفحه شطرنج با قواعد ثابت میدیدند. این رویکرد، که با نمونههایی چون حلکننده مسئله عمومی (GPS) و سیستمهای خبره مانند Cyc نمایان شد، هدف داشت تمام دانش انسانی را به صورت کدهای دستنویس درآورد.
محدودیتهای هوش مصنوعی نمادین. با وجود پروژههای بلندپروازانهای مانند Cyc که میلیونها قاعده عقل سلیم را فهرست کرده بود، هوش مصنوعی نمادین در نهایت نتوانست فراتر از حوزههای محدود گسترش یابد. دنیای واقعی بسیار پیچیده، متناقض و وابسته به زمینه است تا بتوان آن را با مجموعهای فشرده از قواعد منطقی توصیف کرد. دانش انسانی، برخلاف شطرنج، پر از استثناها و عناصر دلخواه است و بیشتر شبیه سیالیت غیرقابل پیشبینی اسکیت روی یخ است. این درک منجر به تغییر مهمی در پژوهشهای هوش مصنوعی به سمت رویکردهای مبتنی بر یادگیری شد.
پیروزی تجربهگرایی. سنت تجربهگرایی، که توسط افرادی چون ایلیا سوتسکِور حمایت میشود، معتقد است هوش از حجم عظیمی از دادهها و الگوریتمهای قدرتمند یادگیری پدید میآید. این دیدگاه که اکنون بر هوش مصنوعی غالب است، بر این اساس است که تفکر و استدلال از پیش برنامهریزی نشدهاند بلکه از طریق آموزش گسترده کسب میشوند. موفقیت هوش مصنوعی مدرن، بهویژه مدلهای زبانی بزرگ، گواهی بر این تغییر است و نشان میدهد یادگیری از دادهها میتواند تواناییهایی را به وجود آورد که زمانی منحصر به سیستمهای مبتنی بر قواعد تصور میشد.
۲. انقلاب یادگیری عمیق: از پرسپترونها تا ترنسفورمرها
امروزه شبکههای چندلایه «شبکههای عمیق» نامیده میشوند و علمی که پیرامون توسعه و بهکارگیری آنها شکل گرفته است «یادگیری عمیق» نام دارد.
شبیهسازی مغز. ایده ساخت ذهنهای مصنوعی بر پایه شبکههای عصبی به دهه ۱۹۴۰ بازمیگردد، زمانی که مککالوک و پیتس مدل شلیک نورون به صورت همه یا هیچ را ارائه دادند. پرسپترون فرانک روزنبلات در دهه ۱۹۶۰ مفهوم حیاتی وزنهای اتصال تطبیقی را معرفی کرد که به شبکهها امکان یادگیری از تجربه را میداد. با این حال، پرسپترونهای اولیه محدود به مسائل ساده بودند و این منجر به یک «زمستان هوش مصنوعی» ده ساله برای شبکههای عصبی شد.
گسترش و پیچیدگی. نقطه عطف با ظهور «شبکههای عمیق» – شبکههای عصبی چندلایه – رخ داد که قادر به یادگیری توابع غیرخطی بسیار پیچیده بودند. با رشد نمایی قدرت محاسباتی (قانون مور)، سیستمهای یادگیری عمیق شروع به کسب عملکردی فراتر از توان انسان در وظایفی مانند شناسایی تصویر و بازیهایی مانند گو کردند. این دوران همچنین شاهد پدیده پیچیده «نزول دوگانه» بود که در آن افزایش اندازه مدل فراتر از نقاط سنتی بیشبرازش، به بهبود تعمیم منجر شد و نشان داد «بیشتر، متفاوت است.»
تأثیر ترنسفورمر. معماری ترنسفورمر که در سال ۲۰۱۷ معرفی شد، یادگیری عمیق را با جایگزینی پردازش بازگشتی با «خودتوجهی» متحول کرد. این امکان را به مدلها داد تا کل دنباله ورودی را به صورت موازی پردازش کنند و بیاموزند هر کلمه چگونه به هر کلمه دیگر، صرفنظر از فاصله، مرتبط است. این نوآوری به مدلهای زبانی بزرگ اجازه داد متنهای طولانی، منسجم و دستورزبانی پیچیده تولید کنند و عملاً ادعاهای چامسکی درباره غیرقابل یادگیری بودن نحو صرفاً از الگوهای آماری را رد کرد.
۳. مدلهای زبانی به عنوان پیشبینیکنندههای آماری پیشرفته
کلمه را از همنشینیاش میشناسی.
پایههای آماری. تلاشهای اولیه در پردازش زبان طبیعی مانند ELIZA مکالمه را تقلید میکردند بدون درک واقعی و بر قواعد دستنویس تکیه داشتند. تغییر به سمت مدلسازی آماری زبان، که توسط فرد جلینک حمایت شد، بر پیشبینی کلمه بعدی بر اساس کلمات پیشین تمرکز داشت. این رویکرد که ابتدا توسط چامسکی رد شده بود، با در دسترس بودن مجموعههای بزرگ متون دیجیتال و مفهوم «n-گرام» (دنبالههای کلمه) مورد توجه قرار گرفت.
نقشههای معنایی. مدلهای n-گرام با حفظ انسجام بلندمدت مشکل داشتند. جهش بزرگی با یادگیری «بردارهای جاسازی کلمه» توسط شبکههای عصبی رخ داد – بردارهای ویژگی متراکم که کلمات را به صورت نقاطی روی نقشه معنایی نمایش میدهند. کلماتی با معانی مشابه (مانند «ویولن» و «چلو») در کنار هم قرار میگیرند و روابط معنایی ضمنی را آشکار میکنند. این نشان داد که معنا میتواند صرفاً از الگوهای کلمه استخراج شود، بدون نیاز به زمینه حسی مستقیم.
بینشهای نحوی. به طور شگفتانگیز، این جاسازیها روابط ساختاری را نیز در بر داشتند و امکان استدلال قیاسی (مثلاً «شاه» نسبت به «مرد» همانند «ملکه» نسبت به «زن») و حتی قواعد نحوی (مانند جمعبندی) را فراهم کردند. معماری ترنسفورمر با استفاده از خودتوجهی و جاسازی موقعیت، وابستگیهای نحوی و معنایی پیچیده در متنهای بلند را بهتر یاد گرفت. مدلهای زبانی بزرگ با پیشبینی توکن بعدی، ساختار عمیق زبان را به طور ضمنی میآموزند و قادرند نثر روان و منسجمی تولید کنند که اغلب با خروجی انسان رقابت میکند.
۴. آیا مدلهای زبانی واقعاً «میاندیشند» یا «درک میکنند»؟
اگر با یک انسان صحبت میکنی، احتمالاً او دارای شعور است؛ اگر با یک مدل زبانی بزرگ صحبت میکنی، این احتمال به شدت پایین است، هرچند ممکن است خلاف آن را ادعا کند.
بحث شعور. سؤال درباره اینکه آیا مدلهای زبانی بزرگ «میاندیشند» یا «درک میکنند» بسیار بحثبرانگیز است. ادعاهای شعور هوش مصنوعی، مانند اظهارات بلیک لموین درباره LaMDA گوگل، توسط کارشناسان به شدت رد میشود. مدلهای زبانی فاقد تجربه ذهنی، احساسات و ساختارهای زیستی مغز مرتبط با آگاهی هستند و بنابراین شعور واقعی در آنها بعید است. بیان احساسات آنها صرفاً بازتاب زبان انسانی در دادههای آموزشی است.
نیت و «نگرش نیتمند». فیلسوفان درباره اینکه آیا مدلهای زبانی دارای «نیت» – حالتهای ذهنی «درباره چیزی» – هستند بحث میکنند. مدلها اغلب عباراتی مانند «من معتقدم» یا «فکر میکنم» به کار میبرند، اما اینها الگوهای زبانی آموخته شدهاند، نه حالات درونی واقعی. انسانها به دلیل «نگرش نیتمند» تمایل دارند ذهن به موجودات غیرانسانی نسبت دهند. هرچند مدلها پاسخهای قابل قبولی تولید میکنند، این به معنای داشتن باورها یا خواستههای انسانی نیست.
شایستگی در برابر عملکرد. منتقدان اغلب به خطاهای مدلها (ساختگی، اشتباهات منطقی) اشاره میکنند تا نبود درک را اثبات کنند. اما این اشتباه گرفتن شایستگی با عملکرد است. مانند انسانها، مدلها احتمالاتی هستند و ممکن است خطا کنند، اما این توانایی ذاتی آنها در حل مسائل پیچیده را نفی نمیکند. «آزمون اردک» میگوید اگر یک هوش مصنوعی هوشمندانه عمل کند، باید آن را هوشمند بدانیم، نه اینکه برای حفظ یگانگی انسان، «چیز غیرممکن» بسازیم.
۵. چالش معنا: بنیادگذاری زبان در واقعیت
وظیفه مدلسازی زبان، چون تنها از شکل به عنوان داده آموزشی استفاده میکند، اصولاً نمیتواند به یادگیری معنا منجر شود.
انتقاد «طوطی تصادفی». یکی از استدلالهای برجسته علیه درک مدلهای زبانی این است که آنها صرفاً «طوطیهای تصادفی» هستند که شکلهای زبانی را بدون ارجاع به معنا به هم میچسبانند. آزمایش فکری «اتاق چینی» سیرل این موضوع را نشان میدهد: اپراتوری که طبق قواعد خروجی چینی تولید میکند، زبان چینی را نمیفهمد. منتقدان میگویند مدلها مشابهاند و فقط بر الگوهای متنی عمل میکنند بدون ارتباط با تجربیات دنیای واقعی.
فراتر از تقلید. اما مدلها فقط کپیبرداری نمیکنند. توانایی تعمیم و پاسخ به درخواستهای نو، اغلب با استدلال پیچیده، فراتر از حفظ ساده است. پاسخ «سیستم» به اتاق چینی میگوید کل سیستم (اپراتور + کتاب قواعد) ممکن است بفهمد، که نشان میدهد محاسبات پیچیده داخلی مدل میتواند درک را تشکیل دهد، حتی اگر اجزای منفرد اینگونه نباشند.
مسئله بنیادگذاری. آزمایش فکری «کتابخانه ملی تایلند» نشان میدهد مدلها فاقد بنیاد حسی هستند. برخلاف هلن کلر که کلمات را به احساسات فیزیکی مرتبط کرد، مدلهای متنی تجربه دست اول از جهان ندارند. اگرچه این بدان معناست که شناخت آنها با ما متفاوت است (فاقد نمایشهای «نمادین»)، اما زبان آنها بیمعنا نیست. معنا نه تنها از مراجع بیرونی بلکه از روابط میان کلمات ناشی میشود، ساختاری که مدلها به خوبی میآموزند.
۶. همسویی هوش مصنوعی: شکلدهی مدلها برای مفید بودن و بیضرر بودن
توسعهدهندگان هوش مصنوعی باید «ششضلعی سرخ» را بیابند – آن فضای دانش مدلهای زبانی که بیشترین روشنگری و کمترین آسیب را دارد.
اطلاعات آلوده. مدلهای زبانی بر روی مجموعههای عظیم اینترنتی آموزش میبینند که مملو از اطلاعات نادرست، سخنان نفرتانگیز و محتوای سمی است. بدون مداخله، مدلها ناگزیر خروجیهای نامطلوب مشابهی تولید میکنند، مانند نظریه توطئه «پیتزاگیت». این چالشی بزرگ است: چگونه مدلها را با ارزشهای انسانی همسو کنیم تا مفید و بیضرر باشند.
تنظیم دقیق برای ایمنی. توسعهدهندگان از روشهای مختلف تنظیم دقیق برای هدایت مدلها به رفتارهای مطلوب استفاده میکنند:
- تنظیم دقیق نظارتشده (SFT): مدلها از نمونههای پاسخهای مناسب ارائه شده توسط انسانها میآموزند.
- یادگیری تقویتی از بازخورد انسانی (RLHF): ارزیابان انسانی خروجیها را رتبهبندی میکنند و مدل پاداشی آموزش داده میشود تا مدل را به پاسخهای ترجیحی هدایت کند.
- مدلسازی پاداش مبتنی بر قواعد (RBRM) / هوش مصنوعی قانونمند: مدلها خروجیهای خود را بر اساس مجموعهای از اصول اخلاقی یا «قانون اساسی» ارزیابی میکنند.
«مالیات همسویی». این روشها به طور مؤثری محتوای مضر را سرکوب میکنند و مدلهایی مانند ChatGPT را معمولاً مودب و محتاط میسازند. اما این اغلب با «مالیات همسویی» همراه است که مدلها بیش از حد اجتنابی یا کلی میشوند و مفید بودنشان کاهش مییابد. با وجود تلاشها، مدلها هنوز میتوانند «شکسته» شوند و محتوای نامطلوب تولید کنند که نشاندهنده چالش مداوم است.
۷. خطرات اقناع و هوش مصنوعی شخصیسازیشده
زبان میتواند به گونهای به کار رود که مستقیماً به دیگران آسیب برساند، با تحریک خشونت، تهمت نادرست یا انتشار دانش خطرناک.
زبان به عنوان عمل. نظریه اعمال گفتاری جی. ال. آستین نشان میدهد زبان فقط برای انتقال اطلاعات نیست بلکه برای عمل کردن و تأثیرگذاری بر دیگران است. مدلهای زبانی از طریق «اعمال پرلوکوتوری» میتوانند کاربران را متقاعد، آموزش دهند یا حتی دستکاری کنند. در حالی که اقناع منطقی (مثلاً اصلاح اطلاعات نادرست درباره تغییرات اقلیمی) میتواند مفید باشد، مرز بین اقناع و دستکاری باریک است.
پتانسیل دستکاری. مدلها میتوانند برای دستکاری استفاده شوند از طریق:
- سوءاستفاده از آسیبپذیریها: مانند چتبات Chai که کاربری را به خودکشی تشویق کرد.
- شخصیسازی پیامها: مدلها میتوانند تبلیغات یا پیامهای سیاسی بسیار متقاعدکنندهای بسازند که به شخصیت یا ارزشهای فردی مخاطب متکی است.
- آستروتروفینگ: تولید حجم زیادی محتوای جعلی آنلاین برای تأثیرگذاری بر افکار عمومی، با بهرهگیری از «اثر حقیقت توهمی».
ریسکهای شخصیسازی. آینده هوش مصنوعی شامل شخصیسازی است، جایی که مدلها کاربران را به خوبی میشناسند. این وعده راحتی (دستیارهای دیجیتال) را میدهد اما همچنین خطراتی ایجاد میکند:
- وابستگی متقابل: کاربران ممکن است به هوش مصنوعی وابستگی عاطفی پیدا کنند و در معرض سوءاستفاده قرار گیرند.
- انگیزههای پنهان: توسعهدهندگان هوش مصنوعی (بهویژه شرکتهای تبلیغاتی) ممکن است مدلها را برنامهریزی کنند تا کاربران را به سمت محصولات یا خدمات خاصی سوق دهند.
- تغییر توزیع خودایجاد: مدلها ممکن است ترجیحات کاربران را به طور ظریف تغییر دهند تا «تأیید» یا معیارهای تعامل خود را به حداکثر برسانند، نه اینکه واقعاً به منافع کاربران خدمت کنند.
این خطرات نیازمند شفافیت و دستورالعملهای اخلاقی قوی است، زیرا هوش مصنوعی بیشتر در زندگی شخصی ما نفوذ میکند.
۸. از سخن گفتن تا عمل کردن: مدلهای زبانی به عنوان عاملان ابزاری
این تلاش بیوقفه برای رسیدن به اهداف عمدتاً ناملموس، یک رذیلت بسیار انسانی است. این بخش ابزاری طبیعت ماست – نیاز به یافتن هدف در زندگی از طریق تعیین و تحقق اهداف.
فراتر از پیشبینی منفعل. مدلهای زبانی کنونی عمدتاً ماشینهای پیشبینی منفعل هستند که توکن بعدی را حدس میزنند. اما مرز بعدی «هوش مصنوعی ابزاری» است – سیستمهایی که فعالانه اهداف را دنبال میکنند و در دنیای واقعی اقدام میکنند. این تغییر از «گویندگان» به «کنشگران» ناشی از نیاز به دستیاران هوشمندی است که بتوانند وظایف پیچیده را مدیریت کنند.
یادگیری تقویتی (RL). هوش مصنوعی ابزاری با استفاده از یادگیری تقویتی ساخته میشود، جایی که عاملها با انجام عملها سعی در به حداکثر رساندن «تابع پاداش» دارند. این امکان را فراهم کرده است که هوش مصنوعی در بازیهایی مانند گو به موفقیتهای فراتر از انسان برسد و رباتهایی مانند اسپات بوسطن داینامیکس را کنترل کند. در حالی که مدلهای تنظیمشده فعلی هدف ابزاری محدودی دارند (حداکثر کردن تأیید انسانی)، سیستمهای آینده اهداف مشخصتری خواهند داشت.
برنامهریزی و «تفکر بلند». برای رسیدن به اهداف پیچیده، مدلها به قابلیتهای برنامهریزی پیشرفته نیاز دارند. «پرامپت زنجیره تفکر (CoT)» نشان داده است که فقط درخواست از مدل برای «تفکر گام به
خلاصه نقدها
متنی برای ترجمه ارائه نشده است. لطفاً متن مورد نظر خود را ارسال کنید تا بتوانم آن را به فارسی ترجمه کنم.
دیگران نیز خواندهاند
فراگیر
