برد دِلانگ در مقاله‌ای با عنوان «ChatGPT, Claude, Gemini, & Co.: They Are Not Brains, They Are Smoother-Kernel Functions» تلاش می‌کند برداشت رایج از مدل‌های زبانی بزرگ مانند ChatGPT، Claude و Gemini را به چالش بکشد. نقطه آغاز بحث او این است که کیفیت بالای پاسخ‌های این مدل‌ها، انسان را به‌سرعت به این تصور می‌رساند که با نوعی «مغز مصنوعی» روبه‌رو است؛ موجودی که می‌تواند فکر کند، استدلال کند، برنامه‌ریزی کند و درباره مسائل مختلف تصمیم بگیرد. دِلانگ معتقد است این تعبیر، با وجود جذابیت شهودی‌اش، می‌تواند درک ما از ماهیت واقعی این فناوری را مخدوش کند. از نظر او، بهتر است مدل‌های زبانی بزرگ را نه مغز، بلکه نوعی «تابع هموارساز هسته‌ای» یا، به بیان ساده‌تر، تابعی بسیار پیچیده برای درونیابی و تولید ادامه‌های محتمل در فضای زبان در نظر بگیریم.
برای روشن‌تر شدن این دیدگاه، دِلانگ میان «استدلال» و «پیش‌بینی» تمایز می‌گذارد. یک مدل زبانی بزرگ، در بنیادی‌ترین سطح، رشته‌ای از کلمات را دریافت می‌کند و می‌کوشد ادامه‌ای تولید کند که با توجه به زمینه موجود محتمل باشد. این فرایند از نظر فنی بسیار پیچیده است و بر میلیاردها پارامتر و حجم عظیمی از داده‌های متنی تکیه دارد؛ با این حال، دِلانگ تأکید می‌کند که پیچیدگی محاسباتی را نباید با وجود یک ذهن یا مغز مستقل یکی دانست. ممکن است مدل خروجی‌ای تولید کند که برای انسان بسیار شبیه حاصل یک فرایند فکری باشد، بی‌آنکه الزاماً همان نوع فرایند فکری انسان را طی کرده باشد.
یکی از محورهای اصلی مقاله، مسئله «توهم» یا hallucination در مدل‌های زبانی است. زمانی که ChatGPT یک واقعیت نادرست، منبعی ساختگی یا پاسخی نادقیق تولید می‌کند، اگر آن را نوعی مغز مصنوعی فرض کنیم، ممکن است تصور کنیم مدل در جریان استدلال خود مرتکب خطا شده است. اما در چارچوبی که دِلانگ ارائه می‌کند، مسئله بنیادی‌تر از این است. مدل در درجه نخست برای تولید متنی آموزش دیده که در زمینه مورد نظر محتمل و سازگار به نظر برسد. در نتیجه، می‌تواند عبارتی کاملاً روان، منطقی و متقاعدکننده تولید کند که در واقعیت نادرست باشد. بنابراین ظاهر عقلانی یک پاسخ، لزوماً به معنای وجود فرایندی مستقل برای تشخیص حقیقت نیست.
دِلانگ برای توضیح این مسئله به نمونه‌ای از تعامل خود با ChatGPT اشاره می‌کند. او از مدل خواسته بود نسخه مشخصی از کتاب «شهریار» ماکیاولی را در Archive.org پیدا کند. مدل به جای نسخه مورد نظر، نسخه دیگری از کتاب را معرفی کرد و لینکی واقعی نیز ارائه داد. بنابراین پاسخ نه بی‌معنا بود و نه تصادفی؛ کتاب و لینک هر دو واقعی بودند، اما مأموریت دقیق کاربر انجام نشده بود. اهمیت این مثال، از نگاه دِلانگ، در این است که مدل می‌تواند پاسخی بسیار معقول ارائه کند، بدون آنکه الزاماً سازوکاری مستقل برای توقف و پرسیدن این سؤال داشته باشد که «آیا دقیقاً همان چیزی را که کاربر خواسته بود پیدا کرده‌ام؟» این مثال نشان می‌دهد که معقول بودن زبانی و درست بودن از نظر واقعیت، دو مفهوم متفاوت‌اند.
در ادامه، دِلانگ به مسئله انسان‌انگاری یا anthropomorphism می‌پردازد. وقتی درباره مدل‌های زبانی از تعبیرهایی مانند «فکر می‌کند»، «می‌فهمد»، «تصمیم می‌گیرد»، «برنامه‌ریزی می‌کند» یا «خودآگاه است» استفاده می‌کنیم، ممکن است ویژگی‌هایی را به سیستم نسبت دهیم که شواهد کافی برای نسبت دادن آنها در اختیار نداریم. از نظر او، چنین زبانی می‌تواند مرز میان توانایی واقعی مدل و تفسیری را که انسان از رفتار آن ارائه می‌دهد، مبهم کند. اینکه یک سیستم رفتاری شبیه رفتار انسان تولید می‌کند، لزوماً به این معنا نیست که سازوکار درونی آن نیز همان چیزی است که در انسان وجود دارد.
با این حال، هدف دِلانگ کوچک جلوه دادن توانایی‌های مدل‌های زبانی نیست. برعکس، بخش مهمی از شگفتی این فناوری دقیقاً در آن است که یک سیستم نسبتاً عمومی می‌تواند از طریق یادگیری الگوهای موجود در زبان، رفتارهایی ایجاد کند که بسیار فراتر از یک autocomplete ساده به نظر می‌رسند. زبان انسانی صرفاً مجموعه‌ای از کلمات نیست؛ دانش علمی، روابط علّی، تجربه تاریخی، شیوه‌های حل مسئله، قواعد اجتماعی، سبک‌های ادبی و بسیاری از ساختارهای پیچیده جهان در زبان بازتاب پیدا کرده‌اند. بنابراین مدلی که در مقیاسی بسیار بزرگ بر زبان آموزش دیده است، با یادگیری ساختارهای زبان می‌تواند به نوعی نمایش بسیار غنی از روابط میان مفاهیم دست یابد. همین موضوع سبب می‌شود خروجی آن در بسیاری از موارد شبیه نتیجه فهم و استدلال انسانی به نظر برسد.
از این منظر، یکی از پرسش‌های مهم مقاله صرفاً این نیست که آیا مدل‌های زبانی «واقعاً فکر می‌کنند» یا خیر؛ پرسش مهم‌تر این است که چگونه تابعی آماری که بر مبنای پیش‌بینی توکن بعدی آموزش دیده است، می‌تواند چنین رفتارهای پیچیده‌ای از خود نشان دهد. دِلانگ پاسخ را در مقیاس و پیچیدگی سیستم جست‌وجو می‌کند. وقتی فضای یادگیری بسیار بزرگ، داده‌ها گسترده و تعداد پارامترها بسیار زیاد باشد، رفتار حاصل می‌تواند در سطح خروجی بسیار پیچیده‌تر از یک پیش‌بینی ساده به نظر برسد. به همین دلیل، نباید «سادگی اصل آموزش» را با «سادگی رفتار نهایی» یکی دانست.
مفهوم «smoother kernel» که در عنوان مقاله آمده نیز در همین چارچوب معنا پیدا می‌کند. منظور دِلانگ از این تعبیر آن است که مدل را می‌توان همچون تابعی بسیار انعطاف‌پذیر تصور کرد که در فضای عظیم داده‌ها، میان الگوهای مختلف ارتباط برقرار می‌کند و برای ورودی جدید، بر اساس ساختارهای آموخته‌شده خروجی تولید می‌کند. این نگاه، به جای آنکه مدل را موجودی دارای ذهن مستقل بداند، آن را نوعی ماشین ریاضی بسیار پیچیده برای نگاشت ورودی به خروجی می‌بیند. در چنین تفسیری، قدرت مدل از حجم داده، معماری، پارامترها و توان محاسباتی آن ناشی می‌شود، نه لزوماً از وجود یک «ذهن» به معنای انسانی.
این دیدگاه برای شیوه استفاده از هوش مصنوعی نیز پیامد مهمی دارد. اگر مدل را مغزی بدانیم که می‌توان به آن اعتماد کرد، احتمال دارد بیش از اندازه به خروجی آن متکی شویم. اما اگر آن را سیستمی بسیار قدرتمند برای تولید پاسخ‌های محتمل بدانیم، نقش انسان روشن‌تر می‌شود. انسان باید خروجی را بررسی، ارزیابی و ویرایش کند و در موارد حساس، آن را اعتبارسنجی کند. در نتیجه، استفاده مؤثر از هوش مصنوعی نه به معنای واگذاری کامل وظیفه به ماشین، بلکه به معنای شکل دادن به نوعی همکاری میان توانایی تولید و پردازش مدل و توانایی انسان در تعیین هدف، ارزیابی شواهد و تشخیص خطاست.
این موضوع به‌ویژه در حوزه‌هایی مانند پژوهش علمی اهمیت دارد. یک مدل زبانی می‌تواند برای تولید ایده، تدوین متن، توضیح مفاهیم، برنامه‌نویسی، تحلیل اولیه داده‌ها و ایجاد فرضیه‌های جدید بسیار مفید باشد؛ اما خروجی آن را نباید صرفاً به دلیل روان و منطقی بودن، حقیقت تلقی کرد. منابع، داده‌ها، محاسبات و استدلال‌های ارائه‌شده باید به‌طور مستقل بررسی شوند. از این منظر، استفاده درست از هوش مصنوعی بیشتر به استفاده از یک ابزار تحلیلی بسیار قدرتمند شباهت دارد تا گفت‌وگو با یک پژوهشگر انسانی مستقل.
در نهایت، پیام اصلی دِلانگ این است که برای فهم درست مدل‌های زبانی باید میان «رفتار هوشمندانه» و «داشتن ذهن» تفاوت قائل شد. ChatGPT، Claude و Gemini می‌توانند رفتارهایی تولید کنند که از نگاه انسان هوشمندانه، خلاقانه و حتی استدلالی به نظر برسند؛ اما از این مشاهده به‌تنهایی نمی‌توان نتیجه گرفت که آنها مغزهایی مصنوعی با همان نوع فرایندهای شناختی انسان هستند. دِلانگ پیشنهاد می‌کند به جای تمرکز افراطی بر استعاره «مغز»، مدل‌های زبانی را توابع بسیار پیچیده‌ای ببینیم که در فضای عظیم زبان، الگوها را آموخته‌اند و برای ورودی‌های جدید خروجی تولید می‌کنند. چنین نگاهی هم قدرت واقعی این مدل‌ها را بهتر نشان می‌دهد و هم محدودیت‌هایشان را آشکارتر می‌کند. از نظر او، این رویکرد واقع‌بینانه‌تر می‌تواند به استفاده علمی و اقتصادی بهتر از هوش مصنوعی، کاهش اعتماد نابجا به پاسخ‌های آن و طراحی مناسب‌تر سیاست‌ها و پژوهش‌های آینده درباره هوش مصنوعی کمک کند.
منابع
• Scott Cunningham: Inside the “Brain” of Claude — https://causalinf.substack.com/p/inside-the-brain-of-claude
• “On the Biology of a Large Language Model” by Jack Lindsey, Wes Gurnee, Emmanuel Ameisen, et al. (2025)
• Machiavelli, Niccolò. 1513 [2008]. “Letter to Francesco Vettori, December 10, 1513”. In The Prince. Trans. & ed. Peter Bondanella. Pp. 109–113. Oxford: Oxford University Press. https://archive.org/details/niccolomachiavel00nicc
• Machiavelli, Niccolò. 1513 [1882]. The Historical, Political, and Diplomatic Writings of Niccolò Machiavelli. Vol. 2. Trans. Christian E. Detmold. https://archive.org/details/historicalpoliti02machuoft
• Cosma Shalizi: “Attention”, “Transformers”, in Neural Network “Large Language Models” — http://bactra.org/notebooks/nn-attention-and-transformers.html#just-kernels