مدل زبانی ممکن است در یک پرسش، پاسخی کاملاً درست بدهد و همین پاسخ درست، اعتماد پژوهشگر را افزایش دهد. اما پاسخ درست در یک جهت، به‌خودی‌خود نشان نمی‌دهد که مدل ساختار رابطه را به‌صورت پایدار و دوسویه در اختیار دارد.این مسئله در پژوهش فقهی حساس‌تر است؛ زیرا پژوهشگر معمولاً با شبکه‌ای از روابط سروکار دارد، نه با مجموعه‌ای از گزاره‌های منفرد.
به گزارش خبرنگار پایگاه خبری – تحلیلی مفتاح علوم انسانی اسلامی، حامد محمدجانی، پژوهشگر فقه و مبانی حقوق، در یادداشت پیشین به پدیده «معدل‌گیری معرفتی» و خطر تولید دیدگاه‌های فقهیِ بی‌مبنا توسط مدل‌های زبانی پرداخت. در این یادداشت، پدیده «نفرین وارونگی» (Reversal Curse) و پیامدهای آن برای پژوهش فقهی را بررسی می‌کند. متن یادداشت به شرح زیر است:
یک هشدار برای پژوهش فقهی با مدل‌های زبانی
مدل زبانی ممکن است در یک پرسش، پاسخی کاملاً درست بدهد و همین پاسخ درست، اعتماد پژوهشگر را افزایش دهد. اما پاسخ درست در یک جهت، به‌خودی‌خود نشان نمی‌دهد که مدل ساختار رابطه را به‌صورت پایدار و دوسویه در اختیار دارد.این مسئله در پژوهش فقهی حساس‌تر است؛ زیرا پژوهشگر معمولاً با شبکه‌ای از روابط سروکار دارد، نه با مجموعه‌ای از گزاره‌های منفرد.
مدل‌های زبانی راهِ برگشت را گم می‌کند (معرفی پدیده «Reversal Curse»)
یک خطای عجیب در مدل‌های زبانی وجود دارد که در نگاه اول بیش از حد ساده به نظر می‌رسد. فرض کنید به مدل آموخته‌ایم:
«سقراط استاد افلاطون بود.»
طبیعی است انتظار داشته باشیم اگر بعداً بپرسیم:
«افلاطون شاگرد چه کسی بود؟»
پاسخ «سقراط» را بدهد. اما در برخی شرایط، مدل در جهت نخست عملکرد بسیار بهتری از جهت معکوس نشان می‌دهد. یعنی دانستنِ رابطه میان دو چیز، لزوماً به این معنا نیست که مدل همان رابطه را از سوی دیگر نیز به‌درستی بازیابی می‌کند.
این پدیده در ادبیات فنی مدل‌های زبانی با عنوان Reversal Curse شناخته می‌شود. نخستین گزارش نظام‌مند آن در مقاله‌ای با همین عنوان، نوشته Lukas Berglund و همکاران، در سال ۲۰۲۳ منتشر شد و نسخه کنفرانسی آن در ICLR 2024 به چاپ رسید. پژوهشگران نشان دادند که مدل‌های خودبازگشتی ممکن است از گزاره‌ای به صورت «A رابطه‌ای با B دارد» به‌طور خودکار به صورت معکوس «B رابطه‌ای با A دارد» تعمیم ندهند. آنها این مسئله را هم در داده‌های ساختگی و هم در روابط واقعی آزمودند؛ در آزمایش مربوط به GPT-4 نیز عملکرد مدل در پرسش مستقیم به‌مراتب بهتر از پرسش معکوس بود.
نکته ظریف‌تر آن است که این پدیده به معنای ناتوانی مطلق مدل در استدلال معکوس نیست. خود پژوهشگران نشان دادند که اگر گزاره اصلی در متنِ پرسش در اختیار مدل قرار گیرد، مدل می‌تواند رابطه معکوس را استنتاج کند. بنابراین مسئله بیشتر به نحوه ذخیره، بازیابی و تعمیم رابطه آموخته‌شده مربوط است، نه اینکه مدل اصولاً مفهوم «رابطه معکوس» را نفهمد. پژوهش‌های بعدی نیز همین تمایز را دنبال کرده‌اند.
این نکته در پژوهش فقهی اهمیت بیشتری پیدا می‌کند؛ زیرا در بسیاری از مسائل فقه و اصول، خودِ «جهت رابطه» بخشی از مسئله است.
از یک مثال ساده به یک مسئله فقهی
برای روشن شدن مطلب، از عبادات شروع کنیم.
فرض کنید مدل با این گزاره مواجه شده است:
«دخول وقت، سبب وجوب نماز است.»
اکنون دو پرسش داریم:
«چه چیزی موجب وجوب نماز می‌شود؟»
و «اگر نماز بر شخصی واجب باشد، آیا حتماً وقت نماز داخل شده است؟»
این دو پرسش ظاهراً شبیه‌اند، اما از یک رابطه واحد دو حرکت متفاوت انجام می‌دهند.
در اولی، از سبب به اثر حرکت می‌کنیم:
دخول وقت ← وجوب نماز
در دومی، از اثر به سبب بازمی‌گردیم:
وجوب نماز ← ؟ ← دخول وقت
و این بازگشت لزوماً معتبر نیست؛ زیرا وجوب نماز می‌تواند در مواردی پس از خروج وقت نیز به صورت وجوب قضا مطرح باشد. بنابراین کسی که رابطه نخست را می‌داند، صرفاً به دلیل دانستن آن، مجاز نیست هرگاه «وجوب نماز» را دید، «دخول وقت» را نیز نتیجه بگیرد.
اکنون نکته اساسی برای فهم Reversal Curse روشن می‌شود، رابطه میان دو گزاره را نباید صرفاً مجموعه‌ای از دو اطلاعات دانست. جهت اتصال آنها نیز اهمیت دارد.
مثال دیگری از طهارت:
«طهارت، در شرایط مقرر، شرط صحت نماز است.»
اگر مدل این رابطه را به‌درستی آموخته باشد، باید بتواند توضیح دهد که فقدان شرط، در فرضی که شرط واقعاً معتبر است، چه اثری بر صحت دارد.
اما اگر صرفاً با یک الگوی زبانی مواجه باشیم، ممکن است در پرسش معکوس به چنین پاسخی نزدیک شود:
«اگر نماز صحیح باشد، پس حتماً وضو وجود داشته است.»
اینجا بلافاصله فقیه متوجه مشکل می‌شود «طهارت» را نمی‌توان بدون قید و تفصیل با «وضو» یکی گرفت؛ در مواردی طهارت می‌تواند از طریق تیمم حاصل شود. پس حتی اگر مدل رابطه «طهارت و صحت نماز» را به‌درستی بازگو کرده باشد، ممکن است در بازسازی جهت معکوس، شرط را با یکی از مصادیق تحقق آن خلط کند.
این صرفاً یک خطای اطلاعاتی نیست. ساختار رابطه تغییر کرده است.
در باب روزه نیز می‌توان نمونه مشابهی ساخت. فرض کنید گزاره‌ای درباره رابطه دخول ماه رمضان و وجوب صوم در اختیار مدل قرار گرفته باشد. حرکت مستقیم این است که از تحقق موضوع و شرایط آن، به حکم شرعی برسیم. اما اگر از وجود حکم به وجود همان وضعیت موضوعی برگردیم، ممکن است با مواردی مانند قضای روزه رمضان مواجه شویم که اجازه نمی‌دهد هر رابطه‌ای را به صورت دوسویه بازسازی کنیم.
این همان نقطه‌ای است که یک پژوهشگر فقهی باید نسبت به پاسخ مدل حساس شود: آیا مدل واقعاً نسبت میان موضوع و حکم را بازسازی کرده است، یا فقط دو گزاره‌ای را که در داده‌های آموزشی فراوان کنار یکدیگر دیده، به شکلی روان کنار هم قرار می‌دهد؟
مسئله فقط «برعکس جواب دادن» نیست
اگر Reversal Curse را صرفاً این بدانیم که مدل گاهی جواب را برعکس می‌کند، اهمیت مسئله را از دست داده‌ایم. مسئله عمیق‌تر است. در یک پاسخ فقهی دست‌کم سه سطح را باید از یکدیگر جدا کرد:
دانستن گزاره، دانستن رابطه، و توانایی حرکت استدلالی بر روی رابطه.
ممکن است مدل بداند که «الف، شرط ب است.»
اما از این گزاره سه انتظار متفاوت می‌توان داشت:
۱. بتواند همان گزاره را بازگو کند؛
۲. بتواند توضیح دهد «الف» چه نسبتی با «ب» دارد؛
۳. بتواند در یک مسئله جدید تشخیص دهد که آیا حرکت از «ب» به «الف» معتبر است یا خیر.
این سه توانایی الزاماً هم‌زمان حاصل نمی‌شوند.
یک خطر جدی‌تر: تبدیل رابطه یک‌سویه به رابطه دوسویه
در فقه و اصول، روابط متعددی وجود دارند که نمی‌توان بدون توجه به حدودشان آنها را رفت‌وبرگشتی فرض کرد:
سبب و مسبب؛
شرط و مشروط؛
موضوع و حکم؛
وصف و حکم؛
مقتضی و مقتضا؛
ملازمه؛
دلالت لفظ و مدلول؛
و در برخی موارد، رابطه میان منطوق و مفهوم.
در همه این موارد یک احتیاط مشترک لازم است از اینکه یک گزاره از A به B حرکت می‌کند، نمی‌توان بدون بررسی نوع رابطه نتیجه گرفت که از B نیز می‌توان به A بازگشت.
این جمله البته یک قاعده منطقی ساده نیست که در همه موارد بتوان با نماد «A→B» خلاصه‌اش کرد. اتفاقاً یکی از دشواری‌های کار فقهی همین‌جاست. «شرط»، «سبب»، «موضوع»، «ملازمه» و «دلالت» هرکدام معنای تخصصی خود را دارند و جهت استدلال در آنها تابع همان معنای تخصصی است.
بنابراین اگر مدل زبانی این تفاوت‌ها را نادیده بگیرد، خطای آن صرفاً یک «اشتباه در اطلاعات فقهی» نخواهد بود؛ ممکن است نوع رابطه فقهی را تغییر داده باشد.
تصور کنید پژوهشگری از مدل درباره یک مسئله عبادی سؤال می‌کند و مدل پاسخی می‌دهد که در ظاهر کاملاً فقیهانه است. اصطلاحات درست‌اند، منابع هم شاید درست به نظر برسند و گزاره اصلی نیز با یکی از مباحث شناخته‌شده فقهی سازگار باشد.
اما پژوهشگر یک قدم دیگر برنمی‌دارد.از خود نمی‌پرسد:«اگر این رابطه را از جهت معکوس بررسی کنم، آیا همان نتیجه باقی می‌ماند؟» همین‌جا ممکن است مدل از یک رابطه معتبر، نتیجه‌ای بسازد که در متن اصلی هرگز وجود نداشته است. برای نمونه:
«الف شرط تحقق ب است.»
مدل در پاسخ نخست این رابطه را درست بیان می‌کند. اما هنگامی که در مسئله‌ای جدید با «ب» مواجه می‌شود، ممکن است «الف» را به‌عنوان لازمه آن نتیجه معرفی کند؛ در حالی که باید ابتدا مشخص شود سخن از چه نوع شرطی است، آیا شرط لازم است یا کافی، آیا رابطه در همان قلمرو باقی است، آیا استثنا دارد و اساساً آیا گزاره مورد بحث ناظر به همان صورت مسئله است یا خیر.
در چنین وضعی، خطر اصلی آن نیست که مدل «یک کلمه را اشتباه گفته است». خطر آن است که رابطه‌ای که فقیه با آن استدلال می‌کند، در فرایند تولید پاسخ دستخوش تغییر شده باشد.
یک سوءتفاهم مهم درباره Reversal Curse
البته نباید هر استدلال معکوس نادرستی را Reversal Curse نامید. اگر مدل بگوید «چون A موجب B است، پس هرجا B وجود داشت A نیز وجود دارد»، ممکن است صرفاً مرتکب یک استنتاج معکوس نامعتبر شده باشد. این با Reversal Curse دقیقاً یکی نیست. ریورسال کورس در اصل به یک پدیده مربوط به تعمیم و بازیابی رابطه آموخته‌شده در جهت معکوس اشاره دارد. بنابراین در پژوهش فقهی باید میان دست‌کم سه وضعیت فرق گذاشت:
اول: مدل رابطه را در جهت نخست می‌داند، اما در بازیابی معکوس دچار مشکل می‌شود؛ این نزدیک‌ترین وضعیت به Reversal Curse است.
دوم: مدل رابطه را می‌داند، اما در استدلال جدید، عکس نادرست یک گزاره را نتیجه می‌گیرد؛ این بیشتر یک خطای استدلالی است.
سوم: مدل اساساً رابطه فقهی را درست تشخیص نداده است؛ مثلاً شرط را با سبب، یا موضوع را با علت، یا ملازمه را با تلازم منطقی یکی گرفته است.
این تفکیک برای پژوهش فقهی بسیار مهم است؛ زیرا همه این خطاها در خروجی نهایی ممکن است شبیه یکدیگر به نظر برسند.
چرا این پدیده برای پژوهشگر فقه مهم است؟
فقه فقط این نیست که بدانیم:
«فلان حکم چیست.»
بلکه باید دانست:
«این حکم بر چه موضوعی مترتب است؟»
«چه چیزی سبب آن است؟»
«چه چیزی شرط آن است؟»
«آیا این رابطه لازم است یا کافی؟»
«آیا می‌توان از ثبوت حکم به ثبوت موضوع بازگشت؟»
«آیا این رابطه در تمام فروض برقرار است یا فقط در فرض خاصی؟»
یک مدل زبانی می‌تواند پاسخ‌هایی تولید کند که از نظر ادبی و اصطلاح‌شناختی بسیار قانع‌کننده‌اند، اما در ساختار رابطه‌ای خود نیازمند آزمون بیشتری هستند. شاید یکی از مفیدترین عادت‌ها در کار فقهی با مدل‌های زبانی این باشد که پژوهشگر پس از دریافت یک پاسخ، همان رابطه را از جهت دیگر نیز بیازماید. تفصیل این تکنیک نیازمند مجال مبسوط تری است که تفصیل آن موکول به فرصت‌های آتی است.
و همین تفصیلات شاید همان تغییری باشد که باید در تلقی ما از «سواد کار با هوش مصنوعی» در پژوهش فقهی ایجاد شود. مسئله فقط این نیست که پژوهشگر بداند چگونه سؤال دقیق‌تری از مدل بپرسد؛ باید بداند چگونه پاسخ مدل را از حیث ساختار رابطه‌ای نیز مورد آزمون قرار دهد.
از این جهت یک هشدار کوچک اما مهم این است:
پاسخ درست، لزوماً نشانه آن نیست که مدل رابطه درست را در اختیار دارد؛ گاهی باید مدل را وادار کرد از همان رابطه، از سمت دیگر نیز عبور کند.
نظرات