نمایش منبع در پاسخ هوش مصنوعی

پاسخ روان یک مدل زبانی می‌تواند هم درست باشد و هم اشتباه، با همان اعتمادبه‌نفس. اگر محصول فقط متن را نشان بدهد، کاربر راهی برای تشخیص ندارد. نمایش منبع و سطح اطمینان چیزی بیش از زیبایی است: به کاربر می‌گوید چه چیزی را کجا بررسی کند و تا چه حد اعتماد کند. این مقاله طراحی تجربهٔ راستی‌آزمایی و عدم‌قطعیت را شرح می‌دهد.

مرجع: فصل «Explainability + Trust» از People + AI Guidebook گوگل و مستندات citations در Anthropic، خوانده‌شده در ۱۹ اکتبر ۲۰۲۶؛ و صفحهٔ RAG در Google Cloud. نمونه‌های رابط و قواعد عملی توصیهٔ نویسنده‌اند مگر به منبع نسبت داده شده باشند. یک احتیاط جدی: «سطح اطمینان» عددی که خود مدل اعلام می‌کند لزوماً کالیبره نیست و ما منبعی نداریم که آن را قابل‌اتکا بداند؛ بنابراین توصیه می‌کنیم اطمینان را از سیگنال‌های قابل‌سنجش بسازید، نه از «اعتماد» ادعایی مدل. برای اصول کلی تجربهٔ کاربری UX چیست را ببینید.

چرا منبع و عدم‌قطعیت؟

PAIR می‌گوید کاربران نباید همیشه به سامانهٔ AI اعتماد کنند، بلکه باید اعتمادشان را «کالیبره» کنند؛ هم «بی‌اعتمادی به نرم‌افزار» و هم «اعتماد بیش‌ازحد» مشکل است. نشان‌دادن اینکه یک پیش‌بینی ممکن است غلط باشد اعتماد به آن پیش‌بینی را کم می‌کند، اما در بلندمدت کاربر کمتر دچار ناامیدی ناشی از اعتماد زیاد می‌شود و به محصول بیشتر تکیه می‌کند. RAG هم برای همین است: Google Cloud هدف را «پایه‌گذاری» پاسخ بر واقعیت‌های بازیابی‌شده می‌داند، و پایه‌گذاری فقط وقتی برای کاربر ارزش دارد که قابل‌دیدن باشد.

نمایش منبع

قابلیت citations در Anthropic نمونهٔ خوبی از ساختار ارجاع است: پاسخ به چند بلوک متنی تقسیم می‌شود و هر ادعا فهرستی از ارجاع به محل دقیق دارد: شمارهٔ صفحه برای PDF، بازهٔ نویسه برای متن ساده، یا اندیس بلوک برای محتوای سفارشی. ارجاع‌ها طبق مستندات به سندهای ارائه‌شده اشاره می‌کنند و فقط ارجاع متنی پشتیبانی می‌شود. اگر از API دیگری استفاده می‌کنید، همین ساختار را خودتان بسازید: هر قطعهٔ بازیابی‌شده شناسهٔ سند، عنوان، بخش و نسخه دارد، و پاسخ فهرست قطعه‌های استفاده‌شده را برمی‌گرداند. الگوهای نمایش (توصیهٔ نویسنده):

• ارجاع درون‌خطی: شمارهٔ کوچک کنار ادعا که با کلیک، قطعه‌ٔ منبع را باز می‌کند.
• پنل منابع: فهرست سندها با عنوان، تاریخ و نسخه.
• نقل مستقیم: نمایش جملهٔ منبع، نه فقط لینک به سند طولانی.
• برچسب تازگی: «به‌روزشده در …» برای سندهای حساس به زمان.
• نمایش منبع‌نداشتن: اگر پاسخ از منبع نیامده، صریح بنویسید.

مهم: ارجاع «وجود دارد» با «ادعا را پشتیبانی می‌کند» یکی نیست. ساختار ارجاع معتبر در API فقط تضمین می‌کند اشاره‌گر به سند ارائه‌شده درست است (طبق مستندات Anthropic)، نه اینکه محتوای نقل‌شده واقعاً ادعا را ثابت کند. ارزیابی نمونه‌ای انسانی لازم است.

سطح اطمینان

PAIR توصیه می‌کند توضیح‌ها اعتماد را کالیبره کنند و بپذیرند کمبود داده می‌تواند کیفیت را اثر بگذارد: «شجاع باشید و بگویید کمبود داده ممکن است بر توصیه اثر بگذارد». برای محصول مبتنی بر LLM (توصیهٔ نویسنده):

از نمایش یک «درصد اطمینان» دقیق (مثل ۹۲٪) بدون کالیبراسیون و اعتبارسنجی پرهیز کنید؛ کاربر آن را کمیت علمی می‌داند. به‌جای عدد، سطح‌های کیفی روشن («منبع مستقیم»، «منبع غیرمستقیم»، «بدون منبع») و رفتار مشخص برای هر سطح تعریف کنید. این تعریف سطح‌ها باید با eval تأیید شود: از پاسخ‌های «منبع مستقیم» نمونه بگیرید و ببینید واقعاً درست‌اند.

توضیح را به اقدام ببندید

PAIR می‌گوید بهترین زمان توضیح، پاسخ به اقدام کاربر است. در مثال: کاربر می‌پرسد و پاسخ همراه منبع و «بر اساس سند ۳ و ۵» می‌آید؛ اگر کاربر روی «پاسخ نادرست بود» کلیک کند، پرسشی می‌پرسید «کدام بخش؟» و بازخورد به دیتاست ارزیابی می‌رود. PAIR همچنین می‌گوید منابع داده را روشن بگویید: دامنه (چه داده‌ای از کاربر استفاده شد)، دامنهٔ اثر (شخصی‌سازی یا جمعی) و امکان حذف. اگر دستیار از داده شخصی کاربر استفاده می‌کند، بگویید و راه خروج بدهید.

حالت‌های ویژه

• پاسخ بدون منبع: متن «منبع مستقیمی پیدا نشد» و پیشنهاد جست‌وجوی دستی یا تماس با پشتیبان؛ مثل حالت‌های خالی و خطا در Empty، Error و Loading State.
• ناسازگاری منابع: هر دو را نشان دهید و تاریخ و نسخه را بیاورید.
• منبع غیرقابل‌دسترس: کاربر اجازهٔ دیدن سند را ندارد؟ ارجاع را پنهان نکنید ولی بگویید دسترسی لازم است (مرز دسترسی).
• خطای اعتبارسنجی ارجاع: پاسخ را رد یا برچسب بزنید.

همهٔ این بخش‌ها باید برای کاربران با ناتوانی هم قابل‌استفاده باشد: ارجاع‌ها با صفحه‌کلید قابل‌پیمایش، متن جایگزین برای آیکن‌ها و کنتراست کافی (Accessibility).

مثال ساختگی

دستیار راهنمای مالیاتی یک شرکت فرضی: کاربر می‌پرسد «مهلت ارسال فرم چیست؟». پاسخ: «طبق راهنمای رسمی (نسخهٔ ۳، به‌روز در ماه جاری)، مهلت … است [۱]». کنار پاسخ: برچسب «منبع مستقیم»، دکمهٔ «نمایش متن منبع» و پیوند «گزارش خطا». اگر سند پیدا نشود: «منبع مستقیمی پیدا نشد؛ این پاسخ عمومی است و باید با سازمان مرجع تطبیق داده شود.» نکته: این مثال دربارهٔ طراحی رابط است و هیچ ادعای مالیاتی ندارد.

سنجش اثر

• نرخ کلیک روی ارجاع و زمان راستی‌آزمایی.
• نرخ «پاسخ اشتباه بود» به تفکیک سطح اطمینان؛ اگر برچسب «منبع مستقیم» هم خطای زیاد دارد، سطح‌بندی را اصلاح کنید.
• تغییر اعتماد و رضایت کاربران (نظرسنجی کوتاه).
• نرخ پاسخ‌های بدون منبع.

اشتباهات رایج

• نمایش عدد اطمینان کالیبره‌نشده.
• لینک به سند ۵۰ صفحه‌ای به‌جای نقل دقیق.
• باور اینکه وجود ارجاع یعنی پاسخ درست است.
• پنهان‌کردن «منبع نداریم» از ترس کاهش اعتماد.
• ارجاع به سندی که کاربر دسترسی ندارد بدون توضیح.
• نداشتن مسیر بازخورد.

چک‌لیست

1. هر پاسخ مستند ارجاع به قطعهٔ دقیق منبع، عنوان و نسخه دارد.
2. سطح‌های کیفی «منبع مستقیم/غیرمستقیم/بدون منبع» تعریف و با eval تأیید شده است.
3. برای «بدون منبع»، ناسازگاری و منبع غیرقابل‌دسترس رفتار تعریف شده است.
4. عدد اطمینان کالیبره‌نشده نمایش داده نمی‌شود.
5. بازخورد «اشتباه بود» به دیتاست ارزیابی می‌رود.
6. دامنه و حذف داده شخصی در توضیح آمده است.
7. ارجاع‌ها قابل‌دسترس (صفحه‌کلید، کنتراست) هستند.
8. نمونه‌ای از ارجاع‌ها به‌صورت انسانی بازبینی می‌شود.

منابع و مراجع

• People + AI Guidebook: Explainability + Trust — Google PAIR، 2026-10-19.
• Citations — Anthropic (Claude Platform Docs)، 2026-10-19.
• What is Retrieval-Augmented Generation (RAG)? — Google Cloud.