هذیان مدل (Hallucination) چیست؟ توضیح ساده و کاربردی

واژه‌های تخصصی، درِ ورود به هر حوزه‌اند؛ وقتی «هذیان مدل» را درست بفهمید، نصف راه یادگیری آن حوزه را رفته‌اید. این تعریف ساده بخشی از واژه‌نامه هوش مصنوعی امروزینو است.

هذیان مدل به زبان ساده

تولید پاسخ نادرست یا ساختگی توسط مدل زبانی با لحنی کاملاً مطمئن. آگاهی از این ضعف، ضرورت راستی‌آزمایی خروجی‌های هوش مصنوعی را نشان می‌دهد.

چرا دانستنش مهم است؟

این مفهوم در تصمیم‌های روزمره حوزه هوش مصنوعی مدام تکرار می‌شود؛ نادیده گرفتنش یعنی تصمیم‌گیری ناقص.

هذیان مدل با یک مثال عددی

از مدل بپرسید: «رأی دیوان عالی دربارهٔ پروندهٔ X چیست؟» و جوابی می‌گیرید با شمارهٔ پرونده، سال و نام ژورنال حقوقی — که هیچ‌کدام وجود ندارد. اعداد و مشخصاتِ کاملاً معتبر به نظر می‌رسند چون از الگوی واقعیِ استنادها ساخته شده‌اند؛ فقط به یک پروندهٔ واقعی اشاره نمی‌کنند. این داستان اختصاصی نیست: در سال ۲۰۲۳ وکیلی در آمریکا به دادگاه شش آرای ساختگیِ تولیدشده توسط چت‌بات ارائه کرد و ۵ هزار دلار جریمه شد — پرونده‌ای که «هذیان مدل» را از اصطلاح فنی به خبر صفحهٔ اول تبدیل کرد. در پاسخ‌های بلندِ بدون منبع، سهم جواب‌های بی‌پایه به چند درصد می‌رسد و دقیقاً همین‌جاست که راستی‌آزمایی حیاتی می‌شود.

کاربردهای واقعی در ۲۰۲۶

• راستی‌آزمایی خودکار خروجی: ابزارهایی که هر ادعای مهم خروجی مدل را با منبع بیرونی چک می‌کنند و علامت می‌گذارند.
• طراحی RAG برای پاسخ مستند: سازمان‌ها مدل را به اسناد واقعی خودشان وصل می‌کنند تا پاسخ‌ها ارجاع داشته باشند، نه حدس.
• سواد هوش مصنوعی سازمانی: آموزش کارکنان برای «منبع‌خواهی» از خروجی مدل — همان‌قدر که از یک کارآموز تازه‌کار.

اشتباه رایج در فهم هذیان مدل

«مدل دروغ می‌گوید» — تعبیر غلط و گمراه‌کننده. دروغ گفتن به قصد و آگاهی نیاز دارد؛ مدل هیچ‌کدام را ندارد. مدل ادامهٔ «محتمل» متن را می‌سازد؛ وقتی در داده‌های آموزشی پاسخِ درست حضور نداشته، محتمل‌ترین ادامه، ساختن چیزی شبیهِ واقعیت است. همین فقدانِ قصد است که خطر را دوطرفه می‌کند: مدل نه می‌داند دروغ می‌گوید، نه می‌داند چه زمانی نمی‌داند — و با همان لحن مطمئنِ همهٔ جواب‌هایش می‌گویدش.

تفاوت با خطای انسانی

انسانِ صادق وقتی چیزی را نمی‌داند می‌گوید «نمی‌دانم» یا حدسش را علامت می‌زند؛ فراموشی‌اش هم جای مشخصی دارد. مدلِ زبانی برعکس: هیچ سهمی از «نمی‌دانم» در فرهنگ لغتش نیست مگر آنکه پرامپت و طراحی سیستم این را از او بخواهد، و خطایش یکنواخت و با اعتمادبه‌نفسِ کامل است. برای همین با مدل باید مثل منبع خبری ناشناس رفتار کرد، نه مثل همکار قابل‌اعتماد: هر ادعا، تا مستند نشود، حدس است.

مفاهیم مرتبط

• بیش‌برازش چیست؟
• پارامتر مدل چیست؟
• خلاصه‌سازی خودکار چیست؟
• مهندسی ویژگی چیست؟

جمع‌بندی

هذیان مدل (Hallucination) را حالا می‌شناسید؛ قدم بعدی، دیدن این مفهوم در عمل است. برای عمق بیشتر، مطالب بخش هوش مصنوعی را دنبال کنید.

سؤالات پرتکرار

هذیان مدل چیست و به چه دردی می‌خورد؟

تولید پاسخ نادرست یا ساختگی توسط مدل زبانی با لحنی کاملاً مطمئن. آگاهی از این ضعف، ضرورت راستی‌آزمایی خروجی‌های هوش مصنوعی را نشان می‌دهد.

هذیان مدل برای چه کسانی مهم است؟

برای هر کسی که می‌خواهد در حوزه هوش مصنوعی حرف‌های باتخصص‌تر بزند و تصمیم‌های بهتر بگیرد.

هذیان مدل را چطور تشخیص بدهم؟

سه نشانه: جزئیاتِ بیش‌ازحد دقیق (شماره، تاریخ، نام) که هیچ‌کدام در جست‌وجو پیدا نمی‌شوند؛ ارجاع به منابعی که عنوانشان «کاملاً منطقی» است اما وجود خارجی ندارد؛ و جواب روان و مطمئن به سؤالی خیلی خاص و کمیاب. درمان ساده: هر عدد و نام و منبع را مستقل راستی‌آزمایی کنید.

هذیان مدل کاملاً حذف می‌شود؟

در آیندهٔ قابل‌دیدن، نه؛ مدیریت می‌شود. کاهش سه ابزار دارد: اتصال به منابع واقعی (RAG)، محدودکردن مدل به «فقط از روی اسناد جواب بده»، و لایهٔ راستی‌آزمایی جداگانه. هدف عملی ۲۰۲۶ این است که نرخ هذیان به حدی برسد که با بازبینی نمونه‌ای قابل کنترل باشد.

در استفادهٔ روزمره چطور هذیان مدل را تشخیص بدهم؟

سه نشانهٔ هشدار: عدد و تاریخ و نام‌هایی که هیچ‌جا قابل راستی‌آزمایی نیستند، ارجاع به منبعی که وجود ندارد، و پاسخِ خیلی روان به پرسشی خیلی خاص. عادتِ مطمئن این است: هر عدد، نقل‌قول و نامی که قرار است در خروجی شما منتشر شود، مستقل چک شود؛ بقیهٔ متن را می‌توان با یک مرور سریع رد کرد. هذیان معمولاً در جزئیات رخ می‌دهد، نه در کلیات.

مطالب مرتبط

• چت‌بات (Chatbot) چیست؟ توضیح ساده و کاربردی
• زنجیره تفکر (Chain of Thought) چیست؟ توضیح ساده و کاربردی
• مدل با وزن باز (Open-Weights Model) چیست؟ توضیح ساده و کاربردی
• رگرسیون (Regression) چیست؟ توضیح ساده و کاربردی
• یادگیری عمیق (Deep Learning) چیست؟ توضیح ساده و کاربردی
• شبکه عصبی (Neural Network) چیست؟ توضیح ساده و کاربردی