توهمات هوش مصنوعی (AI Hallucinations) | علت‌ها و راهکارهای پیشگیری

توهمات هوش مصنوعی (AI Hallucinations) چیست و چگونه از آن پیشگیری کنیم؟

هوش مصنوعی (AI) یکی از بزرگ‌ترین دستاوردهای فناوری در دهه اخیر است. با وجود پیشرفت‌های چشمگیر، این فناوری همچنان با یک چالش مهم به نام توهمات هوش مصنوعی (AI Hallucinations) روبه‌رو است. این پدیده زمانی اتفاق می‌افتد که مدل‌های هوش مصنوعی اطلاعات غلط یا ساختگی را با اطمینان کامل به‌عنوان حقیقت بیان می‌کنند.

با گسترش استفاده از مدل‌های زبانی بزرگ (LLM) در حوزه‌هایی مثل آموزش، حقوق، پزشکی و تولید محتوا، موضوع «توهمات AI» به یکی از دغدغه‌های اصلی کارشناسان تبدیل شده است. در این مطلب، به زبان ساده اما با نگاهی تخصصی، علت‌ها، انواع و روش‌های پیشگیری از این پدیده را بررسی می‌کنیم.

مدل‌های زبانی بزرگ چگونه کار می‌کنند؟

مدل‌های زبانی بزرگ مانند GPT-4، Claude و Google PaLM بر پایه معماری «ترنسفورمر» ساخته شده‌اند و با میلیاردها کلمه آموزش دیده‌اند. آن‌ها از ساختاری به نام «بردار واژه» استفاده می‌کنند که به جای معنای انسانی، روابط آماری بین کلمات را ثبت می‌کند.

این مدل‌ها توانایی انجام کارهایی مثل ترجمه، تولید متن، پیش‌بینی ادامه جملات و پاسخ به پرسش‌ها را دارند. با این حال، همان‌طور که توانمند هستند، گاهی نیز ممکن است دچار «خطای ساختگی» شوند.

تعریف توهمات هوش مصنوعی

توهمات AI یا Confabulation زمانی رخ می‌دهد که مدل، اطلاعات جعلی را به‌عنوان واقعیت ارائه می‌کند. دلایل رایج این اتفاق شامل:

• داده‌های آموزشی ناکافی یا قدیمی

• وجود سوگیری یا تناقض در داده‌ها

• عدم وجود اطلاعات زمینه‌ای کافی در ورودی کاربر

• ناتوانی مدل در درک اصطلاحات عامیانه، طنز یا ابهام

انواع توهمات AI

1. توهمات بسته (Closed-Domain): مدل موظف است فقط از اطلاعات یک متن خاص استفاده کند اما داده‌های اضافی غیرواقعی اضافه می‌کند.

2. توهمات باز (Open-Domain): مدل بدون وابستگی به ورودی خاص، اطلاعات نادرست درباره جهان ارائه می‌دهد.

اشکال رایج توهمات

• تناقض جمله‌ای (جملات متضاد در یک پاسخ)

• تناقض با دستور کاربر

• تناقض factual (ارائه داده جعلی به‌عنوان حقیقت)

• اطلاعات تصادفی یا بی‌ربط

راهکارهای پیشگیری از توهمات AI

• استفاده از داده‌های آموزشی متنوع و باکیفیت

• نوشتن پرامپت‌های دقیق و شفاف

• افزودن اطلاعات زمینه‌ای کافی به پرسش‌ها

• جلوگیری از بیش‌برازش (Overfitting)

• تعریف نقش مشخص برای مدل (مثلاً «تحلیل‌گر حقوقی»)

• شکستن درخواست‌ها به مراحل کوچک‌تر

• تعیین محدوده محتوای مجاز و غیرمجاز

• انتخاب مدل مناسب؛ گزارش‌ها نشان می‌دهد GPT-4 حدود ۱۹٪ کمتر از GPT-3.5 دچار توهم می‌شود و مدل‌های RAG عملکرد بهتری دارند.

جمع‌بندی

توهمات هوش مصنوعی نه‌تنها یک مشکل فنی، بلکه یک چالش اخلاقی و اجتماعی است. برای استفاده ایمن و مؤثر از AI، باید با دلایل این خطاها آشنا شویم و روش‌های کاهش آن را به کار بگیریم. دنیای آینده با هوش مصنوعی پیوند خورده و کنترل این پدیده، شرط موفقیت آن است.