پنجره زمینه
Context Window
تعریف کوتاه
حداکثر حجم متنی که مدل زبانی می‌تواند هم‌زمان در حافظه خود نگه دارد و پردازش کند.
پنجره زمینه مانند حافظه کوتاه‌مدت مدل است؛ هرچه بزرگ‌تر باشد، مدل می‌تواند گزارش‌های طولانی‌تر، کد بیشتر یا گفت‌وگوهای مفصل‌تری را یک‌جا ببیند. این حجم بر حسب توکن سنجیده می‌شود و مدل‌های امروزی از چند هزار تا میلیون‌ها توکن را پشتیبانی می‌کنند.
پنجره بزرگ همیشه بهتر نیست: متن خیلی طولانی هزینه بیشتر و گاهی دقت کمتر به همراه دارد و اطلاعات ابتدای متن ممکن است کم‌رنگ شود. هنر شما مدیریت همین پنجره است: خلاصه‌سازی گفت‌وگوهای قدیمی، جداکردن اسناد مهم و استفاده از RAG برای آوردن فقط اطلاعات مرتبط.
واژه‌های مرتبط
توکن
واحد شکستن متن در مدل‌های زبانی که تقریباً معادل یک واژه یا بخشی از آن است و مبنای محاسبه هزینه.
مدل زبانی بزرگ
مدل هوش مصنوعی که روی حجم عظیمی از متن آموزش دیده و می‌تواند متن بنویسد، خلاصه کند، ترجمه کند و کد تولید کند.
تولید تقویت‌شده با بازیابی (RAG)
روشی که مدل زبانی را به منابع داده بیرونی وصل می‌کند تا پاسخ‌ها بر پایه اطلاعات واقعی و به‌روز تولید شوند.