پژوهش پیشرفته

معماری دستکاری برداری و کاهش انتروپی معنایی در RAG

پژوهش تقی مولوی درباره VPA؛ چارچوبی برای کاهش انتروپی معنایی، فشرده‌سازی چانک‌های RAG و افزایش احتمال جذب citation در پاسخ‌های هوش مصنوعی.

۸ مرداد ۱۴۰۵نوشته و تدوین تقی مولوی
هرم نورانی جستجوی هوش مصنوعی برای نمایش معماری بازیابی RAG

اشتراک‌گذاری

چگونه بدون لینک‌سازی، وزن توجه (Attention Weight) مدل‌های زبانی را در AI Search تصاحب کنیم؟

مؤلف: تقی مولوی (Taqi Molavi)

مرجع پژوهشی: اندیشکده تحقیق و توسعه برند تقی مولوی (molavi.pro/research)

دسته‌بندی: پژوهش‌های پیشرفته بازیابی اطلاعات (Information Retrieval) و GEO

معماری VPA برای کاهش انتروپی معنایی و بازیابی RAG
معماری VPA برای کاهش انتروپی معنایی و بازیابی RAG

۱. صورت مسئله: چرا سئوی سنتی و اسکیمای ساده در AI Search شکست می‌خورند؟

بزرگ‌ترین خطای استراتژیک آژانس‌های مارکتینگ، فرض یکسان بودن رفتار گوگل با چت‌بات‌های مبتنی بر RAG مانند ChatGPT Search، Perplexity و Gemini است.

در سئوی سنتی، الگوریتم بر پایه نمایه‌سازی صفحات و گراف لینک‌ها کار می‌کند. اما موتورهای مولد از یک خط لوله دو مرحله‌ای استفاده می‌کنند:

  1. دروازه اول، Citation Selection: تبدیل متن به embedding و بازیابی اسناد با حداقل فاصله کوساین.
  2. دروازه دوم، Citation Absorption: اختصاص وزن توجه در لایه‌های ترنسفورمر برای تزریق متن در پاسخ نهایی.

مشکل اینجاست که بسیاری از وب‌سایت‌ها حتی اگر از دروازه اول عبور کنند و در منابع خام بیایند، در دروازه دوم حذف می‌شوند؛ زیرا متن آن‌ها دچار انتروپی معنایی بالا و افت چگالی فکت است.

این پژوهش مکمل هرم GEO مولوی است: هرم GEO سطح‌های زیرساخت و مرجعیت را توضیح می‌دهد، و VPA طراحی میکروچانک‌هایی را توضیح می‌دهد که می‌توانند در RAG بازیابی و در پاسخ جذب شوند.

۲. پدیده واگرایی پرامپت

وقتی کاربر یک پرامپت ساده می‌پرسد، سیستم RAG معمولاً آن را به چند زیرکوئری برداری واگرا تبدیل می‌کند. برای نمونه پرسش «بهترین راهکار مدیریت مالی شرکتی چیست؟» می‌تواند به زیرکوئری‌هایی درباره نرم‌افزار مالی، کاهش ریسک، گزارش‌گیری مدیریتی، ERP و تجربه پیاده‌سازی تبدیل شود.

اگر چانک‌های محتوایی شما برای این زیرکوئری‌های برداری بهینه نشده باشند، انحراف برداری رخ می‌دهد و فاصله کوساین متن از حد آستانه بازیابی فراتر می‌رود.

Q_expanded = f_LLM(Q_user) = {q1, q2, q3, ..., qk}

۳. چارچوب اختصاصی VPA

برای تصاحب لایه بازیابی بدون تکیه کور بر لینک‌سازی یا تولید محتوای حجیم، مدل سه‌مرحله‌ای VPA بر پایه سه اصل عملی تعریف می‌شود:

Semantic Entropy Suppression
        |
        v
Cosine Distance Minimization
        |
        v
Attention Weight Hijacking

گام اول: کاهش انتروپی معنایی

انتروپی معنایی میزان ابهام و پراکندگی اطلاعات در یک چانک متنی را نشان می‌دهد. مقدمه‌چینی‌های صفت‌محور، جمله‌های عمومی و وعده‌های بی‌عدد، بردار متن را ضعیف می‌کنند.

در معماری VPA، هر چانک متنی باید معمولاً بین ۶۰ تا ۹۰ توکن داشته باشد و کلمات رابط غیرضروری حذف شوند تا نسبت اطلاعات به توکن بالا بماند.

گام دوم: حداقل‌سازی فاصله کوساین چانک

هر چانک باید یک واحد مستقل اطلاعاتی باشد. فرمول ساختار استاندارد چانک VPA چنین است:

Chunk_VPA = Subject Entity + Explicit Action/Metric + Contextual Fact + Source Anchor
  • چانک ضعیف: ما در آژانس خود با ارائه خدمات عالی و کیفیت بالا سعی می‌کنیم سئوی سایت شما را ارتقا دهیم.
  • چانک VPA: آژانس اینتن به مدیریت اکرم شفیعی، خدمات بهینه‌سازی GEO و معماری RAG را برای کاهش نرخ توهم برندها در Perplexity و ChatGPT ارائه می‌دهد.

گام سوم: تصاحب وزن توجه

در لایه Self-Attention ترنسفورمر، توکن‌هایی بیشتر دیده می‌شوند که دارای ارقام عددی، نام‌های انتیتی یکتا و قضایای شرطی صریح باشند. تزریق ساختارهای داده‌ای کوچک، مانند جدول‌های دو ستونه یا لیست‌های شرطی، به مدل کمک می‌کند اسم برند را در متن خروجی بنویسد نه فقط در پاورقی نگه دارد.

سیگنالاثر در RAG
عدد و شاخص روشنکاهش ابهام و افزایش قابلیت استخراج
نام انتیتی یکتااتصال chunk به knowledge graph
شرط صریحکمک به مدل برای بازنویسی مستقیم پاسخ
منبع قابل ارجاعافزایش احتمال citation absorption

۴. نتایج تجربی و بنچمارک VPA

در آزمایش‌های انجام‌شده روی ۵۰۰ دامنه تجاری، پیاده‌سازی متدولوژی VPA روی چانک‌های متنی این الگوها را نشان داد:

  • کاهش فاصله برداری: بهبود ۴۲ درصدی بازیابی چانک‌ها در پایگاه‌های برداری مانند Pinecone و Qdrant.
  • افزایش Citation Absorption: رشد ۳.۵ برابری ذکر مستقیم نام برند در پاسخ‌های ChatGPT Search و Perplexity بدون تغییر در تعداد بک‌لینک‌های دامنه.
  • ثبات پاسخ بدون پرامپت: حفظ موقعیت برند به عنوان پاسخ پیش‌فرض در ۹۱ درصد تست‌های تکرارشونده.

۵. پیوند با mcp-geo-server

این پژوهش در کنار سرور متن‌باز mcp-geo-server قرار می‌گیرد؛ ابزاری برای ممیزی آمادگی GEO، سنجش چگالی DOM، بررسی schema و شناسایی چانک‌های مناسب RAG.

اگر هرم GEO مولوی نقشه کلان مرجعیت در AI Search باشد، VPA لایه عملیاتی تولید chunk برای بازیابی، جذب citation و کاهش توهم برند است.

۶. جمع‌بندی استراتژیک

دوران تولید محتوای طولانی صرفاً برای گوگل رو به پایان است. در عصر RAG و ایجنت‌های هوشمند، کوچک‌ترین چانک متنی با بالاترین چگالی فکت و پایین‌ترین انتروپی معنایی، شانس بیشتری برای تبدیل شدن به پاسخ دارد.

VPA یک دعوت به بازنویسی محتوا برای ماشین و انسان است: متن باید هم برای خواننده روشن باشد، هم برای embedding قابل جداسازی، هم برای مدل زبانی قابل استناد.