مدل‌های سازنده مبتنی بر جریان - ویکی‌پدیا، دانشنامهٔ آزاد

تعریف[ویرایش]

مدل سازنده مبتنی بر جریان نوعی مدل سازنده است که در یادگیری ماشین استفاده می‌شود که یک توزیع احتمال را با اعمال جریان نرمال‌سازی^[۱] مدل می‌کند. این یک روش آماری با استفاده از قانون تغییر متغیر احتمالات برای تبدیل یک توزیع ساده به یک توزیع پیچیده‌است. مدل‌سازی مستقیم احتمال مزایای بسیاری دارد و نمونه‌های جدید را می‌توان با نمونه برداری از توزیع اولیه و اعمال تبدیل جریان تولید کرد. در مقابل مدل سازنده مبتنی بر جریان، بسیاری از روش‌های مدل‌سازی سازنده جایگزین مانند خودرمزگذار متغیر (VAE) و شبکه‌های سازنده تخاصمی تابع احتمال را نشان نمی‌دهند.

نحوه کارکرد[ویرایش]

این روش شبیه به خودرمزگذار متغیر است با این تفاوت که به جای استفاده از رمزگذار و رمزگشا از یک جریان معکوس پذیر استفاده می‌شود. به این صورت که به جای رمزگذاری، جریان، ورودی را به فضای داده انتقال می‌دهد و سپس معکوس جریان، خروجی را تولید می‌کند. هدف این است که خروجی و ورودی کمترین تفاوت را با یکدیگر داشته باشند. پس از یادگیری به این روش، مدل باید قادر باشد تا با گرفتن یک بردار ویژگی از فضا و استفاده از معکوس جریان، خروجی معقولی تولید کند.

انواع[ویرایش]

انواع مختلفی از این مدل‌ها وجود دارد. در اینجا به توضیح دو مورد از مهم‌ترین نمونه‌ها می‌پردازیم.

• Real Non-Volume Preserving (Real NVP):^[۲]

این مدل کلی‌شده نوع دیگری از مدل‌های مبتنی بر جریان به نام NICE است. روابط آن به صورت زیر می‌باشد:

${\displaystyle x={\begin{bmatrix}x_{1}\\x_{2}\end{bmatrix}}=f_{\theta }(z)={\begin{bmatrix}z_{1}\\e^{-s_{\theta }(z_{1})}\odot z_{2}\end{bmatrix}}+{\begin{bmatrix}0\\m_{\theta }(z_{1})\end{bmatrix}}}$

معکوس آن ${\displaystyle z_{1}=x_{1},z_{2}=e^{-s_{\theta }(x_{1})}\odot (x_{2}-m_{\theta }(x_{1}))}$ و ژاکوبین آن ${\displaystyle \prod _{i=1}^{n}e^{s_{\theta }(z_{1,})}}$ است. که ${\displaystyle z}$ در آن خروجی جریان و ${\displaystyle m_{\theta }}$ هر شبکه عصبی با وزن‌های ${\displaystyle \theta }$ است.

نقشه Real NVP نیمه اول و دوم بردار ${\displaystyle x}$ را جدا نگه می‌دارد، معمولاً باید بعد از هر لایه Real NVP یک جایگشت به صورت ${\displaystyle (x_{1},x_{2})\mapsto (x_{2},x_{1})}$ اضافه شود.

• Generative Flow (Glow) (جریان سازنده):^[۳]

در این مدل، هر لایه ۳ قسمت دارد.

• تبدیل وابسته به کانال با فرمول
  $${\displaystyle y_{cij}=s_{c}(x_{cij}+b_{c})}$$

  

و ژاکوبین${\displaystyle \prod _{c}s_{c}^{HW}}$

• کانولوشن 1x1 معکوس پذیر با فرمول

$${\displaystyle z_{cij}=\sum _{c'}K_{cc'}y_{cij}}$$

${\displaystyle \det(K)^{HW}}$

${\displaystyle K}$

• Real NVP که بالاتر توضیح داده شد.

علت استفاده از لایه کانولوشن معکوس پذیر 1x1 استفاده از جایگشت همه لایه‌هاست. (برخلاف Real NVP که تنها از جایگشت نیمه‌های اول و دوم استفاده می‌کند)

مشکلات و کمبودها[ویرایش]

علی‌رغم اینکه نرمال سازی جریان‌ها در تخمین چگالی‌های ابعاد بالا موفق بوده‌است، برخی از جنبه‌های منفی هنوز در آنها وجود دارد. اول از همه، فضای پنهان آنها که در آن داده‌های ورودی بر روی آن پیش‌بینی می‌شود، فضایی با ابعاد پایین‌تر نیست و بنابراین، مدل‌های مبتنی بر جریان به‌طور پیش فرض اجازه فشرده سازی داده‌ها را نمی‌دهند و به محاسبات زیادی نیاز دارند. با این حال، هنوز امکان فشرده سازی تصویر با آنها وجود دارد.^[۴] همچنین این مدل‌ها در تخمین احتمال نمونه‌های خارج از توزیع (نمونه‌هایی که از توزیع مشابه داده‌های یادگیری استخراج نشده‌اند)^[۵] ناموفق هستند. برخی فرضیه‌ها به توضیح این پدیده می‌پردازند که از جمله آنها فرضیه مجموعه معمولی است.

یکی از جالب‌ترین ویژگی‌های نرمال‌سازی جریان‌ها، معکوس‌پذیری جریان آنهاست. این ویژگی توسط محدودیت‌هایی در طراحی مدل‌ها داده می‌شود که وارونگی نظری را تضمین می‌کنند. یکپارچگی معکوس به منظور اطمینان از کاربردی بودن قضیه تغییر متغیر، محاسبه ژاکوبین جریان و همچنین نمونه برداری با مدل مهم است. با این حال، در عمل این برگشت‌پذیری نقض می‌شود.

کاربردها[ویرایش]

مدل‌های مولد مبتنی بر جریان در کاربردهای مختلفی استفاده شده‌اند، از جمله:

• تولید صدا^[۶]
• تولید تصویر^[۳]
• تولید گراف مولکولی^[۷]
• مدل‌سازی نقطه-ابر^[۸]
• تولید ویدیو^[۹]
• فشرده سازی تصویر^[۱۰]

جستارهای وابسته[ویرایش]

• مدل سازنده
• یادگیری ماشین
• نرمال‌سازی
• خودرمزگذار متغیر
• شبکه‌های سازنده تخاصمی
• ژاکوبین

منابع[ویرایش]