VAE (Variational Autoencoder, 変分オートエンコーダ) | CVMLエキスパートガイド
cvml-expertguide.net/terms/dl/deep-generative-model/vae/
1 Users
0 Comments
5 Highlights
0 Notes
Tags
Top Highlights
VAEは，オートエンコーダのボトルネック部 � を「(多変数)正規分布」と仮定したときに，潜在変数 � と 観測データ � の間の写像関数2つを，それぞれニューラルネットの仕組みで学習可能にした「(連続)複数潜在変数付きのグラフィカルモデル」である
伝統的なEMアルゴリズムに似た学習アルゴリズムでVAEも学習すると「一般化」して同一視・比較ができていると，VAEについて深く理解しやすい．
VAEは「潜在変数を予測するEncoderも同時に学習できる」のが，GANと構造を比較した時に，最も異なる点である．
VAEとGANは相互補完的な関係にある．従ってVAE-GAN [Larsen et al., 2016]のように，VAEのDecoderとGANのGeneratorを同一のものとみなして2者を組み合わせると，お互いの短所を補った良いモデルを作りやすい．
VAEでは，ELBOの最大化により，変分ベイズ学習であるAEVBを行う(4章)．End-to-End学習することにより，中間層 � が多次元正規分布をサンプリングするので，そのままだとEnd-to-Endに逆伝播できない．そこで，再パラメータ化トリックを導入して，平均と標準偏差はサンプリングしないで済むようにした．
Ready to highlight and find good content?
Glasp is a social web highlighter that people can highlight and organize quotes and thoughts from the web, and access other like-minded people’s learning.