Open23

AIで生成したVR180画像の限界(自分が出来る範囲)を知る

itojunitojun

流れとしては、画像を生成する
使用モデル:Suzumehachi

ポジティブプロンプト:modern living room, contemporary interior design, minimalist furniture, clean lines, neutral color palette, large windows, natural light, open space, stylish decor, high-quality materials

ネガティブプロンプト:people, text, watermark, signature, low quality, blurry, out of focus, bad anatomy, deformed, extra limbs, cropped, duplicate, error, jpeg artifacts, worst quality

深度画像を作成する

その深度を基に両眼でフィットするような画像を作成する

ただこれだけだと、二枚画像が横に並んだだけなので空間にいるように見えない

itojunitojun

VR180画像を作ろう
VR180画像とは
Googleが策定したVRコンテンツの新しい規格で、立体視180度VR動画のための標準的なフォーマット
従来の360度VR動画と比較して、撮影や編集が簡易であり、データ容量も抑えられる
前方180度のみをカバーし、後方は表示されない
左右の目に異なる映像を提供することで、深度感のある3D体験できる

作成したいもの

itojunitojun

LORAを使おう
Low-Rank Adaptation
既存のモデルに特定のスタイルや特徴を追加するための技術
使用LORA:Fisheye

itojunitojun

LORAを使用して画像生成
(<lora:fisheye2:1>をポジティブプロンプトに追加)

LORAを入れても全然魚眼画像になってくれない

itojunitojun

めっちゃ魚眼レンズだよってプロンプトを追加する
Vignetting, Fisheye ,Fisheye Lens, Fisheye Black circular edge, Distortion, Circular, Panorama, Curvature, Immersive, Wide-angle, Surreal, Spherical, Lens-flare
いい感じなった

itojunitojun

最初と同じように、深度画像・VR180画像を作成

itojunitojun

何かもやもやする

  • 視点が低い
  • 水平・垂直が撮影した画像の方がきれいに見える
itojunitojun

作成したものは以下のような感じ

ポジティブプロンプト: <lora:vr180_lora:1>vr180
ネガティブプロンプト:
いいとこ

  • vr180と設定するだけでいい感じに魚眼にしてくれる

課題

  • 画像にカメラレンズが映り込んでいたため、完全な円ではなく、カメラのレンズが映り込むような構図になってしまった
itojunitojun

最初の設定で再度生成
ポジティブプロンプト: <lora:vr180_lora:1>vr180, modern living room, contemporary interior design, minimalist furniture, clean lines, neutral color palette, large windows, natural light, open space, stylish decor, high-quality materials
ネガティブプロンプト:people, text, watermark, signature, low quality, blurry, out of focus, bad anatomy, deformed, extra limbs, cropped, duplicate, error, jpeg artifacts, worst quality

あんまりよくない
vr180を強調する→(((vr180)))とすることで重みが1.331倍になる

itojunitojun

以下が作成した画像

カメラのレンズに建物内が少し引っ張られている。
カメラの画像が必要なのではなく、空間の垂直・水平がどのように変形するかを教えてあげた方がよさそう
一応めっちゃ魚眼だよって教えてあげてもこんな感じ

itojunitojun

どうするか
試し1

この画像に対して、魚眼フィルターをかける
出来たもの↓

itojunitojun

何かがおかしい
vrで見ても歪んでいる

itojunitojun


このようなマスクを作成し、INPAINTでもっと外側の空間まで表現してみる

itojunitojun


あんまりまろやかに画像を補完しない

itojunitojun

ControlnetのINPAINT機能があるらしいのでそれを試す

ちょっとは?といった形

itojunitojun


inpaintとdepth両方使って画像を生成
以外といい感じになってきた?
VRで見てみる
いつもと同じ工程だが、あんまり深度がきれいに撮れていない