🪨
【Unity】シェーダーでひびを入れる［その2：ジオメトリシェーダー編］

masamin
2025/02/20に公開
前回の記事でフラグメントシェーダーでひびを入れるシェーダーを作りました。

今回は更にひびっぽさを出すために、モデル変形に踏み込みます。

前回の記事はこちら。

https://zenn.dev/lilytechlab/articles/518b5e29738f9b

 頂点シェーダーで凹ませる前回の記事ではフラグメントシェーダー内でひびが入った後の座標を計算しています。

これを頂点シェーダーで行い、頂点の座標を変更してしまえば、ひび部分の頂点を移動させることができます。
シェーターでひびを入れるコード頂点シェーダーでひびを入れる処理
struct v2f {
    float4 positionCS : SV_POSITION;
    float2 uv : TEXCOORD0;
    float3 positionOS : TEXCOORD1;
    float3 normalOS : NORMAL;
    float3 normalWS : TEXCOORD2;
    float crackLevel : TEXCOORD3;
};

// GetCrackLevel()はその1のコードに同じ

/**
 * ひびが入った後の座標を計算する
 */
float3 CalcCrackedPos(float3 localPos, float3 localNormal, float3 worldNormal, out float crackLevel) {
    // ひび対象の場合は法線と逆方向に凹ませる
    crackLevel = (_CrackProgress == 0 || dot(worldNormal, GetViewForwardDir()) > 0.5) ? 0.0 : GetCrackLevel(localPos);
    float depth = crackLevel * _CrackDepth;
    localPos -= localNormal * depth;

    return localPos;
}

/**
 * 頂点シェーダー
 */
v2f Vert(Attributes input) {
    v2f output;

    output.positionOS = input.positionOS.xyz;
    output.normalOS = input.normalOS;

    Varyings varyings = LitPassVertex(input);
    output.uv = varyings.uv;
    output.normalWS = varyings.normalWS;

    output.positionOS = CalcCrackedPos(output.positionOS, output.normalOS, output.normalWS, output.crackLevel);
    output.positionCS = TransformObjectToHClip(output.positionOS);

    return output;
}
ポリゴンが細かい場合はこれでも対応可能かもしれません。
UnityのSphereでこんな感じ。



これ、ひびって言える…？
当たり前の話ですが、頂点単位でしか座標をいじれないので、かなり大雑把なひびになります。

ワイヤーフレームを表示するとポリゴン単位で凹んでいることがよくわかりますね。

フラグメントシェーダーでも座標計算を行うようにすると幾らかマシにはなります。

Sphere位のポリゴン数だとまだ頑張ってる感じですが、Cubeになるともうひび表現としての機能を果たしてくれません。


 ジオメトリシェーダーで凹ませる頂点を凹ませてひびっぽくするにはある程度のポリゴン数が必要ということがわかったので、ポリゴンを増やすようにしてみます。
ジオメトリシェーダーを使って、ポリゴンの三角形の重心と、各辺の中点に頂点を増やすようにしました。
ジオメトリシェーダーで頂点を増やすコードジオメトリシェーダーで頂点を増やす処理
struct v2g {
    float4 positionOS : POSITION;
    float2 uv : TEXCOORD0;
    float3 normalOS : NORMAL;
    float3 normalWS : TEXCOORD1;
};

struct g2f {
    float4 positionCS : SV_POSITION;
    float2 uv : TEXCOORD0;
    float3 initNormalOS : NORMAL;
    float3 initNormalWS : TEXCOORD1;
    float3 positionOS : TEXCOORD2;
    float3 initPositionOS: TEXCOORD3;
    float crackLevel : TEXCOORD4;
};

/**
 * ジオメトリシェーダー内で利用するパラメータ格納用の構造体
 */
struct geoParam {
    v2g input;
    g2f output;
};

/**
 * [ジオメトリシェーダー用]
 * ひびが入った後の座標計算を行い、フラグメントシェーダー用の構造体データを生成する
 */
g2f CreateG2F(v2g input) {
    g2f output;

    // 頂点がひび模様に重なる場合は凹ませる
    output.initPositionOS = input.positionOS.xyz;
    output.initNormalOS = input.normalOS;
    output.positionOS = CalcCrackedPos(input.positionOS.xyz, input.normalOS, input.normalWS, output.crackLevel);

    output.initNormalWS = input.normalWS;
    output.positionCS = TransformObjectToHClip(output.positionOS);
    output.uv = input.uv;

    return output;
}

/**
 * [ジオメトリシェーダー用]
 * パラメータをジオメトリシェーダーの返却値となるTriangleStreamに追加する
 */
void SetTriVerticesToStream(geoParam param[3], inout TriangleStream<g2f> outStream) {
    [unroll]
    for (int i = 0; i < 3; i++) {
        outStream.Append(param[i].output);
    }

    outStream.RestartStrip();
}

/**
 * ジオメトリシェーダー
 */
[maxvertexcount(18)]
void Geom(triangle v2g input[3], inout TriangleStream<g2f> outStream) {
    geoParam params[3];

    [unroll]
    for (int i = 0; i < 3; i++) {
        params[i].input = input[i];
        params[i].output = CreateG2F(params[i].input);
    }

    geoParam centerPos = (geoParam)0;
    centerPos.input.positionOS.xyz = (params[0].input.positionOS.xyz + params[1].input.positionOS.xyz + params[2].input.positionOS.xyz) / 3;
    centerPos.input.positionOS.w = params[0].input.positionOS.w;
    centerPos.input.normalOS = normalize((params[0].input.normalOS + params[1].input.normalOS + params[2].input.normalOS) / 3);
    centerPos.input.normalWS = TransformObjectToWorldNormal(centerPos.input.normalOS);
    centerPos.output = CreateG2F(centerPos.input);

    [unroll]
    for (i = 0; i < 3; i++) {
        int nextIdx = (i == 2) ? 0 : i + 1;

        geoParam midPoint = (geoParam)0;
        midPoint.input.positionOS.xyz = (params[i].input.positionOS.xyz + params[nextIdx].input.positionOS.xyz) / 2;
        midPoint.input.positionOS.w = params[i].input.positionOS.w;
        midPoint.input.normalOS = normalize((params[i].input.normalOS + params[nextIdx].input.normalOS) / 2);
        midPoint.input.normalWS = TransformObjectToWorldNormal(midPoint.input.normalOS);
        midPoint.output = CreateG2F(midPoint.input);

        geoParam args[3];
        args[0] = centerPos;
        args[1] = params[i];
        args[2] = midPoint;
        SetTriVerticesToStream(args, outStream);

        args[0] = centerPos;
        args[1] = midPoint;
        args[2] = params[nextIdx];
        SetTriVerticesToStream(args, outStream);
    }
}


かなり削れている感じが出ました。
ワイヤーフレームを表示してみると、ちゃんと分割されているのがわかります。

フラグメントシェーダーでも再計算を行うと雰囲気が大分変わります。

どちらも使えそうなので、求める表現やモデルの形状によって見栄えの良い方を選ぶことができそうです。

 見栄えチェック
 並べてみた左から下記の順でひび計算を行なったものです。
フラグメントシェーダーのみ
頂点シェーダー + フラグメントシェーダー
ジオメトリシェーダー
ジオメトリシェーダー + フラグメントシェーダー
まずは全て同じパラメータ。

こちらはそれぞれ見栄えが良くなるようにひび具合のパラメータを軽く調整したもの。

ジオメトリシェーダーのみと、ジオメトリ+フラグメントを見比べると、ジオメトリシェーダーのみの方がローポリ感は出ますが、削れているのがしっかりとわかって面白い表現になるかなと思います。

 他のモデルだと…Unityの組み込みオブジェクトだとジオメトリシェーダーのみで耐えられるのはSphereがギリギリなようです。
Cubeは分割数が足らず、まだひび表現としての機能を果たしません。

潰れた箱を表現するには良さそう。
Planeはジオメトリシェーダだけでは謎の影ができてしまいますが、フラグメントシェーダーでもひび計算を行うと、ひび部分の立体感が増して雰囲気が出てきます。


 コード全文コード全文です。

ライティングはLitシェーダーの関数を利用しています。
ひび入れシェーダー(ジオメトリシェーダー編)コード全文ひび入れシェーダー(ジオメトリシェーダー編)
Shader "Custom/Crack" {
    Properties {
        [Header(Albedo)]
        [MainColor] _BaseColor("Base Color", Color) = (1.0, 1.0, 1.0, 1.0)
        [MainTexture] _BaseMap("Base Map", 2D) = "white" {}

        [Header(Metallic and Smoothness)]
        _Smoothness("Smoothness", Range(0.0, 1.0)) = 0.0
        _Metallic("Metallic", Range(0.0, 1.0)) = 0.0

        [Header(Crack)]
        _CrackProgress("クラック進行具合", Range(0.0, 1.0)) = 0.0
        [HDR] _CrackColor("クラック色", Color) = (0.0, 0.0, 0.0, 1.0)
        _CrackDetailedness("クラック模様の細かさ", Range(0.0, 8.0)) = 3.0
        _CrackDepth("クラックの深さ", Range(0.0, 1.0)) = 0.5
        _CrackWidth("クラックの幅", Range(0.001, 0.1)) = 0.05
        _CrackWallWidth("クラックの壁部分の幅", Range(0.001, 0.2)) = 0.08
        // フラグメントシェーダーでクラック対象かどうかの再計算を行うかどうか
        [Toggle] _DrawsCrackWithPixelUnit("ピクセル単位でクラック模様の再計算を行うか", Int) = 0

        [Space]
        _RandomSeed("クラック模様のランダムシード(非負整数のみ可)", Int) = 0
    }

    SubShader {
        Tags {
            "RenderType" = "Opaque"
            "RenderPipeline" = "UniversalPipeline"
            "UniversalMaterialType" = "Lit"
        }
        LOD 300

        HLSLINCLUDE
        #include "Packages/com.unity.render-pipelines.universal/ShaderLibrary/Core.hlsl"
        ENDHLSL

        Pass {
            Name "Crack"
            Tags { "LightMode" = "UniversalForward" }

            HLSLPROGRAM

            // -------------------------------------
            // Material Keywords
            #pragma shader_feature_local_fragment _ALPHATEST_ON
            #pragma shader_feature_local_fragment _ALPHAPREMULTIPLY_ON
            #pragma shader_feature_local_fragment _SPECULARHIGHLIGHTS_OFF
            #pragma shader_feature_local_fragment _ENVIRONMENTREFLECTIONS_OFF
            #pragma shader_feature_local_fragment _SPECULAR_SETUP
            #pragma shader_feature_local _RECEIVE_SHADOWS_OFF

            // -------------------------------------
            // Universal Pipeline keywords
            #pragma multi_compile _ _MAIN_LIGHT_SHADOWS
            #pragma multi_compile _ _MAIN_LIGHT_SHADOWS_CASCADE
            #pragma multi_compile _ _ADDITIONAL_LIGHTS_VERTEX _ADDITIONAL_LIGHTS
            #pragma multi_compile_fragment _ _ADDITIONAL_LIGHT_SHADOWS
            #pragma multi_compile_fragment _ _SHADOWS_SOFT

            //--------------------------------------
            // GPU Instancing
            #pragma multi_compile_instancing


            #include "Packages/com.unity.render-pipelines.universal/Shaders/LitInput.hlsl"
            #include "Packages/com.unity.render-pipelines.universal/Shaders/LitForwardPass.hlsl"

            #pragma vertex Vert
            #pragma geometry Geom
            #pragma fragment Frag

            #pragma require geometry


            // ---------------------------------------------------------------------------------------
            // 変数宣言
            // ---------------------------------------------------------------------------------------
            float _CrackProgress;
            half4 _CrackColor;
            float _CrackDetailedness;
            float _CrackDepth;
            float _CrackWidth;
            float _CrackWallWidth;
            bool _DrawsCrackWithPixelUnit;
            uint _RandomSeed;


            // ---------------------------------------------------------------------------------------
            // 構造体
            // ---------------------------------------------------------------------------------------
            struct v2g {
                float4 positionOS : POSITION;
                float2 uv : TEXCOORD0;
                float3 normalOS : NORMAL;
                float3 normalWS : TEXCOORD1;
            };

            struct g2f {
                float4 positionCS : SV_POSITION;
                float2 uv : TEXCOORD0;
                float3 initNormalOS : NORMAL;
                float3 initNormalWS : TEXCOORD1;
                float3 positionOS : TEXCOORD2;
                float3 initPositionOS: TEXCOORD3;
                float crackLevel : TEXCOORD4;
            };

            /**
             * ジオメトリシェーダー内で利用するパラメータ格納用の構造体
             */
            struct geoParam {
                v2g input;
                g2f output;
            };


            // ---------------------------------------------------------------------------------------
            // メソッド
            // ---------------------------------------------------------------------------------------
            /**
             * Xorshift32を用いて32bitの擬似乱数を生成する
             */
            uint Xorshift32(uint value) {
                value = value ^ (value << 13);
                value = value ^ (value >> 17);
                value = value ^ (value << 5);
                return value;
            }

            /**
             * 整数の値を1未満の小数にマッピングする
             */
            float MapToFloat(uint value) {
                const float precion = 100000000.0;
                return (value % precion) * rcp(precion);
            }

            /**
             * 3次元のランダムな値を算出する
             */
            float3 Random3(uint3 src, int seed) {
                uint3 random;
                random.x = Xorshift32(mad(src.x, src.y, src.z));
                random.y = Xorshift32(mad(random.x, src.z, src.x) + seed);
                random.z = Xorshift32(mad(random.y, src.x, src.y) + seed);
                random.x = Xorshift32(mad(random.z, src.y, src.z) + seed);

                return float3(MapToFloat(random.x), MapToFloat(random.y), MapToFloat(random.z));
            }

            /**
             * 指定した座標に対して、ボロノイパターンの最も近いランダム点と、2番目に近いランダム点を取得する
             */
            void CreateVoronoi(float3 pos, out float3 closest, out float3 secondClosest, out float secondDistance) {
                // セル番号が負の値とならないようにオフセット加算
                const uint offset = 100;
                uint3 cellIdx;
                float3 reminders = modf(pos + offset, cellIdx);

                // 対象地点が所属するセルと隣接するセル全てに対してランダム点との距離をチェックし
                // 1番近い点と2番目に近い点を見付ける
                float2 closestDistances = 8.0;

                [unroll]
                for(int i = -1; i <= 1; i++)
                [unroll]
                for(int j = -1; j <= 1; j++)
                [unroll]
                for(int k = -1; k <= 1; k++) {
                    int3 neighborIdx = int3(i, j, k);

                    // そのセル内でのランダム点の相対位置を取得
                    float3 randomPos = Random3(cellIdx + neighborIdx, _RandomSeed);
                    // 対象地点からランダム点に向かうベクトル
                    float3 vec = randomPos + float3(neighborIdx) - reminders;
                    // 距離は全て二乗で比較
                    float distance = dot(vec, vec);

                    if (distance < closestDistances.x) {
                        closestDistances.y = closestDistances.x;
                        closestDistances.x = distance;
                        secondClosest = closest;
                        closest = vec;
                    } else if (distance < closestDistances.y) {
                        closestDistances.y = distance;
                        secondClosest = vec;
                    }
                }

                secondDistance = closestDistances.y;
            }

            /**
             * 指定した座標がボロノイ図の境界線となるかどうかを0～1で返す
             */
            float GetVoronoiBorder(float3 pos, out float secondDistance) {
                float3 a, b;
                CreateVoronoi(pos, a, b, secondDistance);

                /*
                 * 以下のベクトルの内積が境界線までの距離となる
                 * ・対象地点から、1番近いランダム点と2番目に近い点の中点に向かうベクトル
                 * ・1番近い点と2番目に近い点を結ぶ線の単位ベクトル
                 */
                float distance = dot(0.5 * (a + b), normalize(b - a));

                return 1.0 - smoothstep(_CrackWidth, _CrackWidth + _CrackWallWidth, distance);
            }

            /**
             * 指定した座標のひび度合いを0～1で返す
             */
            float GetCrackLevel(float3 pos) {
                // ボロノイ図の境界線で擬似的なひび模様を表現
                float secondDistance;
                float level = GetVoronoiBorder(pos * _CrackDetailedness, secondDistance);

                /*
                 * 部分的にひびを消すためにノイズを追加
                 * 計算量が少なくて済むようにボロノイのF2(2番目に近い点との距離)を利用する
                 * 距離が一定値以下の場合はひび対象から外す
                 */
                float f2Factor = 1.0 - sin(_CrackProgress * PI * 0.5);
                float minTh = (2.9 * f2Factor);
                float maxTh = (3.5 * f2Factor);
                float factor = smoothstep(minTh, maxTh, secondDistance * 2.0);
                level *= factor;

                return level;
            }

            /**
             * ひびが入った後の座標を計算する
             */
            float3 CalcCrackedPos(float3 localPos, float3 localNormal, float3 worldNormal, out float crackLevel) {
                crackLevel = (_CrackProgress == 0 || dot(worldNormal, GetViewForwardDir()) > 0.5) ? 0.0 : GetCrackLevel(localPos);

                // ひび対象の場合は法線と逆方向に凹ませる
                float depth = crackLevel * _CrackDepth;
                localPos -= localNormal * depth;

                return localPos;
            }

            /**
             * [ジオメトリシェーダー用]
             * ひびが入った後の座標計算を行い、フラグメントシェーダー用の構造体データを生成する
             */
            g2f CreateG2F(v2g input) {
                g2f output;

                // 頂点がひび模様に重なる場合は凹ませる
                output.initPositionOS = input.positionOS.xyz;
                output.initNormalOS = input.normalOS;
                output.positionOS = CalcCrackedPos(input.positionOS.xyz, input.normalOS, input.normalWS, output.crackLevel);

                output.initNormalWS = input.normalWS;
                output.positionCS = TransformObjectToHClip(output.positionOS);
                output.uv = input.uv;

                return output;
            }

            /**
             * [ジオメトリシェーダー用]
             * パラメータをジオメトリシェーダーの返却値となるTriangleStreamに追加する
             */
            void SetTriVerticesToStream(geoParam param[3], inout TriangleStream<g2f> outStream) {
                [unroll]
                for (int i = 0; i < 3; i++) {
                    outStream.Append(param[i].output);
                }

                outStream.RestartStrip();
            }

            /**
             * [フラグメントシェーダー用]
             * CrackLevelに応じたOcclusionを算出する
             */
            half CalcOcclusion(float crackLevel) {
                // ひびの深さに応じて影を濃くする
                half occlusion = pow(lerp(1.0, 0.90, crackLevel), 2.0);
                // ひびが深い部分で、隣接ピクセルの高低差が大きい場合は影を濃くする
                occlusion *= (crackLevel > 0.95 ? lerp(0.9, 1.0, 1.0 - smoothstep(0.0, 0.1, max(abs(ddy(crackLevel)), abs(ddx(crackLevel))))) : 1.0);

                return occlusion;
            }


            // ---------------------------------------------------------------------------------------
            // シェーダー関数
            // ---------------------------------------------------------------------------------------
            /**
             * 頂点シェーダー
             */
            v2g Vert(Attributes input) {
                v2g output;

                output.positionOS = input.positionOS;
                output.normalOS = input.normalOS;

                Varyings varyings = LitPassVertex(input);
                output.normalWS = varyings.normalWS;
                output.uv = varyings.uv;

                return output;
            }

            /**
             * ジオメトリシェーダー
             */
            [maxvertexcount(18)]
            void Geom(triangle v2g input[3], inout TriangleStream<g2f> outStream) {
                geoParam params[3];

                [unroll]
                for (int i = 0; i < 3; i++) {
                    params[i].input = input[i];
                    params[i].output = CreateG2F(params[i].input);
                }

                geoParam centerPos = (geoParam)0;
                centerPos.input.positionOS.xyz = (params[0].input.positionOS.xyz + params[1].input.positionOS.xyz + params[2].input.positionOS.xyz) / 3;
                centerPos.input.positionOS.w = params[0].input.positionOS.w;
                centerPos.input.normalOS = normalize((params[0].input.normalOS + params[1].input.normalOS + params[2].input.normalOS) / 3);
                centerPos.input.normalWS = TransformObjectToWorldNormal(centerPos.input.normalOS);
                centerPos.output = CreateG2F(centerPos.input);

                [unroll]
                for (i = 0; i < 3; i++) {
                    int nextIdx = (i == 2) ? 0 : i + 1;

                    geoParam midPoint = (geoParam)0;
                    midPoint.input.positionOS.xyz = (params[i].input.positionOS.xyz + params[nextIdx].input.positionOS.xyz) / 2;
                    midPoint.input.positionOS.w = params[i].input.positionOS.w;
                    midPoint.input.normalOS = normalize((params[i].input.normalOS + params[nextIdx].input.normalOS) / 2);
                    midPoint.input.normalWS = TransformObjectToWorldNormal(midPoint.input.normalOS);
                    midPoint.output = CreateG2F(midPoint.input);

                    geoParam args[3];
                    args[0] = centerPos;
                    args[1] = params[i];
                    args[2] = midPoint;
                    SetTriVerticesToStream(args, outStream);

                    args[0] = centerPos;
                    args[1] = midPoint;
                    args[2] = params[nextIdx];
                    SetTriVerticesToStream(args, outStream);
                }
            }

            /**
             * フラグメントシェーダー
             */
            half4 Frag(g2f input) : SV_Target {
                float crackLevel = input.crackLevel;
                float3 positionOS = _DrawsCrackWithPixelUnit ? CalcCrackedPos(input.initPositionOS, input.initNormalOS, input.initNormalWS, crackLevel) : input.positionOS;
                float3 positionWS = TransformObjectToWorld(positionOS);

                // 隣接のピクセルとのワールド座標の差分を取得後に外積を求めて法線算出
                float3 normalWS = crackLevel > 0.0 ? normalize(cross(ddy(positionWS), ddx(positionWS))) : input.initNormalWS;

                Varyings varyings = (Varyings)0;
                varyings.positionCS = input.positionCS;
                varyings.uv = input.uv;
                varyings.positionWS = positionWS;
                varyings.normalWS = normalWS;

                SurfaceData surfaceData;
                InitializeStandardLitSurfaceData(input.uv, surfaceData);

                OUTPUT_SH(normalWS, varyings.vertexSH);

                InputData inputData;
                InitializeInputData(varyings, surfaceData.normalTS, inputData);
                inputData.normalWS = crackLevel > 0.0 ? normalWS : inputData.normalWS;
                inputData.vertexLighting = VertexLighting(positionWS, inputData.normalWS);


                /* ひび模様 */
                // ひび対象の場合はクラックカラーを追加
                surfaceData.albedo = lerp(surfaceData.albedo, _CrackColor.rgb, crackLevel);

                // ひび部分はAO設定
                surfaceData.occlusion = min(surfaceData.occlusion, CalcOcclusion(crackLevel));

                half4 color = UniversalFragmentPBR(inputData, surfaceData);

                clip(color.a <= 0 ? -1 : 1);

                return color;
            }
            ENDHLSL
        }
    }

    FallBack "Universal Render Pipeline/Lit"
}

 もっと分割したい頂点移動でひびらしさを出すには、ポリゴン分割数をもっと増やす必要がありそうです。

しかし、ジオメトリシェーダーでどんどん分割数を増やしていくのは以下の理由で厳しいです。

 頂点数の制限ジオメトリシェーダーの maxvertexcount に設定できる頂点数には、「頂点数 * 1頂点の要素数 <= 1024」という制限があります。

現在のコードだと、以下の計算になります。
// 出力する構造体の要素数
float4 + float2 + float3 + float3 + float3 + float3 + float → 19
// 関数呼び出し1回で生成できるポリゴンの頂点数の最大値
1024 / 19 ≒ 53個
まだ余裕がありそうに見えますが、三角形単位で頂点を登録していくため、頂点を1個増やすだけでも登録数がかなり増加し、結構すぐに制限に引っかかってしまいます。

 追加する頂点の場所の見極めが難しいループ処理でどんどん重心に頂点を増やしていくパターンを試しましたが、三角形の辺の方も短くしないと、ひび部分の折れ曲がりのガタガタが残ったままとなってしまいました。

色々なパターンで頂点を増やして試してみたいところではありますが、その都度コードを書き換えるのはなかなかに手間です。

また、実際にシェーダーを使用する際にはモデルに合わせて分割数を変えたいので、シェーダープロパティで指定された分割数に応じて良い感じの分割パターンを決めるというのも大変そうです。

 テッセレーションシェーダーに期待テッセレーションシェーダーであれば、外部から分割数を指定して柔軟なポリゴン分割ができそうです。

ということで次回に続きます。
https://zenn.dev/lilytechlab/articles/a083aad2460432