🧐

AIを使う際、コードを適用する前に意識して欲しいこと

に公開

はじめに

どうもK1mu21です

ちょうどFindyさんが主催のアーキテクチャカンファレンス2025の1日目に現地参加して、bitkeyさんのお話が面白かったのでこの記事を書いてみました

↓全エンジニアにおすすめbitkeyさんの発表内容

https://speakerdeck.com/bitkey/enabling-adaptable-ai-through-strategic-architecture

AIが人間を凌駕する そしてそれは 段階的に行われる
残るものは責任と信頼

この部分に特に共感を持ちました

皆さんはAIに対してはどういったスタンスで向き合っていますか。
とりあえず成果優先で物を完成させることを優先していますか?
AIは信頼できないものと捉えて常に疑いを向けて利用していますか?

一度スタンスを考えてみるきっかけにしていただきたくこの記事を書いてみました

皆さんなら以下のコードをAIが出力してきた場合Acceptしますか?

早速ですが質問です。皆さんは以下のコードをAIが出力してきたらどうしますか?
AcceptするかRejectするかの基準で判断してみてください!

Q1:消費税額の計算

main.go
func main() {
    price := 1000
    tax := 10
    taxAmount := math.Floor(float64(price) * float64(tax) / 100)
    fmt.Printf("%d円の%d%%の消費税は%.0f円です", price, tax, taxAmount)
}

↑のコードのGoPlayground

回答

このレベルならほとんどの人が特に気にせずレビューを通せるかと思います。
math.Floorも使って小数点以下の取り扱いも考慮してるのは個人的に評価できます

これくらい単純なコードであればGoに触れたことがない人でもすぐに調べればソースに辿り着きますし、誰でも問題なさそうかと判断できるのではないでしょうか?

(税計算はもっと複雑だぞ!という意見はごもっともですがそれはご愛嬌でお願いします🙇)

Q2:int型とfloat型の計算処理

main.go
func SumInts(nums []int) int {
    var sum int
    for _, v := range nums {
        sum += v
    }
    return sum
}

func SumFloats(nums []float64) float64 {
    var sum float64
    for _, v := range nums {
        sum += v
    }
    return sum
}

func main() {
    ints := []int{1, 2, 3, 4, 5}
    floats := []float64{1.0, 2.0, 3.0, 4.0, 5.0}

    fmt.Println("ints計算の結果: ", SumInts(ints))
    fmt.Println("floats計算の結果:", SumFloats(floats))
}

↑のコードのGoPlayground

回答

このコードはある程度の層から違和感に気づくコードかなと思っています。

違和感に気づける方だとSumIntsとSumFloatsがほぼ同じメソッドを利用しているので共通化できそう!であったり、同じパッケージ内にあるのにメソッドがPublicになってるといった指摘が挙げられるかと思います。

(書いておいてなんですが計算ロジックは別パッケージに分けた方がいいんですがね)

Goにはgenericsという機能がありメソッド共通化ができるので以下のように簡潔に記述することが可能です!

main.go
func sum[T int | float64](nums []T) T {
    var sum T
    for _, v := range nums {
        sum += v
    }
    return sum
}

func main() {
    ints := []int{1, 2, 3, 4, 5}
    floats := []float64{1.0, 2.0, 3.0, 4.0, 5.0}

    fmt.Println("intsの結果: ", sum[int](ints))
    fmt.Println("floatsの結果: ", sum[float64](floats))
}

↑のコードのGoPlayground

問のコード自体はプロダクトへのクリティカルな問題ではないので、リリース時期が迫っているなどの理由があれば許容するのも一つの手かと思います。

Q3:在庫関連Repositoryクラスの追加

状況によって使うコードが変わる場合もあると思うのであえてJavaのコードにしてみます

Stock.java
@Data
public class Stock {

    @Id
    private int stockID;

    private int productID;

    private int stock;
}
StockRepository.java
@Repository
public interface StockRepository extends JpaRepository<Stock, Integer> {

    @Query("SELECT s " 
        + "FROM Stock s " 
        + "WHERE " + "s.productID = :productID")
    Optional<Stock> findByProductID(@Param("productID") int productID);
}

回答

@Queryの文字列結合が複雑かと思いますが、Java17からTextBlock機能が追加されたので複数文字列を表現することができます!

@Query("""SELECT s 
        FROM Stock s 
        WHERE s.productID = :productID""")
Optional<Stock> findByProductID(@Param("productID") int productID);

他にはJPAを使っているので場合によっては@Queryを使う必要もなく...

Optional<Stock> findByProductID(int productID);

後のことを考えるとEntityがFatModelになることも考慮して、Projections InterfacesやDTOで結果を返すようにすることもできます!

他にも@Dataを使うのはカプセル化の観点から見たら不適切じゃないか?、JavaDocを書けといった指摘もできそうです。

JavaやSpring Frameworkのなどの機能を知っていなければどのような改善できるのかの判断が難しいと思います。

Q4:パスワードのハッシュ化

encrypt.go
import (
    "crypto/md5"
    "encoding/hex"
)

func hashPassword(password string) string {
    hasher := md5.New()
    hasher.Write([]byte(password))
    return hex.EncodeToString(hasher.Sum(nil))
}
回答

パスワードをハッシュ化してるから問題ないと思ったあなた、危ない道を渡ろうとしてるかもしれません!

md5は市販されているPCレベルで、比較的短時間で解読できることが確認されており利用が推奨されていません。
ipaの調査報告書

何を使うべきかは要件と電子政府推奨暗号リストを参考に選ぶようにしましょう。

また、追加でSaltとPepperを利用するとさらに強固にできるため漏洩リスクを減らせるかと思います。

意識してほしいこと

いかがでしたか?今回は皆さんにAIのコードを使うことの意味を考えていただきたく上のような問題を作成してみました!

1問目のような単純なものは基本的に問題ないと思います

2,3問目のような言語やフレームワークに関する知識を持っている必要がある場合、改善できる判断ができましたか?

4問目のようなプログラミングといった観点から離れたセキュリティに関する部分の判断は適切にできましたか?

2,3問目はどちらかというとリファクタリング的な側面が強いのでプロダクトに現状影響はありません。しかし、プロダクションコードは数年生き続けるので良い書き方を意識しないといわゆる技術的負債になってしまいます。
結果保守性や可読性の低下に繋がり、プロダクトに影響を与える可能性も生まれてしまいます

4問目に関してはセキュリティの話になるので利用するユーザーが大きな不利益を被るかもしれません。
そうなった場合は会社に対して損害賠償請求が発生したり、社会的な信頼の損失など自身の責任で多くの方に迷惑をかけてしまいます。

その際AIが作ったコードが悪さをしましたという理由は基本的に通じません。
AIは提案するだけで責任は取れず、責任が発生するのはそのコードをAcceptしたのは自分自身(+レビュー者)になります。

常にAIを利用した責任は自分に来るということを念頭置いて利用しましょう。

まとめ

AIは責任や倫理感を持ってはいません。
そのため嘘をつきますし、不適切なコードも出力します。人間がそれに対して全て正しい判断を下すことはほぼ不可能です.

不適切な判断を下した結果レビューコストが増えてしまい、開発リードタイムが落ちてしまう結果につながります

そのため間違った判断を減らして様々なコストを低減、リスクを回避するために、常日頃から知識を得ておくこと、調査、検証をしてみる姿勢を身につける意識が大切になります

補足

ここまでやや否定的な話をしましたが、自分はAIをもっと使うべきかと思っています
会社内のネットワークなど外部に出さないもの、自己開発など自身で責任が完結する場合は使って成果に繋げることができます!

特にPOCを作成、検証するといった目的にはより効果的だと思っているので、使い所を見極めて使いましょう!

GitHubで編集を提案

Discussion