Zenn
🐡

o1 proで実現する爆速＆正確なリバースエンジニアリング 💡

に公開
Visual Studio
リバースエンジニアリング
生成 AI
o1
tech

はじめに

このドキュメントでは、o1 pro を用いた超高速かつ正確なリバースエンジニアリング手法について解説します。リポジトリの全ファイルをまとめてテキスト化し、Visual Studio CodeとChatGPT Extensionを連携させることで、効率的なコード解析を実現します。

前提条件 ✅

リポジトリの一括解析を行うにあたって、以下の環境が整っているとスムーズです。

  • MacにChatGPTアプリがインストール済み（バージョン 1.2025.014 (1737150122)）
  • o1-proが利用できる状態（インストールまたは設定済み）
  • Python3がローカルで使用可能（スクリプトを実行するため）
  • Visual Studio Code がインストールされ、Work with Apps Visual Studio Code Extension などの必要な拡張機能が導入済み

概要 🚀

リバースエンジニアリングを効率的に進めるために、以下のポイントを押さえておきましょう。

  1. 対象リポジトリの全ファイルを1つにまとめる
  2. テキストデータとして解析しやすい形式にする
  3. Visual Studio Code + ChatGPT Extensionを利用して、リアルタイムにコードを調査・補完する

ここでは具体的に、Pythonスクリプトを使ってリポジトリ内部のファイルを1つのテキストファイルに結合し（バイナリファイルを除外）、ChatGPT Extensionを利用して解析する流れを紹介します。

o1 pro とは？ 🛠️

o1 pro は、高度な解析手法を備えたリバースエンジニアリングツール・プラットフォームの総称です。コンパイラやデバッガなど複数のツールを組み合わせることで、効率的な逆解析が可能になります。さまざまなバイナリ解析ツールとの連携や独自のプラグイン開発が必要になる場合もありますが、この記事では、リポジトリ全体を一括テキスト化するアプローチに着目し、高速化を図る方法を解説します。

使用するPythonスクリプト ✨

以下のPythonスクリプトでは、指定したディレクトリ以下のテキストファイルをすべて結合して、一つのテキストファイル(all_code_combined.txt)を出力します。バイナリファイルを判定してスキップするため、大規模リポジトリでも安全にまとめられる点が特徴です。

import os

# 出力ファイル名
output_file = "all_code_combined.txt"

# 対象ディレクトリ
target_dir = "."

# 無視するファイルやディレクトリ
ignored_dirs = {".git", "__pycache__"}
ignored_files = {output_file}

# ファイルがテキストかを確認する関数
def is_text_file(filepath):
    try:
        with open(filepath, "r", encoding="utf-8") as f:
            f.read(1024)
        return True
    except:
        return False

# 出力ファイルを作成
with open(output_file, "w", encoding="utf-8") as outfile:
    for root, dirs, files in os.walk(target_dir):
        # 無視するディレクトリを除外
        dirs[:] = [d for d in dirs if d not in ignored_dirs]
        # フォルダ名を出力
        outfile.write(f"--- Directory: {root} ---\n\n")
        for file in files:
            if file in ignored_files:
                continue
            file_path = os.path.join(root, file)
            # テキストファイルのみ処理
            if is_text_file(file_path):
                try:
                    outfile.write(f"--- File: {file_path} ---\n")
                    with open(file_path, "r", encoding="utf-8") as infile:
                        outfile.write(infile.read())
                        outfile.write("\n\n")
                except Exception as e:
                    outfile.write(f"Error reading {file_path}: {e}\n")
            else:
                outfile.write(f"Skipping binary file: {file_path}\n")

スクリプトの動作イメージ 🏃

  • .gitや__pycache__などのディレクトリを除外
  • バイナリファイルは Skipping binary file: というメッセージを表示してスキップ
  • ファイルパスを明示しながら、テキストファイルの内容を一括で all_code_combined.txt に書き込み

このスクリプトは対象ディレクトリ（target_dir = "."）を再帰的に走査するので、リポジトリのルートで実行するだけで済みます。

Pythonスクリプトの実行方法 🍀

スクリプトを実行する際には、以下のコマンドを使用します。

python all_combine_script.py

※ all_combine_script.py は上記で示したスクリプトのファイル名です。

実行すれば、わずか数秒ほど（通常のリポジトリ規模では5秒以内）でリポジトリ内の全行コードを一つのファイルにまとめられます。

Visual Studio Code + ChatGPT Extensionの活用 💻

ChatGPT Extension のインストール

Visual Studio Code には ChatGPT Extension といった拡張機能を導入できます。これにより、VSCode上で直接GPTとやり取りしながら、コードの読解や修正箇所の提案を得ることが可能になります。

all_code_combined.txt を読み込む

  1. 先ほどのスクリプトを使って、リポジトリ内のコードを1つにまとめる。
  2. all_code_combined.txt にリポジトリ全体のコードやスクリプトが統合される。
  3. Visual Studio CodeのChatGPT Extensionを開き、解析したいファイル（ここでは all_code_combined.txt）の内容を必要な範囲で選択して質問を行う。

これにより、膨大なファイル群を個別に調べる手間が省け、まとめてテキスト化した内容をChatGPTが迅速に検索・要約してくれます。

実際の画面例 🎨

下図は、Visual Studio Code上で all_code_combined.txt を開き、ChatGPT Extension（o1 proモード）を使ってリバースエンジニアリングを実行している様子です。メモリ管理アルゴリズムについての質問を投げかけたところ、エクステンションがファイルの中から関連情報を高速に検索している状態が確認できます。

shadPS4リポジトリの解析事例 🕵️

今回の例では、実際に GitHub 上の shadPS4 というリポジトリを解析対象として用いました。各種ソースコードを結合し、ChatGPT Extension上で実際に疑問点を投げかけてバグ修正のポイントなどを洗い出すことができます。

リバースエンジニアリングの具体的なやりとり例

リポジトリ全体をまとめた all_code_combined.txt を読み込んだ状態で、たとえば下記のように質問をします。

メモリ管理に関するアルゴリズムはどのように定義されているか

すると、ChatGPT Extension がファイル全体を参照し、要点をピックアップした回答を示してくれます。以下に要約の一部を示します。

以下は、本リポジトリ（shadPS4）に含まれる主なメモリ管理まわりのコード配置やアルゴリズムの概要です。プロジェクトとしては PS4 のメモリ空間をホスト上に再現しつつ、カーネル側やユーザープロセス側のアロケーション要求をエミュレーションするため、複数のコンポーネントでメモリ管理が行われています。

1. カーネル空間まわりのメモリ管理
	•	対応ファイル
src/core/libraries/kernel/memory.cpp / memory.h
src/core/libraries/kernel/kernel.cpp / kernel.h
など
	•	役割
	•	PS4 カーネルが行うようなメモリ割り当て（malloc 相当や、仮想アドレス領域の予約・マップ、解放など）をホスト OS の API（Windows なら VirtualAlloc/VirtualFree、Linux/macOS なら mmap/munmap など）を使って再現する。
	•	カーネルレベルのアロケーション要求があった場合に、PS4 のメモリマップをエミュレータ内部で一元管理する。
	•	ロック機構（spin_lock や mutex）を使いながら、複数スレッドからの割り当て要求を同期する。
	•	小さいブロックを多数確保する場合などは、後述の slab ベースの仕組み等も一部利用している（src/common/slab_heap.h も参照）。
	•	アルゴリズムの特徴（推測含む）
	•	PS4 エミュレーションで必要とされる「決まった物理アドレス領域」をホスト上に確保し、その範囲内でゲスト（PS4）向けにページテーブルを擬似的に管理している。
	•	カーネル空間とユーザープロセス空間の区別を、ホスト上の大きめの予約領域を分割して再現する。
	•	ページサイズやアライメントを PS4 相当に合わせながら、ホスト側のページ管理単位とマッピングしている。

2. ユーザープロセス向けのメモリ領域管理
	•	対応ファイル
src/core/address_space.cpp / address_space.h
src/core/loader.cpp / loader.h
など
	•	役割
	•	PS4 アプリ（ELF 形式）を読み込み、ユーザープロセスの仮想アドレス空間を構築する。
	•	ユーザープロセスが mmap 相当の呼び出しを行うと、対応するカーネル API が呼ばれ、内部で該当アドレス領域を割り当てる。
	•	メモリ保護属性（READ/WRITE/EXECUTE）やページ単位の割り当て・解放をエミュレーター内部で再現し、PS4 側の動作と整合をとる。
	•	アルゴリズムの特徴（推測含む）
	•	address_space クラス等では、ユーザープロセスが要求するアドレス範囲（Virtual Address）をどこに割り当てるかを管理する。
	•	カーネル空間用の大域的なメモリマネージャと連携しながら、ユーザースペースごとのテーブルやマッピングを保持している。

3. GPU／グラフィックス用メモリ管理
	•	対応ファイル
src/video_core/page_manager.h / page_manager.cpp
src/video_core/multi_level_page_table.h
src/video_core/texture_cache/ 以下  など
	•	役割
	•	AMD GPU（“Liverpool” アーキテクチャ）の命令やメモリアクセスをエミュレートする際に必要となるビデオメモリ領域を管理する。
	•	PS4 GPU の仮想アドレス空間やページテーブルを複数階層で再現し、テクスチャキャッシュやバッファキャッシュを行う。
	•	ホスト側では Vulkan のデバイスメモリ管理 (VulkanMemoryAllocator など) を使いつつ、ゲスト視点のアドレス体系を実現する。
	•	アルゴリズムの特徴
	•	いわゆる「マルチレベルページテーブル」（multi_level_page_table.h）をエミュレートし、GPU アドレス→ホスト側実メモリのマッピングを行う。
	•	テクスチャキャッシュ（texture_cache）やバッファキャッシュ（buffer_cache）で、ゲストが書き込んだデータやタイル分割を追跡し、必要なタイミングでホスト側にアップロードする仕組みを持つ。
	•	page_manager が VRAM バッファ単位の確保・解放とページ境界の管理を行う。

4. 小ブロック向けの Slab ベース実装
	•	対応ファイル
src/common/slab_heap.h / slab_heap.cpp
（コメントや実装が断片的に散見される）
	•	役割
	•	非常に小さいオブジェクトを大量に作成・破棄するような部分で、オーバーヘッドを小さくするための slab アロケータ（またはそれに近い仕組み）を実装している。
	•	メモリ断片化を抑えつつ、同じサイズのオブジェクトをまとめてアロケーションし、フリーリストを使って再利用する。
	•	アルゴリズムの特徴
	•	事前に大きめのチャンクを確保し、同サイズスロットに切り分けて格納する仕組み（いわゆる slab 方式）。
	•	spin_lock あるいは mutex 等でスレッドセーフに運用し、不要になったスロットをフリーリストに戻して再利用する。

5. ホスト OS 側の割り当て
	•	対応ファイル
src/core/libraries/system/posix.cpp / posix.h
src/common/path_util.cpp 等に補助的な処理
	•	役割
	•	Windows なら VirtualAlloc/Free、Linux/macOS なら mmap/munmap を呼び出して、大きいメモリ領域を確保・解放する。
	•	予約アドレスを固定的に確保し（ASLR オフなどのリンクオプションを使用）、ゲスト領域として運用する際に使われる。

6. まとめ

以上を総合すると、shadPS4 のメモリ管理アルゴリズムは
	1.	ホスト OS で大きいアドレス領域を予約（PS4 のユーザ空間やカーネル空間に対応）
	2.	そこを カーネル用メモリ管理 や ユーザープロセス用アドレススペース管理、GPU 用のマルチレベルページテーブル などに分割
	3.	小さなオブジェクトは slab 方式 などで効率よく確保
	4.	スレッドセーフなロックやフリーリストを活用し、実行時のアロケーション／解放を追跡

…という形で構築されています。
実際のコードでは、PS4 側 API（sceKernelAllocMemBlock 等々）を呼んだ際、エミュレーター内部で対応するカーネル実装がホスト OS の API を使ってメモリ割り当てし、仮想アドレステーブルを更新している、という流れになります。

詳しくは src/core/libraries/kernel/memory.cpp や src/core/memory.cpp、address_space.cpp、そして GPU 向けの page_manager.* や multi_level_page_table.* を合わせて読むことで、PS4 の仮想アドレス空間をどのようにホスト上で再現しているかが確認できます。

このように、巨大なリポジトリでも1ファイルにまとめておけば、ChatGPTが網羅的にコードを検索し、必要な箇所を効率よく要約できます。

まとめ 📝

  • リポジトリ全体を1ファイルにまとめることで、大規模コードベースでもChatGPTなどのAIを有効活用しやすい
  • Visual Studio Code + ChatGPT Extension によって、複数ファイルを行き来する手間を削減し、疑問点をすぐに解消
  • o1 pro のパワフルな解析手法と組み合わせることで、リバースエンジニアリングに要する時間を大幅に短縮し、より正確な解析が可能

以上の手法を活用すれば、リバースエンジニアリングの効率が格段に向上します。ぜひ取り入れてみてください。

Discussion