llama.cppのGPUが有効にする際に頑張ったログ

~/Desktop/Private/llama.cpp/build $ cmake .. -DLLAMA_CUBLAS=ON
-- Selecting Windows SDK version 10.0.22621.0 to target Windows 10.0.22631.
CMake Error at CMakeLists.txt:2 (project):
  The CMAKE_C_COMPILER:

    C:/Program Files/Microsoft Visual Studio/2022/Community/VC/Tools/MSVC/14.32.31326/bin/Hostx64/x64/cl.exe

  is not a full path to an existing compiler tool.



CMake Error at CMakeLists.txt:2 (project):
  The CMAKE_CXX_COMPILER:

    C:/Program Files/Microsoft Visual Studio/2022/Community/VC/Tools/MSVC/14.32.31326/bin/Hostx64/x64/cl.exe

  is not a full path to an existing compiler tool.



-- Configuring incomplete, errors occurred!

ayousanz

C:/Program Files/Microsoft Visual Studio/2022/Community/VC/Tools/MSVC/14.32.31326/bin/Hostx64/x64/cl.exe がないと言われたので、実際に確かめてみる

確かになかった

ayousanz

とりあえず Visual Staudioに関するものをすべてアンインストールしていく

ayousanz

すべてアンインストールした後に、llama.cppのGPUビルドをするために以下を叩く

cmake .. -DLLAMA_CUBLAS=ON

Visual Staudioをアンインストールしたので、当然エラーがでる

~/Desktop/Private/llama.cpp/build $ cmake .. -DLLAMA_CUBLAS=ON
CMake Error at CMakeLists.txt:2 (project):
  Generator

    Visual Studio 17 2022

  could not find specified instance of Visual Studio:

    C:/Program Files/Microsoft Visual Studio/2022/Community


-- Configuring incomplete, errors occurred!

ayousanz

ここからVisual Stauidio 2022のインストールを進める

ayousanz

コンポーネントを選んでインストール

ayousanz

インストールした後に同じく叩いても違うエラーがでる

~/Desktop/Private/llama.cpp/build $ cmake .. -DLLAMA_CUBLAS=ON
CMake Error at CMakeLists.txt:2 (project):
  Generator

    Visual Studio 17 2022

  could not find specified instance of Visual Studio:

    C:/Program Files/Microsoft Visual Studio/2022/Community

  The directory exists, but the instance is not known to the Visual Studio
  Installer, and no 'version=' field was given.


-- Configuring incomplete, errors occurred!

ayousanz

調べたら、コンポーネントが足りないということなので追加でインストール

ayousanz

上手くいった

~/Desktop/Private/llama.cpp/build $ cmake .. -DLLAMA_CUBLAS=ON
-- Selecting Windows SDK version 10.0.22621.0 to target Windows 10.0.22631.
-- The C compiler identification is MSVC 19.38.33134.0
-- The CXX compiler identification is MSVC 19.38.33134.0
-- Detecting C compiler ABI info
-- Detecting C compiler ABI info - done
-- Check for working C compiler: C:/Program Files/Microsoft Visual Studio/2022/Community/VC/Tools/MSVC/14.38.33130/bin/Hostx64/x64/cl.exe - skipped
-- Detecting C compile features
-- Detecting C compile features - done
-- Detecting CXX compiler ABI info
-- Detecting CXX compiler ABI info - done
-- Check for working CXX compiler: C:/Program Files/Microsoft Visual Studio/2022/Community/VC/Tools/MSVC/14.38.33130/bin/Hostx64/x64/cl.exe - skipped
-- Detecting CXX compile features
-- Detecting CXX compile features - done
-- Found CUDAToolkit: C:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v12.3/include (found version "12.3.107")
-- cuBLAS found
-- Using CUDA architectures: 52;61;70
-- CMAKE_SYSTEM_PROCESSOR: AMD64
-- CMAKE_GENERATOR_PLATFORM:
-- x86 detected
-- Configuring done (4.5s)
SEGV

ayousanz

main.exeは生成されない

ayousanz

llama.cpp\build\bin\Release に main.exeが生成された

ayousanz

無事にGPUで動きました

このスクラップは2024/01/14にクローズされました