Skip to content

llama.cpp v0.9.0 に更新 - #22

Merged
mitsuharu merged 2 commits into
mainfrom
feat/llama-v0.9.0
Nov 10, 2026
Merged

mitsuharu merged 2 commits into
mainfrom
feat/llama-v0.9.0

Conversation

@mitsuharu

@mitsuharu mitsuharu commented Nov 7, 2026 •

Copy link
Copy Markdown
Owner

概要

  • vendor/llama.cpp を v0.8.0 (8642541) から v0.9.0 (cd959ba) へ更新
  • README のバージョン例を v0.9.0 に更新
  • ROCm ビルドで Windows SDK の mt.exe を PATH に追加(scripts/Find-WindowsSdkMt.ps1 を新設)

ワークフローを変更しない理由

v0.8.0..v0.9.0 の差分で、このリポジトリが依存する以下の箇所には変更がありません。

  • .github/actions/windows-setup-cuda
  • ggml/src/ggml-cuda/CMakeLists.txt / ggml/src/ggml-hip
  • 指定している CMake オプション (GGML_CUDA_NO_PEER_COPY / GGML_CUDA_CCCL_VERSION / GGML_BACKEND_DL / GGML_NATIVE / LLAMA_BUILD_BORINGSSL)

ROCm ビルドの修正

上流で Windows の全 exe にアプリケーションマニフェスト(UTF-8 コードページ、longPathAware)を埋め込む処理が追加されました (ggml-org/llama.cpp#31329)。ROCm ジョブは VS 開発者シェルを通さずに ROCm clang + lld-link でリンクするため、lld-link: error: unable to find mt.exe in PATH で失敗していました。

Find-WindowsSdkMt.ps1 で最新の Windows SDK の mt.exe を探し、ワークフローの Build ROCm ステップと Build-Rocm.ps1 で PATH の先頭に追加します。ROCm ビルドキャッシュのキーにも新スクリプトを含めました。CUDA / Vulkan は vcvarsall 経由なので影響ありません。

確認事項

  • windows-smoke が通ること
  • Build Windows GPU binaries を ROCm で手動実行して成功すること
  • CUDA ビルドでは ggml_backend_cuda_buffer_cpy_tensor_n が追加され、GGML_CUDA_NO_PEER_COPY の分岐を含むため、peer-copy / no-peer-copy の両方を可能なら Build Windows GPU binaries で手動実行して確認

https://claude.ai/code/session_01Vazb8knSXCxaEyp4yoA94Y


Generated by Claude Code

vendor/llama.cpp を v0.8.0 (8642541) から v0.9.0 (cd959ba) へ更新する。
v0.8.0..v0.9.0 では windows-setup-cuda action、ggml-cuda / ggml-hip の
CMake 設定、およびこのリポジトリが指定する CMake オプション
(GGML_CUDA_NO_PEER_COPY / GGML_CUDA_CCCL_VERSION / GGML_BACKEND_DL /
GGML_NATIVE / LLAMA_BUILD_BORINGSSL) に変更がないため、ワークフローは変更しない。

上流で Windows の全 exe にアプリケーションマニフェスト (UTF-8 コードページ、
longPathAware) を埋め込む処理が追加された (#31329)。ROCm ビルドと同じ
「ROCm clang.exe + Unix Makefiles」構成は上流の build-cuda-windows.yml でも
ビルドされており、マニフェストは exe に埋め込まれるためパッケージ処理の
変更も不要。

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
Claude-Session: https://claude.ai/code/session_01Vazb8knSXCxaEyp4yoA94Y
llama.cpp v0.9.0 で全 exe にアプリケーションマニフェストを埋め込む処理が
入った (ggml-org/llama.cpp#31329)。ROCm ビルドは VS 開発者シェルを通さずに
ROCm clang + lld-link でリンクするため、マニフェストのマージで
"lld-link: error: unable to find mt.exe in PATH" となり失敗していた。

scripts/Find-WindowsSdkMt.ps1 で最新の Windows SDK の mt.exe を探し、
ワークフローの Build ROCm ステップと Build-Rocm.ps1 で PATH の先頭に追加する。
ビルド環境が変わるため、ROCm ビルドキャッシュのキーにも新スクリプトを含める。

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
Claude-Session: https://claude.ai/code/session_01Vazb8knSXCxaEyp4yoA94Y
@mitsuharu
mitsuharu merged commit 5570492 into main Nov 10, 2026
5 checks passed
@mitsuharu
mitsuharu deleted the feat/llama-v0.9.0 branch November 10, 2026 00:43
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants