Skip to content

feat: 补齐线程配置与实际后端探测 ABI - #37

Open
youngshunf wants to merge 1 commit into
ServeurpersoCom:masterfrom
youngshunf:feat/vc1-engine-abi
Open

youngshunf wants to merge 1 commit into
ServeurpersoCom:masterfrom
youngshunf:feat/vc1-engine-abi

Conversation

@youngshunf

Copy link
Copy Markdown

当前 C ABI 无法配置 CPU 线程数,也不能查询实际执行后端;设备选择依赖进程环境变量。本改动将 n_threads 和严格 GGML 设备选择加入 qt_init_params,提升 ABI 至 v6,并复用 GGML 注册表提供无模型设备枚举、初始化 probe 与已加载上下文的实际后端查询。指定设备缺席或 CPU 线程配置入口缺失时明确失败。

ABI 布局已变化,调用者必须使用同版头文件重新编译。改动仅含 ABI、实现和有界测试。

验证:

  • macOS arm64 的 Metal+CPU 与纯 CPU 构建均通过原 C99 ABI 测试及新增后端测试,各 2 项。
  • 新增测试核对严格不存在设备、CPU 1/8 线程实际配置、自动选择与 probe 字符串寿命。
  • 真实 0.6B-Base 固定条件、seed 42 三次批量合成逐字节相同;Metal RTF 为 0.538 / 0.629 / 0.442,首个音频回调为 1.00–1.46 秒。首组声码和首个音频回调分开计量。
  • Windows/Linux 尚无真机验证;默认 CTest 不加载模型,真实模型 benchmark 需显式提供仓外输入。

提交:fb2eb5eabb0cc27f9af6edc061495e18e81066bc。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant