跳到正文
热点事件持续更新

VindexLLM:纯Delphi Windows GPU LLM推理引擎

1 篇报道1 个报道来源22 分钟前更新

先了解这件事

AI 综述

VindexLLM 是一款采用纯 Delphi 语言编写的 Windows 平台大语言模型推理引擎。该引擎主要利用 Vulkan 计算着色器,在 GPU 上执行完整的 Transformer 前向传播,实现了高效的模型推理功能。

AI 根据报道生成 · 13 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月8日
  1. Hacker News LLM
    VindexLLM:基于 Delphi 12 和 Vulkan 的 Windows GPU LLM 推理引擎

    VindexLLM 是一款纯 Delphi 编写的 Windows LLM 推理引擎,利用 Vulkan 计算着色器在 GPU 执行完整 Transformer 前向传播。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。