Java 应用如何原生调用 GPU 算力

TornadoVM 7 Enables GPU-Native Workloads from Java Applications

Java 应用如何原生调用 GPU 算力

TornadoVM 7.3 版本发布,让 Java 开发者能直接利用 GPU 加速数据并行任务。新版本弃用了 JNI,全面转向 Foreign Function & Memory (FFM) API,并深度集成 Nvidia CUDA 生态,支持 cuBLAS、CUTLASS 及 cuTile 模型。无论是本地开发还是云端部署,开发者只需在代码中添加注解或配置,即可实现从 CPU 到 GPU 的无缝迁移。此外,团队还推出了新一代推理引擎 jitLLM v2.0,旨在与 llama.cpp 和 Ollama 竞争,让 Java 在 AI 领域也能拥有原生级的硬件加速能力。

TornadoVM 实现了现代机器学习工作负载的“一次编写,到处运行”,让开发者可以在本地笔记本电脑上开发,然后部署到搭载 Nvidia GPU 的服务器上获得显著的性能提升。
  1. mikepapadim

    https://github.com/beehive-lab/TornadoVM 这是主仓库。

    你可以配合任何 JDK21+ 以及 Nvidia 或 Apple 硬件,使用他们的 Nvidia 库或 MLX 库。

  2. the_arun

    这是否意味着我们可以用 Java 来构建 AI 基础设施?

  3. amir734jj

    基本上就是 Java 版的 JAX,而不是 Python 版。

同日更多故事

2026-10-24