WiCi：用 WiFi 无线连接 GPU 实现本地 AI
WiCi: Connecting GPUs over WiFi
WiCi 是一个专注于无线 GPU 和本地 AI 的系统研究实验室。他们致力于解决本地 AI 部署中的网络延迟、内存限制和实时响应等难题。通过创新的运行时系统，WiCi 利用缓存、数据复用和异步执行技术，大幅降低 WiFi 传输开销，让设备上的应用能像调用本地显卡一样使用附近的 GPU 算力。这一技术让个人和组织能够完全掌控自己的模型、数据和使用方式，无需依赖云端。媒体评价 WiCi 为家庭带来了专用的 AI 推理设备，让任何兼容设备都能通过 WiFi 7 获得高端显卡的性能，真正实现了将前沿 AI 算力带入每个人手中。
一个本地计算不再受制于科技寡头及其宠爱的 AI 摆布的世界。
- forgotpwd16
对于觉得该网站反直觉的用户（甚至可能是所有人），这里还有一份技术报告[0]。顺便提一下，还有一些关于远程 GPU 卸载的先前工作未在之前的报告中引用，例如 GVirtuS[1]，它最初是为 HPC[2] 设计的，但后来转向了低功耗设备[3]，以及 Lenovo[4] 和 Nvidia[5] 的专利（已放弃；在我看来相当模糊，但足以表明这个想法确实存在过）。
不过话说回来，虽然这里的标题只聚焦于一点，但 WiCi 似乎还在追求第二个相关的想法，即基于 SSD 的 LM 推理。相关代码已在 https://github.com/wici-ai/inferssd 开源。
[0]: https://arxiv.org/abs/2608.24204
[1]: https://github.com/gvirtus/GVirtuS
[2]: https://link.springer.com/chapter/10.1007/978-3-642-15277-1_...
[3]: https://onlinelibrary.wiley.com/doi/abs/10.1002/cpe.4286
- ssl-3
我点了链接：https://wici.ai/
我浏览了那些充斥着全屏标题的杂乱内容，给予了它们应有的关注。我没看视频。
我完全不清楚这个概念旨在改进什么，为什么它有用，或者它相比其他概念有什么优势。
有人能帮忙解释一下吗？
- shubham0204
我最近发现了 WiCi，这是一个通过 WiFi 连接到主机的无线 GPU。主机将无线 GPU 视为本机连接的 GPU，它也会显示在 Windows 任务管理器中。
演示显示它正在运行 DeepSeek 和一些图形密集型游戏。通过 WiFi 共享的 GPU 是 RTX 5090。
我想深入挖掘 WiFi 协议如何用于与 GPU 通信。在正常情况下，GPU 会通过 PCIe 与主机的 CPU 通信，以确保高带宽数据传输。我在 WiCi 分享的一篇博客中找到了以下几行内容：
> 因此，WiCi 保留了本地 GPU 的契约，同时缩小了实际跨越链路的内容：缓存稳定的事实，去重重复的有效载荷，压缩或流式传输大型数据，流水线处理独立任务，保留昂贵的状态驻留，并精确保留真正的依赖关系。
我的感觉是，WiCi 在主机和 GPU 之间引入了一个中间层来促进通信。发往 GPU 的指令首先被编码成某种中间语言，通过网络传输，然后在 WiCi 远程 GPU（即装有 5090 的外部盒子）内部解码回 CUDA 驱动能理解的指令。
WiCi 似乎并没有在物理介质上用 IEEE 802.11（WiFi）协议取代物理 PCIe 协议。这是我的假设，我不太确定。
但如果这款产品能证明它的宣称属实，那将是一件大事 […]