跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

4 条精选近 30 天 3 条共收录 31 条

更新

部署工程的精选

今天11月11日周三第 1–4 条
  1. NVIDIA Blog60

    NVIDIA 将 OpenShell 捐给 CNCF,并发布 DSX AI Factory 平台新组件

    NVIDIA 在 KubeCon + CloudNativeCon 上宣布把用于保障和治理自主智能体的开源运行时 NVIDIA OpenShell 捐给 Cloud Native Computing Foundation(CNCF),作为 Sandbox 项目由社区治理。

    推荐理由:NVIDIA 把智能体安全运行时捐给 CNCF,并给出 Kubernetes 上部署与推理加速的配套组件,可观察开源治理与工程落地路径。

11月4日周三
10月16日周五
  1. Microsoft Research60

    微软研究院推出 Magnetar:基于标准哈希函数的通用零知识证明系统

    微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,并输出可在约 12 毫秒内验证的简短证明。它在笔记本上每秒可证明 720 万至 870 万条 RISC-V 指令,在 15 个基准程序上平均比同类最快 zkVM 快 10 至 39 倍,优化版本可达每秒 950 万至 1280 万周期。

    推荐理由:微软研究院把十余年零知识证明成果整合为 Magnetar,读者可了解通用程序证明在速度与密码学假设上的取舍。

7月29日周三
  1. Berkeley AI Research60

    从 CUDA 到 MLX:K-Search 如何将多年内核优化经验带到 Apple Silicon

    IBM Research 基于 UC Berkeley Sky Lab 的 K-Search 演化式内核搜索框架,新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,让已有 CUDA 内核作为知识库迁移到 Apple Silicon。

    推荐理由:作者展示了把 CUDA 优化经验迁移到 Apple Silicon 的具体做法,并给出与原生 MLX 内核的对比数据。