AI 模型性能评测与横向对比

Just released a deep benchmark of 8 tiny LLMs (135M → ~1B) on a $250 Jetson Orin Nano Super 8GB using llama.cpp CUDA - across all 4 power modes: 7W, 15W, 25W, and MAXN Hardware: NVIDIA Ampere GPU - 1024 CUDA cores, 32 Tensor cores 6× Arm Cortex-A78AE CPU @ 1.728 GHz 8 GB LPDDR5 @ 204.8 GB/s (unified CPU + GPU - no VRAM split) Active fan cooling - peak junction temp stayed ≤ 73 °C across every run …

此消息由 Reddit r/LocalLLaMA 社区率先披露，AI深度 领域的动态往往能够反映整个行业的技术方向与投资热点。近年来，AI 工具与基础设施的快速迭代，使得此类来自开源社区的技术进展具有重要的参考价值。

在社区引发活跃讨论，体现了开发者社区对此事件的高度重视。对于关注AI深度的从业者而言，这意味着可能出现新的技术路径、工具选择或行业标准。保持对此类信息的敏感度，有助于在快速变化的 AI 时代保持竞争优势。