精选文章
Qwen3 30B vs Gemma 4 26B RTX 3090 全显存实测
在 RTX 3090 全显存状态下,对 Qwen3 30B 和 Gemma 4 26B 进行头对头实测。Ollama API 真实数据 —— 生成速度、预填充速度、哪个模型在各场景胜出。
Jetson Thor vs Jetson Orin 64GB:本地 LLM 真机测试笔记
Jetson Thor 与 Jetson Orin 64GB 的本地 LLM 实测对比:Qwen 模型、SGLang、Ollama、响应耗时、tokens/s 与实际部署建议。
LocateAnything-3B 实测:RTX 3090 vs Jetson AGX Thor
在 RTX 3090 工作站和 Jetson AGX Thor 边缘设备上对 NVIDIA LocateAnything-3B 视觉语言模型进行真实硬件测试,记录推理速度、显存占用和部署结论。
最新文章
查看全部文章 →Jetson AGX Thor + Orbbec 3D 相机:本地多模态机器人巡检系统开发实战
基于 NVIDIA Jetson AGX Thor、Orbbec Gemini 345Lg / RealSense D435i、点云、YOLO、VLM、RAG 和本地 LLM 的 3D 机器人巡检项目复盘。
Jetson Device Skills 正式上线:AGX Orin 64GB 安装与真机测试
NVIDIA 开源 Jetson Device Skills,让 Claude Code 等智能体获得设备原生开发能力。本文记录 AGX Orin 64GB 真机安装与基准测试全过程。
Qwable-v1 在 NVIDIA Thor 上的完整部署、测试与评测
从零开始在 NVIDIA Jetson AGX Thor 上部署 Qwable-v1(Qwen3.6-35B MoE + Claude Fable-5 蒸馏):下载、SGLang 服务、Web UI、Agent 闭环测试,全流程真机数据。
双节点 NVIDIA DGX Spark 组集群:200GbE 看起来很快,但 NCCL 才说明真相
两台 DGX Spark 通过 200GbE / ConnectX-7 RDMA 直连。原始 ib_write_bw 接近 197 Gb/s,但实际 NCCL 集合通信带宽只有 10 GB/s——本文详细解释两者为何相差如此之大。
Qwen3.6-27B RTX 3090 vs Jetson Thor 实测:2026年6月最强开源代码模型,两块板子跑出来了
Qwen3.6-27B 在代码 benchmark 上超越 397B MoE 模型,还能装进单张 RTX 3090。本文给出 RTX 3090(Ollama)和 Jetson Thor(llama.cpp)的真实推理数据,以及为什么 Kimi K2.7-Code 等本月热门模型需要完全不同的硬件。
2026 年小团队边缘 AI 部署清单
边缘硬件上部署 AI 推理系统的实践清单——涵盖硬件选型、模型优化、热管理、监控,以及只有在生产环境才会出现的故障模式。
TensorRT 用于计算机视觉:Jetson 和桌面 GPU 上推理加速的真实机制
TensorRT 优化实践指南——它做了什么、加速从哪里来、哪些层受益最大,以及在 Jetson 或 RTX GPU 上部署时常见的坑。
Qwen3 30B vs Gemma 4 26B RTX 3090 全显存实测
在 RTX 3090 全显存状态下,对 Qwen3 30B 和 Gemma 4 26B 进行头对头实测。Ollama API 真实数据 —— 生成速度、预填充速度、哪个模型在各场景胜出。
Gemma 4 在 RTX 3090 上的三尺寸实测:4B vs 12B vs 26B — 显存不够时会发生什么
在单张 RTX 3090 上实测 Gemma 4 三种尺寸(4B、12B、26B)。揭示 26B 模型因显存溢出导致生成速度暴跌的真实原因,以及 24GB 显卡应该选哪个尺寸。
应用场景
工业质检
使用热成像相机与 RGB 相机融合检测焊接缺陷、布料瑕疵与产品表面问题。
机器人感知
基于立体深度估计与点云的实时三维环境感知,支持移动机器人导航。
热成像融合
将热红外与可见光图像融合用于夜间目标检测与温度异常预警。
边缘 AI 部署
在 Jetson AGX Thor、Jetson Orin 等边缘设备上部署 TensorRT 优化的推理流水线。
实时点云可视化
使用 Three.js 与 WebGL 将深度传感器数据以三维点云形式实时呈现。
本地 GPU 推理
在消费级 GPU(RTX 3090 等)上以 Ollama 或 llama.cpp 运行大型语言模型。