首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >我拿同一份权重和 llama.cpp 正面比了一场:我手写的 C 内核,慢了 1.1–1.7 倍

我拿同一份权重和 llama.cpp 正面比了一场:我手写的 C 内核,慢了 1.1–1.7 倍

作者头像
用户11909726
发布于 2026-10-26 11:20:48
发布于 2026-10-26 11:20:48
140
举报
概述
作者:sunny-cx 陈旭 项目:SunnyNet — 面向 CPU 的 O(N) 线性递推推理运行时(Apache-2.0) 全部数字本机实测。测试机 i7-8750H(Coffee Lake,6C12T,AVX2,无 AVX-512 / 无 VNNI), 对照组 GPU 为 GTX 1060 6GB。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档