用户11909726
我拿同一份权重和 llama.cpp 正面比了一场:我手写的 C 内核,慢了 1.1–1.7 倍
原创
关注作者
腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
用户11909726
社区首页
>
专栏
>
我拿同一份权重和 llama.cpp 正面比了一场:我手写的 C 内核,慢了 1.1–1.7 倍
我拿同一份权重和 llama.cpp 正面比了一场:我手写的 C 内核,慢了 1.1–1.7 倍
用户11909726
关注
发布于 2026-10-26 11:20:48
发布于 2026-10-26 11:20:48
14
0
举报
概述
作者:sunny-cx 陈旭 项目:SunnyNet — 面向 CPU 的 O(N) 线性递推推理运行时(Apache-2.0) 全部数字本机实测。测试机 i7-8750H(Coffee Lake,6C12T,AVX2,无 AVX-512 / 无 VNNI), 对照组 GPU 为 GTX 1060 6GB。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系
cloudcommunity@tencent.com
删除。
cpu
算法
c 语言
模型
边缘计算
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档