首页
学习
活动
专区
圈层
工具
发布

#进程

大部分token根本不该重复计算,不止于KVCache

用户11563501

Google 的 TurboQuant 把 KV 缓存压缩到 3 比特,精度一点没降,但因为跑在推理进程里,直接导致推理慢了 20% 以上。压缩本身没问题,问题...

1600

进程调度算法怎么考?FCFS与SJF与HRRN核心解析

程序员古德

操作系统最核心的职责之一,就是在多个就绪进程之间分配CPU时间。这个分配决策的过程,就是进程调度。理解调度算法之前,必须先建立一个基本认知:CPU在同一时刻只能...

2800

最近尝试AI的A2A实践还是比较曲折

jeanron100

最近把一些项目迭代之后,开始琢磨A2A的一些实现效果,说实话看起来挺美好,但是实际落地的过程中发现效果打折比较明显,我觉得应该还是在一些方式方法上有问题。

4410

写了个Python脚本监控服务器,再也不怕半夜被告警吵醒

用户11081884

系统级的CPU、内存告警有时候不够精准。比如一台服务器CPU只有60%,但某个进程自己吃掉了40%——系统层面看着没事,但这个进程可能已经在影响业务了。

2610

Kubernetes中如何暂停或停止Pod,Pod管理必知必会

用户11081884

通过向容器主进程发送信号可以实现进程级别的暂停,但这属于非标准操作,可能引发不可预期的问题。

2800

Docker Entrypoint 脚本实用指南

用户11081884

用 exec 的原因:主进程变成容器的 PID 1,能正确接收 SIGTERM 等系统信号;不用 exec 则 Shell 进程和应用进程同时存在,信号传不到应...

2110

Python GIL到底是什么,为什么很多人误解它

用户11081884

GIL,全称Global Interpreter Lock,是CPython解释器内部的一个互斥锁。规则很简单:同一个进程里,任何时候只有一个线程能执行Pyth...

2100

Kubernetes 获取PID及POD信息的方法

用户11081884

在Kubernetes集群管理过程中,经常会遇到需要从宿主机进程PID反向查找对应Pod信息的场景。本文将详细介绍这一实用技巧,帮助管理人员快速定位问题。

2300

Ray 到底解决了什么问题?为什么 AI 团队都在用它

专业造轮子

这个例子是把独立任务并行执行,当计算从一个进程扩展到多个进程,从一个机器扩展到多台机器以后,Ray 都可以使用同一种方式描述任务、状态、数据和资源。

8210

77.4%的网站都在用,但TIOBE排名却跌到14?PHP-FPM配置参数一篇讲透

悠悠12138

TIOBE地址:https://www.tiobe.com/tiobe-index/

10100

SK海力士量产12层堆叠HBM4

芯智讯

除了稳固英伟达的订单,SK海力士也积极拓展多客户布局,继上月完成英伟达首批12层堆叠HBM4量产出货后,本月已正式启动对AMD的8层堆叠HBM4产品出货。从极速...

11400

面试官:Go 语言中哪些致命崩溃是无法被 recover 捕获的?

技术圈

针对 OOM 导致的挂掉,除了通过 pprof 排查和分析内存泄漏之外,生产环境一定要接入外部进程守护(如 Supervisor、Systemd 或 K8s 容...

7200

用 eBPF 做网络层异常检测,从进程间通信里挖出隐蔽信道

不吃草的牛德

第三层:合法进程做"骡子"。 攻击者把数据塞给一个本来就该出网的进程,让它的出网看起来"合理"。防火墙基于"哪个 IP 在通信"做判断,但决定数据正不正常的,是...

9610

用 Rust + eBPF 拦勒索病毒,到底靠不靠谱?

不吃草的牛德

在每个钩子里,我们能拿到的信息包括:当前进程 PID、进程名(comm)、被操作文件的路径、本次写入的字节数。

12310

用Rust+eBPF监控文件读写防范勒索病毒

不吃草的牛德

1. 杀进程。 立刻 kill -9 那个 PID。内核里的 eBPF 同时下发一条 LSM 策略,直接拒绝该进程后续的 open/write 系统调用——双保...

10910

段页式存储管理与虚拟内存地址转换深度解析

程序员古德

计算机体系结构中,内存管理是操作系统最核心的职能之一,也是系统架构设计师考试中每年必现的高频考点。许多考生学到这里会陷入一种模糊感:知道有段式、有页式、有段页式...

7300

Visual Studio 2013 如何使用TitanEngine引擎库调试

王瑞MVP

前文已详细讲解泰坦引擎的编译生成方法,本章将进阶实操泰坦引擎应用开发,聚焦零基础实现C++调用泰坦引擎、进程附加分析核心能力。本文基于静态链接库模式编译生成的T...

9010

x64dbg LyScript 2.0 SDK 接口指南

王瑞MVP

LyScript 是一款专为 x32/x64dbg 调试器深度定制的自动化调试与逆向分析插件,以 Python 为核心构建高效调试脚本,为安全研究人员、漏洞开发...

10000

当K8s遇见Ray:大模型时代AI Workload调度的通用范式

腾讯云开发者

随着大模型时代的到来,AI 基础设施(AI Infra)正在经历深刻的变革。面对日益复杂的计算需求,传统上与单一计算范式深度耦合的调度系统已难以应对全局性挑战。...

25410

s6-overlay 用于 Docker 镜像的进程管理器

YaoQi

s6-overlay 是一款专为 Docker 容器环境设计的轻量级初始化(init)系统和进程管理工具。它基于 s6 这套 Unix 初始化工具集,旨在解决容...

7900
领券