Polars 快速上手指南：比 pandas 更快的内存 DataFrame 库

Polars 是一个基于 Apache Arrow 构建、面向 Python 和 Rust 的极速 DataFrame 库。核心优势：

适合场景：1-100GB 内存级数据集的 ETL、分析、pandas 迁移加速。

import polars as pl

df = pl.DataFrame({
    "name": ["Alice", "Bob", "Charlie"],
    "age": [25, 30, 35],
    "salary": [8000, 10000, 12000],
})
print(df)

三、表达式 API：与 pandas 的核心差异

pandas 是"方法链"，Polars 是"表达式组合"——每个操作返回一个表达式，可以在 select、filter、with_columns 中自由组合：

df.select(
    pl.col("name"),
    pl.col("age").mean().alias("平均年龄"),
    pl.col("salary").max().alias("最高薪资"),
)

# 筛选
df.filter(pl.col("age") > 28)

# 新增列
df.with_columns(
    (pl.col("salary") * 1.1).alias("salary_raise")
)

# 分组聚合
df.group_by("department").agg(
    pl.col("salary").mean().alias("平均薪资"),
    pl.len().alias("人数"),
)

LazyFrame 是 Polars 性能的核心。它不会立即执行，而是构建查询计划，最终一次性优化执行：

q = (
    pl.scan_csv("data.csv")          # 惰性读取
    .filter(pl.col("amount") > 100)
    .group_by("category")
    .agg(pl.col("amount").sum())
    .sort("amount", descending=True)
)

result = q.collect()  # 在此刻才真正执行

优化原理：Polars 会做谓词下推、投影下推、Join 重排等优化，显著减少中间数据量。

# 好：先只取需要的列
df.select(["id", "amount"]).filter(pl.col("amount") > 0)

# 坏：先对所有列过滤，再做选择
df.filter(pl.col("amount") > 0).select(["id", "amount"])

q.collect().write_parquet("result.parquet")  # 中间结果落盘，避免重复计算

把多次操作合并到同一个查询计划中，一次 collect 完成。

筛选 df[df.a > 1] df.filter(pl.col("a") > 1)

新增列 df["c"] = df.a + 1 df.with_columns((pl.col("a") + 1).alias("c"))

分组聚合 df.groupby("g").mean() df.group_by("g").mean()

来源说明：本文内容整理自开源项目 agentic-awesome-skills（中文翻译版），遵循 CC BY 4.0（知识共享署名 4.0 国际）许可协议，此处作为中文资料整理分享，版权归原作者所有。

面向 Python 和 Rust 的极速 DataFrame 库 Polars，覆盖安装、惰性求值、表达式 API 与 pandas 迁移等核心用法。

编程语言

数据库

开发工具

Polars 是基于 Apache Arrow 构建的高性能 DataFrame 库，比 pandas 快数倍，适合 1-100GB 数据。支持惰性求值、并行执行与表达式 API，可有效加速 ETL 和数据分析。本文涵盖安装、核心用法、惰性查询优化、pandas 迁移对照及性能调优技巧，帮助用户快速上手并大幅提升处理效率。

数据处理

Python

Agent

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

Polars 是基于 Apache Arrow 构建的高性能 DataFrame 库，比 pandas 快数倍，适合 1-100GB 数据。支持惰性求值、并行执行与表达式 API，可有效加速 ETL 和数据分析。本文涵盖安装、核心用法、惰性查询优化、pandas 迁移对照及性能调优技巧，帮助用户快速上手并大幅提升处理效...

Polars 快速上手指南：比 pandas 更快的内存 DataFrame 库

Polars 快速上手指南：比 pandas 更快的内存 DataFrame 库

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐