问气流内存错误:返回代码-9退出的任务

EN

正如您所说，您得到的错误消息对应于内存不足问题。

提到正式文件

DAG执行是RAM有限的。每个任务执行从两个气流过程开始:任务执行和监视。目前，每个节点最多可以承担6个并发任务。根据DAG的大小，可以消耗更多的内存。

任何GKE节点中的高内存压力都将导致Kubernetes调度程序从节点中清除荚，以缓解这种压力。虽然GKE中运行着许多不同的气流组件，但大多数不倾向于使用大量内存，因此最常见的情况是用户上传了一个资源密集型的DAG。气流工作人员运行这些DAG，耗尽资源，然后被逐出。

您可以通过以下步骤来检查它：

1. 在云控制台中，导航到Kubernetes Engine -> Workloads
2. 单击airflow-worker，然后在Managed pods下面查看
3. 如果有显示Evicted的豆荚，请单击每个被逐出的吊舱，并在窗口顶部查找The node was low on resource: memory消息。

解决OOM问题的可能方法是什么？

• 使用比当前计算机类型更大的计算机类型创建一个新的Composer环境。
• 确保DAG中的任务是幂等，这意味着同一DAG多次运行的结果应该与运行一次的结果相同。
• 通过设置任务上的重试次数来配置任务重试 -这样，当任务通过调度程序获得-9'ed时，它将转到up_for_retry而不是failed。

此外，还可以检查CPU的行为：

1. 在云控制台中，导航到Kubernetes Engine -> Clusters
2. 在页面底部找到Node Pools，然后展开default-pool部分
3. 单击Instance groups下面列出的链接
4. 切换到Monitoring选项卡，在那里可以找到CPU utilization

理想情况下，GCE实例不应该在任何时候都运行超过70%的CPU，或者在资源使用期间Composer环境可能变得不稳定。

我希望你能找到这些有用的信息。

我将对数据进行分块，以便在任何给定时间将较少的数据加载到任何1任务中。我还不确定是否需要使用GCS/S3作为中间存储。