首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >如何提高云作曲家的健康水平?

如何提高云作曲家的健康水平?
EN

Stack Overflow用户
提问于 2021-11-27 05:37:57
回答 2查看 389关注 0票数 0

最近,我使用云编写器构建了120个dags。他们都工作了一段时间。

它们几乎是一样的。每个人都使用python操作符。每个用户都对google搜索控制台进行API调用。每个人收集了7-9k行的GSC数据,然后将其上传到GCS桶和BigQuery (分区和集群)。

偶尔有一天我会失败,因为GSC令牌已经被撤销了,但是没有问题,创建新的凭据,上传并继续。这种情况持续了几个月。现在什么都没有了。

从一开始,云作曲家的健康就偶尔出现红斑,但现在的健康每天都是静止的红色。

我找到了关于如何检查健康的文档,但没有找到为什么健康状况如此差的原因,并修复它。

谁能给我指明正确的方向?

EN

回答 2

Stack Overflow用户

回答已采纳

发布于 2021-11-29 10:12:37

环境健康指标依赖于一个名为airflow_monitoring的作曲家管理的DAG,它是由气流监测舱周期性地触发的。如果这个DAG没有被删除,你可以检查气流监测日志,看看是否有任何问题与读取DAG的运行状态有关。因此,您还可以使用筛选器尝试排除云日志记录中的错误:

代码语言:javascript
复制
resource.type="cloud_composer_environment"
severity=ERROR

活性检查失败可能是由于以下原因:

  • 任何资源约束(内存和CPU)
  • 作曲家版本的已知问题。请查看作曲家发布 任何已知问题的备注
  • 气流配置为core:default_timezone(如果您已经配置了core: default_timezone气流配置组合器环境健康将显示为不健康。这是一个已知的问题,composer产品团队正在制定解决方案。)

有关Composer的环境健康度量的信息,请参阅此文档

票数 2
EN

Stack Overflow用户

发布于 2021-11-30 21:28:27

昨天,我有幸与来自谷歌的人交谈,他说我需要做的是重新创建我的云编写器环境,因为我没有足够的CPU。他建议在重新创作时采取灵活的选择。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/70132320

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档