最近,我使用云编写器构建了120个dags。他们都工作了一段时间。
它们几乎是一样的。每个人都使用python操作符。每个用户都对google搜索控制台进行API调用。每个人收集了7-9k行的GSC数据,然后将其上传到GCS桶和BigQuery (分区和集群)。
偶尔有一天我会失败,因为GSC令牌已经被撤销了,但是没有问题,创建新的凭据,上传并继续。这种情况持续了几个月。现在什么都没有了。
从一开始,云作曲家的健康就偶尔出现红斑,但现在的健康每天都是静止的红色。
我找到了关于如何检查健康的文档,但没有找到为什么健康状况如此差的原因,并修复它。
谁能给我指明正确的方向?
发布于 2021-11-29 10:12:37
环境健康指标依赖于一个名为airflow_monitoring的作曲家管理的DAG,它是由气流监测舱周期性地触发的。如果这个DAG没有被删除,你可以检查气流监测日志,看看是否有任何问题与读取DAG的运行状态有关。因此,您还可以使用筛选器尝试排除云日志记录中的错误:
resource.type="cloud_composer_environment"
severity=ERROR活性检查失败可能是由于以下原因:
core:default_timezone(如果您已经配置了core: default_timezone气流配置组合器环境健康将显示为不健康。这是一个已知的问题,composer产品团队正在制定解决方案。)有关Composer的环境健康度量的信息,请参阅此文档。
发布于 2021-11-30 21:28:27
昨天,我有幸与来自谷歌的人交谈,他说我需要做的是重新创建我的云编写器环境,因为我没有足够的CPU。他建议在重新创作时采取灵活的选择。
https://stackoverflow.com/questions/70132320
复制相似问题