百岁

Results 132 comments of 百岁

## java 调用 Airflow Helm Chart方式 可能更适合生产部署 是的,通过 Java 调用 Helm Chart 是可行的方案。虽然 Helm 本身是 CLI 工具,但我们可以通过 Java 执行 Shell 命令或使用第三方库来操作 Helm。以下是两种主要实现方式: --- ### **方式一:通过 Java 直接调用 Helm CLI(推荐)** 这是目前最成熟的生产级方案,利用...

导入过程,可以构建一个shell脚本,一键搞定: ``` shell #!/bin/bash # 配置参数(根据实际情况修改) DB_NAME="tpch" # 数据库名 MYSQL_USER="root" # MySQL 用户名 TBL_DIR="./dbgen" # .tbl 文件所在目录(默认在dbgen目录下) # 1. 清理 .tbl 文件格式(删除末尾的 |) echo "[1/3] 清理 .tbl 文件格式..." cd "$TBL_DIR"...

## flink 内实现限流功能参考 为了在 Flink 作业运行时动态设置 updateRate 方法,你需要一个机制来接收外部的配置更新,并将这些更新应用到正在运行的任务实例中。这可以通过多种方式实现,下面我将详细说明一种常见的方法:使用广播变量和 Akka 的 Actor 系统。 使用广播变量和 Akka Actor 系统 1. 设置广播变量 首先,在你的主程序(即提交 Flink Job 的地方)中,你需要创建一个广播流,用于发送最新的限流配置给所有并行任务实例。你可以使用一个特殊的 SourceFunction 来生成包含新速率值的消息,并将其与你的主要数据流合并。 ``` java // 创建一个广播流,用于发送新的限流配置 DataStream rateConfigStream...

https://github.com/datavane/tis/issues/353

是的,可以通过扩展 Flink 的 REST API 或者通过其他方式将外部请求作为输入流发送到正在运行的 Flink 作业中。以下是几种实现这一目标的方法: ### 1. 使用 Flink 提供的 REST API 和自定义 SourceFunction 虽然 Flink 自身提供的 REST API 主要用于作业管理(如提交、取消作业等),但你可以创建一个自定义的 `SourceFunction` 来监听来自外部服务的事件,并将其转换为数据流。然后,你可以部署一个独立的 Web 服务器(如使用 Spring Boot 构建的...

前端框架可以参考:https://github.com/dagrejs/dagre-d3/tree/master 例子:https://github.com/dagrejs/dagre-d3/wiki TIS中的例子:src/runtime/corenodemanage.component.ts

ws://${window.location.host}/tjs/download/logfeedback?taskid=${taskid}&logtype=build_status_metrics 实时流量可视化: 进入:tableConsumeCount 出:solrConsume 对应消息类型:mq_tags_status 消息结构: ``` json { summary: { solrConsume: "number", tableConsumeCount: "number" }, tags: [ { tag: "string", trantransferIncr: "number"} ] } ``` 对应服务端webSocket:com.qlangtech.tis.manage.servlet.LogFeedbackServlet 执行流程: 1. console(1秒间隔,从LogFeedbackServlet)向...

## 自定义metric reportor 在 Apache Flink 中实现自定义 Metric Reporter 需要以下步骤: --- ### 1. **实现 `MetricReporter` 接口** 创建一个类并实现 `org.apache.flink.metrics.reporter.MetricReporter` 接口(或继承 `org.apache.flink.metrics.reporter.AbstractReporter` 简化实现)。 #### 示例代码: ```java import org.apache.flink.metrics.*; import org.apache.flink.metrics.reporter.AbstractReporter; import java.util.Map;...