概要
Apache Flinkは、streaming-first runtimeで継続dataとboundedなbatchを処理するframeworkです。高throughputと低latency、event time、out-of-order event、柔軟なwindow、exactly-once fault tolerance、back-pressureを組み合わせ、長時間動くstateful data pipelineを構築できます。
特徴と向いている用途
公式資料に基づく紹介・実機未検証 · 内容確認日:
event time、window、exactly-onceをstream・batchで扱う
公式READMEはstreamingとbatchの両program、Java API、高throughput・low latency、DataStream APIのevent timeとout-of-order処理、time・count・session・custom triggerのwindowを挙げます。exactly-onceのfault tolerance、natural back-pressure、in-memoryとout-of-coreを切り替えるmemory管理も備えます。
出典:[1]
継続eventと履歴dataを同じdataflowで処理したい場合
event ingestion、real-time集計、状態を持つrule判定、ETL、bounded replayなどを共通runtimeで運用したいdata platformに向きます。Kafkaなどのconnectorと組み合わせ、event-time semantics、state size、latency、throughput、recovery objectiveを実dataで検証してください。
出典:[1]
connector分離、state互換性、checkpoint運用をversionごとに確認する
READMEは多くのconnectorがApache配下の個別repositoryへexternalizeされたと案内します。本体とconnectorの対応version、Java・Scala・Maven環境、state schema、checkpoint・savepoint、resource・back-pressureをupgrade前にtestしてください。source buildはJava version別のMaven wrapper commandを使い、projectはApache-2.0です。
参考にした公式資料
- [1]Apache Flink README(2026-09-13)
- [2]Apache Flink LICENSE(2026-09-13)
編集部からの補足
一般語FlinkをApache・big data・Java・SQLで限定し、stream processingの課題検索へ結ぶ例として選びました。
成長
成長の推移 · 直近30日
26,336 Stars
推移データを蓄積中です。
開発アクティビティ
直近90日・週次
- Commit(直近30日)
- 140
- Open PR
- 367
開発アクティビティを蓄積中です。
Built with
カテゴリとタグ
カテゴリ
GitHubデータ
GitHubのデータGitHubの詳細データを見る
GitHub Topics
- scala
- java
- big-data
- flink
- python
- sql
- Stars
- 26,336
- Forks
- 14,027
- Watchers
- 901
- Open Issues
- 0
- 主要言語
- Java
- ライセンス
- Apache-2.0
- リポジトリ最終更新
- 2026/09/11
あわせて探訪
- scikit-learn67,238 Stars
前処理・分類・回帰・clustering・model選択・評価を共通estimator APIで組むPython ML library。
Python - pandas49,724 Stars
DataFrameで表形式・label付きdataの欠損、結合、集計、変形、時系列、I/Oを扱うPython library。
Python - Apache Airflow46,842 Stars
PythonでDAGを定義し、batch・data・ML workflowをschedule・実行・監視する基盤。
Python - Apache Spark43,989 Stars
SQL・DataFrame・batch・stream・machine learningを統合する大規模data processing engine。
Scala - Apache Kafka33,715 Stars
data pipeline・streaming analytics・system連携を支える分散event streaming platform。
Java
情報の誤りを報告
掲載内容に誤りや古い情報があればお知らせください。