3.5 KiB
3.5 KiB
title, localeTitle
| title | localeTitle |
|---|---|
| Flink | 弗林克 |
弗林克
Apache Flink是一个开源流处理框架，具有强大的流和批处理功能。
Apache Flink的核心是用Java和Scala编写的分布式流数据流引擎。 Flink以数据并行和流水线方式执行任意数据流程序。 Flink的流水线运行时系统可以执行批量/批处理和流处理程序。此外，Flink的运行时本身支持迭代算法的执行。 Flink提供高吞吐量，低延迟的流媒体引擎，以及对事件处理和状态管理的支持。 Flink应用程序在发生机器故障时具有容错能力，并且支持一次性语义。 程序可以用Java，Scala，Python和SQL编写，并自动编译和优化为在集群或云环境中执行的数据流程序。
Flink不提供自己的数据存储系统，并为Amazon Kinesis，Apache Kafka，HDFS，Apache Cassandra和ElasticSearch等系统提供数据源和接收器连接器。
Apache Flink有什么新功能？
- Flink实现了实际的流处理，而不是通过微批处理来模仿它。在Spark中，流式传输是一种特殊的批处理案例，而在Flink中，批处理是一种特殊的流式传输（有限大小的流）
- Flink对循环和迭代处理有更好的支持
- Flink具有更低的延迟和更高的吞吐量
- Flink拥有更强大的Windows运营商
- Flink实现了轻量级的分布式快照，它具有低开销和流处理中的一次性处理保证，而不像Spark那样使用微批处理
- Flink支持流处理中的可变状态
特征
- 流媒体优先运行时，支持批处理和数据流程序
- Java和Scala中优雅流畅的API
- 运行时支持非常高的吞吐量和低事件延迟的同时
- 基于_数据流模型_ ，支持DataStream API中的_事件时间_和_无序_处理
- 灵活的窗口（时间，计数，会话，自定义触发器）跨越不同的时间语义（事件时间，处理时间）
- 具有_精确一次_处理保证的容错能力
- 流媒体节目中的自然背压
- 用于图形处理（批处理），机器学习（批处理）和复杂事件处理（流式处理）的库
- 内置支持DataSet（批处理）API中的迭代程序（BSP）
- 自定义内存管理，可在内存和核外数据处理算法之间实现高效，可靠的切换
- Apache Hadoop MapReduce和Apache Storm的兼容性层
- 与YARN，HDFS，HBase和Apache Hadoop生态系统的其他组件集成
Flink用法
构建Flink的先决条件：
- 类Unix环境（我们使用Linux，Mac OS X，Cygwin）
- 混帐
- Maven（我们推荐3.0.4版本）
- Java 7或8
git clone https://github.com/apache/flink.git
cd flink
mvn clean package -DskipTests # this will take up to 10 minutes
开发Flink
Flink提交者使用IntelliJ IDEA开发Flink代码库。 我们建议使用IntelliJ IDEA来开发涉及Scala代码的项目。
IDE的最低要求是：
- 支持Java和Scala（也是混合项目）
- 使用Java和Scala支持Maven
更多信息：
- Flink网站： Apache Flink
- Flink文档： flinkdocs
- 快速flink教程： 快速入门
- 如何指导： howto
- Flink vs Spark： 比较