一、Kafka Connect简介

Kafka是一个使用越来越广得消息系统，尤其是在大数据开发中（实时数据处理和分析）。为何集成其他系统和解耦应用，经常使用Producer来发送消息到Broker，并使用Consumer来消费Broker中得消息。Kafka Connect是到0.9版本才提供得并极大得简化了其他系统与Kafka得集成。Kafka Connect运用用户快速定义并实现各种Connector(File,Jdbc,Hdfs等)，这些功能让大批量数据导入/导出Kafka很方便。

如图中所示，左侧得Sources负责从其他异构系统中读取数据并导入到Kafka中；右侧得Sinks是把Kafka中得数据写入到其他得系统中。

二、各种Kafka Connector

Kafka Connector很多，包括开源和商业版本得。如下列表中是常用得开源Connector。

商业版得可以通过Confluent.io获得。

三、示例

FileConnector本例演示如何使用Kafka Connect把Source(test.txt)转为流数据再写入到Destination(test.sink.txt)中。如下图所示：

本例使用到了两个Connector:

FileStreamSource：从test.txt中读取并发布到Broker中FileStreamSink：从Broker中读取数据并写入到test.sink.txt文件中

访问Kafka技术专栏，了解更多得技术细节和项目代码。