flumesink和source是什么意思到hdfs上的数据怎么那么小

 
 

这个问题是目录权限问题,解决办法如下

配置文件错误(仔细检查)

}

本人目前遇到flume采集写入hdfs性能等各種问题大致如下。在10上的xx/xx目录下的数据进行读取 sink和source是什么意思到08上的flume 由08上的flume写到07的hdfs上 30多m的文件写了好久有时候会内存溢出等问题

上面昰08机器上的配置文件

 下面是10机器上的配置文件
求各位高手解答。有时候只写了一部分数据就不再继续了对单个文件执行时没有问题就是對目录扫描 channel是 memory类型时性能极差。不知道问题出在哪里
}

表示一个小时生成一个文件夹

表礻10分钟或者128M生成一个文件

}

我要回帖

更多关于 sink和source是什么意思 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信