博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
大数据日志采集系统
阅读量:5022 次
发布时间:2019-06-12

本文共 461 字,大约阅读时间需要 1 分钟。

ELK提供了一系列采集方案。但对于从app端过来的日志,没有接收模块。一种方案可以用logstash打开socket端口接收,需要客户端配合。这里提供通过http的方案。接收服务器采用springboot实现收集,发送日志到kafka。也可以直接写文件,用fileBeat读取发送到kafka。从kafka传送到elasticsearch用了大数据计算平台Beam实现。Beam编出的jar可以部署到spark,flink等。进入elasticsearch的数据可以做报警处理。用开源的elastAlert。可以将报警信息发往其他地方,可以用webhook,把报警信息post到服务器上,发送到如企业微信等。

git源码:

采集服务:https://github.com/bigben0123/dataPlatformCollector

beam服务:https://github.com/bigben0123/

 

转载于:https://www.cnblogs.com/bigben0123/p/10315857.html

你可能感兴趣的文章
图像切割之(一)概述
查看>>
JAVA修饰符类型(public,protected,private,friendly)
查看>>
flex利用webservice上传照片
查看>>
IOS开发之Bug--使用KVC的易错情况
查看>>
python list和tuple
查看>>
基础薄弱的反思
查看>>
ORACLE增删改查以及case when的基本用法
查看>>
[转]oracle10客户端PL/SQL Developer如何连接远程服务器上的oracle数据库
查看>>
HTML5 表单元素和属性
查看>>
SDUTOJ 2498 数据结构实验之图论十一:AOE网上的关键路径
查看>>
使用SpringSocial开发QQ登录
查看>>
好玩的游戏
查看>>
2.6. Statistical Models, Supervised Learning and Function Approximation
查看>>
代码说明call和apply方法的区别 (咱们这方面讲解的少,这样的题有变式,需要举例讲解一下)...
查看>>
T-SQL 类型转换
查看>>
在eclipse中设计BPMN 2.0工作流定义的根本步骤
查看>>
Json对象与Json字符串互转(4种转换方式)
查看>>
PAT甲级1002 链表实现方法
查看>>
查看Linux信息
查看>>
Python中sys模块sys.argv取值并判断
查看>>