有 7 台服务器在运行,使用了阿里云的日志服务 SLS,但 SLS 用于报警还行,平时查 bug 要前前后后看几十行甚至上百行日志,7 台机器来回看有点麻烦。 有没有什么好的手段把日志按时间戳聚合起来, 比如每分钟上传到一个统一的服务器上,然后写个脚本排一下序。 但一个日志文件有几百 MB,这个方式有点慢。
     1 
                    
                    fengpan567      2021-10-22 11:14:46 +08:00    elk 
                 | 
            
     2 
                    
                    37Y37      2021-10-22 11:32:40 +08:00 
                    
                    我们用的 elk,开发查起来得心应手 
                 | 
            
     3 
                    
                    mtzhjsnv      2021-10-22 12:51:09 +08:00 
                    
                    
                 | 
            
     4 
                    
                    yisheyuanzhang      2021-10-22 13:52:41 +08:00 
                    
                    filbeat > redis/kafka > elk 用起来很顺畅 
                 | 
            
     5 
                    
                    aeli      2021-10-22 14:43:34 +08:00    loki + promtail 轻量的多,更适合日志查询 
                 | 
            
     6 
                    
                    securityCoding      2021-10-22 15:09:27 +08:00    正好刚从阿里云 sls 切回自建日志平台,sls 不好用费用也高 
                filebeats->es->kibana 体验比 sls 高两个级别, 文档无比清晰搭起来很快  | 
            
     7 
                    
                    kingzeus      2021-10-22 15:26:16 +08:00 
                    
                    elk 
                 | 
            
     8 
                    
                    CainWang      2021-10-22 16:31:36 +08:00 
                    
                    基础的查询 bug  sls 也能满足的  前提是日志规范;比不上 kibana  但是也差不了太多 
                 | 
            
     9 
                    
                    zanxj      2021-10-22 16:32:27 +08:00 
                    
                    无脑 ELK 
                 | 
            
     10 
                    
                    killva4624      2021-10-22 16:40:15 +08:00 
                    
                    轻度 loki,重度 elk,所以直接 elk 吧。 
                 | 
            
     11 
                    
                    bruce0      2021-10-22 16:59:15 +08:00 
                    
                    filebeat + Logstash 
                 | 
            
     12 
                    
                    yicong135      2021-10-22 17:07:17 +08:00 
                    
                    轻量级 Seq 
                https://datalust.co/seq  | 
            
     14 
                    
                    jellyspot      2021-10-22 17:15:30 +08:00 
                    
                    如果是容器环境,efk 吧 
                 | 
            
     15 
                    
                    shanghai1943      2021-10-22 17:21:35 +08:00 
                    
                    @yicong135 #12 看起来挺不错👍 
                 | 
            
     16 
                    
                    basefas      2021-10-22 17:23:14 +08:00 
                    
                    都打到一个日志库里不就行了? 
                 | 
            
     17 
                    
                    Hanggi      2021-10-22 17:33:48 +08:00 
                    
                    elk 一套占多少资源啊,CPU, memory 
                 | 
            
     18 
                    
                    BQsummer      2021-10-22 18:18:29 +08:00 
                    
                    我们是从 graylog 迁到 sls 的,感觉还是 graylog 好用 
                 | 
            
     19 
                    
                    hdfg159      2021-10-22 18:18:50 +08:00 via iPhone 
                    
                    用 graylog 
                 | 
            
     21 
                    
                    kaikai5601      2021-10-22 22:55:28 +08:00 via iPhone 
                    
                    你都用 sls 了还有啥不方便的??比 elk 方便,就是对标 elk 的 
                 | 
            
     23 
                    
                    huangzxx      2021-10-23 19:47:58 +08:00 
                    
                    推荐 ELK ,all -> kafka -> logstash -> es -> kibana 
                 | 
            
     24 
                    
                    fucku      2021-10-24 08:10:30 +08:00 
                    
                    这大于号是什么意思? 
                比如 -> >  | 
            
     25 
                    
                    securityCoding      2021-10-24 09:24:13 +08:00 
                    
                    @Hanggi 主要是 ES 集群吃资源,数据量不大的话 3 台 4u16g 机器足够 
                 | 
            
     26 
                    
                    homie2018   OP @kaikai5601 主要是不太熟悉,比如通过 taskid abcd123efg 查所有相关的日志,不知道在控制台怎么使用,他们好像提供了类似 SQL 的句法,但我更倾向于在终端使用 grep, awk, sed 等命令进行查询。 
                 |