查看原文
其他

搞定这件事,老板终于同意给我批假了

腾讯云 2024-03-29

安全争分夺秒⚠️

日志分析平台怎能拉胯?!


企业的安全产品

每天都在产生大量日志数据

无论是发生了安全事故要定位问题

还是出于主动防御的目的

要从海量数据里找到潜在隐患并及时消灭

离不开一个性能优越的日志分析工具


但是,基于传统架构的数据库处理日志

性能消耗高、查询时间长

查询7天以上的数据1小时+是常态

时间跨度再大点

常以“超时”告终,直接宕机

网络安全战场瞬息万变,争分夺秒

在PB级的数据量里实现实时的查询

才能掌握对抗的主动权

深谙此道的鹅,自有妙招

鹅发现

通用的交易型数据库数据可读可写

不管是初始写入还是回写

在目前的分布式存储架构下

为了保证数据的一致性

需要把更新的数据同步到所有服务器上

会消耗巨大的性能


而日志数据库则没有这样的烦恼

因为日志的属性是不停地追加和查询

但入库的日志数据不需再修改,无需回写

通过主动失去“被改写”的能力

它能把性能做到指数级提升

变秃了,也变强了

而且,日志数据有大量重复的字段

这部分只需存一次或者少数几次

数据的压缩比可以做得很高

基于日志数据无需修改

大量字段重复、有时间戳等特性

腾讯安全自研了一款安全数据湖产品

具备几大“看家本领”:

// 架构领先

MPP架构,采用Rust语言开发,针对日志及安全场景进行专项优化


// 极致降本

使用列存储实现极致压缩比,无索引架构避免索引开销


// 一体化引擎

通过原子能力实现数据处理、查询、存储、分析一体化 


// 插件式扩展

通过SQL/SPL语句支持不同分析场景,支持“插件式”扩容


// 易运维

面向云原生架构实现存算分离、读写分离、从而实现一键弹性扩容,故障秒级切换


最终实现了:

👉 在同等数据规模下,

硬件成本仅为基于开源软件搭建的

同类产品的1/10


👉 万亿级日志、PB级数据秒级查询


“以前一个客户分析特定的数据量可能需要100台机器,但用我们的方案只需要10台;原来查一周都查不了或者直接宕机,我们只需要一分钟。”

腾讯云原生安全数据湖的性能提升,

在于它只做一件事:

安全分析场景的日志优化

因为专注,所以专业!

腾讯安全数据湖还设计了

“插件化”应用开发能力

方便企业可以把这个平台

快速纳入自己已有的安全体系中去:

上层应用可根据需求定制

并通过平台+APP+合作伙伴

构建完整的日志应用生态体系

助力企业构建

一体化云原生安全数据湖平台

自从有了这个“湖”

咱鹅排查安全隐患更快了

休假也休得更舒畅


继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存