您的位置:首页 > 移动互联

star clock_StarRocks开源——携手未来,星辰大海!

发布时间:2022-07-28 13:02:27  来源:互联网     背景:

  各位大数据从业者:

微软手环二代

  这是一个充满挑战的时代。数据驱动正在深刻地改变整个世界。我们的业务数据、数据报表、数据指标越来越多,但我们分析数据的速度却越来越慢,报表构建的复杂度越来越高。如何有效地分析这些海量的数据,真正有效地利用数据为业务创造价值?这是我们都在思考的重要问题。可能你曾经为此搭建过很多系统,做过很多尝试,但实际效果不佳。仔细想一想,你的数据分析架构是否也在面临以下的难题?

StarStock

(复杂的企业数据分析架构)

飞利浦电视7000

  第一,数据分析性能不达标。

  随着数据驱动的深入,业务提出了更多的分析需求,比如多维分析,实时分析,高并发查询和Adhoc查询。在很多分析需求场景下,当前系统性能表现不佳,无法提供极速分析体验。

  第二,数据分析的灵活性不足。

  很多时候,为了能够提供极速分析体验,你需要针对各类场景构建大宽表,或者做复杂的预处理,而这损失了分析灵活性。特别是在自助化BI这样灵活的场景下,星型模型和雪花模型的价值不可替代。现有的系统难以同时高性能支持这些建模手段。

  第三,数据架构复杂度太高。

深圳警察钓鱼执法

  为了满足业务的多种分析需求,你必须搭建多套系统来组合使用。这让分析层架构变得非常复杂,导致开发维护成本以及业务使用成本都很高。另外,随着各类实时分析场景的兴起,你需要同时构建离线数据链路和实时数据链路。但数据同步、数据一致性、计算逻辑同步、异常数据处理、多系统运维等问题马上就接踵而至。你只能疲于应付。

上海虹桥机场京东快递

  第四,数据分析能力弹性不足。

  你的数据规模越来越大,对应的数据分析系统需要不断地扩容;不同的业务线有不同的数据分析访问量,需要保证每个业务线的SLA;有的业务还有大促,周年庆等流量高峰,如何保证既能支持好业务,又能节省成本?相信这些问题没少让你头疼。

  产生这些问题的根本原因,是旧的大数据技术架构已经不能满足当前业务高速发展的需求。在旧的底层架构上进行修修补补只能解决部分问题。要想从根本上破局,就需要一套全新的“极速统一”的数据架构。“极速”,意味着全面提升数据处理和分析的性能;“统一”意味着将复杂分散的数据架构融合为简单统一的架构。

  为此我们决定把我们的核心产品DorisDB升级为StarRocks,并全面开源(Github搜索“StarRocks”),和全球大数据从业者一起构建新一代极速统一的数据分析架构!

  StarRocks开创全新的极速统一分析

  2020年初,当时还没有人相信一个企业的数据分析架构可以统一,但我们相信“极速统一分析”一定可以实现。经过团队近20个月夜以继日的努力,我们攻克了诸多“不可能”的技术难题,通过自主研发新一代的技术,我们将StarRocks打造成了具有划时代意义的产品:“新一代极速全场景MPP数据库”

  ·全新设计的全面向量化MPP查询引擎,同时支持极速的单表和多表查询性能。

  StarRocks自主打造的新一代全面向量化的MPP引擎使查询性能大幅提高,是非原生向量化系统(Kylin/Druid/Elasticsearch/Impala-Kudu/Presto/Greenplum)的3~5倍以上。ClickHouse向量化引擎并不支持全面的MPP,多表查询能力差,StarRocks的多表查询性能是其3~5倍以上。

  ·全新设计的实时列式存储引擎,具备极致的实时更新和查询性能。

  在实时更新下,StarRocks查询性能是其他产品的3~5倍以上。

  ·全新设计的数据分布模式,具备高并发查询能力。

  其他系统都无法较好支持高并发查询,StarRocks可以支持每秒上万次的并发查询能力。

  ·全新设计的CBO优化器,支持极速的秒级AdHoc查询。

  StarRocks性能可以做到主流AdHoc查询系统Presto的5倍以上,可以做到秒级延迟。

  ·全新设计的现代化物化视图,具备灵活透明的预计算加速能力。

  其他产品无法做到非常好的透明化加速,具有较高的开发和管理成本,StarRocks在可以灵活透明加速的现代化物化视图方面进行了大量创新。

  通过这些独特的技术能力,StarRocks真正实现了极速统一分析:

  ·StarRocks可以同时高效支持OLAP多维分析、实时数据分析、高并发查询、AdHoc查询等多场景,并且比上一代同类型产品的分析能力快3~5倍以上。

  ·全新的OLAP多维分析体验,打破“只能做大宽表”的局限性,让多种数据建模模式:预计算、大宽表、星型模型和雪花模型等都具备极速分析体验。

电信4G不限量套餐

  ·全新的实时数据分析体验,真正支持实时更新和删除,并能保证极速查询性能。

  ·全新的高并发查询体验,突破传统OLAP无法高并发的限制,支持数千人同时访问。

  ·全新极简统一的OLAP架构,大大降低了使用和运维管理复杂度,提升了开发和使用效率。

star clock

  产品发布半年以来,StarRocks快速被50多家市值(或估值)在10亿美金以上的大型用户用于生产环境,有力地支撑了这些用户的数据分析业务,创造了全新的分析体验,并且有不少行业头部公司已经开始用StarRocks实现了统一的OLAP平台,“不可能”的极速统一分析正在快速变成“现实”!这也是为什么,阿里云、腾讯云、小米、京东、滴滴、贝壳、携程、小红书、顺丰科技、58同城等行业头部公司在第一时间加入社区,一起携手为“极速统一”的新时代梦想而努力。

  “极速统一分析”并不是终局,而是新的起点

  在当前极速统一的数据分析架构的基础上,我们的下一个目标是要打造“新一代流批融合的极速湖仓(Lakehouse)”。众所周知,在当前主流的数据处理链路中,实时数据处理和离线数据处理是割裂的。企业要管理好这两种数据处理场景,往往系统架构复杂、难于维护。而我们要在StarRocks里实现这两种数据处理方式的融合。

  ·我们将设计全新实时和离线融合的云原生架构,可以同时高效管理实时数据和离线数据。

  虽然云原生标杆Snowflake在离线数据场景下打造了先进的存储计算分离架构,但是这个架构在实时数据分析支持上存在很大不足。我们将设计新一代云原生架构,同时高性能支持实时数据和离线数据的写入和读取。

  ·我们还将设计全新流批融合的向量化计算引擎,可以同时进行极速的批处理和流处理。

  通过打造全新的向量化批处理引擎,可以实现比Apache Spark快5~10倍以上的批处理速度。同时完美融合流式语义,利用向量化技术提升流处理性能。用户无需再忍受使用Spark和Flink分散进行批处理和流处理带来的复杂性!

  “坚持大胆尝试,实现不可能”是我们一直践行的价值观。在未来一年半左右的时间内,我们将和社区一起打造全新的StarRocks。让企业的离线数据和实时数据可以采用同一套架构、同一种语义、同一个引擎来处理,让数据架构实现全面的“极速统一”,“让原本简单的事情回归简单”!

StarStock

  一个人走得快,一群人走得远

  为了实现这些伟大梦想,我们将在全球范围内构建StarRocks开源生态,吸引优秀的有志之士一起来参与社区建设。我们将不遗余力地推动更多的全球用户加入社区,了解和评测StarRocks,使用和改进StarRocks。我们还将推动全球的数据工程师/数据分析师与社区一起,基于StarRocks构建各类数据分析场景的新一代解决方案。

  如果你也和我们一样,心怀梦想,请现在就关注我们,参与社区建设,在Github上给StarRocks加一个星吧。让我们一起来创造“极速统一”的大数据新时代,向不可能说不!

  StarRocks——携手未来,星辰大海!


返回网站首页

本文评论
孩子学猿辅导有用吗_猿辅导教育经:孩子10岁前,千万别偷这3个懒
  养育孩子的成功与否,如何判断?猿辅导认为,孩子长大成人后,能够自食其力、品性出色,身为父母就已经成功了。  有人说:“养孩子的有效期是10年。”无数父母认同,真的是这样,错...
日期:10-21
快拆设计加9L小巧机身,华硕碉堡S500SA一款有极客精神的迷你主机
  身材小巧又方便拆装,这样的产品往往对具有DIY精神的极客用户十分具有吸引力。华硕碉堡S500SA台式电脑,超小体积的9L机箱和机箱快拆功能,在一众台式电脑里显得精致干练。同...
日期:07-27
载誉前行 贤牛斩获2021中国IT后市场数字化明星产品奖
  近日,由中国软件网、海比研究院主办的“洞见2022中国企业服务年会”在北京香格里拉饭店隆重举行。作为专注IT后市场数字化升级的领先企业,贤牛(北京)科技有限公司(以下简...
日期:07-25
三项国家标准发布,人工智能领域标准制定更一步完善_人工智能技术标准
  日前,云天励飞参编的三项国家标准——《信息技术 计算机视觉 术语》、《信息技术 人工智能 术语》、《信息技术 生物特征识别 人脸识别系统技术要求》正式发布!这也是...
日期:10-26
玩家必备原色量子点游戏电视——创维A23S打造游戏电视色彩新标杆
  当前智能硬件蓬勃发展,游戏早已成为检验手机和PC终端是否硬核的可靠标准,而随着大屏时代的到来,智能电视也开启了“征服游戏”的硬核之战。近日,创维电视在京东全新发布原色...
日期:09-02
坚果、极米、小米、天猫、当贝投影仪双11怎么选?看这一篇就够了
  双十一期间各大投影仪厂商的活动实在是五花八门,经过一番研究后,最终入手了天猫魔屏X。鉴于双11买东西太复杂了,开箱用了几天后,跟大家分享下,为什么最终选了天猫魔屏X,...
日期:07-26
MacBook很出色但还不够,ThinkPad用品质与服务定义“真商务”_macbook对比thinkpad
近日,ThinkPad官方微博发布了一条视频,引发了不少用户的关注。这条视频以当下常见的混合办公场景为例,展示了ThinkPad搭载的AI降噪麦克风在远程沟通时的优势;而视频前半部分主角...
日期:10-09
有娃家庭打扫难题怎么解决?以内X3扫地机器人或许是个好选择_让家里的扫地机器人扫地
  城市家庭中,有孩家庭往往面临需要兼顾家庭和工作的双重压力。近两年,以扫地机器人为主的智能清洁家电品类逐渐流行,开始帮助人们缓解做家务的难题。最近,一款名为以内X3...
日期:09-01
ALPD激光光源对比全色激光更加成熟,ALPD激光投影首选当贝投影_alpd激光厅和杜比激光区别
  投影仪已经逐渐成为家用主流的大屏播放设备之一,但很多消费者在选购时经常感到一头雾水,LCD投影、LED投影、单色激光、全色激光、ALPD激光......不同投影仪之间有什么区别...
日期:12-22
当贝NEW D3X最适合女生用的投影仪,入门级旗舰机 极致性能天生好看_当贝投影仪d1和D3x区别
  在男性为主要消费群体的投影行业中,女性细分市场也是在近两年才得到重视,与男性相比,女性对于投影的要求则有很大的不同。如今想要做一款在性别上更符合女性用户的产品,仅仅...
日期:10-09
双十一无影云桌面九块九,绝佳薅羊毛的机会
  今年10月经过两次核酸才挤进去云栖大会的现场,体验了一把无影云电脑  确实很惊艳:一个小小的卡片机,搭配一台显示器,分分钟就变成一台个人电脑,随时随地体验云端办公...
日期:07-26
极米h3s视频_极米H3S:解锁家庭观影新体验!
  2021年即将过去,随着元旦春节等节日的临近,想必大家一定希望给聚会增添一些不一样的东西,增添一些新鲜感。那么新年来临之际,家里有什么可以添置的呢?今天给大家推荐的极米H...
日期:07-25
深信服 托管云_深信服何朝曦:托管云为用户上云提供第三种选择
  9月17日,以“万物皆可云”为主题的信服云创新峰会成功举办。会上,深信服科技股份有限公司CEO何朝曦分享了运用云计算技术帮助用户进行数字化转型的观点。他认为兼具公有云...
日期:07-28
AI厂商爱莫科技推出智慧冰淇淋行业洞察解决方案
AI厂商爱莫科技于9月26日首次发布冰淇淋视觉识别算法,赋能冰淇淋行业数字化营销。爱莫科技表示,做好冰淇淋的线下营销与核查并不容易,尤其是对于产品的陈列核查来说。与其他用...
日期:07-27
双十一装修如何选购投影,极米H3S使用体验_极米h3s投影仪
  最近,有个朋友家里新房装修,找到我想了解一些投影仪知识,比如家装投影仪好还是电视好,家装投影仪如何选购。其实,距离我自己买投影仪已经有大半个月了,觉得用的还不错。那么在...
日期:07-26
usb 3.0 type c 速度_简洁高效 三星Type-C USB3.1闪存盘体验评测
  闪存盘,也就是我们常说的优盘,一直是广大消费者人手必备的存储设备。虽然随着个人存储需求多样化,移动固态硬盘和网盘产品也能够作为替代产品,但是这并不意味着优盘已经...
日期:07-28
腾讯搭建公益平台免费开放无障碍输入技术,搜狗输入法发布眼动方案
  1月13日,由中国残疾人联合会直属中国残疾人辅助器具中心指导,腾讯旗下搜狗输入法、深圳市信息无障碍研究会、全国残疾人用品开发供应总站共同发起“众声”无障碍输入公益...
日期:03-21
“玩”出绿色充电新场景 国网电动e充电商户号第二季有奖征文榜单公布
  自驾游已经成为人们主要的出行旅游方式,随着新能源汽车的普及和推广,如今,更多的新能源车主也加入到长途自驾旅行的队伍中来感受假期出行的喜悦。  不过,对于新能源车主来...
日期:07-27
客户第一 中小企业数字化服务节在行动
  9月10日,是阿里巴巴的23岁生日,也是阿里巴巴第八届客户日,秉承和坚守“客户第一”的使命和初心,与客户并肩同行。阿里云已经服务全球400多万付费客户,其中包括26个部委,80%科...
日期:09-10
京东现场激活手机卡_刚到手的装备碎了 来京东11.11开通京A卡可享两次原厂维修5折
  又到每年11.11,是时候犒劳犒劳辛苦了大半年的自己。10月19日,Apple产品年度会员节在京东正式开启,全线产品优惠让利,爆款产品惊喜好价。还有京东携手Apple推出的京东Apple产...
日期:07-27