大数据和云计算技术周报(第98期)

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/zNZQhb07Nr/article/details/89324559


导语

“大数据” 三个字其实是个marketing语言,从技术角度看,包含范围很广,计算、存储、网络都涉及,知识点广、学习难度高。

    

本期会给大家奉献上精彩的:路径优化、黑洞算法、Hbase、Elasticsearch、数据质量管理、spark、消息队列。全是干货,希望大家喜欢!!!


#大数据和云计算技术社区#希望通过坚持定期分享能帮助同学在大数据学习道路上尽一份微博之力。相信长期坚持认真阅读周报的同学,在技术的道路上一定会日益精进!感谢编辑们的长期坚持!也请同学们继续打赏,支持社区,支持编辑们持续奉献高质量知识!


#大数据和云计算技术社区#长期招募有兴趣参与社区编辑和运营的同学,欢迎扫描文末二维码联系(参与社区工作,收获知识和进步,还有红包哦)。


特别提醒,文末有惊喜!


以下是正文,限于众编辑水平有限,不保证大家都喜欢。(如果链接不能点开  请用二维码  谢谢


1Hbase

来自 Hortonworks 的工程师们为我们带来了全新的 Apache Spark-Apache HBase Connector,下面简称 SHC。通过这个类库,我们可以直接使用 Spark SQL 将 DataFrame 的数据写入到 HBase 中

https://mp.weixin.qq.com/s/295XcqqylBxmhajLWZ1KSQ


2MongoDB

本文讲述了MongoDB Atlas连接副本集的更简单的方式:新语法mongodb+srv,以及seed列表的概念、SRV和TXT的读取和创建;

http://mongoing.com/archives/25425

640?wx_fmt=png

3Elasticsearch

在Elasticsearch下,一个文档除了有数据之外,它还包含了元数据(Metadata)。每创建一条数据时,都会对元数据进行写入等操作,当然有些元数据是在创建mapping的时候就会设置,元数据在Elasticsearch下起到了非常大的作用。本文将对ElasticSearch中的元数据进行介绍

https://www.iteblog.com/archives/1767.html?from=like

640?wx_fmt=png

4Spark

总体来说这个问题大概有两种解决思路:1.在Spark端设置限速;2.在Kafka端设置限速。

https://mp.weixin.qq.com/s/SF5z3Rv-_YH9zlc7uy_ptA


5消息队列

该文章是,主要从什么事消息队列、为什么要用消息队列、使用消息对列有什么问题进行剖析,让你对消息对列有新的认知

https://juejin.im/post/5cb025fb5188251b0351ef48?utm_source=gold_browser_extension

640?wx_fmt=png

6黑洞算法

4月10号公布的黑洞照片让全世界人第一次见到了黑洞的身影,这张照片背后的英雄是是谁?对于IT工程师我们能得到什么启发?

https://mp.weixin.qq.com/s/Jmm-dJ84IYhaVFv9OW1WoQ


7路径规划问题

车辆路径规划问题(Vehicle Routing Problem, VRP)是物流领域最经典的优化问题之一,具有极大的学术研究意义和实际应用价值。菜鸟网络高级算法专家胡浩源带领仓配智能化算法团队经过两年的研发,逐步沉淀出了一套完善、强大的车辆路径规划求解引擎,为菜鸟内外部多项业务提供了技术支持。

https://mp.weixin.qq.com/s/U3qlIsSLJ6E1eNzQ-ZZ6zQ


8elasticsearch

本文图文并茂由浅入深地趣解了es的实现原理,非常有助于大家理解,推荐一看。

https://mp.weixin.qq.com/s/a68yVzZK7xju2GPoAftBAw


9数据质量管理

数据质量管理,是指对数据从计划、获取、存储、共享、维护、应用、消亡生命周期的每个阶段里可能引发的各类数据质量问题,进行识别、度量、监控、预警等一系列管理活动,其终极目标是通过可靠的数据提升数据在使用中的价值,并最终为企业赢得经济效益。

https://mp.weixin.qq.com/s/2z-0TsumqFchE7m77Yqlaw


10ES

ES 7.0值得了解下

https://mp.weixin.qq.com/s/cKIiJgucmgGyJ-9rBxjwXQ


11开心一刻

请用一句话让程序员伤心:“需求又改了!”

请用一句话让程序员发怒:“这个需求很简单!”

请用一句话让程序员欢呼:“需求不改了!”

程序员最烦心的事情是什么:“看别人的代码!”

程序员经常做的事情是什么:“加班!”


致谢:

周蓬勃、王在道、孙亚飞、冯艺帆、陈少军、邓开表、张少华、薛述强、刘彬、刘超、廖程鹏、董言、吕西金、朱洁、蓝随、黄文辉、郭飞


猜你喜欢

#大数据和云计算机技术社区#博客精选(2017)

NoSQL 还是 SQL ?这一篇讲清楚

阿里的OceanBase解密

#大数据和云计算技术#: "四有"社区介绍

大数据和云计算技术周报(第56期)

新数仓系列:Hbase周边生态梳理(1)

《大数据架构详解》第2次修订说明

简单梳理跨数据中心数据库

云观察系列:漫谈运营商公有云发展史

云观察系列:百度云的一波三折

云观察系列:阿里云战略观察

超融合方案分析系列(7)思科超融合方案分析

加入技术讨论群

《大数据和云计算技术》社区群人数已经6000+,欢迎大家加下面助手微信,拉大家进群,自由交流。

640?wx_fmt=jpeg


喜欢QQ群的,可以扫描下面二维码:

640?wx_fmt=jpeg

欢迎大家通过二维码打赏支持技术社区(英雄请留名,社区感谢您,打赏次数超过108+):

640?wx_fmt=jpeg



猜你喜欢

转载自blog.csdn.net/zNZQhb07Nr/article/details/89324559