导读:本篇文章首席CTO笔记来给大家介绍有关大数据属于哪个背景的相关内容,希望对大家有所帮助,一起来看看吧。
大数据的产生背景是什么?
大数据有两种含义:
一种是大批量的数据。量级有多大?比如通常读一本几百万字的电子小说,每天专注地快速地阅读,少说用时也需7-15天,而文档在手机、电脑上存储占用空间有多大呢?10MB而已,也就是说如果按照7天处理10MB文字,推算1GB的内容需耗时710+天,相当于两年时间,而当下互联网企业每天产生的数据量是10GB-10000GB不等,这样的数据量,如果用一个人去处理的话,每天的数据量得花20年到20000年,在时间长度和成本上而言几乎是不可能实现的,因为这才是一天的数据量。同样可以感受一下存储成本:大家手机、电脑都有存储空间,手机256GB应该为主流了,电脑2TB(2048GB)左右,即便存储空间应景很大,而实际企业生产中用不了几天就存储不下了。大家想象一下,如果打开一个1GB大小的EXCEL或者TXT文本文档会发生什么现象呢?有兴趣的小伙伴可以试一试,你会发现电脑变得超级慢超级卡,而且你甚至都打不开这个文档。
第二种就是大数据处理技术,简称大数据。对企业而言企业绝对不能接受上述现象的发生,因为数据处理不了,相当于干再多活都不知道哪些赚了哪些赔了,企业是要靠赚钱来存活的,如果为了处理数据再购买更高性能的机器作为服务器去处理这些信息,那成本将会极其高昂,企业负担不起,于是乎就有人发出这样的疑问:
有没有一种可以让很多台廉价的机器组建成一台牛逼的机器的技术?就好比合体技能一样?
有需求就有大牛,很快,一项新的计算机计算技术框架——分布式数据处理框架诞生了,目的很明确,就是解决了上面提到的疑问——让很多台廉价的机器组合起来变成了一个牛逼的、专门针对短时间内处理大量数据的系统,这就叫大数据处理技术。
如果你还是觉得理解不透彻,可以去多易教育的官网看看带有图片和讲解视频的专栏,通俗易懂的让你迅速了解什么是大数据,毕竟多易是大数据培训行业的领头羊嘛!
下面哪个不是大数据产生的背景因素
金融消费
大数据出现的背景有信息技术进步,云计算技术的兴起,数据资源化的趋势。
以容量大、类型多、存取速度快、应用价值高为主要特征的数据集合,最早应用于IT行业,目前正快速发展为对数量巨大、来源分散、格式多样的数据进行采集、存储和关联分析,从中发现新知识、创造新价值、提升新能力的新一代信息技术和服务业态。大数据必须采用分布式架构,对海量数据进行分布式数据挖掘,因此必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术。
大数据时代的产生背景
可按照时间点划分大数据的发展历程。
大数据时代发展的具体历程如下:
2005年Hadoop项目诞生。 Hadoop其最初只是雅虎公司用来解决网页搜索问题的一个项目,后来因其技术的高效性,被Apache Software Foundation公司引入并成为开源应用。
Hadoop本身不是一个产品,而是由多个软件产品组成的一个生态系统,这些软件产品共同实现全面功能和灵活的大数据分析。从技术上看,Hadoop由两项关键服务构成:采用Hadoop分布式文件系统(HDFS)的可靠数据存储服务,以及利用一种叫做MapReduce技术的高性能并行数据处理服务。这两项服务的共同目标是,提供一个使对结构化和复杂数据的快速、可靠分析变为现实的基础。
2008年末,“大数据”得到部分美国知名计算机科学研究人员的认可,业界组织计算社区联盟 (Computing Community Consortium),发表了一份有影响力的白皮书《大数据计算:在商务、科学和社会领域创建革命性突破》。它使人们的思维不仅局限于数据处理的机器,并提出:大数据真正重要的是新用途和新见解,而非数据本身。此组织可以说是最早提出大数据概念的机构。
2009年印度政府建立了用于身份识别管理的生物识别数据库,联合国全球脉冲项目已研究了对如何利用手机和社交网站的数据源来分析预测从螺旋价格到疾病爆发之类的问题。同年,美国政府通过启动网站的方式进一步开放了数据的大门,这个网站向公众提供各种各样的政府数据。该网站的超过4.45万量数据集被用于保证一些网站和智能手机应用程序来跟踪从航班到产品召回再到特定区域内失业率的信息,这一行动激发了从肯尼亚到英国范围内的政府们相继推出类似举措。
2009年,欧洲一些领先的研究型图书馆和科技信息研究机构建立了伙伴关系致力于改善在互联网上获取科学数据的简易性。
2010年2月,肯尼斯库克尔在《经济学人》上发表了长达14页的大数据专题报告《数据,无所不在的数据》。库克尔在报告中提到:“世界上有着无法想象的巨量数字信息,并以极快的速度增长。从经济界到科学界,从政府部门到艺术领域,很多方面都已经感受到了这种巨量信息的影响。科学家和计算机工程师已经为这个现象创造了一个新词汇:“大数据”。库克尔也因此成为最早洞见大数据时代趋势的数据科学家之一。
2011年2月,IBM的沃森超级计算机每秒可扫描并分析4TB(约2亿页文字量)的数据量,并在美国著名智力竞赛电视节目《危险边缘》“Jeopardy”上击败两名人类选手而夺冠。后来纽约时报认为这一刻为一个“大数据计算的胜利。” 相继在同年5月,全球知名咨询公司麦肯锡(McKinseyCompany)肯锡全球研究院(MGI)发布了一份报告——《大数据:创新、竞争和生产力的下一个新领域》,大数据开始备受关注,这也是专业机构第一次全方面的介绍和展望大数据。报告指出,大数据已经渗透到当今每一个行业和业务职能领域,成为重要的生产因素。人们对于海量数据的挖掘和运用,预示着新一波生产率增长和消费者盈余浪潮的到来。报告还提到,“大数据”源于数据生产和收集的能力和速度的大幅提升——由于越来越多的人、设备和传感器通过数字网络连接起来,产生、传送、分享和访问数据的能力也得到彻底变革。
2011年12 月,工信部发布的物联网十二五规划上,把信息处理技术作为4 项关键技术创新工程之一被提出来,其中包括了海量数据存储、数据挖掘、图像视频智能分析,这都是大数据的重要组成部分。
2012年1月份,瑞士达沃斯召开的世界经济论坛上,大数据是主题之一,会上发布的报告《大数据,大影响》(Big Data, Big Impact) 宣称,数据已经成为一种新的经济资产类别,就像货币或黄金一样。
2012年3月,美国奥巴马政府在白宫网站发布了《大数据研究和发展倡议》,这一倡议标志着大数据已经成为重要的时代特征。2012年3月22日,奥巴马政府宣布2亿美元投资大数据领域,是大数据技术从商业行为上升到国家科技战略的分水岭,在次日的电话会议中,政府对数据的定义“未来的新石油”,大数据技术领域的竞争,事关国家安全和未来。并表示,国家层面的竞争力将部分体现为一国拥有数据的规模、活性以及解释、运用的能力;国家数字主权体现对数据的占有和控制。数字主权将是继边防、海防、空防之后,另一个大国博弈的空间。
2012年4月,美国软件公司Splunk于19日在纳斯达克成功上市,成为第一家上市的大数据处理公司。鉴于美国经济持续低靡、股市持续震荡的大背景,Splunk首日的突出交易表现尤其令人们印象深刻,首日即暴涨了一倍多。Splunk是一家领先的提供大数据监测和分析服务的软件提供商,成立于2003年。Splunk成功上市促进了资本市场对大数据的关注,同时也促使IT厂商加快大数据布局。2012年7月,联合国在纽约发布了一份关于大数据政务的白皮书,总结了各国政府如何利用大数据更好地服务和保护人民。这份白皮书举例说明在一个数据生态系统中,个人、公共部门和私人部门各自的角色、动机和需求:例如通过对价格关注和更好服务的渴望,个人提供数据和众包信息,并对隐私和退出权力提出需求;公共部门出于改善服务,提升效益的目的,提供了诸如统计数据、设备信息,健康指标,及税务和消费信息等,并对隐私和退出权力提出需求;私人部门出于提升客户认知和预测趋势目的,提供汇总数据、消费和使用信息,并对敏感数据所有权和商业模式更加关注。白皮书还指出,人们如今可以使用的极大丰富的数据资源,包括旧数据和新数据,来对社会人口进行前所未有的实时分析。联合国还以爱尔兰和美国的社交网络活跃度增长可以作为失业率上升的早期征兆为例,表明政府如果能合理分析所掌握的数据资源,将能“与数俱进”,快速应变。在这一年的7月,为挖掘大数据的价值,阿里巴巴集团在管理层设立“首席数据官”一职,负责全面推进“数据分享平台”战略,并推出大型的数据分享平台——“聚石塔”,为天猫、淘宝平台上的电商及电商服务商等提供数据云服务。随后,阿里巴巴董事局主席马云在2012年网商大会上发表演讲,称从2013年1月1日起将转型重塑平台、金融和数据三大业务。马云强调:“假如我们有一个数据预报台,就像为企业装上了一个GPS和雷达,你们出海将会更有把握。”因此,阿里巴巴集团希望通过分享和挖掘海量数据,为国家和中小企业提供价值。此举是国内企业最早把大数据提升到企业管理层高度的一次重大里程碑。阿里巴巴也是最早提出通过数据进行企业数据化运营的企业。
2014年4月,世界经济论坛以“大数据的回报与风险”主题发布了《全球信息技术报告(第13版)》。报告认为,在未来几年中针对各种信息通信技术的政策甚至会显得更加重要。在接下来将对数据保密和网络管制等议题展开积极讨论。全球大数据产业的日趋活跃,技术演进和应用创新的加速发展,使各国政府逐渐认识到大数据在推动经济发展、改善公共服务,增进人民福祉,乃至保障国家安全方面的重大意义。5月份,美国白宫发布了2014年全球“大数据”白皮书的研究报告《大数据:抓住机遇、守护价值》。报告鼓励使用数据以推动社会进步,特别是在市场与现有的机构并未以其他方式来支持这种进步的领域;同时,也需要相应的框架、结构与研究,来帮助保护美国人对于保护个人隐私、确保公平或是防止歧视的坚定信仰。2014年,“大数据”首次出现在当年的《政府工作报告》中。《报告》中指出,要设立新兴产业创业创新平台,在大数据等方面赶超先进,引领未来产业发展。“大数据”旋即成为国内热议词汇。
2015年,国务正式印发《促进大数据发展行动纲要》,《纲要》明确,推动大数据发展和应用,在未来5至10年打造精准治理、多方协作的社会治理新模式,建立运行平稳、安全高效的经济运行新机制,构建以人为本、惠及全民的民生服务新体系,开启大众创业、万众创新的创新驱动新格局,培育高端智能、新兴繁荣的产业发展新生态。标志着大数据正式上升这国家战略。
2016年,大数据“十三五”规划将出台,《规划》已征求了专家意见,并进行了集中讨论和修改。《规划》涉及的内容包括,推动大数据在工业研发、制造、产业链全流程各环节的应用;支持服务业利用大数据建立品牌、精准营销和定制服务等。
大数据的技术:
1. Hadoop
Hadoop诞生于2005年,其最初只是雅虎公司用来解决网页搜索问题的一个项目,后来因其技术的高效性,被Apache Software Foundation公司引入并成为开源应用。Hadoop本身不是一个产品,而是由多个软件产品组成的一个生态系统, 这些软件产品共同实现全面功能和灵活的大数据分析。从技术上看,Hadoop由两项关键服务构成:采用Hadoop分布式文件系统(HDFS)的可靠数据 存储服务,以及利用一种叫做MapReduce技术的高性能并行数据处理服务。
2. Hive
Hive是一种建立在Hadoop文件系统上的数据仓库架构,并能对存储在HDFS中的数据进行分析和管理。它最初是应Facebook每天产生的海量新兴社会网络数据进行管理和机器学习的需求而产生和发展的。后来其他公司也开始使用和开发Apache Hive,例如Netflix、亚马逊等。
3. Storm:
Storm是一个分布式计算框架,主要由Clojure编程语言编写。最初是由Nathan Marz及其团队创建于BackType,这家市场营销情报企业于2011年被Twitter收购。之后Twitter将该项目转为开源并推向GitHub平台,最终Storm加入Apache孵化器计划并于2014年9月正式成为Apache旗下的顶级项目之一。
大数据属于什么专业
大数据属于数学一类的专业。相关专业名称有信息与计算科学、数学与应用数学、统计学,大数据是众多学科与统计学交叉产生的一门新兴学科,大数据牵扯的数据挖掘、云计算一类的,所以是数学一类的专业。统计学是通过搜索、整理、分析、描述数据等手段,以达到推断所测对象的本质,甚至预测对象未来的一门综合性科学。
大数据
其中用到了大量的数学及其它学科的专业知识,覆盖了社会科学和自然科学的各个领域。数学与应用数学是一个学科专业,培养掌握数学科学的基本理论与基本方法,运用数学知识、使用计算机解决实际问题的能力,受到科学研究的初步训练。能在科技、教育和经济部门从事研究、教学工作或在生产经营及管理部门从事实际应用、开发研究和管理工作的高级专门人才。
大数据产生的背景哪些
进入2012年,大数据(big data)一词越来越多地被提及,人们用它来描述和定义信息爆炸时代产生的海量数据,并命名与之相关的技术发展与创新。它已经上过《纽约时报》《华尔街日报》的专栏封面,进入美国白宫官网的新闻,现身在国内一些互联网主题的讲座沙龙中,甚至被嗅觉灵敏的证券公司等写进了投资推荐报告。
数据正在迅速膨胀并变大,它决定着企业的未来发展,虽然现在企业可能并没有意识到数据爆炸性增长带来问题的隐患,但是随着时间的推移,人们将越来越多的意识到数据对企业的重要性。大数据时代对人类的数据驾驭能力提出了新的挑战,也为人们获得更为深刻、全面的洞察能力提供了前所未有的空间与潜力。
最早提出大数据时代到来的是全球知名咨询公司麦肯锡,麦肯锡称:“数据,已经渗透到当今每一个行业和业务职能领域,成为重要的生产因素。人们对于海量数据的挖掘和运用,预示着新一波生产率增长和消费者盈余浪潮的到来。”“大数据”在物理学、生物学、环境生态学等领域以及军事、金融、通讯等行业存在已有时日,却因为近年来互联网和信息行业的发展而引起人们关注。
大数据在互联网行业指的是这样一种现象:互联网公司在日常运营中生成、累积的用户网络行为数据。这些数据的规模是如此庞大,以至于不能用G或T来衡量,大数据的起始计量单位至少是P(1000个T)、E(100万个T)或Z(10亿个T)。
扩展资料
大数据的应用
1、大数据在电商领域的应用通过对客户的订单信息进行分类整理,根据客户的购买习惯、年龄、喜好、地域等区分进行推荐产品,进行个性化的页面展示。还可以根据以往数据,来决定库存数量和物流资源的动态调整。
2、大数据在交通旅游领域的应用通过WIFI+ibeacon或基站定位技术,收集到个体的出行数据。政府可以对每个车站、机场、道路交通各时段的流量规律信息,进行针对性的安防及其他部署。景区可以根据不同景点的客流密度、游客的停留时长以及游览路径,来决定景区的运营方向。
3、大数据在金融行业的应用通过对客户的健康状况,事故记录等信息进行分析,保险公司可以决定是否允许投保人投保,以及具体投保金额。银行可以根据个体的收入情况、消费记录以及信用记录,来决定是否给申请人发放信用卡以及发放额度。
4、大数据在医疗行业的应用根据众多病人的体质特征,病症信息,病史信息,分布情况进行分析处理,可以实现流行疾病预测,为各类疾病的治疗方案优化提供数据支撑。
其实这里列举的还只是冰山一角,未来生活中的方方面面,大数据无处不在,让我们一起期待大数据带来的智能时代。
参考资料百度百科-大数据时代百度百科-大数据
结语:以上就是首席CTO笔记为大家整理的关于大数据属于哪个背景的全部内容了,感谢您花时间阅读本站内容,希望对您有所帮助,更多关于大数据属于哪个背景的相关内容别忘了在本站进行查找喔。