用户名:
密码:
第2节 集合思维

如果把毫不相干或紧密相连的数据组合到一个集合中,就能更有效地处理这些相关的数据。这些数据可以清晰地告诉我们:每一个客户的消费观念、倾向、爱好、需求等,哪些可以归为一类,哪些可以归为另一类。

大数据的集合是数据数量上的增加,能够实现从量变到质变的过程。举个简单的例子,这里有一张照片,照片里的每个人都在骑马。每一分钟,每一秒都要拍一张照片。随着处理速度越来越快,照片从一分钟一张,到一秒一张,再到一秒十张,就产生了电影。当照片的数量增长实现质变的时候,这一张张照片就变成了一部完整的电影。

在美国,有一家创新企业叫Decide.com,就是充分运用了大数据的集合功能,在全球的各大网站上搜集数以十亿计的数据,从而预测产品和产品的价格趋势。告诉消费者在什么时间段做购买决策,什么时间该购置什么产品,什么时间购买产品是最实惠的。此外,还帮助一些生产厂家提高生产率,降低交易成本,等等。

除了这家企业外,美国的跨国科技企业谷歌公司(Google公司)也顺应时代,走进了大数据的潮流中。其实,谷歌公司的高管们一直不愿意让公司的任何一款产品与大数据有什么联系,而且,禁止公司的员工在对外交流中提到大数据。但是《大数据》作者维克托-舍恩伯格在评价谷歌公司时指出,谷歌公司很清楚自己的位置和处境。实际上,它就是一个大数据公司,因为他们理解大数据的核心所在。如果他们没有看到这些数据的价值,绝对不会迈入这个充满竞争和玄妙的市场。

维克托这话不无道理。早在十多年前,Google公司就已经开始了数据搜集之旅,并利用数据来构建产品。比如,Google搜索,广告,翻译,音乐,趋势以及更多的其他产品,都无法离开海量的大数据。当Google取景车载着全景摄像头满世界跑的时候,Google公司就已搜集到了世界绝大部分城市的街景图;当Google三维红外线照相机不停运作的时候,Google公司已经完成了数千万图书的扫描。

此外,Google还搜集了一些意想不到的数据。比如,用户在进行搜索时打错的字,Google将这些错误的输入存储起来,然后将其和最后正确的输入进行联系,用于开发Google自动更正系统和Google翻译。同样,海量的数据不是关键,重要的是Google公司拥有多项世界领先的大数据技术,如Colossus分布式存储,Big Table列式存储,Caffeine索引系统,Big Query数据分析服务和Cloud SQL(云SQL)。借助强大的技术以及先进的计算模型,Google公司能以一种高效而可靠的方式,充分运用大数据和展示成果。

随着大数据的运用广泛,Facebook在互联网大数据搜集方面也后来者居上。如今,每天有500TB以上的数据上传到Facebook。Facebook上已经存储着近十亿用户分享的个人信息,例如,年龄、性别、所在地、兴趣,等等。同时,这些用户还在Facebook的Timeline(个人生活时间轴)页面记录个人生活故事。在通过个人的基础信息和时间线获取了大量的数据后,Facebook就如同一个用户亲密的朋友,清楚地记得用户的过去和现在,并预测着用户的未来。为了处理这些海量的信息,公司配置了最大的分布式处理系统,单个集群中的数据存储容量就超过了100PB。之后,Facebook通过复杂的数据分析来帮助商家接触潜在目标顾客,从而实现投放广告的准确有效。用户留下的数据越多,Facebook就越了解用户,投放的广告就越发精准。Facebook收入的未来在于其对复杂数据的分析,而不是靠输送大量广告来吸引用户的眼球。

在大数据新兴的模式下,尽管有一些零售商的利润会受到一些影响或打击,但从较好的商业本质来说,消费者可以更理性地购物,更有效地管理资金。

我们再来举一个例子:SWIFT(环球同业银行金融电讯协会)是全球最大的支付平台。在这个平台上,每一笔交易都可以进行大数据分析。研究人员可以预测出一个经济体的健康性和增长性。比如,这个公司现在为全球性客户所能提供的经济指数。

此外,大数据的基本结构还分为三个层次,反映出观察数据库的不同角度。

第一层是物理数据层:是数据库最里面的一层,是物理存贮设备上实际存储的数据的集合。这些数据是最原始数据,也是供用户加工的对象。物理数据层由内部模式描述的指令操作处理的位串、字符和字组合而成。

第二层是概念数据层:是数据库置于中间的一层,也是数据库的整体逻辑的部分。这层数据层指出了数据与数据之间的逻辑定义和联系,是存贮资料的整合点。此时要注意的是,这层数据层所涉及的是数据库所有对象的逻辑关系,而不是其物理情况。

第三层是逻辑数据层:是体验用户能够看到和使用的数据库,也是能够证明用户使用过的证明和踪迹。

总之,小数据,大集合就是按照某种数据集中起来并存放二级存储器中的一种方式。这种数据集合还有着一定的特点,比如尽量不出现重复的情况。

最新书评 查看所有书评
发表书评 查看所有书评
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 密码: 验证码: