本篇教程介绍了大数据应用 结构化数据vs.非结构化数据，希望阅读本篇文章以后大家有所收获，帮助大家对大数据云计算大数据应用的理解更加深入。

<

　　结构化数据 vs. 非结构化数据：结构化数据由明确定义的数据类型组成，其模式可以使其易于搜索。而非结构化数据通常由不容易搜索的数据组成，其中包括音频、视频和社交媒体发布等格式。


　　非结构化数据与结构化数据并不表示两者之间存在真正的冲突。客户不是基于他们的数据结构选择，而是在使用他们的应用程序中选择：关系数据库用于结构化数据，大多数其他类型的应用程序用于非结构化数据。

　　然而，结构化数据分析的难易程度与非结构化数据的分析难度之间的关系日益紧张。结构化数据分析是一个成熟的流程和技术。非结构化数据分析是一个新兴行业，在研发方面需投入大量的资金，但这不是一项成熟的技术。企业内部的结构化数据与非结构化数据问题决定了他们是否应该投资于非结构化数据的分析，以及将这二者结合是否成为一种更好的商业智能?

　　什么是结构化数据?

　　结构化数据通常驻留在关系数据库(RDBMS)中。其字段存储长度显示数据电话号码，社会安全号码或邮政编码。甚至像名称这样的可变长度的文本字符串也包含在记录中，这使得它很容易搜索。只要数据是在RDBMS结构内创建的，数据就可以是人工或机器生成的。这种格式是搜索与人类产生的查询和使用的数据和字段名称类型的算法，如字母或数字、货币、日期。数据

　　包含结构化数据的普通关系数据库应用程序包括航空预订系统、库存控制、销售事务和ATM活动。结构化查询语言(SQL)允许在关系数据库中查询这种类型的结构化数据。

　　一些关系数据库确实存储或指向非结构化数据，例如客户关系管理(CRM)应用程序。由于备忘录字段不会将自己放到传统的数据库查询中，因此其集成可能不理想。尽管如此，大部分客户关系管理(CRM)数据都是结构化的。

　　什么是非结构化数据?

　　非结构化数据本质上是结构化数据之外的一切数据。非结构化数据具有内部结构，但不通过预定义的数据模型或模式进行结构化。它可能是文本的或非文本的，也可能是人为的或机器生成的。它也可以存储在像NoSQL这样的非关系数据库中。

　　典型的人为非结构化数据包括：

　　文本文件：文字处理、电子表格、演示文稿、电子邮件、日志。

　　电子邮件：由于其元数据，电子邮件具有一些内部结构，人们有时将其称之为半结构化。但是，其消息字段是非结构化的，传统的分析工具无法解析它。

　　社交媒体：来自Facebook、Twitter和LinkedIn的数据。

　　网站：YouTube、Instagram、照片分享网站。

　　移动数据：短信、地点。

　　通信：聊天、即时消息、电话录音、协作软件。

　　媒体：MP3、数码照片、音频文件、视频文件。

　　业务应用程序：MS Office文档、生产力应用程序。

　　典型的机器生成的非结构化数据包括：

　　卫星图像：天气数据、地形、军事活动。

　　科学数据：石油和天然气勘探、空间勘探、地震图像、大气数据。

　　数字监控：监控照片和视频。

　　传感器数据：交通、天气、海洋传感器。

　　最具包容性的大数据分析可以使用结构化数据和非结构化数据。

　　结构化数据与非结构化数据：有什么区别?

　　除了存储在关系数据库和存储在一个关系数据库之外的明显区别之外，最大的区别在于分析结构化数据与非结构化数据的便利性。针对结构化数据存在成熟的分析工具，但用于挖掘非结构化数据的分析工具正处于萌芽和发展阶段。

　　用户可以通过文本非结构化数据运行简单的内容搜索。但是，缺乏有序的内部结构使得传统数据挖掘工具的目标失败，企业从富有价值的数据源(如媒体、网络、博客、客户交互，以及社交媒体数据)获得的价值很小。即使非结构化数据分析工具在市场上出现，但没有任何一个供应商或工具集是明确的赢家。许多客户不愿意投资于具有不确定发展路线图的分析工具。

　　除此之外，非结构化数据比结构化数据要多得多。非结构化数据占企业数据的80%以上，并且以每年55%和65%的速度增长。如果没有工具来分析这些海量数据，组织会在商业智能表上留下大量有价值的数据。

　　传统上，结构化数据对大数据应用程序来说更容易消化，但如今的数据分析解决方案正在这方面取得重大进展。

　　半结构化数据如何适用于结构化和非结构化数据

　　半结构化数据维护用于识别单独数据元素的内部标记和标签，从而实现信息分组和层次结构。文档和数据库都可以是半结构化的。这种类型的数据只代表结构化/半结构化/非结构化数据的5%-10%，但具有关键的业务用例。

　　电子邮件是半结构化数据类型的一个非常常见的例子。而更高级的分析工具对于线程跟踪，近似重复数据删除和概念搜索是必需的。电子邮件的本地元数据可以实现分类和关键字搜索，无需任何其他工具。

　　电子邮件是一个巨大的用例，但大多数半结构化的开发中心都在缓解数据传输问题。与基于Web的数据共享和传输一样，共享传感器数据也是一个不断增长的用例：电子数据交换(EDI)，许多社交媒体平台，文档标记语言和NoSQL数据库。

　　半结构化数据的例子

　　标记语言XML这是一种半结构化的文档语言。XML是一组定义人机可读格式的文档编码规则(虽然说XML是人类可读的，但并没有带来太大的好处，因为人员阅读XML文档都会让他们更加耗费时间。)其价值在于它的标签驱动结构非常灵活，编码人员可以使其适应在Web上普及数据结构、存储和传输。

　　开放标准JSON(JavaScript Object Notation)是另一种半结构化数据交换格式。Java隐含在名称中，但其他类似C语言的编程语言可以识别它。其结构由名称/值对(或对象、散列表等)和有序值列表(或数组、序列、列表)组成。由于结构在各种语言之间可以互换，JSON擅长在Web应用程序和服务器之间传输数据。

　　NoSQL半结构化数据也是许多NoSQL(不仅是SQL)数据库的重要组成部分。NoSQL数据库与关系数据库不同，因为它们不会将组织(模式)与数据分开。这使得NoSQL成为存储不容易适应记录和表格格式的信息(比如长度不同的文本)的更好选择。它还允许数据库之间进行更容易的数据交换。一些较新的NoSQL数据库(如MongoDB和Couchbase)也通过将它们以JSON格式本地存储来包含半结构化文档。

　　在大数据环境中，NoSQL不需要管理员将运营和分析数据库分离为单独的部署。NoSQL是可操作的数据库，并托管用于商业智能的本地分析工具。在Hadoop环境中，NoSQL数据库摄取并管理传入数据并提供分析结果。

　　这些数据库在大数据基础架构和LinkedIn等实时Web应用程序中很常见。在LinkedIn网站上，数以亿计的商业用户可以自由分享职位、地点、技能等等。LinkedIn以半结构化格式捕捉海量数据。当求职用户创建搜索时，LinkedIn会将查询与其大规模的半结构化数据存储相匹配，将数据交叉引用到招聘趋势中，并与求职者分享结果推荐。 Salesforce等高级LinkedIn服务中的销售和营销查询也采用相同的流程。亚马逊还将读者推荐建立在半结构化数据库上。

　　结构化数据与非结构化数据：下一代工具是游戏规则改变者

　　可以使用新工具分析非结构化数据，特别是给定用例参数。大多数这些工具都基于机器学习。结构化数据分析也可以使用机器学习，但海量数据和许多不同类型的非结构化数据都需要它。

　　几年前，使用关键字和关键短语的分析人员可以搜索非结构化数据，并对数据涉及的内容有一个清晰的概念。电子发现是这种方法的主要例子。但是，非结构化数据的增长速度非常快，以至于用户不仅需要采用计算工作的分析，而且还要自动从他们的活动和用户决策中学习。自然语言处理(NLP)、模式感知和分类以及文本挖掘算法都是常见的例子，文档相关性分析、情感分析和过滤器驱动的网页收集也是常见的例子。

　　使用机器学习智能进行非结构化数据分析可使组织：

　　分析数字通信的合规性。违反合规性将会使企业损失数百万美元的费用、诉讼和业务损失。模式识别和电子邮件线程分析软件可以搜索海量的电子邮件和聊天数据，以防潜在的不合规情况。最近的一个例子就是大众汽车公司可能通过使用分析来监控可疑消息的通信，从而避免了巨额罚款和声誉损失。

　　跟踪社交媒体中的大量客户对话。文本分析和情绪分析可让分析师检查营销活动的积极和负面结果，甚至识别在线威胁。这种级别的分析是一种更为复杂的简单关键字的搜索，它只能报告基本知识，例如海报在新广告系列中提及企业名称的频率。新的分析还包括以下场景：提及的是积极还是负面?海报是否有更好的宣传作用?用户对行政公告的反应是什么?例如汽车行业大量参与社交媒体的分析，因为购车者往往会转向其他海报来衡量他们的购车体验。分析师使用文本挖掘和情感分析相结合的方式来跟踪Twitter和Facebook上与自动相关的用户帖子。

　　获得新的营销情报。机器学习分析工具可快速处理大量文档以分析客户行为。一家重要的杂志发行商可以将文本挖掘应用到数以万计的文章中，并通过主要分论题的流行度来分析每个单独的出版物情况。然后，他们将分析扩展到所有内容属性，以查看哪些整体主题受到客户的主要关注。该分析将所有出版物的数十万条内容进行分析，并以分段形式交叉引用热门主题的结果。其结果是丰富的内容，哪些话题对不同的顾客最感兴趣，哪些营销信息与他们产生了最强烈的共鸣。

　　在电子数据展示中，数据科学家使用关键字搜索非结构化数据并获得有关数据的合理构想。

　　无论企业的业务具体是什么，其目标都是挖掘业务价值，无论数据是结构化的还是非结构化的。这两种类型的数据都可能具有很高的价值，而较新的工具可以汇总、查询、分析和利用所有数据类型，以便在整个企业数据范围内获得更加深入的业务洞察力。      
      
          

本文由职坐标整理并发布，希望对同学们有所帮助。了解更多详情请关注职坐标大数据云计算大数据应用频道！