客服热线：400-615-8698
文章来源：畅享网
大数据对于系统，不管是存储系统、传输系统还是计算系统都提出了很多非常苛刻的要求，而现有的数据中心技术难以满足大数据的需求。此外，大数据平台是大数据技术链条中的瓶颈，特别是大数据的高速传输，需要革命性的新技术。
世界范围的信息化变革使得几乎每个行业都面临着大数据问题。为了有效地应对大数据带来的全方位挑战，同时充分利用这一前所未有的大好机遇，国内外的产业界、科技界甚至各国政府都在积极布局、制定战略规划。
2012年3月，美国政府宣布了2亿美元的“大数据研究与发展计划”，对大数据的研究上升为国家意志。欧盟也出台了类似的举措。在这样的背景下，中国计算机学会于2012年10月成立了CCF大数据专家委员会，意在探讨大数据的科学与技术问题，推动大数据学科方向的建设与发展，同时构建面向大数据产学研用的学术交流、技术合作与数据共享平台。
CCF大数据专家委员会希望通过对大数据热点问题的探究，充分认识和了解大数据的关键性挑战和独特价值，更好地把握投入方向，对学术界、产业界、用户有指导价值。通过大家的共同努力，真正突破解决这些问题，共同获得大数据的巨大价值。
大数据的热点问题
1.数据科学与大数据的学科边界
这一问题综合了两个问题，即大数据的基本内涵与数据的科学问题。前者关注的是大数据的基本定义和基本结构。迄今为止，什么是大数据，在产业界、学术界并没有形成一个公认的科学定义，大数据的内涵与外延也缺乏清晰的说明。大数据区别于其他数据的关键特性是什么？IBM提出了3V的说法，即volume（体量大）、variety（模式多）和velocity（速度快）。尔后又有人提出了另一个V，即value（价值），表示大数据虽然价值总量高但其价值密度低。另外，大数据是否就意味着全数据，还有待进一步讨论与澄清。最后，还需要为动态、高维、复杂的大数据建立形式化、结构化的描述方法，进而在此基础上发展大数据处理技术。后者关注的是数据界与物理界、人类社会之间的关联与差异，探讨是否存在独立于应用领域的数据科学。如果存在数据科学，其学科问题的分类体系又是什么？目前已有的共识是，大数据的复杂性主要来自数据之间的复杂联系。另外，新型学习理论和认知理论等应当是数据科学的重要组成部分。
2.数据计算的基本模式与范式
大数据的诸多突出特性使得传统的数据分析、数据挖掘、数据处理的方式方法都不再适用。因此，面对大数据，我们需要有数据密集型计算的基本模式和新型的计算范式，需要提出数据计算的效率评估方法以及研究数据计算复杂性等基本理论。由于数据体量太大，甚至有的数据本身就以分布式的形式存在，难以集中起来处理，因此对于大数据的计算需要从中心化的、自顶向下的模式转为去中心化的、自底向上、自组织的计算模式。另外，面对大数据将形成基于数据的智能，我们可能需要寻找类似“数据的体量+简单的逻辑”的方法去解决复杂问题。
3.大数据特性与数据态
这一问题综合了三个候选问题，即大数据的关系维复杂性、大数据的空间维复杂性和大数据的时间维复杂性问题。大数据往往由大量源头产生，而且常包含图像、视频、音频、数 据流、文本、网页等等不同的数据格式，因此其模态是多种多样的。主要来源于多模态的大数据之间存在着错综复杂的关联关系，这种异质的关联关系有时还动态变化，互为因果，因此导致其关联模式也非常复杂。大数据的空间维问题主要关注人、机、物三元世界中大数据的产生、感知与采集，以及不同粒度下数据的传输、移动、存储与计算。另外，还需研究大数据在空间与密度的非均衡态对其分析与处理所带来的理论与技术挑战。而大数据的时间维问题意图在时间维度上研究大数据的生命周期、状态与特征，并探索大数据的流化分析、增量式的学习方法与在线推荐。最后，研究大数据的离线与在线处理对时效性要求。
4.大数据的数据变换与价值提炼
这一问题主要由“如何将大数据变小”与“如何进行大数据的价值提炼”两个问题组成，前者要在不改变数据基本属性的前提下对数据进行清洗，在尽量不损失价值的条件下减小数据规模。为此，需要研究大数据的抽样、去重、过滤、筛选、压缩、索引、提取元数据等数据变换方法，直接将大数据变小，这可以看作是大数据的“物理变化”。后者可看作是大数据的“化学反应”，对大数据的探索式考察与可视化将发挥作用，人机的交互分析可以将人的智慧融入这一过程，通过群体智慧、社会计算、认知计算对数据的价值进行发酵和提炼，实现从数据分析到数据价值判定和数据制造的价值飞跃。
5.大数据的安全和隐私问题
只要有数据，就必然存在安全与隐私的问题。随着数据的增多，大数据面临着重大的风险和威胁，需要遵守更多更合理的规定，传统的数据保护方法无法满足这一要求。因此，面对大数据的安全与隐私保护，有大量的挑战急需得到解决，具体包括：大数据计算伦理学、大数据密码学、分布式编程框架中的安全计算、远程数据计 算的可信任度、数据存储和日志管理的安全性、基于隐私和商业利益保护的数据挖掘与分析、强制的访问控制和安全通信、多粒度访问控制以及数据来源和数据通道的可信等。
6.大数据对IT技术架构的挑战
这一问题是对热点问题“大数据对于系统的要求”的新解读。大数据对于系统，不管是存储系统、传输系统还是计算系统都提出了很多非常苛刻的要求，而现有的数据中心技术难以满足大数据的需求。譬如，存储能力的 增长远远赶不上数据的增长，设计最合理的分层存储架构已成为信息系统的关键。分布式存储架构不仅需要scale-up式的可扩展性，也需要scale- out式的可扩展性。因此对整个IT架构进行革命性地重构势在必行。此外，大数据平台（包括计算平台、传输平台、存储平台等）是大数据技术链条中的瓶颈，特别是大数据的高速传输，需要革命性的新技术。
7.大数据的应用及产业链
大部分大数据专家委员会的委员都认为，大数据的研究与应用一定要与领域知识相结合，尤其在开展大数据研究的初期，计算机领域的科技工作者一定要虚心向各领域的科技人员请教，真正了解和熟悉各领域发生数据的特点。针对不同的领域环境和不同的应用需求，大数据的获取、分析、反馈的方式有所不同。为此，针对不同行业与领域业务需求，我们需要展开数据特征与业务特征的研究，进行大数据应用分类与技术需求分析，构建从需求分析与业务模型，到数据建模、数据采集和总结反馈，最后到数据分析的全生命周期应用模型。其实，不同的应用环境和应用目标代表了不同的价值导向，这对于大数据的价值密度有很大的影响。
8.大数据的生态环境问题
大数据作为21世纪的“新石油”，是一种宝贵的战略资源，因此对大数据的共享与管理无疑是其生态环境的一部分。对于大数据的共享与管理，其中所有权是基础，这既是技术问题，也是法理问题。对数据的权益需要进行具体认定并进行保护，进而在保护好多方利益的前提下解决数据共享问题。为此，可能会遇到不少的障碍，包括人们对法律或信誉的顾虑，保护竞争力的需要，以及数据存储的位置和方式不利于数据的访问和传输等。此外，生态环境问题还涉及与政治、经济、社会、法 律、科学等等的交叉影响问题。因为大数据将对国家治理模式、企业的决策、组织和业务流程、个人生活方式都将产生巨大的影响，所以这种影响模式值得深入研究。
2013年度大数据发展趋势
1.数据资源化
这一候选发展趋势得到了委员们最多的关注。数据的资源化是指大数据在企业、社会和国家层面成为重要的战略资源。2013年大数据将成为新的战略制高点，是大家抢夺的新焦点；大数据将不断成为机构的资产，成为提升机构和公司竞争力的有力武器。
2.大数据隐私问题
大数据对于隐私将是一个重大挑战，现有的隐私保护法规和技术手段难于适应大数据环境，个人隐私越来越难以保护，有可能会出现有偿隐私服务，数据“面罩”将会流行。而且预计2013年将会颁布关于大数据隐私的标准和条例。
3.大数据与云计算等深度融合
大数据处理离不开云计算技术，云计算为大数据提供弹性可扩展的基础设施支撑环境以及数据服务的高效模式，大数据则为云计算提供了新的商业价值，因此从 2013年开始大数据技术与云计算技术必然进入更完美的结合期。总体而言，云计算、物联网、移动互联网等新兴计算形态，既是产生大数据的地方，也是需要大 数据分析方法的领域。
4.基于海量数据（知识）的智能
2013年将会有更多基于海量数据（知识）的智能成果出 现，甚至有可能产生人工大脑。至少类似于Chinese Room这样的问题将得到彻底解决。因为所有人们能想到的问题，在问之前就都已经被人回答过了，所以，即便在没有思考和逻辑的情况下，也可以利用前人的经 验同样可以起到脑的功能，甚至也可能通过大数据直接进行推理。
5.大数据分析的革命性方法
在大数据分析上，2013年将出现革命性的新方法。就像计算机和互联网一样，大数据可能是新一波的技术革命。基于大数据的数据挖掘、机器学习和人工智能可能会改变小数据/小世界里的很多算法和基础理论，这方面很可能会产生理论级别的突破。
6.大数据安全
大数据的安全令人担忧，大数据的保护越来越重要——大数据的不断增加，对数据存储的物理安全性要求会越来越高，从而对数据的多副本与容灾机制提出更高的要求。进入2013年，网络和数字化生活使得犯罪分子更容易获得关于人的信息，也有了更多不易被追踪和防范的犯罪手段，可能会出现更高明的骗局，也就是说大数据已经把你出卖。
7.数据科学兴起
2013年数据科学作为一个与大数据相关的新兴学科出现，将有专门针对数据科学的专业形成，有博士、硕士甚至本科生出现。同时，有大量数据科学的专著出版。
8.数据共享联盟
数据共享联盟将在2013年逐渐壮大成为产业的核心一环。数据是基础，之前在科技部的支持下，已建立了多个领域的数据共享平台，包括气象、地震、林业、农业、海洋、人口与健康、地球系统科学数据共享平台等。之后，数据共享将扩展到企业层面。
9.大数据新职业
大数据将在2013年催生一批新的就业岗位，如数据分析师、数据科学家等。具有丰富经验的数据分析人才成为稀缺资源，数据驱动型工作机会将呈现出爆炸式的增长。大数据领域最优秀的科学家们纷纷转行股票、期货、甚至赌博（能比别人多看远一秒钟，就是效益）。
10.更大的数据
现在的大数据，将来都不够大。2013年，大数据将获得更多的关注、研究、开发和应用，所引起的结果是：体现大数据特征的体量大、速度快、模态多、价值密度低等几个V的特性将变得更加极致。尤其是大数据的价值密度会越来越低——数据不断地增长，如何去除大数据中的噪声等垃圾数据，进而从中挖掘和提取出有价值信息的难度也随之增大。
