美国海军的大数据生态系统是一个大数据分析云环境,它能为海军提供数据存储和访问海量数据的手段,能够托管来自多个不同来源的数据,并且提供分析工具,可以从大量数据中提取知识。海军大数据生态系统的设计是为了在战术边缘作战,能够将以前只能在岸上和特定层级操作人员才能使用的工具提供给前线部署的战斗人员。即使在缺乏与岸上资源的强大连接的情况下,大数据生态系统依旧能够支持数据收集、分析和可视化展示能力。
1. 大数据生态系统功能
通过大数据生态系统,海军可以快速共享前线作战单元的最新影像、地图以及其他关键信息,实现战场数据集的集成。目前,大数据生态系统主要应用在海军反潜作战、综合防空/导弹防御和远征作战。从数据的摄取、分析算法和应用程序三个层面,大数据生态系统能够实现对反潜、综合防空/导弹防御和远征作战的数据自动提取能力,同时支持海军广泛的数据需求,数据来源包括声音信号、雷达、电子支持措施、电光/红外、气象和海洋数据等;大数据生态系统中的分析技术和算法,能准确、有效从大量数据中获取知识,从而获得情报和识别危险;大数据生态系统中的应用程序和云环境小部件,能够提供更强的指挥和控制能力,实现数据的电子化、自动评估作战计划对海军的影响和根据指挥官的意图进行自动规划和重新规划的能力。海军指挥官通过大数据生态系统能够实现利用跨战区数据和高级分析技术,更快速有效对作战行动进行规划、评估和执行。2. 大数据生态系统数据源
美国海军聚焦数据的海军大数据生态系统,从数据来源层面和数据标签展示大数据生态系统的实现。图1 聚焦数据的海军大数据生态系统
大数据生态系统的数据来源除了图中所示的声音信号、雷达数据、气象和海洋数据等之外,还融合了指挥官的意图、历史决策/结果、敌方的行动路线/行动方案等数据。通过先进的分析技术,指挥官能快速有效的对反潜战、综合防空/导弹防御和远征作战进行规划、评估和执行,同时能具备跨战区的自主预测态势意识,能在断线、间歇和有限带宽网络环境中,自适应的实现全舰队数据共享。大数据生态系统还具备数据保护和安全机制,能保证数据的完整性和摄取数据时的自动安全数据标记。3. 大数据生态系统架构
3.1 消息拓扑/列队
海军大数据生态系统能够提供几种数据传输手段。最常见的是通过普通消息功能进行流式传输。目前,大数据生态系统还支持通过AMQP和ApacheKafka消息主题进行数据摄取。大数据生态系统目前还包括NiagaraFiles,用于从文件系统位置获取数据,并进行预处理以交付到摄取管道中。3.2 摄取拓扑和映射摄取
大数据生态系统提供基于ApacheStorm的通用摄取能力。提供了内置的数据接入和输出端口,用于读取来自AMQP和Kafka消息主题的数据,将数据从源格式转换为大数据生态系统格式,并将数据与一个或多个知识领域内的思想和概念联系起来。3.3 本体和人工模型
大数据生态系统利用可部署的模型来确定系统内数据的结构和它们之间的关系;向环境框架提供关于如何将数据从源格式映射和转换为领域实体的指令。这些模型作为XML构件和库部署,便于运行时部署和扩展。3.4 消息拓扑/列队和索引/分析拓扑核心、地理空间应用
大数据生态系统在其摄取框架中提供了几个集成点。一个集成点是一个消息主题或一组主题,它将摄取的数据呈现给用户。这些数据以云数据格式表示,并且其在数据存储中的位置(如键或行ID)已经确定。3.5 数据索引和数据存储
大数据生态系统所采用的云数据模型是利用一组Accumulo表来实现的;同时提供了几个便于使用的API,以促进存储内数据的持久性和访问。3.6 应用程序接口
大数据生态系统支持多种API,用于将数据输出到客户端/客户端应用,包括SPARQL公认的W3C标准,用于查询以RDF(资源描述框架)模型形式存储的数据;WMS公认的OGC标准,用于将地理空间数据交付给地图绘制客户端;GeoSPARQL具有地理空间扩展功能的SPARQL;以及UCD(统一云数据)框架/模型API(粗客户端和细客户端)。