554 lines
52 KiB
JSON
554 lines
52 KiB
JSON
|
{
|
|||
|
|
"query": "混沌工程的定义是什么？DataOps是什么？",
|
|||
|
|
"answer": "### 混沌工程的定义\n\n混沌工程是一种通过引入各种不确定性和故障来测试和改进系统的方法和理念。其核心目标是提升系统的韧性和可靠性。混沌工程不仅包括模拟系统故障的实践，例如通过机房断电、断网等手段测试系统的恢复能力和故障转移能力，还涵盖了更广泛的探索系统未知信息的活动。它通过实验的方式对系统注入故障或其他扰动，从而发现潜在问题并改进系统设计。混沌工程的起源可以追溯到1970年，当时硬件工程师将设备暴露在各种有害条件下并观察设备以确定其继续运行的能力。\n\n混沌工程不同于传统测试，它更注重对系统未知信息的探索，而非基于特定条件的验证。其范围不仅包括代码，还涉及技术架构和运维流程。实验环境通常离生产越近越好，以便更真实地反映系统行为。混沌工程的执行人员可以是任何关注系统韧性和可靠性的人员，例如测试人员、运维人员、开发人员和项目经理等。通过混沌工程，可以增强对系统抵御故障场景的信心，提升工程师的响应能力和系统设计的稳定性。\n\n### DataOps的定义\n\nDataOps（数据研发运营一体化）是一种新兴的数据管理方法，强调数据管理自动化。它将敏捷、精益等理念融入数据开发过程，通过对数据相关人员、工具和流程的重新组织，打破协作壁垒，构建集开发、治理、运营于一体的自动化数据流水线。DataOps旨在不断提高数据产品交付效率与质量，实现高质量数字化发展。\n\nDataOps不仅是一种技术实践，更是一种组织变革的推动力。它通过构建跨职能团队和专职组织，促进业务部门与数据部门之间的紧密合作。例如，华为终端成立了终端业务数据开发与治理联合工作组，浙江移动组建了跨域数据一致性治理工作小组，而中国农业银行则建立了DataOps专职团队。这些实践表明，DataOps能够有效促进数据治理前置、数据自动化测试的普及，以及数据质量的提升。\n\n此外，DataOps还推动了企业数据文化的建设，通过培训非数据技术人员和数据技术人员，加强对数据生产端的敏捷开发和自动化工具的宣贯，同时提升数据消费端利用可视化工具进行自查询的能力。这使得企业能够更好地释放数据生产力，成为数字化转型的关键推动力。\n\n### 总结\n\n混沌工程和DataOps分别在系统稳定性和数据管理方面提供了系统化的方法论。混沌工程通过引入不确定性和故障来测试和改进系统，提升系统的韧性和可靠性；而DataOps则通过自动化和敏捷的理念优化数据开发流程，提高数据交付效率和质量。两者都在各自的领域中推动了技术与组织的变革，为企业应对复杂系统和数据挑战提供了有效的解决方案。",
|
|||
|
|
"query_complexity": {
|
|||
|
|
"is_complex": true,
|
|||
|
|
"complexity_level": "complex",
|
|||
|
|
"confidence": 0.8,
|
|||
|
|
"reason": "```json\n{\n \"is_complex\": true,\n \"complexity_level\": \"complex\",\n \"confidence\": 0.95,\n \"reason\": \"这是一个多问句查询，包含两个独立的主题（混沌工程和DataOps），属于不同技术领域的概念定义，需要生成多个子查询分别获取每个概念的定义来完整回答。\"\n}\n```"
|
|||
|
|
},
|
|||
|
|
"is_complex_query": true,
|
|||
|
|
"retrieval_path": "complex_hipporag",
|
|||
|
|
"iterations": 0,
|
|||
|
|
"total_passages": 27,
|
|||
|
|
"sub_queries": [
|
|||
|
|
"混沌工程的定义是什么",
|
|||
|
|
"DataOps是什么"
|
|||
|
|
],
|
|||
|
|
"decomposed_sub_queries": [
|
|||
|
|
"混沌工程的定义是什么",
|
|||
|
|
"DataOps是什么"
|
|||
|
|
],
|
|||
|
|
"initial_retrieval_details": {},
|
|||
|
|
"sufficiency_check": {
|
|||
|
|
"is_sufficient": true,
|
|||
|
|
"confidence": 0.7,
|
|||
|
|
"reason": "```json\n{\n \"is_sufficient\": true,\n \"confidence\": 0.9,\n \"reason\": \"事件信息和段落信息包含了回答查询所需的关键内容。对于‘混沌工程的定义’，段落1和事件3明确指出混沌工程是通过引入各种不确定性和故障来测试和改进系统的方法和理念；对于‘DataOps的定义’，段落5、段落6以及事件14、18等详细描述了DataOps是...",
|
|||
|
|
"iteration": 0
|
|||
|
|
},
|
|||
|
|
"current_sub_queries": [],
|
|||
|
|
"is_sufficient": true,
|
|||
|
|
"all_documents": [
|
|||
|
|
{
|
|||
|
|
"page_content": "故障演练通过机房断电、断网等手段模拟不可预期的自然灾害或重大故障",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "043c762ea5dec1b35d55a8080c179bf816e47cd937884dc6776ff8c541b2819d",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0038909038832228597,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 1,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "故障演练是混沌工程中用于模拟和测试系统故障情况的手段之一",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "577ea3562f0d62b2094e74fb1760debef6c73592e736dbd3da46f8d2a398eaa9",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0028435862395295806,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 2,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "混沌工程更广泛地涵盖了通过引入各种不确定性和故障来测试和改进系统的方法和理念",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "334a48d07c0914a27ecc426a089ed73fcb5f465f60c9c57db080158c5b5dc1e5",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.002706131427984459,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 3,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "硬件工程师将设备暴露在各种有害条件下并观察设备以确定它们继续运行的情况",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "3b9d7ac31f5173e8a26e3d7e7bf7a6180999f5822fd26e3a54343e541e63036b",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0024256026522535184,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 4,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "前言撰写",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "ec3b4bff0184984b0518a016093fa923ccc5cd03aca0e118b37e30aa1cb0f633",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0022309179263434683,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 5,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "差异性",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "b713debbc22ddeaaf110dff983fbceef56ecc1daebcf1728ab809d4e5fc17df1",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0015970994294771505,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 6,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "提升系统的韧性和可靠性",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "05be1dc33c0a3caafa37825f719166bf4588f9aa0d2ce14da569ef05350ce241",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0015970994294771505,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 7,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "寻找软件缺陷",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "998093bcd258dada1273c091106c37286e30940a8ce4afd7f77d81da54da00ae",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0015970994294771505,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 8,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "离生产越远的地方进行实验越好",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "a80111e3684545d5448adb2427d19e4ff359e529281ebc83573959bb1c341c4d",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0015970994294771505,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 9,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "技术架构、运维流程",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "8b0a06caa9fffd05e7f8cb1d722c304e9dfdedd6161f509b67972677f91abf54",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0015970994294771505,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 10,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "| 差异性 | 混沌工程 | 传统测试 | 理念 | 对系统未知的信息进行探索 | 基于特定条件的验证 | 目标 | 提升系统的韧性和可靠性 | 验证代码逻辑的正确性 | 范围 | 技术架构、运维流程 | 代码 | 环境 | 离生产越近的地方进行实验越好 | 寻找软件缺陷要离生产越远越好 | 执行人员 | 任何关注系统韧性和可靠性的人员，如测试人员、运维人员、开发人员、项目经理等 | 测试人员 | 结果 | 特定的断言，测试会产生二元的结果，非真即假 | 系统架构不同，实验千变万化，结果不同 ### 3.混淆工程与故障演练：故障演练是混沌工程的具体 实践 故障演练是较为正式的，低频的一种演练活动，通过机房断电、 断网等手段模拟不可预期的自然灾害或重大故障，来测试系统的恢复 能力和故障转移能力。故障演练的整体计划性较强，演练前会先制定 整体的演练方案和应急方案；演练时，往往需要协调业务、IT 等多方 参与，并在每次演练时需要组织相关的会议，按照预先设置的应急方 案执行。灾备演练是最常见的一种故障演练的方式。 对比故障演练，混沌工程的组织方式更加灵活，可以按照组织架 构以租户的方式进行，是一种非正式的活动。混沌工程以进行实验的 方式来对系统注入故障或其他的扰动，由于其进行过程成本较低，涉 及相关方较少，因此可以高频进行。 故障演练是混沌工程的一种具体实践, 它是混沌工程中用于模拟和测试系统故障情况的手段之一。混沌工程更广泛地涵盖了通过引入各种不确定性和故障来测试和改进系统的方法和理念, 而故障演练则是其中的一种具体操作手段。 ## （二）混沌工程发展历程 混沌工程的起源可追溯到1970年，硬件工程师将设备暴露在各种有害条件下并观察设备，以确定它们继续运行的情况。",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "731fddc36b520d361923cb5c3ecfa7dffdc396ef5ce67e35b1c3598744056a52",
|
|||
|
|
"node_type": "text",
|
|||
|
|
"ppr_score": 0.028837357993836618,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.08642085000000001,
|
|||
|
|
"rank": 11,
|
|||
|
|
"source": "hipporag2_langchain_text",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "混沌工程提供了同一个认知体系内的方法论，将架构、开发、测 试、运维等团队之间工作推动盘活起来。比如通过开展故障演练、 GameDay 等活动，将各个团队介入进来，根据历史发生过的或可能发 生的故障场景，对业务进行注入故障、故障排查、复盘，提升对故障 事件的应急处理能力，增强对系统抵御故障场景的信息，通过混沌工 程来加深各部门之间的沟通合作。 混沌工程提升了工程师的响应能力。工程师也是系统的一部分,混沌工程通过混沌实验为工程师构建了一个非确定性、非周期性的故障环境, 剥离工程师对初始条件的敏感依赖, 进而提升了工程师对故障防御的设计能力、故障事件的构建能力、故障问题的描述能力以及故障应对的组织协调能力。其实是通过混沌工程的能力, 让工程师更多认识故障及其对业务的影响, 从以前的 “被动响应” 到 “主动防御”。 混沌工程对于架构团队而言，最大的价值是在系统设计之初就将 可能发生的、尽量全的故障场景考虑进去，不至于在系统架构非常臃 肿时再想去提升稳定性，在一个业务复杂的系统中考虑稳定性设计是 异常难的，难分析、难改动、难优化。 混沌工程对于开发团队而言，可以通过混沌工程能力从开发之初 或开发时就可以将由于开发或引入的组件导致的故障场景考虑进去， 从故障场景分析如何增强问题的快速定位、防护、跟踪等能力。",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "eaebc2c5bb1aed205038d18eeeee4dd33ab7318e1cbda9d54c2f8a9795e73d28",
|
|||
|
|
"node_type": "text",
|
|||
|
|
"ppr_score": 0.011116890298739553,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.08825145000000001,
|
|||
|
|
"rank": 12,
|
|||
|
|
"source": "hipporag2_langchain_text",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "以混沌工程为抓手推动整个稳定性保障体系 能力提升。 # 三、混沌工程技术应用 ## （一）混沌工程开展基础 团队拥抱失败的文化基础。实施混沌工程，坚实的文化基础与技 术基础设施一样重要。首先需要领导团队承认系统固有的复杂性，而不 是一味要求工程师“不能也不该出现失误”此外，需要主动性和创 造性的企业文化，来促进工程师更主动的探索与发现潜在的、未知的 风险。如果每个人都忙于他们的日常工作而无暇做其他事情，混沌工 程很可能失败。理想情况下，混沌工程会揭示目标系统未知的一些故 障方面，混沌工程因此需要协作、持续的进行，并且具有挑战性。 系统具备一定的韧性。如果目标系统的应用系统和基础设施不具备一定的高可用、弹性和自愈设计，存在明显的单点故障，那么此时进行混沌工程的价值有限, 应首先完善系统的设计后再开展混沌工程的实现。 明确的业务目标。混沌工程实验在每次开展前，一是需要明确本 次实验针对哪个业务系统（即实验目标）；二是明确哪些外部因素是 本次实验的变量；三是需要明确实验的步骤；四是能够说明本次实验 能对业务系统带来哪些收益并得到业务系统负责人的认可。 目标系统的可观测性基础。混沌工程是一种基于实验的实践，因此需要能够监测控制组和实验组之间的差异。如果没有适当的工具来检测任何差异，例如服务降级，那么就无法了解实验产生的影响。目标系统应该具备基本的日志记录和监控能力让维护者了解实验是否对目标系统产生了影响。",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "eaabafd56e1ad979fc78f6aedce2330e9a7897435612ec4190c1964208e49e0b",
|
|||
|
|
"node_type": "text",
|
|||
|
|
"ppr_score": 0.007309904270803655,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.086810815,
|
|||
|
|
"rank": 13,
|
|||
|
|
"source": "hipporag2_langchain_text",
|
|||
|
|
"query": "混沌工程的定义是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "要将实验后果最小化并加以控制，会使用到根因分析算法（包含时间、注入IP、调用链等），同时，混沌工程可作为一种主动制造故障的方式，还可以验证与提升根因分析算法的准确率与召回率。 ### 2.混沌工程组织价值 通常企业的 IT 部门中架构、开发、测试、运维团队都是各司其 职，完成指定的相关领域工作。架构团队从各种不同架构角度设计审 视核心系统，包括组件、技术选型等，也会关注少部分的系统稳定性 相关能力；而开发主要是则一般是单纯按照技术文档实现相应功能， 一般很少主动关注所开发组件的稳定性，除非需要开发相关特性或有 成熟的能力；测试团队以功能测试和性能测试为主，可靠性测试还是 以系统中的可靠性特性做有针对性的测试，不会进行故障场景的深挖； 运维团队往往是对系统稳定性了解最清楚的，因为他们遇到的软硬件 问题是最多的，他们最大的问题就是不知道系统中都会存在哪些故障？ 如何快速处理？只能堆人力解决问题，是最不高效的一种方式。 我们需要将业务系统的稳定性问题分解出来，各个团队需要认识 到各种故障场景对业务的影响是什么？是否有监控恢复手段？应急 预案是否完备？那么就需要有改变。 混沌工程改变了企业 IT 团队的思考方式，促使各团队在设计、 开发、测试等过程中增加了对故障的考虑：在架构设计的时候考虑一 类故障的监控、恢复、业务的 HA；开发过程中审视出现故障时故障 的快速跟踪定位；测试需要覆盖的故障场景更加全面；运维清楚在出 现某种故障时业务的表现是什么，应该如何进行恢复，应急预案是否 完备。 混沌工程提供了同一个认知体系内的方法论，将架构、开发、测 试、运维等团队之间工作推动盘活起来。",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "e0030c5183f95b1b207ff609e1c7f2a9c8486bf190eae5d9937f5324b9ed0584",
|
|||
|
|
"node_type": "text",
|
|||
|
|
"ppr_score": 0.007084749348682282,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.085636,
|
|||
|
|
"rank": 13,
|
|||
|
|
"source": "hipporag2_langchain_text",
|
|||
|
|
"query": "混沌工程的定义是什么？DataOps是什么？",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "DataOps作为一种新兴的数据管理方法",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "680b2a6330d156d3853a42fa00e510355f92a08a8a568b3adf5d556f8913fa8a",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0063617333084852665,
|
|||
|
|
"edge_score": 1.8060124,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 1,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "企业数字化转型快速释放数据生产力的最佳方案",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "d691625bd46a5a8840368fcc0f2456ee067bedde79a397596cf3cd225cacb0fc",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0063617333084852665,
|
|||
|
|
"edge_score": 1.8060124,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 2,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "将敏捷、精益等理念融入数据开发过程，打破协作壁垒，构建集开发、治理、运营于一体的自动化数据流水线。",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "f81ab568ce6cfce72175a1087db911f899752c622460211efdc350d6c3167149",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.00595007570080509,
|
|||
|
|
"edge_score": 1.8119739,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 3,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "数据研发运营一体化（DataOps）是数据开发的新范式，将敏捷、精益等理念融入数据开发过程，打破协作壁垒，构建集开发、治理、运营于一体的自动化数据流水线，不断提高数据产品交付效率与质量，实现高质量数字化发展。",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "774a6133f9a25821d10ebab0d1745ac30d14a4016da4d3548b102f265e633a22",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.005901971260685111,
|
|||
|
|
"edge_score": 1.8335787,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 4,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "标准引领，建设 DataOps 体系",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "adb5a19d4a48b43fa7b2e7f76331d30736f624cd5df909e3aad6683390c175f9",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0054787715355574425,
|
|||
|
|
"edge_score": 1.7924436,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 5,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "DataOps成为企业数字化转型快速释放数据生产力的最佳方案。",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "0b602ca1699621754c4663ee33fbd14c65e56f98f892a180bf49d5c5d4bb45c3",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.004637116765199007,
|
|||
|
|
"edge_score": 1.7958524,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 6,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "集开发、治理、运营于一体的自动化数据流水线",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "1f46cbdefe4f148723809ffe0260ab720e23fd6fe4ddcb2edd6ce67ba5baf612",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.004205517636996352,
|
|||
|
|
"edge_score": 1.7916319,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 7,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "DataOps作为一种新兴的数据管理方法，强调数据管理自动化。",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "1578f029da85aa8bf25b11ce5f36f1ce67b9ae446cddd2266825a5881685226a",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.004203448437153921,
|
|||
|
|
"edge_score": 1.8059874,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 8,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "经过 2、3 年的实践，国内 DataOps 体系逐步完善起来",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "5bd26c11fb5b2a047fe6a598b8777b5af1c22761139a938331cb327612b3646b",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.0027886783406984475,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 9,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "DataOps能力模型围绕数据开发流程形成了‘4+3’的架构",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "6fb21443024d2f95c26d6a0a300a5599a1c9804f500f70fec83d3cb60afdc87a",
|
|||
|
|
"node_type": "event",
|
|||
|
|
"ppr_score": 0.002491261656983114,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.0,
|
|||
|
|
"rank": 10,
|
|||
|
|
"source": "hipporag2_langchain_event",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "DataOps作为一种新兴的数据管理 方法，强调数据管理自动化，既能为数据工作者提供敏捷的数据开发支持，同时也简 化了数据交付的周期，提升数据成产者与数据消费者的协同效率，成为企业数字化转 型快速释放数据生产力的最佳方案。 充分利用AI和大模型技术优化数据策略。AI技术可以通过机器学习和深度学习算 法，自动化地处理和分析大规模的数据，发现数据中的隐藏模式和趋势，为企业提供 更准确、实时的决策支持。数据分析技术也将不断发展，包括数据挖掘、预测分析、 文本分析等，通过对数据的深入分析，帮助企业更好地理解和利用数据。 ## （五）以数据入表为抓手，探索数据核算机制 2023年8月，财政部正式发文《企业数据资源相关会计处理暂行规定》（下称 “暂行规定”），标志着我国数据资源入表正式落地，探索数据资源入表的基础制度和 会计制度，对于释放数据要素价值、推动市场建设、优化资源配置具有重要意义。数 据资源入表是指将企业数据资源在财务报表层面真实反应其价值和成本投入，向企业 董事会、管理层和投资方充分披露公司对于数据的重视程度和数据带来的实际价值。 《暂行规定》根据企业使用数据目的的不同，区分为无形资产类数据资产和存 货类数据资产，并分别要求企业参照《企业会计准则第6号——无形资产》和《企业 会计准则第1号——存货》进行处理，同时也要求企业按照规定强制和自愿披露相关 数据资源信息。在《暂行规定》的指导要求下，企业过往在数据建设领域的部分投资 费用可以得到资本化处理，进而改善企业资产负债结构、经营利润等财务数据，同 时，也会进一步激发、促进企业加速完善数据管理体系的建设意愿与进程。",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "114fe591e33e8bff142be610475d8035339e334932dc35fd2e89ff078d10fe52",
|
|||
|
|
"node_type": "text",
|
|||
|
|
"ppr_score": 0.03349958985428515,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.08325262,
|
|||
|
|
"rank": 11,
|
|||
|
|
"source": "hipporag2_langchain_text",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "## （三）参与数据要素市场，获取数据竞争优势 加强数据生态系统的建设，鼓励实现数据开放共享。数据生态系统是一个以数 据为核心，由各种数据参与方（企业、组织、个人等）构成的复杂网络，涵盖数据的 生产、流通、利用等环节。通过构建数据生态系统，企业能够更好地进行数据合作与 共享，并参与生态系统的协同治理，推动数据的价值最大化。 加大数据内外部推广，丰富数据生态体系，积极参与数据要素市场建设。“数据 二十条”的提出旨在健全数据产权制度，建立数据流通交易制度，鼓励数据的共享和 交易，有效推动数据资源的高效利用和流动，为数字经济的发展创造良好的环境。随 着数据要素流通政策的不断完善，要素市场的健康有序发展，为企业开展数据流通服 务创造了良好的环境，越来越多的企业利用自身数据积累优势和服务能力优势，深入 调研数据需求方的核心业务痛点，形成可流通交易的数据产品，提供针对性的数据产 品与解决方案，推进形成各类数据产品的权责范围、供求关系、使用场景、定价策略 等，完善数据产品全流程合规管理，充分实现数据赋能发展。 ## （四）加深新型技术使用，提高数据运营效率 随着数据需求种类日益丰富，服务交付时效性重要性逐渐凸显，提升数据服务 开发效率是关键。数据研发运营一体化（DataOps）是数据开发的新范式，将敏 捷、精益等理念融入数据开发过程，通过对数据相关人员、工具和流程的重新组织， 打破协作壁垒，构建集开发、治理、运营于一体的自动化数据流水线，不断提高数据 产品交付效率与质量，实现高质量数字化发展。DataOps作为一种新兴的数据管理 方法，强调数据管理自动化，既能为数据工作者提供敏捷的数据开发支持，同时也简 化了数据交付的周期，提升数据成产者与数据消费者的协同效率，成为企业数字化转 型快速释放数据生产力的最佳方案。 充分利用AI和大模型技术优化数据策略。",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "da7aaabf868de83a9fc286404d784e30982b7ba7a5e56c5c1707922e5e39dcf1",
|
|||
|
|
"node_type": "text",
|
|||
|
|
"ppr_score": 0.029984351438742368,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.076804175,
|
|||
|
|
"rank": 12,
|
|||
|
|
"source": "hipporag2_langchain_text",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"page_content": "# DataOps 实践初探\\n\\n越来越多的企业开始意识到数据作为核心资产的价值，着力于通过 DataOps 改善数据开发流程，提升数据质量，加速数据流动，并促进数据在产品开发和消费端的高效利用。通过工作组的广泛调研，**将头部企业典型的实践与发展趋势**总结如下，希望为行业提供可取的建设思路。\\n\\n## 01 敏捷数据开发取得稳健成效 先行企业特征各异\\n\\n| 头部企业从 2020 年开始 DataOps 实践： | 先行企业的切入模式 |\\n\\n| :------------------------------------ | :------------------ |\\n\\n| - 中国工商银行：DataOps 敏捷数据生产与创新体系，研发效率 +50%，测试数据准备效率 +10 倍 | 战略驱动 |\\n\\n| - 浙江移动：敏捷数据产品，1.7 亿多源异构地址数据的统一建模 | 需求驱动 |\\n\\n| | 技术驱动 |\\n\\n## 03 组织变革促进协同机制构建 业数合作更加紧密\\n\\n### 技术变革与组织变革双向互馈\\n\\n新的挑战和机会\\n\\n高效利用数据资产和新技术的前提条件\\n\\n#### 技术变革\\n\\n#### 组织变革\\n\\n| 业务部门与数据部门结合更为紧密 | 跨职能团队 | 专职组织 | 专职人员 |\\n\\n| :------------------------------- | :--------- | :------- | :------- |\\n\\n| 华为终端：终端业务数据开发与治理联合工作组 | | | |\\n\\n| 浙江移动：跨域数据一致性治理工作小组 | | | |\\n\\n| 中国农业银行：DataOps 专职团队 | | | |\\n\\n| 江苏移动：数据质量专员 | | | |\\n\\n## 02 文化渗透促进数据深度应用 数据价值逐步释放\\n\\n- 建立良好的**企业数据文化**是向数据驱动型企业迈进的重要一步。\\n\\n### 培训\\n\\n#### 非数据技术人员\\n\\n#### 数据技术人员\\n\\n加强对**数据生产端的敏捷开发、自动化工具等方法和理念的宣贯**。\\n\\n加强对**数据消费端借助可视化工具进行自查询和数据理念的宣贯**。\\n\\n## 04 数据研发治理流程初步搭建 质量管控初见成效\\n\\n### 数据治理前置初见成效：\\n\\n- 形成“先设计、后开发、先标准、后建模”的模式\\n\\n- 中国工商银行 - 大数据质量门禁：大数据代码规范扫描，单元测试覆盖，UTTD\\n\\n### 数据自动化测试进一步普及：\\n\\n- 某大型互联网 - 自动化测试平台：集成自动化风险标记、自动化测试用例转监控等功能",
|
|||
|
|
"metadata": {
|
|||
|
|
"node_id": "4e3dfec2ed3a3eaee6d31861e83cd54d8ba47840cd36f43162c719fabe2ef048",
|
|||
|
|
"node_type": "text",
|
|||
|
|
"ppr_score": 0.013895770843370648,
|
|||
|
|
"edge_score": 0.0,
|
|||
|
|
"passage_score": 0.087159985,
|
|||
|
|
"rank": 13,
|
|||
|
|
"source": "hipporag2_langchain_text",
|
|||
|
|
"query": "DataOps是什么",
|
|||
|
|
"pagerank_available": true
|
|||
|
|
}
|
|||
|
|
}
|
|||
|
|
],
|
|||
|
|
"all_passages": [
|
|||
|
|
"故障演练通过机房断电、断网等手段模拟不可预期的自然灾害或重大故障",
|
|||
|
|
"故障演练是混沌工程中用于模拟和测试系统故障情况的手段之一",
|
|||
|
|
"混沌工程更广泛地涵盖了通过引入各种不确定性和故障来测试和改进系统的方法和理念",
|
|||
|
|
"硬件工程师将设备暴露在各种有害条件下并观察设备以确定它们继续运行的情况",
|
|||
|
|
"前言撰写",
|
|||
|
|
"差异性",
|
|||
|
|
"提升系统的韧性和可靠性",
|
|||
|
|
"寻找软件缺陷",
|
|||
|
|
"离生产越远的地方进行实验越好",
|
|||
|
|
"技术架构、运维流程",
|
|||
|
|
"| 差异性 | 混沌工程 | 传统测试 | 理念 | 对系统未知的信息进行探索 | 基于特定条件的验证 | 目标 | 提升系统的韧性和可靠性 | 验证代码逻辑的正确性 | 范围 | 技术架构、运维流程 | 代码 | 环境 | 离生产越近的地方进行实验越好 | 寻找软件缺陷要离生产越远越好 | 执行人员 | 任何关注系统韧性和可靠性的人员，如测试人员、运维人员、开发人员、项目经理等 | 测试人员 | 结果 | 特定的断言，测试会产生二元的结果，非真即假 | 系统架构不同，实验千变万化，结果不同 ### 3.混淆工程与故障演练：故障演练是混沌工程的具体 实践 故障演练是较为正式的，低频的一种演练活动，通过机房断电、 断网等手段模拟不可预期的自然灾害或重大故障，来测试系统的恢复 能力和故障转移能力。故障演练的整体计划性较强，演练前会先制定 整体的演练方案和应急方案；演练时，往往需要协调业务、IT 等多方 参与，并在每次演练时需要组织相关的会议，按照预先设置的应急方 案执行。灾备演练是最常见的一种故障演练的方式。 对比故障演练，混沌工程的组织方式更加灵活，可以按照组织架 构以租户的方式进行，是一种非正式的活动。混沌工程以进行实验的 方式来对系统注入故障或其他的扰动，由于其进行过程成本较低，涉 及相关方较少，因此可以高频进行。 故障演练是混沌工程的一种具体实践, 它是混沌工程中用于模拟和测试系统故障情况的手段之一。混沌工程更广泛地涵盖了通过引入各种不确定性和故障来测试和改进系统的方法和理念, 而故障演练则是其中的一种具体操作手段。 ## （二）混沌工程发展历程 混沌工程的起源可追溯到1970年，硬件工程师将设备暴露在各种有害条件下并观察设备，以确定它们继续运行的情况。",
|
|||
|
|
"混沌工程提供了同一个认知体系内的方法论，将架构、开发、测 试、运维等团队之间工作推动盘活起来。比如通过开展故障演练、 GameDay 等活动，将各个团队介入进来，根据历史发生过的或可能发 生的故障场景，对业务进行注入故障、故障排查、复盘，提升对故障 事件的应急处理能力，增强对系统抵御故障场景的信息，通过混沌工 程来加深各部门之间的沟通合作。 混沌工程提升了工程师的响应能力。工程师也是系统的一部分,混沌工程通过混沌实验为工程师构建了一个非确定性、非周期性的故障环境, 剥离工程师对初始条件的敏感依赖, 进而提升了工程师对故障防御的设计能力、故障事件的构建能力、故障问题的描述能力以及故障应对的组织协调能力。其实是通过混沌工程的能力, 让工程师更多认识故障及其对业务的影响, 从以前的 “被动响应” 到 “主动防御”。 混沌工程对于架构团队而言，最大的价值是在系统设计之初就将 可能发生的、尽量全的故障场景考虑进去，不至于在系统架构非常臃 肿时再想去提升稳定性，在一个业务复杂的系统中考虑稳定性设计是 异常难的，难分析、难改动、难优化。 混沌工程对于开发团队而言，可以通过混沌工程能力从开发之初 或开发时就可以将由于开发或引入的组件导致的故障场景考虑进去， 从故障场景分析如何增强问题的快速定位、防护、跟踪等能力。",
|
|||
|
|
"以混沌工程为抓手推动整个稳定性保障体系 能力提升。 # 三、混沌工程技术应用 ## （一）混沌工程开展基础 团队拥抱失败的文化基础。实施混沌工程，坚实的文化基础与技 术基础设施一样重要。首先需要领导团队承认系统固有的复杂性，而不 是一味要求工程师“不能也不该出现失误”此外，需要主动性和创 造性的企业文化，来促进工程师更主动的探索与发现潜在的、未知的 风险。如果每个人都忙于他们的日常工作而无暇做其他事情，混沌工 程很可能失败。理想情况下，混沌工程会揭示目标系统未知的一些故 障方面，混沌工程因此需要协作、持续的进行，并且具有挑战性。 系统具备一定的韧性。如果目标系统的应用系统和基础设施不具备一定的高可用、弹性和自愈设计，存在明显的单点故障，那么此时进行混沌工程的价值有限, 应首先完善系统的设计后再开展混沌工程的实现。 明确的业务目标。混沌工程实验在每次开展前，一是需要明确本 次实验针对哪个业务系统（即实验目标）；二是明确哪些外部因素是 本次实验的变量；三是需要明确实验的步骤；四是能够说明本次实验 能对业务系统带来哪些收益并得到业务系统负责人的认可。 目标系统的可观测性基础。混沌工程是一种基于实验的实践，因此需要能够监测控制组和实验组之间的差异。如果没有适当的工具来检测任何差异，例如服务降级，那么就无法了解实验产生的影响。目标系统应该具备基本的日志记录和监控能力让维护者了解实验是否对目标系统产生了影响。",
|
|||
|
|
"要将实验后果最小化并加以控制，会使用到根因分析算法（包含时间、注入IP、调用链等），同时，混沌工程可作为一种主动制造故障的方式，还可以验证与提升根因分析算法的准确率与召回率。 ### 2.混沌工程组织价值 通常企业的 IT 部门中架构、开发、测试、运维团队都是各司其 职，完成指定的相关领域工作。架构团队从各种不同架构角度设计审 视核心系统，包括组件、技术选型等，也会关注少部分的系统稳定性 相关能力；而开发主要是则一般是单纯按照技术文档实现相应功能， 一般很少主动关注所开发组件的稳定性，除非需要开发相关特性或有 成熟的能力；测试团队以功能测试和性能测试为主，可靠性测试还是 以系统中的可靠性特性做有针对性的测试，不会进行故障场景的深挖； 运维团队往往是对系统稳定性了解最清楚的，因为他们遇到的软硬件 问题是最多的，他们最大的问题就是不知道系统中都会存在哪些故障？ 如何快速处理？只能堆人力解决问题，是最不高效的一种方式。 我们需要将业务系统的稳定性问题分解出来，各个团队需要认识 到各种故障场景对业务的影响是什么？是否有监控恢复手段？应急 预案是否完备？那么就需要有改变。 混沌工程改变了企业 IT 团队的思考方式，促使各团队在设计、 开发、测试等过程中增加了对故障的考虑：在架构设计的时候考虑一 类故障的监控、恢复、业务的 HA；开发过程中审视出现故障时故障 的快速跟踪定位；测试需要覆盖的故障场景更加全面；运维清楚在出 现某种故障时业务的表现是什么，应该如何进行恢复，应急预案是否 完备。 混沌工程提供了同一个认知体系内的方法论，将架构、开发、测 试、运维等团队之间工作推动盘活起来。",
|
|||
|
|
"DataOps作为一种新兴的数据管理方法",
|
|||
|
|
"企业数字化转型快速释放数据生产力的最佳方案",
|
|||
|
|
"将敏捷、精益等理念融入数据开发过程，打破协作壁垒，构建集开发、治理、运营于一体的自动化数据流水线。",
|
|||
|
|
"数据研发运营一体化（DataOps）是数据开发的新范式，将敏捷、精益等理念融入数据开发过程，打破协作壁垒，构建集开发、治理、运营于一体的自动化数据流水线，不断提高数据产品交付效率与质量，实现高质量数字化发展。",
|
|||
|
|
"标准引领，建设 DataOps 体系",
|
|||
|
|
"DataOps成为企业数字化转型快速释放数据生产力的最佳方案。",
|
|||
|
|
"集开发、治理、运营于一体的自动化数据流水线",
|
|||
|
|
"DataOps作为一种新兴的数据管理方法，强调数据管理自动化。",
|
|||
|
|
"经过 2、3 年的实践，国内 DataOps 体系逐步完善起来",
|
|||
|
|
"DataOps能力模型围绕数据开发流程形成了‘4+3’的架构",
|
|||
|
|
"DataOps作为一种新兴的数据管理 方法，强调数据管理自动化，既能为数据工作者提供敏捷的数据开发支持，同时也简 化了数据交付的周期，提升数据成产者与数据消费者的协同效率，成为企业数字化转 型快速释放数据生产力的最佳方案。 充分利用AI和大模型技术优化数据策略。AI技术可以通过机器学习和深度学习算 法，自动化地处理和分析大规模的数据，发现数据中的隐藏模式和趋势，为企业提供 更准确、实时的决策支持。数据分析技术也将不断发展，包括数据挖掘、预测分析、 文本分析等，通过对数据的深入分析，帮助企业更好地理解和利用数据。 ## （五）以数据入表为抓手，探索数据核算机制 2023年8月，财政部正式发文《企业数据资源相关会计处理暂行规定》（下称 “暂行规定”），标志着我国数据资源入表正式落地，探索数据资源入表的基础制度和 会计制度，对于释放数据要素价值、推动市场建设、优化资源配置具有重要意义。数 据资源入表是指将企业数据资源在财务报表层面真实反应其价值和成本投入，向企业 董事会、管理层和投资方充分披露公司对于数据的重视程度和数据带来的实际价值。 《暂行规定》根据企业使用数据目的的不同，区分为无形资产类数据资产和存 货类数据资产，并分别要求企业参照《企业会计准则第6号——无形资产》和《企业 会计准则第1号——存货》进行处理，同时也要求企业按照规定强制和自愿披露相关 数据资源信息。在《暂行规定》的指导要求下，企业过往在数据建设领域的部分投资 费用可以得到资本化处理，进而改善企业资产负债结构、经营利润等财务数据，同 时，也会进一步激发、促进企业加速完善数据管理体系的建设意愿与进程。",
|
|||
|
|
"## （三）参与数据要素市场，获取数据竞争优势 加强数据生态系统的建设，鼓励实现数据开放共享。数据生态系统是一个以数 据为核心，由各种数据参与方（企业、组织、个人等）构成的复杂网络，涵盖数据的 生产、流通、利用等环节。通过构建数据生态系统，企业能够更好地进行数据合作与 共享，并参与生态系统的协同治理，推动数据的价值最大化。 加大数据内外部推广，丰富数据生态体系，积极参与数据要素市场建设。“数据 二十条”的提出旨在健全数据产权制度，建立数据流通交易制度，鼓励数据的共享和 交易，有效推动数据资源的高效利用和流动，为数字经济的发展创造良好的环境。随 着数据要素流通政策的不断完善，要素市场的健康有序发展，为企业开展数据流通服 务创造了良好的环境，越来越多的企业利用自身数据积累优势和服务能力优势，深入 调研数据需求方的核心业务痛点，形成可流通交易的数据产品，提供针对性的数据产 品与解决方案，推进形成各类数据产品的权责范围、供求关系、使用场景、定价策略 等，完善数据产品全流程合规管理，充分实现数据赋能发展。 ## （四）加深新型技术使用，提高数据运营效率 随着数据需求种类日益丰富，服务交付时效性重要性逐渐凸显，提升数据服务 开发效率是关键。数据研发运营一体化（DataOps）是数据开发的新范式，将敏 捷、精益等理念融入数据开发过程，通过对数据相关人员、工具和流程的重新组织， 打破协作壁垒，构建集开发、治理、运营于一体的自动化数据流水线，不断提高数据 产品交付效率与质量，实现高质量数字化发展。DataOps作为一种新兴的数据管理 方法，强调数据管理自动化，既能为数据工作者提供敏捷的数据开发支持，同时也简 化了数据交付的周期，提升数据成产者与数据消费者的协同效率，成为企业数字化转 型快速释放数据生产力的最佳方案。 充分利用AI和大模型技术优化数据策略。",
|
|||
|
|
"# DataOps 实践初探\\n\\n越来越多的企业开始意识到数据作为核心资产的价值，着力于通过 DataOps 改善数据开发流程，提升数据质量，加速数据流动，并促进数据在产品开发和消费端的高效利用。通过工作组的广泛调研，**将头部企业典型的实践与发展趋势**总结如下，希望为行业提供可取的建设思路。\\n\\n## 01 敏捷数据开发取得稳健成效 先行企业特征各异\\n\\n| 头部企业从 2020 年开始 DataOps 实践： | 先行企业的切入模式 |\\n\\n| :------------------------------------ | :------------------ |\\n\\n| - 中国工商银行：DataOps 敏捷数据生产与创新体系，研发效率 +50%，测试数据准备效率 +10 倍 | 战略驱动 |\\n\\n| - 浙江移动：敏捷数据产品，1.7 亿多源异构地址数据的统一建模 | 需求驱动 |\\n\\n| | 技术驱动 |\\n\\n## 03 组织变革促进协同机制构建 业数合作更加紧密\\n\\n### 技术变革与组织变革双向互馈\\n\\n新的挑战和机会\\n\\n高效利用数据资产和新技术的前提条件\\n\\n#### 技术变革\\n\\n#### 组织变革\\n\\n| 业务部门与数据部门结合更为紧密 | 跨职能团队 | 专职组织 | 专职人员 |\\n\\n| :------------------------------- | :--------- | :------- | :------- |\\n\\n| 华为终端：终端业务数据开发与治理联合工作组 | | | |\\n\\n| 浙江移动：跨域数据一致性治理工作小组 | | | |\\n\\n| 中国农业银行：DataOps 专职团队 | | | |\\n\\n| 江苏移动：数据质量专员 | | | |\\n\\n## 02 文化渗透促进数据深度应用 数据价值逐步释放\\n\\n- 建立良好的**企业数据文化**是向数据驱动型企业迈进的重要一步。\\n\\n### 培训\\n\\n#### 非数据技术人员\\n\\n#### 数据技术人员\\n\\n加强对**数据生产端的敏捷开发、自动化工具等方法和理念的宣贯**。\\n\\n加强对**数据消费端借助可视化工具进行自查询和数据理念的宣贯**。\\n\\n## 04 数据研发治理流程初步搭建 质量管控初见成效\\n\\n### 数据治理前置初见成效：\\n\\n- 形成“先设计、后开发、先标准、后建模”的模式\\n\\n- 中国工商银行 - 大数据质量门禁：大数据代码规范扫描，单元测试覆盖，UTTD\\n\\n### 数据自动化测试进一步普及：\\n\\n- 某大型互联网 - 自动化测试平台：集成自动化风险标记、自动化测试用例转监控等功能"
|
|||
|
|
],
|
|||
|
|
"passage_sources": [
|
|||
|
|
"子查询1-event-043c762ea5dec1b35d55a8080c179bf816e47cd937884dc6776ff8c541b2819d",
|
|||
|
|
"子查询1-event-577ea3562f0d62b2094e74fb1760debef6c73592e736dbd3da46f8d2a398eaa9",
|
|||
|
|
"子查询1-event-334a48d07c0914a27ecc426a089ed73fcb5f465f60c9c57db080158c5b5dc1e5",
|
|||
|
|
"子查询1-event-3b9d7ac31f5173e8a26e3d7e7bf7a6180999f5822fd26e3a54343e541e63036b",
|
|||
|
|
"子查询1-event-ec3b4bff0184984b0518a016093fa923ccc5cd03aca0e118b37e30aa1cb0f633",
|
|||
|
|
"子查询1-event-b713debbc22ddeaaf110dff983fbceef56ecc1daebcf1728ab809d4e5fc17df1",
|
|||
|
|
"子查询1-event-05be1dc33c0a3caafa37825f719166bf4588f9aa0d2ce14da569ef05350ce241",
|
|||
|
|
"子查询1-event-998093bcd258dada1273c091106c37286e30940a8ce4afd7f77d81da54da00ae",
|
|||
|
|
"子查询1-event-a80111e3684545d5448adb2427d19e4ff359e529281ebc83573959bb1c341c4d",
|
|||
|
|
"子查询1-event-8b0a06caa9fffd05e7f8cb1d722c304e9dfdedd6161f509b67972677f91abf54",
|
|||
|
|
"子查询1-text-731fddc36b520d361923cb5c3ecfa7dffdc396ef5ce67e35b1c3598744056a52",
|
|||
|
|
"子查询1-text-eaebc2c5bb1aed205038d18eeeee4dd33ab7318e1cbda9d54c2f8a9795e73d28",
|
|||
|
|
"子查询1-text-eaabafd56e1ad979fc78f6aedce2330e9a7897435612ec4190c1964208e49e0b",
|
|||
|
|
"原始查询-text-e0030c5183f95b1b207ff609e1c7f2a9c8486bf190eae5d9937f5324b9ed0584",
|
|||
|
|
"子查询2-event-680b2a6330d156d3853a42fa00e510355f92a08a8a568b3adf5d556f8913fa8a",
|
|||
|
|
"子查询2-event-d691625bd46a5a8840368fcc0f2456ee067bedde79a397596cf3cd225cacb0fc",
|
|||
|
|
"子查询2-event-f81ab568ce6cfce72175a1087db911f899752c622460211efdc350d6c3167149",
|
|||
|
|
"子查询2-event-774a6133f9a25821d10ebab0d1745ac30d14a4016da4d3548b102f265e633a22",
|
|||
|
|
"子查询2-event-adb5a19d4a48b43fa7b2e7f76331d30736f624cd5df909e3aad6683390c175f9",
|
|||
|
|
"子查询2-event-0b602ca1699621754c4663ee33fbd14c65e56f98f892a180bf49d5c5d4bb45c3",
|
|||
|
|
"子查询2-event-1f46cbdefe4f148723809ffe0260ab720e23fd6fe4ddcb2edd6ce67ba5baf612",
|
|||
|
|
"子查询2-event-1578f029da85aa8bf25b11ce5f36f1ce67b9ae446cddd2266825a5881685226a",
|
|||
|
|
"子查询2-event-5bd26c11fb5b2a047fe6a598b8777b5af1c22761139a938331cb327612b3646b",
|
|||
|
|
"子查询2-event-6fb21443024d2f95c26d6a0a300a5599a1c9804f500f70fec83d3cb60afdc87a",
|
|||
|
|
"子查询2-text-114fe591e33e8bff142be610475d8035339e334932dc35fd2e89ff078d10fe52",
|
|||
|
|
"子查询2-text-da7aaabf868de83a9fc286404d784e30982b7ba7a5e56c5c1707922e5e39dcf1",
|
|||
|
|
"子查询2-text-4e3dfec2ed3a3eaee6d31861e83cd54d8ba47840cd36f43162c719fabe2ef048"
|
|||
|
|
],
|
|||
|
|
"pagerank_data_available": true,
|
|||
|
|
"pagerank_summary": {},
|
|||
|
|
"concept_exploration_results": {},
|
|||
|
|
"exploration_round": 0,
|
|||
|
|
"debug_info": {
|
|||
|
|
"total_time": 38.46399283409119,
|
|||
|
|
"retrieval_calls": 1,
|
|||
|
|
"llm_calls": 4,
|
|||
|
|
"langsmith_project": "rag-api-service",
|
|||
|
|
"token_usage_summary": {
|
|||
|
|
"has_llm": true,
|
|||
|
|
"has_generator": true,
|
|||
|
|
"last_call": {
|
|||
|
|
"prompt_tokens": 3611,
|
|||
|
|
"completion_tokens": 567,
|
|||
|
|
"total_tokens": 4178
|
|||
|
|
},
|
|||
|
|
"total_usage": {
|
|||
|
|
"prompt_tokens": 8321,
|
|||
|
|
"completion_tokens": 800,
|
|||
|
|
"total_tokens": 9121,
|
|||
|
|
"call_count": 4
|
|||
|
|
},
|
|||
|
|
"model_name": "qwen-plus",
|
|||
|
|
"has_last_usage": true,
|
|||
|
|
"has_total_usage": true
|
|||
|
|
},
|
|||
|
|
"complexity_analysis": {
|
|||
|
|
"is_complex": true,
|
|||
|
|
"complexity_level": "complex",
|
|||
|
|
"confidence": 0.8,
|
|||
|
|
"reason": "```json\n{\n \"is_complex\": true,\n \"complexity_level\": \"complex\",\n \"confidence\": 0.95,\n \"reason\": \"这是一个多问句查询，包含两个独立的主题（混沌工程和DataOps），属于不同技术领域的概念定义，需要生成多个子查询分别获取每个概念的定义来完整回答。\"\n}\n```"
|
|||
|
|
},
|
|||
|
|
"debug_mode_analysis": {
|
|||
|
|
"debug_mode": "0",
|
|||
|
|
"debug_override": {},
|
|||
|
|
"path_override_applied": false
|
|||
|
|
},
|
|||
|
|
"sufficiency_analysis": {
|
|||
|
|
"final_sufficiency": true,
|
|||
|
|
"sufficiency_check_details": {
|
|||
|
|
"is_sufficient": true,
|
|||
|
|
"confidence": 0.7,
|
|||
|
|
"reason": "```json\n{\n \"is_sufficient\": true,\n \"confidence\": 0.9,\n \"reason\": \"事件信息和段落信息包含了回答查询所需的关键内容。对于‘混沌工程的定义’，段落1和事件3明确指出混沌工程是通过引入各种不确定性和故障来测试和改进系统的方法和理念；对于‘DataOps的定义’，段落5、段落6以及事件14、18等详细描述了DataOps是...",
|
|||
|
|
"iteration": 0
|
|||
|
|
},
|
|||
|
|
"iteration_sufficiency_history": [],
|
|||
|
|
"sufficiency_progression": {
|
|||
|
|
"status": "no_sufficiency_checks"
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
"routing_analysis": {
|
|||
|
|
"total_routing_decisions": 1,
|
|||
|
|
"sub_query_generation_count": 0,
|
|||
|
|
"parallel_retrieval_count": 0,
|
|||
|
|
"pagerank_collection_count": 0
|
|||
|
|
},
|
|||
|
|
"concept_exploration_analysis": {
|
|||
|
|
"exploration_enabled": false,
|
|||
|
|
"exploration_rounds": 0,
|
|||
|
|
"pagerank_nodes_analyzed": 0,
|
|||
|
|
"successful_branches_total": 0,
|
|||
|
|
"total_branches_attempted": 0
|
|||
|
|
}
|
|||
|
|
},
|
|||
|
|
"iteration_history": [
|
|||
|
|
{
|
|||
|
|
"iteration": 0,
|
|||
|
|
"query": "并行检索: 原始查询 + 2 个子查询",
|
|||
|
|
"passages_count": 27,
|
|||
|
|
"action": "retrieval"
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"iteration": 0,
|
|||
|
|
"action": "sufficiency_check",
|
|||
|
|
"is_sufficient": true,
|
|||
|
|
"confidence": 0.7,
|
|||
|
|
"sub_queries_count": 0
|
|||
|
|
},
|
|||
|
|
{
|
|||
|
|
"iteration": 0,
|
|||
|
|
"action": "final_answer_generation",
|
|||
|
|
"answer_length": 1062
|
|||
|
|
}
|
|||
|
|
]
|
|||
|
|
}
|