698 lines
60 KiB
JSON
698 lines
60 KiB
JSON
{
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"answer": "混沌工程是一种方法论，旨在通过引入各种不确定性和故障来测试和改进系统。它涉及在生产环境中进行实验，以发现和解决潜在的系统问题。混沌工程强调架构、开发、测试、运维团队之间的协作，通过故障演练、游戏日等活动，让团队介入故障场景，提升对故障事件的应急处理能力，增强对系统抵御故障场景的信息，通过混沌工程加深各部门之间的沟通合作。混沌工程可以帮助架构团队在系统设计之初考虑到可能发生的故障场景，避免在系统架构臃肿时再去提升稳定性。对于开发团队，混沌工程可以从开发之初就考虑由于开发或引入的组件导致的故障场景，增强问题的快速定位、防护、跟踪等能力。\n\nDataOps是一种新兴的数据管理方法，强调数据管理自动化，能够为数据工作者提供敏捷的数据开发支持，简化数据交付周期，提升数据生产者与消费者之间的协同效率。DataOps成为企业数字化转型快速释放数据生产力的最佳方案。DataOps能力框架包括组织、工具和安全三个维度的保障要求。组织管理方面，需要合理配置数据技术架构和数据人员架构，设置岗位角色，明确晋升路线与考核方式，并关注团队、工具间的协同问题。工具方面，需要构建数据需求全生命周期的管理能力，实现数据研发治理一体化，进行数据自动化交付部署，并提供数据一体化运维。安全管控方面，需要加强数据研发全生命周期的风险识别与预测，建立健全风险管理策略，以及在数据研发过程的各环节进行安全测试，确保提前发现问题并处理。\n\n综上所述，混沌工程和DataOps分别聚焦于提升系统的韧性和可靠性以及优化数据管理流程，两者均强调跨团队协作和自动化，为企业提供更为高效、稳定和数据驱动的解决方案。",
|
||
"query_complexity": {
|
||
"is_complex": true,
|
||
"complexity_level": "complex",
|
||
"confidence": 0.95,
|
||
"reason": "这是一个复杂查询，因为它包含了两个不同的主题：混沌工程的定义和DataOps的定义。这两个概念分别属于不同的领域（软件工程和数据管理），且每个概念都可能包含多层含义和相关细节，因此需要生成多个子查询来全面解答。"
|
||
},
|
||
"is_complex_query": true,
|
||
"retrieval_path": "complex_hipporag",
|
||
"iterations": 0,
|
||
"total_passages": 36,
|
||
"sub_queries": [
|
||
"混沌工程的定义是什么？",
|
||
"DataOps是什么？"
|
||
],
|
||
"decomposed_sub_queries": [
|
||
"混沌工程的定义是什么？",
|
||
"DataOps是什么？"
|
||
],
|
||
"initial_retrieval_details": {},
|
||
"sufficiency_check": {
|
||
"is_sufficient": true,
|
||
"confidence": 0.9,
|
||
"reason": "事件信息和段落信息包含了回答查询所需的关键内容，包括混沌工程的定义、目的、实践和价值，以及DataOps的概念、目标和实现方式。",
|
||
"iteration": 0
|
||
},
|
||
"current_sub_queries": [],
|
||
"is_sufficient": true,
|
||
"all_documents": [
|
||
{
|
||
"page_content": "混沌工程成为生产环节中不可或缺的一部分",
|
||
"metadata": {
|
||
"node_id": "bbafacb2fbab1c313ce9fcd99ac571007f3f91ecee85b607bb31b6d20cd2968d",
|
||
"node_type": "event",
|
||
"ppr_score": 0.00782462914954321,
|
||
"edge_score": 1.7457153,
|
||
"passage_score": 0.0,
|
||
"rank": 1,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "整个研发运营体系",
|
||
"metadata": {
|
||
"node_id": "2eea011f02cbb2c630a9ceb88eff5d196905d5900753e10c89a98513ea53cbf6",
|
||
"node_type": "event",
|
||
"ppr_score": 0.00782462914954321,
|
||
"edge_score": 1.7457153,
|
||
"passage_score": 0.0,
|
||
"rank": 2,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "将混沌工程活动内建到现有流程",
|
||
"metadata": {
|
||
"node_id": "8a187f19d1b4d17e1ace47081dba5a272e954caea20040906f9ccabd8a3f671d",
|
||
"node_type": "event",
|
||
"ppr_score": 0.0056352555873640815,
|
||
"edge_score": 1.742083,
|
||
"passage_score": 0.0,
|
||
"rank": 3,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "运维团队利用混沌工程解决系统问题预测与应对",
|
||
"metadata": {
|
||
"node_id": "25ba0eefeb995a74ce9bed17d84d561f6f0597458a4721f3bbf63f041e2516b4",
|
||
"node_type": "event",
|
||
"ppr_score": 0.005319170489614194,
|
||
"edge_score": 1.7743685,
|
||
"passage_score": 0.0,
|
||
"rank": 4,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "开发团队利用混沌工程从开发阶段考虑故障场景",
|
||
"metadata": {
|
||
"node_id": "4d96d92b372fd515ce7bb6b1ded75477a18f10d8e4151f80b5c442ec7552665d",
|
||
"node_type": "event",
|
||
"ppr_score": 0.004421820217728146,
|
||
"edge_score": 1.7673812,
|
||
"passage_score": 0.0,
|
||
"rank": 5,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "首先完善系统的设计后再开展混沌工程的实现",
|
||
"metadata": {
|
||
"node_id": "92d78aa097eb511ca0f15e515012d51fdd537f52d2682933bff6c53a139f4c8f",
|
||
"node_type": "event",
|
||
"ppr_score": 0.00432544911584194,
|
||
"edge_score": 1.7401576,
|
||
"passage_score": 0.0,
|
||
"rank": 6,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "将混沌工程活动内建到现有的组织流程制度中",
|
||
"metadata": {
|
||
"node_id": "aaafdc4d591a4665152df8aec79acc8497ec8afe1c527dae16dad2f475cc53e3",
|
||
"node_type": "event",
|
||
"ppr_score": 0.0016702865366938166,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.0,
|
||
"rank": 7,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "混沌工程实验自动化、智能化水平提升",
|
||
"metadata": {
|
||
"node_id": "78f1d6beb0d1500ef08b9b5ef032839c2eb7bcb907b0e4ce57b5f666eaef527f",
|
||
"node_type": "event",
|
||
"ppr_score": 0.0016245237256308817,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.0,
|
||
"rank": 8,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "长期来看，使用者更关注被测目标的风险本身。",
|
||
"metadata": {
|
||
"node_id": "55741738de0a05d7245ec70ab61264c783aa181cb08ef7eba684959a293c9654",
|
||
"node_type": "event",
|
||
"ppr_score": 0.0015484196199934833,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.0,
|
||
"rank": 9,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "提出混沌工程落地模型以提升行内稳定性保障技术和IT运营能力",
|
||
"metadata": {
|
||
"node_id": "b49135d8c6481172812d533f3d6981f36b3b7d94123428328eb3592a60b7301c",
|
||
"node_type": "event",
|
||
"ppr_score": 0.0015152809623060325,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.0,
|
||
"rank": 10,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "混沌工程管理逐步组织化。除了传统的烟囱型组织(有的团队只 关注应用、有的团队只关注中间件、有的团队只关注基础设施……）， IT 部门将建设横向拉通团队：负责稳定性标准的制定、混沌工程实施 规划、可用性结果的观测和验收，对稳定性达成的路径负责，对稳定 性结果负责。 混沌工程实施模式趋向集中化。混沌工程实施模式由分散式向集 中式转变，混沌工程发展初期主要是组织内单点团队自驱式地尝试或 正式采纳混沌工程，随着混沌工程价值认可度的提高，未来将成为生 产环节中不可或缺的一部分，融合入整个研发运营体系，并获得组织 的集中推进和管理，即实现在测试、预发、灰度的各环节，无缝集成 混沌工程系统，使混沌工程方法有机会参与到UT、冒烟测试、端到 端测试、性能测试、灰度发布的各个环节。 混沌工程实验将由手动、人工操作为主向自动化、智能化发展。 混沌工程实验的自动化和智能化水平将得到进一步提升，可体现 在混沌工程平台的编排、注入、结果分析等各环节。这包括异构架构的拓 扑、注入点的智能选择、场景和参数的智能设置、结果的智能分析、 风险库的智能建设等。短期来看，就是逐渐的增加自动化、减少人工 的参与，长期来看，是让使用者更关注被测目标的风险本身，而非工 具平台的使用。 附件：案例 # 一、华泰证券混沌工程实践案例 ## （一）背景介绍 应用系统在生产环境长期运行过程中,会受到各种不可预知的事 件的影响，例如配置参数修改、软件代码缺陷、负载流量增加、硬件 网络故障，异常数据引入等，有些业务场景会随着影响的引入而逐渐 失效。",
|
||
"metadata": {
|
||
"node_id": "642245580fe314e42f194a64fa2561ff3672b4838567a4ac666124e949586827",
|
||
"node_type": "text",
|
||
"ppr_score": 0.021725198956699384,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.0847494,
|
||
"rank": 11,
|
||
"source": "hipporag2_langchain_text",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "混沌工程提供了同一个认知体系内的方法论，将架构、开发、测 试、运维等团队之间工作推动盘活起来。比如通过开展故障演练、 GameDay 等活动，将各个团队介入进来，根据历史发生过的或可能发 生的故障场景，对业务进行注入故障、故障排查、复盘，提升对故障 事件的应急处理能力，增强对系统抵御故障场景的信息，通过混沌工 程来加深各部门之间的沟通合作。 混沌工程提升了工程师的响应能力。工程师也是系统的一部分,混沌工程通过混沌实验为工程师构建了一个非确定性、非周期性的故障环境, 剥离工程师对初始条件的敏感依赖, 进而提升了工程师对故障防御的设计能力、故障事件的构建能力、故障问题的描述能力以及故障应对的组织协调能力。其实是通过混沌工程的能力, 让工程师更多认识故障及其对业务的影响, 从以前的 “被动响应” 到 “主动防御”。 混沌工程对于架构团队而言，最大的价值是在系统设计之初就将 可能发生的、尽量全的故障场景考虑进去，不至于在系统架构非常臃 肿时再想去提升稳定性，在一个业务复杂的系统中考虑稳定性设计是 异常难的，难分析、难改动、难优化。 混沌工程对于开发团队而言，可以通过混沌工程能力从开发之初 或开发时就可以将由于开发或引入的组件导致的故障场景考虑进去， 从故障场景分析如何增强问题的快速定位、防护、跟踪等能力。",
|
||
"metadata": {
|
||
"node_id": "eaebc2c5bb1aed205038d18eeeee4dd33ab7318e1cbda9d54c2f8a9795e73d28",
|
||
"node_type": "text",
|
||
"ppr_score": 0.017824179956632335,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.08577338000000001,
|
||
"rank": 12,
|
||
"source": "hipporag2_langchain_text",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "要达到以上目标有三个关键点，其一是混沌工程活动内建到现有 流程，其二是通过工具化提高自动化水平，使之无额外的工作，其三 是能够真正的帮助大家改进系统稳定性，提升SLA。 ### 1.混混沌工程流程内建 不管企业组织执行的是什么样的开发流程,传统的软件工程或者是 DevOps 等,正常的软件开发流程都包括需求分析、设计、编程、 软件测试、软件交付、验收和维护等几个重要阶段。将混沌工程中关键步骤与软件开发流程映射起来,在该流程步骤中自然的添加混沌工程活动要求, 即可完成流程的内建: 1）将需求分析与混沌工程的“挖掘故障场景”相对应，在需求分 析过程中的“异常分析”拓展成“挖掘故障场景”，完成原有流程对混沌 工程要求的承接； 2）同理在设计阶段将“演练方案设计”和“观测指标设计”活动收 入其中，程序设计应包含对各种异常场景的应对和处理； 3）在编程和软件测试阶段实施“在研发/测试环境执行混沌工程 故障注入实验”的活动，作为进入下一阶段的先决条件； 4）软件的交付与验收一般对应版本发布或系统割接，将“混沌工 程故障注入”作为验收测试的一种测试手段，由验收方执行； 5）最后，在维护阶段，将传统的应急演练和灾备演练按照“生产 环境故障注入实验”的要求进行改造并例行执行。 综上，混沌工程相关的所有活动都可以通过流程 Build-in 入原有 的流程，达到不额外添加工作环节，自然执行的效果。 ### 2.混淆工程工具自动化 传统的混沌工程工具平台都很重视工程化能力，但随着云原生和 微服务架构推广，海量服务上限，故障场景呈几何倍数增长，演练过 程工作量变得非常巨大，这个时候比如持续推进混沌工程工具平台向 自动化和智能化方向发展，以减轻混沌工程实验参与者的工作量。",
|
||
"metadata": {
|
||
"node_id": "81c4166b930e81ff256cac64028f4b2c6b5e1b35f6902e6eb6a5f283796f0e1a",
|
||
"node_type": "text",
|
||
"ppr_score": 0.010076262010584498,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.08516454000000001,
|
||
"rank": 13,
|
||
"source": "hipporag2_langchain_text",
|
||
"query": "混沌工程的定义是什么？DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "编写了一篇关于DataOps实践指南的文章",
|
||
"metadata": {
|
||
"node_id": "c2db1984e1da816b055b75fa3cc6c40f8c2d7094fc237c3db4ea6b00f7faf4b7",
|
||
"node_type": "event",
|
||
"ppr_score": 0.009925856878362817,
|
||
"edge_score": 1.7966007,
|
||
"passage_score": 0.0,
|
||
"rank": 1,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "DataOps作为一种新兴的数据管理方法",
|
||
"metadata": {
|
||
"node_id": "680b2a6330d156d3853a42fa00e510355f92a08a8a568b3adf5d556f8913fa8a",
|
||
"node_type": "event",
|
||
"ppr_score": 0.005431305214164296,
|
||
"edge_score": 1.8095305,
|
||
"passage_score": 0.0,
|
||
"rank": 2,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "企业数字化转型快速释放数据生产力的最佳方案",
|
||
"metadata": {
|
||
"node_id": "d691625bd46a5a8840368fcc0f2456ee067bedde79a397596cf3cd225cacb0fc",
|
||
"node_type": "event",
|
||
"ppr_score": 0.005431305214164296,
|
||
"edge_score": 1.8095305,
|
||
"passage_score": 0.0,
|
||
"rank": 3,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "标准引领，建设 DataOps 体系",
|
||
"metadata": {
|
||
"node_id": "adb5a19d4a48b43fa7b2e7f76331d30736f624cd5df909e3aad6683390c175f9",
|
||
"node_type": "event",
|
||
"ppr_score": 0.004681910580989705,
|
||
"edge_score": 1.7975943,
|
||
"passage_score": 0.0,
|
||
"rank": 4,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "实施数据治理策略",
|
||
"metadata": {
|
||
"node_id": "0f4eb7cf5f30d4738a7385127c011103981bc088ec749f8af1ed0b6c15144c44",
|
||
"node_type": "event",
|
||
"ppr_score": 0.0046132770844265186,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.0,
|
||
"rank": 5,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "提高开发效率和产品质量",
|
||
"metadata": {
|
||
"node_id": "b08abe3367a833819cdadc8902d43927e0dc1b8a28c6729d5fa9913641ba27a5",
|
||
"node_type": "event",
|
||
"ppr_score": 0.0046132770844265186,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.0,
|
||
"rank": 6,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "建立数据管道",
|
||
"metadata": {
|
||
"node_id": "849a3d4c2d25164af0bce9c9cbdbfd592254d7fc9af293f4be1484277c81ac76",
|
||
"node_type": "event",
|
||
"ppr_score": 0.004571147509812638,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.0,
|
||
"rank": 7,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "集成DevOps实践",
|
||
"metadata": {
|
||
"node_id": "fcc78de5daaa3405a2c6e340aee37d2a90e80892ad8326c4ab92aff1c0e6047b",
|
||
"node_type": "event",
|
||
"ppr_score": 0.004571147509812638,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.0,
|
||
"rank": 8,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "数据研发运营一体化（DataOps）是数据开发的新范式，将敏捷、精益等理念融入数据开发过程，打破协作壁垒，构建集开发、治理、运营于一体的自动化数据流水线，不断提高数据产品交付效率与质量，实现高质量数字化发展。",
|
||
"metadata": {
|
||
"node_id": "774a6133f9a25821d10ebab0d1745ac30d14a4016da4d3548b102f265e633a22",
|
||
"node_type": "event",
|
||
"ppr_score": 0.004126089063206318,
|
||
"edge_score": 1.8375752,
|
||
"passage_score": 0.0,
|
||
"rank": 9,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "DataOps成为企业数字化转型快速释放数据生产力的最佳方案。",
|
||
"metadata": {
|
||
"node_id": "0b602ca1699621754c4663ee33fbd14c65e56f98f892a180bf49d5c5d4bb45c3",
|
||
"node_type": "event",
|
||
"ppr_score": 0.004005851773795617,
|
||
"edge_score": 1.7999073,
|
||
"passage_score": 0.0,
|
||
"rank": 10,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "DataOps作为一种新兴的数据管理 方法，强调数据管理自动化，既能为数据工作者提供敏捷的数据开发支持，同时也简 化了数据交付的周期，提升数据成产者与数据消费者的协同效率，成为企业数字化转 型快速释放数据生产力的最佳方案。 充分利用AI和大模型技术优化数据策略。AI技术可以通过机器学习和深度学习算 法，自动化地处理和分析大规模的数据，发现数据中的隐藏模式和趋势，为企业提供 更准确、实时的决策支持。数据分析技术也将不断发展，包括数据挖掘、预测分析、 文本分析等，通过对数据的深入分析，帮助企业更好地理解和利用数据。 ## （五）以数据入表为抓手，探索数据核算机制 2023年8月，财政部正式发文《企业数据资源相关会计处理暂行规定》（下称 “暂行规定”），标志着我国数据资源入表正式落地，探索数据资源入表的基础制度和 会计制度，对于释放数据要素价值、推动市场建设、优化资源配置具有重要意义。数 据资源入表是指将企业数据资源在财务报表层面真实反应其价值和成本投入，向企业 董事会、管理层和投资方充分披露公司对于数据的重视程度和数据带来的实际价值。 《暂行规定》根据企业使用数据目的的不同，区分为无形资产类数据资产和存 货类数据资产，并分别要求企业参照《企业会计准则第6号——无形资产》和《企业 会计准则第1号——存货》进行处理，同时也要求企业按照规定强制和自愿披露相关 数据资源信息。在《暂行规定》的指导要求下，企业过往在数据建设领域的部分投资 费用可以得到资本化处理，进而改善企业资产负债结构、经营利润等财务数据，同 时，也会进一步激发、促进企业加速完善数据管理体系的建设意愿与进程。",
|
||
"metadata": {
|
||
"node_id": "114fe591e33e8bff142be610475d8035339e334932dc35fd2e89ff078d10fe52",
|
||
"node_type": "text",
|
||
"ppr_score": 0.028859152165310924,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.08387384,
|
||
"rank": 11,
|
||
"source": "hipporag2_langchain_text",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "# DataOps 能力框架——实践保障\\n\\n## 2024DataOPS发展大会\\n\\n智驱新程·数驱万务\\n\\n为了保证 DataOps 研发流水线能够持续高效运转和迭代完善，企业需要有力的保障措施。本指南提出了组织、工具和安全三个维度的保障要求。这些要求的目标是引导企业以全局最优为目标，保障数据研发流水线的平滑运作。\\n\\n### 系统工具\\n\\n#### 数据需求管理\\n\\n| 手段 | 构建数据需求全生命周期的管理能力 |\\n\\n| :--- | :--------------------------------- |\\n\\n| 目标 | 支持流程的设计和共享 |\\n\\n| 进一步要求 | 数据需求方主动通过自助分析平台进行数据探查 |\\n\\n#### 数据研发治理一体化\\n\\n| 原则 | 先设计、后开发、先标准、后建模 |\\n\\n| :--- | :------------------------------- |\\n\\n| 手段 | 设计管理、开发管理、数据应用 |\\n\\n| 目的 | 规范即设计，设计即开发，开发即治理 |\\n\\n#### 数据自动化交付部署\\n\\n\\n\\n#### 数据一体化运维\\n\\n| 对象 | 数据研发全链路的监测、运维监控、运维告警、运维操作 |\\n\\n| :--- | :---------------------------------------------------- |\\n\\n| 手段 | 可视化方式 |\\n\\n| 目的 | 实时展现研发效能、数据质量 |\\n\\n### 组织管理\\n\\n#### 组织架构\\n\\n合理配置\\n\\n{ | 数据技术架构 |\\n\\n| 数据人员架构 |\\n\\n#### 岗位角色\\n\\n| | 设置相应的岗位角色 |\\n\\n| :--- | :------------------ |\\n\\n| | 明确晋升路线与考核方式 |\\n\\n#### 协作协同\\n\\n依托\\n\\n| 敏捷方法 |\\n\\n| :-------- |\\n\\n| 关注团队、工具间的协同问题持续进行优化 |\\n\\n解决\\n\\n### 安全管控\\n\\n#### 安全风险策略\\n\\n加强\\n\\n{ | 数据研发全生命周期 |\\n\\n| 风险识别 |\\n\\n| 风险预测 |\\n\\n#### 风险管理\\n\\n外部法律法规\\n\\n+ 监管要求\\n\\n+ 企业内部安全需求\\n\\n健全\\n\\n风险管理策略\\n\\n#### 安全测试\\n\\n数据研发过程的各环节进行安全测试\\n\\n保证\\n\\n提前发现问题处理问题",
|
||
"metadata": {
|
||
"node_id": "21cecc0bf37f351e693eaf71192ada4887caa03f90c22fe314b582966d6ccc79",
|
||
"node_type": "text",
|
||
"ppr_score": 0.02174735620646538,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.08648537,
|
||
"rank": 12,
|
||
"source": "hipporag2_langchain_text",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "# DataOps 实践指南 2.0",
|
||
"metadata": {
|
||
"node_id": "d585f5cf554e678d92a1982fe4a61608783a1f497183303fcc73f850b1f1458f",
|
||
"node_type": "text",
|
||
"ppr_score": 0.018557434591055307,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.09130943500000001,
|
||
"rank": 13,
|
||
"source": "hipporag2_langchain_text",
|
||
"query": "DataOps是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "混沌工程更广泛地涵盖了通过引入各种不确定性和故障来测试和改进系统的方法和理念",
|
||
"metadata": {
|
||
"node_id": "334a48d07c0914a27ecc426a089ed73fcb5f465f60c9c57db080158c5b5dc1e5",
|
||
"node_type": "event",
|
||
"ppr_score": 0.008163814348395467,
|
||
"edge_score": 1.8193355,
|
||
"passage_score": 0.0,
|
||
"rank": 1,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "混沌工程提供了一个统一的方法论，推动架构、开发、测试、运维团队之间的协作。",
|
||
"metadata": {
|
||
"node_id": "c282aaa040bb69133b28d31287e98db2d4771330e308ca9766e6ad38ddacbf3c",
|
||
"node_type": "event",
|
||
"ppr_score": 0.004097894889318739,
|
||
"edge_score": 1.8194561,
|
||
"passage_score": 0.0,
|
||
"rank": 3,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "以混沌工程平台为基础，在组织内部借助混沌工程串联稳定性保障技术，构建稳定性保障生态。",
|
||
"metadata": {
|
||
"node_id": "7fdb70cf1a3abc43b3e348ee043c0155e43d6df1993c93e8243124f9c8e424a0",
|
||
"node_type": "event",
|
||
"ppr_score": 0.0038696720538602394,
|
||
"edge_score": 1.8425026,
|
||
"passage_score": 0.0,
|
||
"rank": 5,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "在生产环境中运行混沌工程实验",
|
||
"metadata": {
|
||
"node_id": "eb64e97828b4b85d1fe216efccd636e1b621a1c6e2955eef6aad6516e33c639b",
|
||
"node_type": "event",
|
||
"ppr_score": 0.003456037716708421,
|
||
"edge_score": 1.8235707,
|
||
"passage_score": 0.0,
|
||
"rank": 6,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "混沌工程针对系统未知信息进行探索",
|
||
"metadata": {
|
||
"node_id": "7bfbe657437c9eaaef47e2f0d1f35cb3efb4ef186c7692826a40ed2fac8f4062",
|
||
"node_type": "event",
|
||
"ppr_score": 0.0034374231269838243,
|
||
"edge_score": 1.814409,
|
||
"passage_score": 0.0,
|
||
"rank": 7,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "通过混沌工程让工程师更多认识故障及其对业务的影响。",
|
||
"metadata": {
|
||
"node_id": "3e3c398d512804ee046260a9079f11c8eb5b5114d2f80f8628559eaed8b5034f",
|
||
"node_type": "event",
|
||
"ppr_score": 0.003411360969664867,
|
||
"edge_score": 1.8145068,
|
||
"passage_score": 0.0,
|
||
"rank": 8,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "混沌工程以进行实验的方式来对系统注入故障或其他的扰动",
|
||
"metadata": {
|
||
"node_id": "8a14d83ce8b04835fa8d1218cfaf88891b9efdc531c67eb1dcec60b730a30702",
|
||
"node_type": "event",
|
||
"ppr_score": 0.003274614080650728,
|
||
"edge_score": 1.8400319,
|
||
"passage_score": 0.0,
|
||
"rank": 10,
|
||
"source": "hipporag2_langchain_event",
|
||
"query": "混沌工程的定义是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "| 差异性 | 混沌工程 | 传统测试 | 理念 | 对系统未知的信息进行探索 | 基于特定条件的验证 | 目标 | 提升系统的韧性和可靠性 | 验证代码逻辑的正确性 | 范围 | 技术架构、运维流程 | 代码 | 环境 | 离生产越近的地方进行实验越好 | 寻找软件缺陷要离生产越远越好 | 执行人员 | 任何关注系统韧性和可靠性的人员，如测试人员、运维人员、开发人员、项目经理等 | 测试人员 | 结果 | 特定的断言，测试会产生二元的结果，非真即假 | 系统架构不同，实验千变万化，结果不同 ### 3.混淆工程与故障演练：故障演练是混沌工程的具体 实践 故障演练是较为正式的，低频的一种演练活动，通过机房断电、 断网等手段模拟不可预期的自然灾害或重大故障，来测试系统的恢复 能力和故障转移能力。故障演练的整体计划性较强，演练前会先制定 整体的演练方案和应急方案；演练时，往往需要协调业务、IT 等多方 参与，并在每次演练时需要组织相关的会议，按照预先设置的应急方 案执行。灾备演练是最常见的一种故障演练的方式。 对比故障演练，混沌工程的组织方式更加灵活，可以按照组织架 构以租户的方式进行，是一种非正式的活动。混沌工程以进行实验的 方式来对系统注入故障或其他的扰动，由于其进行过程成本较低，涉 及相关方较少，因此可以高频进行。 故障演练是混沌工程的一种具体实践, 它是混沌工程中用于模拟和测试系统故障情况的手段之一。混沌工程更广泛地涵盖了通过引入各种不确定性和故障来测试和改进系统的方法和理念, 而故障演练则是其中的一种具体操作手段。 ## （二）混沌工程发展历程 混沌工程的起源可追溯到1970年，硬件工程师将设备暴露在各种有害条件下并观察设备，以确定它们继续运行的情况。",
|
||
"metadata": {
|
||
"node_id": "731fddc36b520d361923cb5c3ecfa7dffdc396ef5ce67e35b1c3598744056a52",
|
||
"node_type": "text",
|
||
"ppr_score": 0.017948675805110892,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.08662618,
|
||
"rank": 11,
|
||
"source": "hipporag2_langchain_text",
|
||
"query": "混沌工程的定义是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "要将实验后果最小化并加以控制，会使用到根因分析算法（包含时间、注入IP、调用链等），同时，混沌工程可作为一种主动制造故障的方式，还可以验证与提升根因分析算法的准确率与召回率。 ### 2.混沌工程组织价值 通常企业的 IT 部门中架构、开发、测试、运维团队都是各司其 职，完成指定的相关领域工作。架构团队从各种不同架构角度设计审 视核心系统，包括组件、技术选型等，也会关注少部分的系统稳定性 相关能力；而开发主要是则一般是单纯按照技术文档实现相应功能， 一般很少主动关注所开发组件的稳定性，除非需要开发相关特性或有 成熟的能力；测试团队以功能测试和性能测试为主，可靠性测试还是 以系统中的可靠性特性做有针对性的测试，不会进行故障场景的深挖； 运维团队往往是对系统稳定性了解最清楚的，因为他们遇到的软硬件 问题是最多的，他们最大的问题就是不知道系统中都会存在哪些故障？ 如何快速处理？只能堆人力解决问题，是最不高效的一种方式。 我们需要将业务系统的稳定性问题分解出来，各个团队需要认识 到各种故障场景对业务的影响是什么？是否有监控恢复手段？应急 预案是否完备？那么就需要有改变。 混沌工程改变了企业 IT 团队的思考方式，促使各团队在设计、 开发、测试等过程中增加了对故障的考虑：在架构设计的时候考虑一 类故障的监控、恢复、业务的 HA；开发过程中审视出现故障时故障 的快速跟踪定位；测试需要覆盖的故障场景更加全面；运维清楚在出 现某种故障时业务的表现是什么，应该如何进行恢复，应急预案是否 完备。 混沌工程提供了同一个认知体系内的方法论，将架构、开发、测 试、运维等团队之间工作推动盘活起来。",
|
||
"metadata": {
|
||
"node_id": "e0030c5183f95b1b207ff609e1c7f2a9c8486bf190eae5d9937f5324b9ed0584",
|
||
"node_type": "text",
|
||
"ppr_score": 0.014147622284298549,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.087695875,
|
||
"rank": 12,
|
||
"source": "hipporag2_langchain_text",
|
||
"query": "混沌工程的定义是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
},
|
||
{
|
||
"page_content": "系统的复杂性使得生产环境处在无时不变的状态中，在理想情况下，每一次变动都应该执行一次混沌实验，这样我们就能及时发现新增的风险并了解到风险的持续时间，从而更快修复。在这种情况下，手动实验是不可能做到的，必须借助自动化的 能力来持续地运行实验,同时应该投入精力来开发混沌工程的工具和平台, 以期不断降低创建新实验的门槛, 并使这些实验能给全自动运行。除了自动运行混沌实验之外, 如果能够做到自动设计和创建实验, 就能解决因为没有足够时间和资源穷举所有可能导致问题的事件及其组合, 从而无法有效发现风险点的问题。 最小化爆炸半径。为了避免混沌实验的级联效应对生产环境造成 较大程度的影响和损害，混沌工程应该采取循序渐进的推进方式，来 不断扩大实验的范围，从而将影响范围控制在最小。需要具备随时遏 制和停止实验的能力，避免对生产环境造成不可挽回的影响。自动终 止实验和避免在高风险时间段运行实验也是最小化爆炸半径、高效应 对不可预期情况的有效手段。 ### 2.混淆工程与传统测试：实验性探索 VS 规范性验证 传统的测试工作是基于一个特定条件、变量的验证方法，而混沌工程是针对系统未知的信息进行探索，是获取系统新信息、新认知的实践过程。 传统测试方法通过对预先设想到的可以破坏系统的点进行测试,但是并没能去探究上述这类更广阔领域里的、不可预知的、但很可能发生的事情。例如，传统测试中可以写一个断言（assertion），即给定一个特定的条件，产生一个特定的输出。测试一般来说只会产生二元的结果，验证一个结果是真还是假，从而判定测试是否通过。这个过程并不能让我们发掘出对于系统未知的、尚不明确的认知，它仅仅是对我们已知的系统属性可能的取值进行测验。而混沌工程实验的可能 性是无限的，根据不同的信息系统架构和不同的核心业务价值，实验可以千变万化。",
|
||
"metadata": {
|
||
"node_id": "2fb61474a2b30e27ade57319d62cd3cb1de9d4dc620e211680f072af4fd6c019",
|
||
"node_type": "text",
|
||
"ppr_score": 0.009447159717009842,
|
||
"edge_score": 0.0,
|
||
"passage_score": 0.08560149,
|
||
"rank": 13,
|
||
"source": "hipporag2_langchain_text",
|
||
"query": "混沌工程的定义是什么？",
|
||
"pagerank_available": true
|
||
}
|
||
}
|
||
],
|
||
"all_passages": [
|
||
"混沌工程成为生产环节中不可或缺的一部分",
|
||
"整个研发运营体系",
|
||
"将混沌工程活动内建到现有流程",
|
||
"运维团队利用混沌工程解决系统问题预测与应对",
|
||
"开发团队利用混沌工程从开发阶段考虑故障场景",
|
||
"首先完善系统的设计后再开展混沌工程的实现",
|
||
"将混沌工程活动内建到现有的组织流程制度中",
|
||
"混沌工程实验自动化、智能化水平提升",
|
||
"长期来看，使用者更关注被测目标的风险本身。",
|
||
"提出混沌工程落地模型以提升行内稳定性保障技术和IT运营能力",
|
||
"混沌工程管理逐步组织化。除了传统的烟囱型组织(有的团队只 关注应用、有的团队只关注中间件、有的团队只关注基础设施……）， IT 部门将建设横向拉通团队：负责稳定性标准的制定、混沌工程实施 规划、可用性结果的观测和验收，对稳定性达成的路径负责，对稳定 性结果负责。 混沌工程实施模式趋向集中化。混沌工程实施模式由分散式向集 中式转变，混沌工程发展初期主要是组织内单点团队自驱式地尝试或 正式采纳混沌工程，随着混沌工程价值认可度的提高，未来将成为生 产环节中不可或缺的一部分，融合入整个研发运营体系，并获得组织 的集中推进和管理，即实现在测试、预发、灰度的各环节，无缝集成 混沌工程系统，使混沌工程方法有机会参与到UT、冒烟测试、端到 端测试、性能测试、灰度发布的各个环节。 混沌工程实验将由手动、人工操作为主向自动化、智能化发展。 混沌工程实验的自动化和智能化水平将得到进一步提升，可体现 在混沌工程平台的编排、注入、结果分析等各环节。这包括异构架构的拓 扑、注入点的智能选择、场景和参数的智能设置、结果的智能分析、 风险库的智能建设等。短期来看，就是逐渐的增加自动化、减少人工 的参与，长期来看，是让使用者更关注被测目标的风险本身，而非工 具平台的使用。 附件：案例 # 一、华泰证券混沌工程实践案例 ## （一）背景介绍 应用系统在生产环境长期运行过程中,会受到各种不可预知的事 件的影响，例如配置参数修改、软件代码缺陷、负载流量增加、硬件 网络故障，异常数据引入等，有些业务场景会随着影响的引入而逐渐 失效。",
|
||
"混沌工程提供了同一个认知体系内的方法论，将架构、开发、测 试、运维等团队之间工作推动盘活起来。比如通过开展故障演练、 GameDay 等活动，将各个团队介入进来，根据历史发生过的或可能发 生的故障场景，对业务进行注入故障、故障排查、复盘，提升对故障 事件的应急处理能力，增强对系统抵御故障场景的信息，通过混沌工 程来加深各部门之间的沟通合作。 混沌工程提升了工程师的响应能力。工程师也是系统的一部分,混沌工程通过混沌实验为工程师构建了一个非确定性、非周期性的故障环境, 剥离工程师对初始条件的敏感依赖, 进而提升了工程师对故障防御的设计能力、故障事件的构建能力、故障问题的描述能力以及故障应对的组织协调能力。其实是通过混沌工程的能力, 让工程师更多认识故障及其对业务的影响, 从以前的 “被动响应” 到 “主动防御”。 混沌工程对于架构团队而言，最大的价值是在系统设计之初就将 可能发生的、尽量全的故障场景考虑进去，不至于在系统架构非常臃 肿时再想去提升稳定性，在一个业务复杂的系统中考虑稳定性设计是 异常难的，难分析、难改动、难优化。 混沌工程对于开发团队而言，可以通过混沌工程能力从开发之初 或开发时就可以将由于开发或引入的组件导致的故障场景考虑进去， 从故障场景分析如何增强问题的快速定位、防护、跟踪等能力。",
|
||
"要达到以上目标有三个关键点，其一是混沌工程活动内建到现有 流程，其二是通过工具化提高自动化水平，使之无额外的工作，其三 是能够真正的帮助大家改进系统稳定性，提升SLA。 ### 1.混混沌工程流程内建 不管企业组织执行的是什么样的开发流程,传统的软件工程或者是 DevOps 等,正常的软件开发流程都包括需求分析、设计、编程、 软件测试、软件交付、验收和维护等几个重要阶段。将混沌工程中关键步骤与软件开发流程映射起来,在该流程步骤中自然的添加混沌工程活动要求, 即可完成流程的内建: 1）将需求分析与混沌工程的“挖掘故障场景”相对应，在需求分 析过程中的“异常分析”拓展成“挖掘故障场景”，完成原有流程对混沌 工程要求的承接； 2）同理在设计阶段将“演练方案设计”和“观测指标设计”活动收 入其中，程序设计应包含对各种异常场景的应对和处理； 3）在编程和软件测试阶段实施“在研发/测试环境执行混沌工程 故障注入实验”的活动，作为进入下一阶段的先决条件； 4）软件的交付与验收一般对应版本发布或系统割接，将“混沌工 程故障注入”作为验收测试的一种测试手段，由验收方执行； 5）最后，在维护阶段，将传统的应急演练和灾备演练按照“生产 环境故障注入实验”的要求进行改造并例行执行。 综上，混沌工程相关的所有活动都可以通过流程 Build-in 入原有 的流程，达到不额外添加工作环节，自然执行的效果。 ### 2.混淆工程工具自动化 传统的混沌工程工具平台都很重视工程化能力，但随着云原生和 微服务架构推广，海量服务上限，故障场景呈几何倍数增长，演练过 程工作量变得非常巨大，这个时候比如持续推进混沌工程工具平台向 自动化和智能化方向发展，以减轻混沌工程实验参与者的工作量。",
|
||
"编写了一篇关于DataOps实践指南的文章",
|
||
"DataOps作为一种新兴的数据管理方法",
|
||
"企业数字化转型快速释放数据生产力的最佳方案",
|
||
"标准引领，建设 DataOps 体系",
|
||
"实施数据治理策略",
|
||
"提高开发效率和产品质量",
|
||
"建立数据管道",
|
||
"集成DevOps实践",
|
||
"数据研发运营一体化（DataOps）是数据开发的新范式，将敏捷、精益等理念融入数据开发过程，打破协作壁垒，构建集开发、治理、运营于一体的自动化数据流水线，不断提高数据产品交付效率与质量，实现高质量数字化发展。",
|
||
"DataOps成为企业数字化转型快速释放数据生产力的最佳方案。",
|
||
"DataOps作为一种新兴的数据管理 方法，强调数据管理自动化，既能为数据工作者提供敏捷的数据开发支持，同时也简 化了数据交付的周期，提升数据成产者与数据消费者的协同效率，成为企业数字化转 型快速释放数据生产力的最佳方案。 充分利用AI和大模型技术优化数据策略。AI技术可以通过机器学习和深度学习算 法，自动化地处理和分析大规模的数据，发现数据中的隐藏模式和趋势，为企业提供 更准确、实时的决策支持。数据分析技术也将不断发展，包括数据挖掘、预测分析、 文本分析等，通过对数据的深入分析，帮助企业更好地理解和利用数据。 ## （五）以数据入表为抓手，探索数据核算机制 2023年8月，财政部正式发文《企业数据资源相关会计处理暂行规定》（下称 “暂行规定”），标志着我国数据资源入表正式落地，探索数据资源入表的基础制度和 会计制度，对于释放数据要素价值、推动市场建设、优化资源配置具有重要意义。数 据资源入表是指将企业数据资源在财务报表层面真实反应其价值和成本投入，向企业 董事会、管理层和投资方充分披露公司对于数据的重视程度和数据带来的实际价值。 《暂行规定》根据企业使用数据目的的不同，区分为无形资产类数据资产和存 货类数据资产，并分别要求企业参照《企业会计准则第6号——无形资产》和《企业 会计准则第1号——存货》进行处理，同时也要求企业按照规定强制和自愿披露相关 数据资源信息。在《暂行规定》的指导要求下，企业过往在数据建设领域的部分投资 费用可以得到资本化处理，进而改善企业资产负债结构、经营利润等财务数据，同 时，也会进一步激发、促进企业加速完善数据管理体系的建设意愿与进程。",
|
||
"# DataOps 能力框架——实践保障\\n\\n## 2024DataOPS发展大会\\n\\n智驱新程·数驱万务\\n\\n为了保证 DataOps 研发流水线能够持续高效运转和迭代完善，企业需要有力的保障措施。本指南提出了组织、工具和安全三个维度的保障要求。这些要求的目标是引导企业以全局最优为目标，保障数据研发流水线的平滑运作。\\n\\n### 系统工具\\n\\n#### 数据需求管理\\n\\n| 手段 | 构建数据需求全生命周期的管理能力 |\\n\\n| :--- | :--------------------------------- |\\n\\n| 目标 | 支持流程的设计和共享 |\\n\\n| 进一步要求 | 数据需求方主动通过自助分析平台进行数据探查 |\\n\\n#### 数据研发治理一体化\\n\\n| 原则 | 先设计、后开发、先标准、后建模 |\\n\\n| :--- | :------------------------------- |\\n\\n| 手段 | 设计管理、开发管理、数据应用 |\\n\\n| 目的 | 规范即设计，设计即开发，开发即治理 |\\n\\n#### 数据自动化交付部署\\n\\n\\n\\n#### 数据一体化运维\\n\\n| 对象 | 数据研发全链路的监测、运维监控、运维告警、运维操作 |\\n\\n| :--- | :---------------------------------------------------- |\\n\\n| 手段 | 可视化方式 |\\n\\n| 目的 | 实时展现研发效能、数据质量 |\\n\\n### 组织管理\\n\\n#### 组织架构\\n\\n合理配置\\n\\n{ | 数据技术架构 |\\n\\n| 数据人员架构 |\\n\\n#### 岗位角色\\n\\n| | 设置相应的岗位角色 |\\n\\n| :--- | :------------------ |\\n\\n| | 明确晋升路线与考核方式 |\\n\\n#### 协作协同\\n\\n依托\\n\\n| 敏捷方法 |\\n\\n| :-------- |\\n\\n| 关注团队、工具间的协同问题持续进行优化 |\\n\\n解决\\n\\n### 安全管控\\n\\n#### 安全风险策略\\n\\n加强\\n\\n{ | 数据研发全生命周期 |\\n\\n| 风险识别 |\\n\\n| 风险预测 |\\n\\n#### 风险管理\\n\\n外部法律法规\\n\\n+ 监管要求\\n\\n+ 企业内部安全需求\\n\\n健全\\n\\n风险管理策略\\n\\n#### 安全测试\\n\\n数据研发过程的各环节进行安全测试\\n\\n保证\\n\\n提前发现问题处理问题",
|
||
"# DataOps 实践指南 2.0",
|
||
"混沌工程更广泛地涵盖了通过引入各种不确定性和故障来测试和改进系统的方法和理念",
|
||
"混沌工程提供了一个统一的方法论，推动架构、开发、测试、运维团队之间的协作。",
|
||
"以混沌工程平台为基础，在组织内部借助混沌工程串联稳定性保障技术，构建稳定性保障生态。",
|
||
"在生产环境中运行混沌工程实验",
|
||
"混沌工程针对系统未知信息进行探索",
|
||
"通过混沌工程让工程师更多认识故障及其对业务的影响。",
|
||
"混沌工程以进行实验的方式来对系统注入故障或其他的扰动",
|
||
"| 差异性 | 混沌工程 | 传统测试 | 理念 | 对系统未知的信息进行探索 | 基于特定条件的验证 | 目标 | 提升系统的韧性和可靠性 | 验证代码逻辑的正确性 | 范围 | 技术架构、运维流程 | 代码 | 环境 | 离生产越近的地方进行实验越好 | 寻找软件缺陷要离生产越远越好 | 执行人员 | 任何关注系统韧性和可靠性的人员，如测试人员、运维人员、开发人员、项目经理等 | 测试人员 | 结果 | 特定的断言，测试会产生二元的结果，非真即假 | 系统架构不同，实验千变万化，结果不同 ### 3.混淆工程与故障演练：故障演练是混沌工程的具体 实践 故障演练是较为正式的，低频的一种演练活动，通过机房断电、 断网等手段模拟不可预期的自然灾害或重大故障，来测试系统的恢复 能力和故障转移能力。故障演练的整体计划性较强，演练前会先制定 整体的演练方案和应急方案；演练时，往往需要协调业务、IT 等多方 参与，并在每次演练时需要组织相关的会议，按照预先设置的应急方 案执行。灾备演练是最常见的一种故障演练的方式。 对比故障演练，混沌工程的组织方式更加灵活，可以按照组织架 构以租户的方式进行，是一种非正式的活动。混沌工程以进行实验的 方式来对系统注入故障或其他的扰动，由于其进行过程成本较低，涉 及相关方较少，因此可以高频进行。 故障演练是混沌工程的一种具体实践, 它是混沌工程中用于模拟和测试系统故障情况的手段之一。混沌工程更广泛地涵盖了通过引入各种不确定性和故障来测试和改进系统的方法和理念, 而故障演练则是其中的一种具体操作手段。 ## （二）混沌工程发展历程 混沌工程的起源可追溯到1970年，硬件工程师将设备暴露在各种有害条件下并观察设备，以确定它们继续运行的情况。",
|
||
"要将实验后果最小化并加以控制，会使用到根因分析算法（包含时间、注入IP、调用链等），同时，混沌工程可作为一种主动制造故障的方式，还可以验证与提升根因分析算法的准确率与召回率。 ### 2.混沌工程组织价值 通常企业的 IT 部门中架构、开发、测试、运维团队都是各司其 职，完成指定的相关领域工作。架构团队从各种不同架构角度设计审 视核心系统，包括组件、技术选型等，也会关注少部分的系统稳定性 相关能力；而开发主要是则一般是单纯按照技术文档实现相应功能， 一般很少主动关注所开发组件的稳定性，除非需要开发相关特性或有 成熟的能力；测试团队以功能测试和性能测试为主，可靠性测试还是 以系统中的可靠性特性做有针对性的测试，不会进行故障场景的深挖； 运维团队往往是对系统稳定性了解最清楚的，因为他们遇到的软硬件 问题是最多的，他们最大的问题就是不知道系统中都会存在哪些故障？ 如何快速处理？只能堆人力解决问题，是最不高效的一种方式。 我们需要将业务系统的稳定性问题分解出来，各个团队需要认识 到各种故障场景对业务的影响是什么？是否有监控恢复手段？应急 预案是否完备？那么就需要有改变。 混沌工程改变了企业 IT 团队的思考方式，促使各团队在设计、 开发、测试等过程中增加了对故障的考虑：在架构设计的时候考虑一 类故障的监控、恢复、业务的 HA；开发过程中审视出现故障时故障 的快速跟踪定位；测试需要覆盖的故障场景更加全面；运维清楚在出 现某种故障时业务的表现是什么，应该如何进行恢复，应急预案是否 完备。 混沌工程提供了同一个认知体系内的方法论，将架构、开发、测 试、运维等团队之间工作推动盘活起来。",
|
||
"系统的复杂性使得生产环境处在无时不变的状态中，在理想情况下，每一次变动都应该执行一次混沌实验，这样我们就能及时发现新增的风险并了解到风险的持续时间，从而更快修复。在这种情况下，手动实验是不可能做到的，必须借助自动化的 能力来持续地运行实验,同时应该投入精力来开发混沌工程的工具和平台, 以期不断降低创建新实验的门槛, 并使这些实验能给全自动运行。除了自动运行混沌实验之外, 如果能够做到自动设计和创建实验, 就能解决因为没有足够时间和资源穷举所有可能导致问题的事件及其组合, 从而无法有效发现风险点的问题。 最小化爆炸半径。为了避免混沌实验的级联效应对生产环境造成 较大程度的影响和损害，混沌工程应该采取循序渐进的推进方式，来 不断扩大实验的范围，从而将影响范围控制在最小。需要具备随时遏 制和停止实验的能力，避免对生产环境造成不可挽回的影响。自动终 止实验和避免在高风险时间段运行实验也是最小化爆炸半径、高效应 对不可预期情况的有效手段。 ### 2.混淆工程与传统测试：实验性探索 VS 规范性验证 传统的测试工作是基于一个特定条件、变量的验证方法，而混沌工程是针对系统未知的信息进行探索，是获取系统新信息、新认知的实践过程。 传统测试方法通过对预先设想到的可以破坏系统的点进行测试,但是并没能去探究上述这类更广阔领域里的、不可预知的、但很可能发生的事情。例如，传统测试中可以写一个断言（assertion），即给定一个特定的条件，产生一个特定的输出。测试一般来说只会产生二元的结果，验证一个结果是真还是假，从而判定测试是否通过。这个过程并不能让我们发掘出对于系统未知的、尚不明确的认知，它仅仅是对我们已知的系统属性可能的取值进行测验。而混沌工程实验的可能 性是无限的，根据不同的信息系统架构和不同的核心业务价值，实验可以千变万化。"
|
||
],
|
||
"passage_sources": [
|
||
"原始查询-event-bbafacb2fbab1c313ce9fcd99ac571007f3f91ecee85b607bb31b6d20cd2968d",
|
||
"原始查询-event-2eea011f02cbb2c630a9ceb88eff5d196905d5900753e10c89a98513ea53cbf6",
|
||
"原始查询-event-8a187f19d1b4d17e1ace47081dba5a272e954caea20040906f9ccabd8a3f671d",
|
||
"原始查询-event-25ba0eefeb995a74ce9bed17d84d561f6f0597458a4721f3bbf63f041e2516b4",
|
||
"原始查询-event-4d96d92b372fd515ce7bb6b1ded75477a18f10d8e4151f80b5c442ec7552665d",
|
||
"原始查询-event-92d78aa097eb511ca0f15e515012d51fdd537f52d2682933bff6c53a139f4c8f",
|
||
"原始查询-event-aaafdc4d591a4665152df8aec79acc8497ec8afe1c527dae16dad2f475cc53e3",
|
||
"原始查询-event-78f1d6beb0d1500ef08b9b5ef032839c2eb7bcb907b0e4ce57b5f666eaef527f",
|
||
"原始查询-event-55741738de0a05d7245ec70ab61264c783aa181cb08ef7eba684959a293c9654",
|
||
"原始查询-event-b49135d8c6481172812d533f3d6981f36b3b7d94123428328eb3592a60b7301c",
|
||
"原始查询-text-642245580fe314e42f194a64fa2561ff3672b4838567a4ac666124e949586827",
|
||
"原始查询-text-eaebc2c5bb1aed205038d18eeeee4dd33ab7318e1cbda9d54c2f8a9795e73d28",
|
||
"原始查询-text-81c4166b930e81ff256cac64028f4b2c6b5e1b35f6902e6eb6a5f283796f0e1a",
|
||
"子查询2-event-c2db1984e1da816b055b75fa3cc6c40f8c2d7094fc237c3db4ea6b00f7faf4b7",
|
||
"子查询2-event-680b2a6330d156d3853a42fa00e510355f92a08a8a568b3adf5d556f8913fa8a",
|
||
"子查询2-event-d691625bd46a5a8840368fcc0f2456ee067bedde79a397596cf3cd225cacb0fc",
|
||
"子查询2-event-adb5a19d4a48b43fa7b2e7f76331d30736f624cd5df909e3aad6683390c175f9",
|
||
"子查询2-event-0f4eb7cf5f30d4738a7385127c011103981bc088ec749f8af1ed0b6c15144c44",
|
||
"子查询2-event-b08abe3367a833819cdadc8902d43927e0dc1b8a28c6729d5fa9913641ba27a5",
|
||
"子查询2-event-849a3d4c2d25164af0bce9c9cbdbfd592254d7fc9af293f4be1484277c81ac76",
|
||
"子查询2-event-fcc78de5daaa3405a2c6e340aee37d2a90e80892ad8326c4ab92aff1c0e6047b",
|
||
"子查询2-event-774a6133f9a25821d10ebab0d1745ac30d14a4016da4d3548b102f265e633a22",
|
||
"子查询2-event-0b602ca1699621754c4663ee33fbd14c65e56f98f892a180bf49d5c5d4bb45c3",
|
||
"子查询2-text-114fe591e33e8bff142be610475d8035339e334932dc35fd2e89ff078d10fe52",
|
||
"子查询2-text-21cecc0bf37f351e693eaf71192ada4887caa03f90c22fe314b582966d6ccc79",
|
||
"子查询2-text-d585f5cf554e678d92a1982fe4a61608783a1f497183303fcc73f850b1f1458f",
|
||
"子查询1-event-334a48d07c0914a27ecc426a089ed73fcb5f465f60c9c57db080158c5b5dc1e5",
|
||
"子查询1-event-c282aaa040bb69133b28d31287e98db2d4771330e308ca9766e6ad38ddacbf3c",
|
||
"子查询1-event-7fdb70cf1a3abc43b3e348ee043c0155e43d6df1993c93e8243124f9c8e424a0",
|
||
"子查询1-event-eb64e97828b4b85d1fe216efccd636e1b621a1c6e2955eef6aad6516e33c639b",
|
||
"子查询1-event-7bfbe657437c9eaaef47e2f0d1f35cb3efb4ef186c7692826a40ed2fac8f4062",
|
||
"子查询1-event-3e3c398d512804ee046260a9079f11c8eb5b5114d2f80f8628559eaed8b5034f",
|
||
"子查询1-event-8a14d83ce8b04835fa8d1218cfaf88891b9efdc531c67eb1dcec60b730a30702",
|
||
"子查询1-text-731fddc36b520d361923cb5c3ecfa7dffdc396ef5ce67e35b1c3598744056a52",
|
||
"子查询1-text-e0030c5183f95b1b207ff609e1c7f2a9c8486bf190eae5d9937f5324b9ed0584",
|
||
"子查询1-text-2fb61474a2b30e27ade57319d62cd3cb1de9d4dc620e211680f072af4fd6c019"
|
||
],
|
||
"pagerank_data_available": true,
|
||
"pagerank_summary": {},
|
||
"concept_exploration_results": {},
|
||
"exploration_round": 0,
|
||
"debug_info": {
|
||
"total_time": 29.11124587059021,
|
||
"retrieval_calls": 1,
|
||
"llm_calls": 4,
|
||
"langsmith_project": "hipporag-retriever",
|
||
"token_usage_summary": {
|
||
"has_llm": true,
|
||
"has_generator": true,
|
||
"last_call": {
|
||
"prompt_tokens": 4196,
|
||
"completion_tokens": 362,
|
||
"total_tokens": 4558
|
||
},
|
||
"total_usage": {
|
||
"prompt_tokens": 9466,
|
||
"completion_tokens": 537,
|
||
"total_tokens": 10003,
|
||
"call_count": 4
|
||
},
|
||
"model_name": "qwen2-7b-instruct",
|
||
"has_last_usage": true,
|
||
"has_total_usage": true
|
||
},
|
||
"complexity_analysis": {
|
||
"is_complex": true,
|
||
"complexity_level": "complex",
|
||
"confidence": 0.95,
|
||
"reason": "这是一个复杂查询，因为它包含了两个不同的主题：混沌工程的定义和DataOps的定义。这两个概念分别属于不同的领域（软件工程和数据管理），且每个概念都可能包含多层含义和相关细节，因此需要生成多个子查询来全面解答。"
|
||
},
|
||
"debug_mode_analysis": {
|
||
"debug_mode": "0",
|
||
"debug_override": {},
|
||
"path_override_applied": false
|
||
},
|
||
"sufficiency_analysis": {
|
||
"final_sufficiency": true,
|
||
"sufficiency_check_details": {
|
||
"is_sufficient": true,
|
||
"confidence": 0.9,
|
||
"reason": "事件信息和段落信息包含了回答查询所需的关键内容，包括混沌工程的定义、目的、实践和价值，以及DataOps的概念、目标和实现方式。",
|
||
"iteration": 0
|
||
},
|
||
"iteration_sufficiency_history": [],
|
||
"sufficiency_progression": {
|
||
"status": "no_sufficiency_checks"
|
||
}
|
||
},
|
||
"routing_analysis": {
|
||
"total_routing_decisions": 1,
|
||
"sub_query_generation_count": 0,
|
||
"parallel_retrieval_count": 0,
|
||
"pagerank_collection_count": 0
|
||
},
|
||
"concept_exploration_analysis": {
|
||
"exploration_enabled": false,
|
||
"exploration_rounds": 0,
|
||
"pagerank_nodes_analyzed": 0,
|
||
"successful_branches_total": 0,
|
||
"total_branches_attempted": 0
|
||
}
|
||
},
|
||
"iteration_history": [
|
||
{
|
||
"iteration": 0,
|
||
"query": "并行检索: 原始查询 + 2 个子查询",
|
||
"passages_count": 36,
|
||
"action": "retrieval"
|
||
},
|
||
{
|
||
"iteration": 0,
|
||
"action": "sufficiency_check",
|
||
"is_sufficient": true,
|
||
"confidence": 0.9,
|
||
"sub_queries_count": 0
|
||
},
|
||
{
|
||
"iteration": 0,
|
||
"action": "final_answer_generation",
|
||
"answer_length": 687
|
||
}
|
||
]
|
||
} |