LWN:使用BPF来选择OOM kill的对象!

本文探讨了如何使用BPF(BerkeleyPacketFilter)技术改进Linux内核的内存管理,特别是out-of-memory(OOM)时的进程选择策略。传统的oom_score_adj已不足以满足所有用户需求,ChuyiZhou的BPF补丁提议通过BPF函数定制OOM决策过程,增加了更多灵活性,但引发关于稳定性和实现方法的讨论。

关注了就能看到更多这么棒的文章哦~

Out-of-memory victim selection with BPF

By Jonathan Corbet
August 17, 2023
ChatGPT assisted translation
https://lwn.net/Articles/941614/

默认配置下的 Linux 内核允许进程分配的内存比系统实际可提供的内存更多。这个策略可以更好地利用物理内存,通常情况下也都能达到目的。然而,在某些情况下,内核可能会发现无法提供出来进程认为本已经属于它们的内存。在情况严重时,除了重新启动之外,唯一的解决方法就是宣布内存不够,从而通过终止若干进程来补上这些内存空间。多年来人们付出了很大的努力来制定一些启发式方法,从而挑选出用户可能最不需要的进程。然而很明显,这个解决方案并没有让所有人都满意,因此在不久之前,有人引入了新的方法,使用 BPF 来选择 out-of-memory(OOM)时应该终结的进程。

当内存用尽时,寻找要牺牲的进程有许多方法。比如使用了最多内存的进程就是一个显而易见的选择,但该进程通常是系统中比较重要的组件,例如窗口系统服务器,或数据库管理器(database manager)。因此,多年来,开发人员自然开始试着让内核能够做出更好的选择。可以查看 LWN 内核相关文章的索引,就能看到随着时间的推移,情况发生了那些变化。在当前的内核中,这个决策的核心是一个名为 oom_badness()的函数,该函数会先跳过那些因某种原因而无法终止的进程,然后来进行一些简单的计算。一个进程的“OOM score”值取决于它使用的内存数量,并且经过该进程的 oom_score_adj 值来进行调整。通过调整这些参数,用户空间就可以保护某些进程不被 OOM-killer 杀死,而是让它去杀掉其他一些更应该被 kill 的进程。

然而,对于某些用户来说,这种控制方式显然不够。Chuyi Zhou 的 BPF 补丁系列就是最新的一种希望改进这种控制方式的方案。

在当前的内核中,OOM killer 将遍历所有可能的目标进程,在每个进程上调用 oom_badness(),然后选择分数最高的进程作为目标。Zhou 的 patch set 可以把 oom_badness()检查替换为调用一个 BPF 函数,该函数应该被定义为“fmod_ret” tracing 函数(这意味着它在从内核内部函数返回时被调用,并且可以更改该函数的返回值),它具有以下名称和原型:

int bpf_oom_evaluate_task(struct task_struct *task, struct oom_control *oc);

该函数将在评估每个可能被 kill 对象的一开始时被调用,并且如果它对指定任务做出了决策,就会让正常的评估过程被跳过。oom_control 结构描述了 OOM kill 所发生的上下文;BPF 函数可以访问这个结构,但可能(实际文档上并没有明确写出这个规则)不应对其进行更改。该函数还可以查看正在考虑要 kill 的 task 并最终决定其命运,通过返回值来反映出来:

  • NO_BPF_POLICY:没有对应的策略,也就是应该使用正常的 oom_badness()方法。

  • BPF_EVAL_ABORT:退出这个选择过程,任何一个进程都不 kill。

  • BPF_EVAL_NEXT:跳过当前进程,看下一个。

  • BPF_EVAL_SELECT:选择当前进程为要 kill 的进程。

在返回 BPF_EVAL_SELECT 时,并不意味着就结束了遍历进程列表的过程;如果还有更多需要检查的进程,就会进一步调用 bpf_oom_evaluate_task()。因此,该函数可以改变主意,也就是说如果在后面出现了更应该 kill 的进程的话,就可以再次返回 BPF_EVAL_SELECT。

可以在某些进程中使用 BPF_EVAL_NEXT,同时在其他进程中使用 NO_BPF_POLICY。最终结果将可以保护一些进程免受 OOM(内存不足)killer 的影响,同时让内核按照通常的方式来选择其余进程。然而,混合使用 BPF_EVAL_SELECT 和 NO_BPF_POLICY 看起来可能会产生意想不到的结果,这种组合似乎不是作者期望大家使用的方式,应该尽量避免,除非在将来的版本中有相关更改。

具体而言,oom_control 结构包含了一个名为 chosen 的指针,用于标识当前选中的受害者,以及一个名为 chosen_points 的整数,用于保存其 badness 分数。在没有 BPF 程序的情况下,内核会拿每个进程的分数跟 chosen_points 进行比较,并在新进程的分数较高时来同时更新。如果返回 BPF_EVAL_SELECT,则会设置 chosen 而不设置 chosen_points。如果对于后续有个进程返回了 BPF_NO_POLICY,那么其分数将与一个跟之前选择的进程无关的 chosen_points 进行比较。

此外,这组 patch 还提供了两个相关的 hook。其中一个允许将当前选择受害者的策略的名称存储在内核中;这个名字会在实际执行 kill 时记录到日志中。为了实现这个功能,程序应该定义一个名为 bpf_set_policy_name 的函数:

void bpf_set_policy_name(struct oom_control *oc);

这个函数将在 OOM-kill 过程的一开始时就调用,然后可以调用以下函数:

void set_oom_policy_name(struct oom_control *oc, const char *name, size_t sz);

其中,oc 是传递给 bpf_set_policy_name 的 oom_control 结构,name 是要使用的策略的名字,sz 是该名称的长度。name 限制为 16 字节,包括终止 NUL 字节。

此外,还引入了一个新的 tracepoint,名为 select_bad_process_end,在 OOM-kill 过程无法找到要 kill 的进程时触发。目标是为试图开发新的 OOM-kill 策略的开发人员提供帮助。

这组 patch 目前正在第二次修订。在第一次法布施,内存管理开发者 Michal Hocko 建议简化一下接口。而 Roman Gushchin 则主张采用更通用的方式,也就是在 OOM 时调用一次 BPF 程序,期望它能找到某种方式来释放一些内存。Hocko 回应说最好从一个 "something that is good enough" 开始,后续有必要的话再增加复杂逻辑。在对第二次修订的回应中,Alexei Starovoitov 也支持使用更通用化的 callback,而 Chuyi Zhou 已经开始认真考虑做这种更改会有哪些影响。

Hocko 和 Gushchin 都表示担心将 BPF 引入这段在系统处于紧急状态时运行的代码可能会进一步降低内存不足情况下的稳定性。例如,尝试在这种情况下分配大量内存的 BPF 程序可能就会出现问题。然而,任何 hook 到 OOM-killer 的代码都有这个问题,而不是 BPF 方案特有的问题。

这次讨论显示出,使用 BPF 来选择 OOM-killer 的受害者这个方案挺有吸引力。然而,到目前为止,关于这项工作所应采取的实现方法尚无明确共识。因此,在进入 mainline 之前很可能还会看到这个功能经历一些重大变化;在那之前,内核将不得不继续以传统方式来选择要牺牲的进程。

全文完
LWN 文章遵循 CC BY-SA 4.0 许可协议。

欢迎分享、转载及基于现有协议再创作~

长按下面二维码关注,关注 LWN 深度文章以及开源社区的各种新近言论~

format,png

代码下载链接: https://pan.quark.cn/s/a4b39357ea24 iSecure Center综合安防管理平台配置手册V2.0最新完整版。综合安防管理平台是一个集成了多种功能的智能化系统,通过接入视频监控、停车场、门禁以及报警检测等设备,达成安防信息化集成与联动。以电子地图作为核心载体,融合各类安防设备,达成安防信息化集成与联动。 【海康威视iSecure Center综合安防管理平台配置手册 V2.0.0】是专门针对该公司的安防管理系统而编写的详细指南。iSecure Center是一个集成化、智能化的解决方案,其目标是通过整合视频监控、停车场管理、门禁控制和报警系统等多个安全子系统,达成全面的安防信息化集成与联动。平台的核心作用是借助电子地图作为基础,整合各种安防功能,以提供高效且全面的安全监控和管理。 手册中明确指出,iSecure Center的配置和使用仅限于海康威视HIKVISION的用户,并且详细说明了版权和法律声明,强调手册内容的所有权归属于杭州海康威视数字技术股份有限公司,未经授权,禁止进行任何形式的复制、翻译或修改。同时,手册也声明了产品仅适用于中国大陆地区,并且在法律允许的范围内,产品按照现有状态提供,不提供任何形式的保证,对于因使用产品或手册所导致的损失,公司不承担任何赔偿责任。 手册还特别警示用户,将产品接入互联网可能面临风险,如网络攻击、黑客入侵或病毒感染,用户需自行承担这些风险。同时,用户必须遵守适用的法律法规,不得将产品用于侵犯第三方权利或不当用途,否则公司将不承担任何责任。 在操作前,手册提供了符号约定,包括说明、注意和危险等级的标识,帮助用户理解文档中关键信息的重要性。例如,“注意”用于提醒用户重要操作或...
源码下载地址: https://pan.quark.cn/s/a4b39357ea24 gddrxy综合性实验——某系统的设计与实现---互联网应用开发(JSP)4 1. 在MySQL数据库中构建用于实验的数据表,要求包含至少三个字段,并在其中至少加入一条数据记录 2. 设计一个数据录入界面,将用户提交的信息发送至Servlet以执行合法性验证,若验证通过则调用DAO组件向数据表中追加一条新记录 实验报告 实验名称:综合性实验——某系统的设计与实现(互联网应用开发——JSP) 一、实验目的与要求 本次实验旨在使学生深入掌握并熟练运用JavaServer Pages (JSP) 技术开展互联网应用开发工作,特别是在数据库交互方面的实践。通过本次实践操作,期望达成以下学习目标: 1. 精通JSP在数据库层面的增删改查(Create, Read, Update, Delete)操作,包括建立数据库连接、执行SQL指令以及管理结果集等环节。 2. 掌握Servlet的生命周期机制,理解其在Web系统中的功能定位与工作流程。 3. 学会构建动态网页,实现用户输入信息的采集,并在服务器端完成数据校验与处理流程。 二、实验原理与内容 1. JSP进行数据库操作的典型流程涵盖数据库连接建立、SQL指令执行、结果集处理以及连接关闭等多个关键步骤。 2. Servlet作为Java Web应用程序的核心构成部分之一,具有初始化、服务、销毁这三个生命周期阶段。在本次实验中,Servlet将负责接收并处理来自JSP页面的请求,完成数据合法性校验工作。 三、实验步骤与结果 1. 数据库准备: - 采用MySQL数据库创建一个实验用的数据表,例如命名"Student",表中包含"ID"(作...
内容概要:本文详细介绍了基于风光储能和需求响应的微电网日前经济调度模型的Python代码实现,重点探讨了在风能、光伏等可再生能源出力具有不确定性的背景下,如何结合储能系统的运行特性与用户侧的需求响应机制,实现微电网系统的日前优化调度。该模型通过构建精确的数学模型并结合高效的优化算法,对分布式电源、储能设备及可控负荷进行协调优化,旨在最小化系统运行成本、提升可再生能源的消纳水平,并确保供电的安全性与稳定性。文中提供的完整Python代码实现了从数据输入、模型构建到求解分析的全流程,便于读者复现、验证与二次开发。; 适合人群:具备一定电力系统基础知识和Python编程能力,从事新能源、微电网、智能电网等相关领域研究的研究生、科研人员及工程技术人员。; 使用场景及目标:①用于高校或科研机构开展微电网优化调度相关课题的教学与科研工作;②为实际微电网项目的日前调度策略设计提供技术支撑与仿真验证工具;③帮助研究人员深入掌握基于Python平台的能源系统建模与优化求解方法。; 阅读建议:建议读者结合文档中的理论推导与代码实现同步学习,重点关注目标函数设计、约束条件建模及优化求解器调用等关键环节,并尝试调整参数设置或拓展模型结构以适配不同应用场景。
内容概要:本文围绕电力系统短期负荷预测问题,深入研究了基于极限学习机(ELM)及其智能优化算法改进模型的预测方法,重点实现了ELM、白鲸优化算法(BWO)优化ELM以及鹭鹰优化算法(IBO)优化ELM三种预测模型,并通过Matlab平台进行仿真与性能对比。研究旨在提升负荷预测的精度与鲁棒性,解决传统ELM因输入权重和偏置随机初始化导致的性能不稳定问题。通过引入两种新兴的元启发式优化算法对ELM的关键参数进行全局寻优,有效提升了模型的泛化能力与收敛稳定性。文章系统地完成了模型构建、参数优化、实验设计与结果分析,验证了优化后模型在短期负荷预测中的优越性,为电力系统调度决策提供了高精度的数据支撑和技术路径。; 适合人群:具备一定电力系统基础知识、时间序列预测背景及Matlab编程能力的科研人员、电气工程专业高校研究生,以及从事智能电网、能源管理与负荷预测相关工作的工程技术人员。; 使用场景及目标:①应用于电力系统短期负荷预测,提升电网运行调度的精确性与经济性;②为智能优化算法与浅层神经网络融合研究提供可复现的技术方案与实验基准;③作为科研项目、学位论文或工程实践中负荷预测模块的核心算法参考。; 阅读建议:建议读者结合所提供的Matlab代码,深入理解ELM网络结构原理及白鲸、鹭鹰优化算法的实现机制,重点关注参数寻优过程与预测误差指标(如MAE、RMSE、MAPE)的对比分析,建议进一步尝试在不同数据集上验证模型泛化能力,并探索将其拓展至中长期负荷预测或其他时序预测领域。
内容概要:本文系统研究了基于ARIMA模型的电价预测方法,并结合Matlab代码实现了对未来电价的短期预测及预测结果的不确定性量化分析,重点在于构建置信区间以提升预测的可靠性。文章详细阐述了ARIMA模型在电力市场价格序列建模中的应用流程,涵盖数据预处理、平稳性检验(如ADF检验)、模型识别(ACF/PACF分析)、参数估计、模型诊断(残差白噪声检验)以及预测可视化等关键步骤。通过引入预测误差的统计分布特性,进一步计算出不同置信水平下的置信区间,为电力市场参与者提供更具决策参考价值的价格趋势判断。该方法适用于具有明显时间依赖性和波动特征的电价数据,具有较强的实用性和可操作性。; 适合人群:具备一定统计学基础和Matlab编程能力,从事电力系统运行、能源经济分析、电力市场交易及相关领域的科研人员与工程技术从业者,尤其适合高等院校电力、自动化、经济管理等专业的研究生及高年级本科生开展课题研究或课程设计。; 使用场景及目标:①应用于电力市场的短期电价预测,辅助发电商、售电公司制定竞价策略;②支持微电网、虚拟电厂等新型主体参与电力市场时的风险评估与优化调度;③作为高校教学案例,帮助学生掌握时间序列建模的基本理论与实证分析技能;④为含高比例新能源接入的电力系统提供价格波动风险的量化工具,支撑市场机制设计与政策制定。; 阅读建议:建议读者结合所提供的Matlab代码逐行运行并调试,重点关注数据差分处理、模型阶数确定(AIC/BIC准则)及残差诊断环节,建议尝试替换不同的实际电价数据集进行模型迁移验证,深入理解ARIMA建模过程中各环节的作用与敏感性,同时加强对置信区间构建原理的数学推导与解释能力。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值