タイトルの通りで、コンテナの生成と削除が頻繁におこなわれているホストで、 cgroup 削除後も特定の slab キャッシュ ( + sysfs のファイル = kobject ) が残るという現象を調べていました

環境

vagrant@bionic:~$ uname -a
Linux bionic 5.4.1-050401-generic #201911290555 SMP Fri Nov 29 11:03:47 UTC 2019 x86_64 x86_64 x86_64 GNU/Linux

再現の方法

cgroup v1 + memory コントローラーでグループを作る
そのグループ内で適当なファイルを作成する
cgroup のグループを削除する

とすれば ok です

#!/bin/bash

set -ex

for i in {1..10};
do
  mkdir /sys/fs/cgroup/memory/hogehoge-$i;
  bash -c "echo \$\$ > /sys/fs/cgroup/memory/hogehoge-$i/tasks; rm -rfv /tmp/$i; mkdir /tmp/$i; ps > /tmp/$i/hoge;"
done

for i in {1..10};
do
  rmdir /sys/fs/cgroup/memory/hogehoge-$i;
done

観察

スクリプトの中で cgroup を削除しているにも関わらず cgroup に属する slab キャッシュが残っており、その様子は /sysfs/kernel/slab/<キャッシュの名前>/cgroup/<キャッシュの名前(コンテナ名)> を通して把握できます

root@bionic:~# find /sys/kernel/ -type d | grep hogehoge
/sys/kernel/slab/radix_tree_node/cgroup/radix_tree_node(987:hogehoge-1)
/sys/kernel/slab/dentry/cgroup/dentry(1029:hogehoge-4)
/sys/kernel/slab/dentry/cgroup/dentry(1027:hogehoge-3)
/sys/kernel/slab/dentry/cgroup/dentry(1025:hogehoge-2)
/sys/kernel/slab/dentry/cgroup/dentry(1039:hogehoge-9)
/sys/kernel/slab/dentry/cgroup/dentry(1023:hogehoge-1)
/sys/kernel/slab/dentry/cgroup/dentry(1037:hogehoge-8)
/sys/kernel/slab/dentry/cgroup/dentry(987:hogehoge-1)
/sys/kernel/slab/dentry/cgroup/dentry(1035:hogehoge-7)
/sys/kernel/slab/dentry/cgroup/dentry(1033:hogehoge-6)
/sys/kernel/slab/dentry/cgroup/dentry(1031:hogehoge-5)
/sys/kernel/slab/dentry/cgroup/dentry(1041:hogehoge-10)
/sys/kernel/slab/proc_inode_cache/cgroup/proc_inode_cache(987:hogehoge-1)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(999:hogehoge-7)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(997:hogehoge-6)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(993:hogehoge-4)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(991:hogehoge-3)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1029:hogehoge-4)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1027:hogehoge-3)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1025:hogehoge-2)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1023:hogehoge-1)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1037:hogehoge-8)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1005:hogehoge-10)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1035:hogehoge-7)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1003:hogehoge-9)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1001:hogehoge-8)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1031:hogehoge-5)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(989:hogehoge-2)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(987:hogehoge-1)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1029:hogehoge-4)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1027:hogehoge-3)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1025:hogehoge-2)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1039:hogehoge-9)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1023:hogehoge-1)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1037:hogehoge-8)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1035:hogehoge-7)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1041:hogehoge-10)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1033:hogehoge-6)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1031:hogehoge-5)

buffer_head, ext4_inode_cache, dentry, radix_tree_node といったファイルシステムに関係してそうな slab が残ります

これらのファイルは sysctl vm.drop_caches=3 で強制的に削除できます. udevadm でその様子をモニターできます

root@bionic:~# udevadm monitor
monitor will print the received events for:
UDEV - the event which udev sends out after rule processing
KERNEL - the kernel uevent

KERNEL[9553.936313] remove   /buffer_head(1035:hogehoge-7) (cgroup)
KERNEL[9553.972915] remove   /buffer_head(1029:hogehoge-4) (cgroup)
UDEV  [9553.973513] remove   /buffer_head(1035:hogehoge-7) (cgroup)
UDEV  [9553.975710] remove   /buffer_head(1029:hogehoge-4) (cgroup)
KERNEL[9554.021867] remove   /dentry(1041:hogehoge-10) (cgroup)
KERNEL[9554.029926] remove   /dentry(1035:hogehoge-7) (cgroup)
UDEV  [9554.030095] remove   /dentry(1041:hogehoge-10) (cgroup)
KERNEL[9554.031050] remove   /dentry(1039:hogehoge-9) (cgroup)
UDEV  [9554.031120] remove   /dentry(1035:hogehoge-7) (cgroup)
UDEV  [9554.031872] remove   /dentry(1039:hogehoge-9) (cgroup)
KERNEL[9554.032554] remove   /dentry(1037:hogehoge-8) (cgroup)
KERNEL[9554.032571] remove   /dentry(1033:hogehoge-6) (cgroup)
KERNEL[9554.032580] remove   /dentry(1031:hogehoge-5) (cgroup)
KERNEL[9554.032587] remove   /dentry(1029:hogehoge-4) (cgroup)

...

もう一度 /sys/kernel 以下をみてみると、消えましたね

root@bionic:~# find /sys/kernel/ -type d | grep hogehoge
root@bionic:~#

( 注: kswapd の background reclaim やタスクの direct reclaim で slab の回収をする際にも削除されると思います. ここでは観察のために vm.drop_caches を呼び出しています )

疑問と推測 ❓

cgroup を削除してプロセスと cgroup からの参照が無くなったにも関わらず slab が残ってしまうのかが謎でした。

推測で、cgroup 内で作られた dirty な inode やページキャッシュがある場合に slab が残るのかな? とアタリをつけました

が、結局わからないので LKML を調べました

ソースを調べる

LKML のパッチや投稿を探しているうちに、私が遭遇したのと内容が合致していそうな投稿を見つけます

lkml.org

どうも cgroup 内で作られた dirty な inode に対して wb = struct bdi_writeback が参照をもっていて、冒頭に書いた現象が起きるようです. なるほど〜

投稿されたパッチ

work_struct で定期的に起床するカーネルスレッドに回収処理を任せるという実装を提案していますが、その後のレビューを見るに mainline には取り込まれていないようです

現状はなんともしようがないんですかねぇ

与太話

Facebook のカーネルエンジニアさんらしいので、FB のユースケースでの問題を解決したいパッチ投稿みたいですね。

まとめ

コンテナの生成と削除が頻繁に行われる環境 (例: k8s )で、暗黙的に slab キャッシュが溜まるという現象で遭遇しそうです
slab の回収処理が走れば削除されるはずなので、気がついてないというケースもありそうです

hibomaの日記

Linux Kernel: cgroup 削除後も残り続ける slab キャッシュについての調べ物

環境

再現の方法

観察

疑問と推測 ❓

ソースを調べる

投稿されたパッチ

与太話

まとめ

関連のエントリ