タイトルの通りで、コンテナの生成と削除が頻繁におこなわれているホストで、 cgroup 削除後も特定の slab キャッシュ ( + sysfs のファイル = kobject ) が残るという現象を調べていました
環境
vagrant@bionic:~$ uname -a
Linux bionic 5.4.1-050401-generic #201911290555 SMP Fri Nov 29 11:03:47 UTC 2019 x86_64 x86_64 x86_64 GNU/Linux
再現の方法
- cgroup v1 + memory コントローラーでグループを作る
- そのグループ内で適当なファイルを作成する
- cgroup のグループを削除する
とすれば ok です
set -ex
for i in {1..10};
do
mkdir /sys/fs/cgroup/memory/hogehoge-$i;
bash -c "echo \$\$ > /sys/fs/cgroup/memory/hogehoge-$i/tasks; rm -rfv /tmp/$i; mkdir /tmp/$i; ps > /tmp/$i/hoge;"
done
for i in {1..10};
do
rmdir /sys/fs/cgroup/memory/hogehoge-$i;
done
観察
スクリプトの中で cgroup を削除しているにも関わらず cgroup に属する slab キャッシュが残っており、その様子は /sysfs/kernel/slab/<キャッシュの名前>/cgroup/<キャッシュの名前(コンテナ名)> を通して把握できます
root@bionic:~# find /sys/kernel/ -type d | grep hogehoge
/sys/kernel/slab/radix_tree_node/cgroup/radix_tree_node(987:hogehoge-1)
/sys/kernel/slab/dentry/cgroup/dentry(1029:hogehoge-4)
/sys/kernel/slab/dentry/cgroup/dentry(1027:hogehoge-3)
/sys/kernel/slab/dentry/cgroup/dentry(1025:hogehoge-2)
/sys/kernel/slab/dentry/cgroup/dentry(1039:hogehoge-9)
/sys/kernel/slab/dentry/cgroup/dentry(1023:hogehoge-1)
/sys/kernel/slab/dentry/cgroup/dentry(1037:hogehoge-8)
/sys/kernel/slab/dentry/cgroup/dentry(987:hogehoge-1)
/sys/kernel/slab/dentry/cgroup/dentry(1035:hogehoge-7)
/sys/kernel/slab/dentry/cgroup/dentry(1033:hogehoge-6)
/sys/kernel/slab/dentry/cgroup/dentry(1031:hogehoge-5)
/sys/kernel/slab/dentry/cgroup/dentry(1041:hogehoge-10)
/sys/kernel/slab/proc_inode_cache/cgroup/proc_inode_cache(987:hogehoge-1)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(999:hogehoge-7)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(997:hogehoge-6)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(993:hogehoge-4)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(991:hogehoge-3)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1029:hogehoge-4)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1027:hogehoge-3)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1025:hogehoge-2)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1023:hogehoge-1)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1037:hogehoge-8)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1005:hogehoge-10)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1035:hogehoge-7)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1003:hogehoge-9)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1001:hogehoge-8)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(1031:hogehoge-5)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(989:hogehoge-2)
/sys/kernel/slab/:a-0000104/cgroup/buffer_head(987:hogehoge-1)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1029:hogehoge-4)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1027:hogehoge-3)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1025:hogehoge-2)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1039:hogehoge-9)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1023:hogehoge-1)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1037:hogehoge-8)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1035:hogehoge-7)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1041:hogehoge-10)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1033:hogehoge-6)
/sys/kernel/slab/ext4_inode_cache/cgroup/ext4_inode_cache(1031:hogehoge-5)
buffer_head, ext4_inode_cache, dentry, radix_tree_node といったファイルシステムに関係してそうな slab が残ります
これらのファイルは sysctl vm.drop_caches=3 で強制的に削除できます. udevadm でその様子をモニターできます
root@bionic:~# udevadm monitor
monitor will print the received events for:
UDEV - the event which udev sends out after rule processing
KERNEL - the kernel uevent
KERNEL[9553.936313] remove /buffer_head(1035:hogehoge-7) (cgroup)
KERNEL[9553.972915] remove /buffer_head(1029:hogehoge-4) (cgroup)
UDEV [9553.973513] remove /buffer_head(1035:hogehoge-7) (cgroup)
UDEV [9553.975710] remove /buffer_head(1029:hogehoge-4) (cgroup)
KERNEL[9554.021867] remove /dentry(1041:hogehoge-10) (cgroup)
KERNEL[9554.029926] remove /dentry(1035:hogehoge-7) (cgroup)
UDEV [9554.030095] remove /dentry(1041:hogehoge-10) (cgroup)
KERNEL[9554.031050] remove /dentry(1039:hogehoge-9) (cgroup)
UDEV [9554.031120] remove /dentry(1035:hogehoge-7) (cgroup)
UDEV [9554.031872] remove /dentry(1039:hogehoge-9) (cgroup)
KERNEL[9554.032554] remove /dentry(1037:hogehoge-8) (cgroup)
KERNEL[9554.032571] remove /dentry(1033:hogehoge-6) (cgroup)
KERNEL[9554.032580] remove /dentry(1031:hogehoge-5) (cgroup)
KERNEL[9554.032587] remove /dentry(1029:hogehoge-4) (cgroup)
...
もう一度 /sys/kernel 以下をみてみると、消えましたね
root@bionic:~# find /sys/kernel/ -type d | grep hogehoge
root@bionic:~#
( 注: kswapd の background reclaim やタスクの direct reclaim で slab の回収をする際にも削除されると思います. ここでは観察のために vm.drop_caches を呼び出しています )
疑問と推測 ❓
cgroup を削除して プロセスと cgroup からの参照が無くなったにも関わらず slab が残ってしまうのかが謎でした。
推測で、cgroup 内で作られた dirty な inode やページキャッシュがある場合に slab が残るのかな? とアタリをつけました
が、結局わからないので LKML を調べました
ソースを調べる
LKML のパッチや投稿を探しているうちに、私が遭遇したのと内容が合致していそうな投稿を見つけます
lkml.org
どうも cgroup 内で作られた dirty な inode に対して wb = struct bdi_writeback が参照をもっていて、冒頭に書いた現象が起きるようです. なるほど〜
投稿されたパッチ
work_struct で定期的に起床するカーネルスレッドに 回収処理を任せるという実装を提案していますが、その後のレビューを見るに mainline には取り込まれていないようです
現状はなんともしようがないんですかねぇ
与太話
Facebook のカーネルエンジニアさんらしいので、FB のユースケースでの問題を解決したいパッチ投稿みたいですね。
まとめ
- コンテナの生成と削除が頻繁に行われる環境 (例: k8s )で、暗黙的に slab キャッシュが溜まるという現象で遭遇しそうです
- slab の回収処理が走れば削除されるはずなので、気がついてないというケースもありそうです
関連のエントリ
hiboma.hatenadiary.jp
![レア・グルーヴ A to Z[3rd Edition]](https://m.media-amazon.com/images/I/51X30JLad6L._SL160_.jpg "レア・グルーヴ A to Z[3rd Edition]")