]> git.baikalelectronics.ru Git - kernel.git/commit
net: reorder 'struct net' fields to avoid false sharing
authorEric Dumazet <edumazet@google.com>
Fri, 18 Oct 2019 22:20:05 +0000 (15:20 -0700)
committerDavid S. Miller <davem@davemloft.net>
Sat, 19 Oct 2019 19:21:53 +0000 (12:21 -0700)
commitf902e0bc92e5c4f5226521271f1aaa7e2459f989
tree76d330882a9159b334f734201e405121383b1be4
parent0a31a6e4e9494f03503dbbadc32175a9318c6799
net: reorder 'struct net' fields to avoid false sharing

Intel test robot reported a ~7% regression on TCP_CRR tests
that they bisected to the cited commit.

Indeed, every time a new TCP socket is created or deleted,
the atomic counter net->count is touched (via get_net(net)
and put_net(net) calls)

So cpus might have to reload a contended cache line in
net_hash_mix(net) calls.

We need to reorder 'struct net' fields to move @hash_mix
in a read mostly cache line.

We move in the first cache line fields that can be
dirtied often.

We probably will have to address in a followup patch
the __randomize_layout that was added in linux-4.13,
since this might break our placement choices.

Fixes: a37b17692022 ("netns: provide pure entropy for net_hash_mix()")
Signed-off-by: Eric Dumazet <edumazet@google.com>
Reported-by: kernel test robot <oliver.sang@intel.com>
Signed-off-by: David S. Miller <davem@davemloft.net>
include/net/net_namespace.h