Высокая загрузка CPU на IPOE, ARP raw sockets?

IPoE related questions
KaYot
Posts: 55
Joined: 25 Mar 2015, 10:54

Re: Высокая загрузка CPU на IPOE, ARP raw sockets?

Post by KaYot » 19 Nov 2015, 07:34

Таки потух сам минут через 25 :)

KaYot
Posts: 55
Joined: 25 Mar 2015, 10:54

Re: Высокая загрузка CPU на IPOE, ARP raw sockets?

Post by KaYot » 19 Nov 2015, 07:54

Версия из гит с теми же 2к интерфейсов завершается почти мгновенно, и больше не падает. Наблюдаем.

nik247
Posts: 108
Joined: 11 Oct 2014, 15:57

Re: Высокая загрузка CPU на IPOE, ARP raw sockets?

Post by nik247 » 19 Nov 2015, 09:06

И я добавлю свои 5 копеек по перезагрузке.
Когда ставил версию с git (87ddec14232bec6d533a0bd337468a7e56de0b80 от 2015-07-08) то обнаружил, что не могу ни перезагрузить, ни остановить accel-ppp на боевом. Ждал и 5 и 10 минут. при этом в логе вообще переставало меняться все секунда через 15. Клиентов около 800(ipoe-shared+pppoe).
Проблема оказалась в unit-cache=2000 (в ipoe и ppp).
Установил unit-cache=0 и все нормально стало перезагружаться и останавливаться.
Также при unit-cache>0 была проблема, что счетчики на интерфейсах не сбрасывались и при подключении у новых клиентов на интерфейсе попадались громадные счетчики....

KaYot
Posts: 55
Joined: 25 Mar 2015, 10:54

Re: Высокая загрузка CPU на IPOE, ARP raw sockets?

Post by KaYot » 24 Nov 2015, 17:49

Раскатал обновление на боевых серверах, полет нормальный. Правда на загрузке фактически никак не сказалось, в данный момент в небольшом затруднении.

Code: Select all

[root@IPoE2 ~]# ifstat -i bond1 -b
      bond1
 Kbps in  Kbps out
471574.5  1.22e+06

Code: Select all

[root@IPoE2 ~]# dstat -N bond1 --net-packets
-pkt/bond1-
#recv #send
 108k  130k

Code: Select all

[root@IPoE2 ~]# top
top - 19:37:33 up 17:20,  1 user,  load average: 0.29, 0.49, 0.62
Tasks: 113 total,   1 running, 112 sleeping,   0 stopped,   0 zombie
Cpu0  :  6.3%us,  1.1%sy,  0.0%ni, 64.0%id,  0.0%wa,  0.0%hi, 28.6%si,  0.0%st
Cpu1  :  2.6%us,  1.5%sy,  0.0%ni, 62.2%id,  0.0%wa,  0.0%hi, 33.7%si,  0.0%st
Cpu2  :  0.5%us,  1.5%sy,  0.0%ni, 62.6%id,  0.5%wa,  0.0%hi, 34.8%si,  0.0%st
Cpu3  :  2.0%us,  1.0%sy,  0.0%ni, 55.6%id,  0.0%wa,  0.0%hi, 41.4%si,  0.0%st
Cpu4  :  2.1%us,  2.6%sy,  0.0%ni, 59.5%id,  0.0%wa,  0.0%hi, 35.8%si,  0.0%st
Cpu5  :  3.0%us,  1.0%sy,  0.0%ni, 62.1%id,  0.0%wa,  0.0%hi, 33.8%si,  0.0%st

  PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND
 3495 root      20   0  473m  40m 4188 S 27.9  0.7 130:24.35 accel-pppd
 9626 named     20   0  512m 160m 5672 S  8.0  2.7  25:30.73 named
 7031 quagga    20   0 22076 4840 1912 S  5.0  0.1  10:04.54 zebra
 2206 root      20   0  560m  40m 6064 S  3.0  0.7  11:33.19 perl
   15 root      20   0     0    0    0 S  1.5  0.0   3:00.23 ksoftirqd/2
   19 root      20   0     0    0    0 S  1.5  0.0   3:32.68 ksoftirqd/3
   23 root      20   0     0    0    0 S  1.5  0.0   3:00.92 ksoftirqd/4
   27 root      20   0     0    0    0 S  1.5  0.0   3:10.91 ksoftirqd/5
   11 root      20   0     0    0    0 S  1.0  0.0   3:08.96 ksoftirqd/1
    3 root      20   0     0    0    0 S  0.5  0.0   2:53.08 ksoftirqd/0
NATа нет, шейпер HTB+SQF максимально оптимизирован(отключение уменьшает si на 5-10%).
Сейчас 1.2G in + 0.5G out дают 40% нагрузку на вполне современный 6ти ядерный CPU. Может это норма и я сильно много хочу?
Но 30-35% загрузка на тупой маршрутизации 1.5 Gbit мне кажется слишком круто.
Может ли как-то accel грузить машину(в разрезе soft irq)?

Dmitry
Администратор
Posts: 954
Joined: 09 Oct 2014, 10:06

Re: Высокая загрузка CPU на IPOE, ARP raw sockets?

Post by Dmitry » 24 Nov 2015, 18:05

могу только предложить глянуть как-то perf'ом

KaYot
Posts: 55
Joined: 25 Mar 2015, 10:54

Re: Высокая загрузка CPU на IPOE, ARP raw sockets?

Post by KaYot » 24 Nov 2015, 18:12

Code: Select all

[root@IPoE2 ~]# perf top
  5.91%  [kernel]                        [k] _raw_spin_lock
   3.30%  [ip_tables]                     [k] ipt_do_table
   2.98%  [kernel]                        [k] fib_table_lookup
   2.45%  [kernel]                        [k] irq_entries_start
   2.32%  [kernel]                        [k] __dev_queue_xmit
   1.98%  [bnx2]                          [k] bnx2_rx_int
   1.74%  [kernel]                        [k] __hrtimer_start_range_ns
   1.66%  [cls_u32]                       [k] u32_classify
   1.65%  [kernel]                        [k] __napi_complete
   1.53%  [kernel]                        [k] __netif_receive_skb_core
   1.40%  [kernel]                        [k] nf_iterate
   1.33%  [kernel]                        [k] _raw_spin_unlock_irqrestore
   1.33%  [kernel]                        [k] check_leaf
   1.27%  [sch_htb]                       [k] htb_dequeue
   1.22%  [kernel]                        [k] kmem_cache_alloc
   1.20%  [kernel]                        [k] irq_exit
   1.06%  [kernel]                        [k] vlan_dev_hard_start_xmit
   1.04%  [bnx2]                          [k] bnx2_start_xmit
   1.02%  [kernel]                        [k] vlan_do_receive
   1.02%  [kernel]                        [k] __copy_skb_header
Вроде ничего необычного.

Post Reply

Who is online

Users browsing this forum: No registered users and 1 guest