Биллинговая система Nodeny

Главная категория => Nodeny Plus => Тема начата: NodenY45 от 19 Декабря 2015, 23:48:22



Название: Отпадает nokernel.pl
Отправлено: NodenY45 от 19 Декабря 2015, 23:48:22
Начал отпадать nokernel.pl...
Сначала тушило весь биллинг, взял разделил по модулям, в итоге отпадают только два модуля одновременно:
/usr/bin/perl /usr/local/nodeny/nokernel.pl -m=pingserver -d &
/usr/bin/perl /usr/local/nodeny/nokernel.pl -m=collectors -d &

Код:
uname -a
FreeBSD localhost 9.1-RELEASE-p21 FreeBSD 9.1-RELEASE-p21 #3: Tue Oct 28 04:38:08 EET 2014

по биллингу ревизия 372 .

у кого нибудь было подобное и кто как решал?


Название: Re: Отпадает nokernel.pl
Отправлено: Efendy от 20 Декабря 2015, 00:29:39
Сколько памяти на сервере?

В старых версиях freebsd нужно было увеличивать максимальное количество памяти на процесс в /boot/loader.conf :

kern.maxdsiz="1G"
kern.dfldsiz="1G"

возможно в 9й так же надо


Название: Re: Отпадает nokernel.pl
Отправлено: NodenY45 от 20 Декабря 2015, 01:06:06
Сколько памяти на сервере?

В старых версиях freebsd нужно было увеличивать максимальное количество памяти на процесс в /boot/loader.conf :

kern.maxdsiz="1G"
kern.dfldsiz="1G"

возможно в 9й так же надо

Код:
# free
SYSTEM MEMORY INFORMATION:
mem_wire:         714817536 (    681MB) [ 17%] Wired: disabled for paging out
mem_active:  +   1417707520 (   1352MB) [ 34%] Active: recently referenced
mem_inactive:+   1602555904 (   1528MB) [ 39%] Inactive: recently not referenced
mem_cache:   +    166219776 (    158MB) [  4%] Cached: almost avail. for allocation
mem_free:    +    166932480 (    159MB) [  4%] Free: fully available for allocation
mem_gap_vm:  +      1019904 (      0MB) [  0%] Memory gap: UNKNOWN
-------------- ------------ ----------- ------
mem_all:     =   4069253120 (   3880MB) [100%] Total real memory managed
mem_gap_sys: +    173703168 (    165MB)        Memory gap: Kernel?!
-------------- ------------ -----------
mem_phys:    =   4242956288 (   4046MB)        Total real memory available
mem_gap_hw:  +     52011008 (     49MB)        Memory gap: Segment Mappings?!
-------------- ------------ -----------
mem_hw:      =   4294967296 (   4096MB)        Total real memory installed

SYSTEM MEMORY SUMMARY:
mem_used:        2359259136 (   2249MB) [ 54%] Logically used memory
mem_avail:   +   1935708160 (   1846MB) [ 45%] Logically available memory
-------------- ------------ ----------- ------
mem_total:   =   4294967296 (   4096MB) [100%] Logically total memory

и время работы
Код:
uptime
 1:01AM  up 417 days, 20:14, 1 user, load averages: 0.79, 1.19, 1.28

в бутлоадере НЕ выставлял при установке
kern.maxdsiz="1G"
kern.dfldsiz="1G"


Название: Re: Отпадает nokernel.pl
Отправлено: Efendy от 21 Декабря 2015, 00:12:49
Сколько памяти занимают процессы kernel pingserver-а и collectors?


Название: Re: Отпадает nokernel.pl
Отправлено: NodenY45 от 21 Декабря 2015, 21:11:48
Сколько памяти занимают процессы kernel pingserver-а и collectors?

Код:
root      22584  14.4  7.1 377780 295148  1- S     5:07PM      77:12.23 /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=collectors -d (perl5.14.4)
root      22572   0.0  4.4 271420 182664  1- S     5:06PM       1:29.14 /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=pingserver -d (perl5.14.4)

в очередной раз отпали  :)


Название: Re: Отпадает nokernel.pl
Отправлено: NodenY45 от 22 Декабря 2015, 09:52:09
Сколько памяти занимают процессы kernel pingserver-а и collectors?

Код:
root      22584  14.4  7.1 377780 295148  1- S     5:07PM      77:12.23 /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=collectors -d (perl5.14.4)
root      22572   0.0  4.4 271420 182664  1- S     5:06PM       1:29.14 /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=pingserver -d (perl5.14.4)

в очередной раз отпали  :)

количество памяти  не меняется со временем

Код:
root      22584   1.3  7.1 377780 295156  1- S     5:07PM     157:00.16 /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=collectors -d (perl5.14.4)
root      22572   0.0  4.4 271420 182664  1- S     5:06PM       7:00.02 /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=pingserver -d (perl5.14.4)


Название: Re: Отпадает nokernel.pl
Отправлено: Efendy от 22 Декабря 2015, 11:53:13
Посмотрел, что оба модуля используют потоки - возможно у тебя старая версия perl, обнови. Правда придется все perl-модули обновить, так что я бы рекомендовал поставить 10-ю фрю


Название: Re: Отпадает nokernel.pl
Отправлено: NodenY45 от 22 Декабря 2015, 22:42:30
Посмотрел, что оба модуля используют потоки - возможно у тебя старая версия perl, обнови. Правда придется все perl-модули обновить, так что я бы рекомендовал поставить 10-ю фрю

до какой версии обновить perl? хочу попробовать без переустановки фри, и где видно что модули используют потоки?

Код:
20131120:
  AFFECTS: users of lang/perl5.12 lang/perl5.14 lang/perl5.16 and lang/perl5.18
  AUTHOR: mat@FreeBSD.org

  The THREADS option has been enabled by default in all Perl. If you're using
  binary packages you need to do :

    # pkg install -Rf perl5

  If you're not using binary packages, and want to switch from non threaded
  Perl to threaded Perl, you need to recompile and reinstall most ports
  depending on Perl. Supposing you have Perl 5.16, you would do:

  Portupgrade users:
    0) Fix pkgdb.db (for safety):
        pkgdb -Ff

    1) Change the option in lang/perl5.16:
        make -C /usr/ports/lang/perl5.16 config

    2) Reinstall everything that depends on Perl:
        portupgrade -fr lang/perl5.16

  Portmaster users:
    1) Change the option in lang/perl5.16:
        make -C /usr/ports/lang/perl5.16 config

    2) Reinstall everything that depends on Perl:
        portmaster -r perl5-

  Note: The installed Perl package was named perl and is now named perl5, if
        you have not updated your installation in a long time, you may need to
        use "perl-" here.

20131023:
  AFFECTS: users of lang/perl5.12 lang/perl5.14
  AUTHOR: mat@FreeBSD.org

  The default Perl has been switched to lang/perl5.16.  These examples
  are for switching from lang/perl5.14, if you are running another
  version, replace lang/perl5.14 with the origin of the Perl you have
  installed.

  Pkgng users:

    # pkg set -o lang/perl5.14:lang/perl5.16
    # pkg install -Rf lang/perl5.16

  Portupgrade users:
    0) Fix pkgdb.db (for safety):
        pkgdb -Ff

    1) Reinstall new version of Perl (5.16):
        portupgrade -o lang/perl5.16 -f lang/perl5.14

    2) Reinstall everything that depends on Perl:
        portupgrade -fr lang/perl5.16

  Portmaster users:
        portmaster -o lang/perl5.16 lang/perl5.14

        Conservative:
        portmaster p5-

        Comprehensive (but perhaps overkill):
        portmaster -r perl-

  Note: If the "perl-" glob matches more than one port you will need to specify
        the name of the Perl directory in /var/db/pkg explicitly.



Название: Re: Отпадает nokernel.pl
Отправлено: Efendy от 23 Декабря 2015, 09:56:03
5.20 ставь


Название: Re: Отпадает nokernel.pl
Отправлено: Gosha от 05 Апреля 2018, 10:12:14
Та же проблема.
Месяцев 5 назад заметил , что падало три раза ядро(рандомно). В крон поставил проверку
Код:
#!/bin/bash
cd /usr/local/nodeny/
if ps ax | grep '/usr/local/nodeny/nokernel.pl -d' | grep -v grep
then
  echo "/usr/local/nodeny/nokernel.pl -d is already running"
else
  echo "starting /usr/local/nodeny/nokernel.pl -d"
  /usr/bin/perl /usr/local/nodeny/nokernel.pl -d &
fi
и как то не обращал внимания. За это время переводили клиентов на ПОН, и соответственно на новый биллинг.
Но сейчас посмотрел, падения ядра значительно участились.
Сервер на виртуалке
Код:
[root@cab /var/log]# uname -a
FreeBSD cab.ХХХХ.net.ua 10.3-RELEASE-p12 FreeBSD 10.3-RELEASE-p12 #0: Sun Nov 20 17:03:53 EET 2016     admin@test.XXXXX.net.ua:/usr/src/sys/amd64/compile/NODENY  amd64
[root@cab /var/log]# ps ax | grep perl
87172  -  S         3:00.08 /usr/bin/perl /usr/local/nodeny/nokernel.pl -d
 2824 v0- S      3890:05.07 /usr/bin/perl /usr/local/nodeny/noserver.pl -d
 2825 v0- S      1999:35.97 /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=collectors -d
 2844 v0- S      3338:12.07 /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=make_config -d
 2845 v0- S      3284:33.81 /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=make_config -g=make_config_dhcp -d
 3508  0- S       143:03.08 /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=notifications -d
 4883  1  S+        0:00.00 grep perl
[root@cab /var/log]# perl -v

This is perl 5, version 20, subversion 3 (v5.20.3) built for amd64-freebsd-thread-multi
[root@cab /var/log]# cat /boot/loader.conf
kern.maxdsiz="2G"
kern.dfldsiz="2G"

[root@cab /var/log]# top -SPHa
last pid:  5686;  load averages:  0.45,  0.57,  0.51                                                                                                                                   up 114+14:42:51 11:02:59
157 processes: 5 running, 133 sleeping, 1 zombie, 18 waiting
CPU 0:  1.5% user,  0.0% nice,  4.4% system,  0.0% interrupt, 94.1% idle
CPU 1:  0.0% user,  0.0% nice,  2.9% system,  0.0% interrupt, 97.1% idle
CPU 2:  0.0% user,  0.0% nice,  3.7% system,  0.0% interrupt, 96.3% idle
CPU 3:  0.0% user,  0.0% nice,  1.5% system,  0.0% interrupt, 98.5% idle
Mem: 317M Active, 2575M Inact, 716M Wired, 25M Cache, 418M Buf, 310M Free
Swap: 1024M Total, 337M Used, 687M Free, 32% Inuse

  PID USERNAME   PRI NICE   SIZE    RES STATE   C   TIME    WCPU COMMAND
   11 root       155 ki31     0K    64K CPU0    0 2638.7 100.00% [idle{idle: cpu0}]
   11 root       155 ki31     0K    64K RUN     3 2627.8 100.00% [idle{idle: cpu3}]
   11 root       155 ki31     0K    64K CPU2    2 2604.6 100.00% [idle{idle: cpu2}]
   11 root       155 ki31     0K    64K CPU1    1 2554.7  95.26% [idle{idle: cpu1}]
 2824 root        21    0   151M    99M select  1  64.8H   3.17% /usr/bin/perl /usr/local/nodeny/noserver.pl -d
 2845 root        20    0 77288K 22916K select  0  54.8H   1.27% /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=make_config -g=make_config_dhcp -d
 5676 root        21    0 29004K 17808K select  2   0:00   0.68% [dhcpd]
 3197 mysql       20    0   934M   317M uwait   0  40:00   0.59% /usr/local/libexec/mysqld --defaults-extra-file=/var/db/mysql/my.cnf --basedir=/usr/local --datadir=/var/db/mysql --plugin-dir=
 3197 mysql       20    0   934M   317M select  2 831:59   0.39% /usr/local/libexec/mysqld --defaults-extra-file=/var/db/mysql/my.cnf --basedir=/usr/local --datadir=/var/db/mysql --plugin-dir=
 3197 mysql       20    0   934M   317M select  2  53:53   0.39% /usr/local/libexec/mysqld --defaults-extra-file=/var/db/mysql/my.cnf --basedir=/usr/local --datadir=/var/db/mysql --plugin-dir=
 3197 mysql       20    0   934M   317M select  1 400:14   0.29% /usr/local/libexec/mysqld --defaults-extra-file=/var/db/mysql/my.cnf --basedir=/usr/local --datadir=/var/db/mysql --plugin-dir=
   16 root        16    -     0K    16K syncer  3 181:40   0.10% [syncer]
 2825 root        20    0   264M   132M piperd  3  98:24   0.10% /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=collectors -d{perl}
 2825 root        20    0   264M   132M piperd  0  53:25   0.10% /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=collectors -d{perl}
87172 root        20    0 62964K 17880K select  3   3:09   0.10% /usr/bin/perl /usr/local/nodeny/nokernel.pl -d
    0 root       -16    -     0K   272K swapin  0 4874.6   0.00% [kernel{swapper}]
 2844 root        20    0 77288K 24224K select  2  55.6H   0.00% /usr/bin/perl /usr/local/nodeny/nokernel.pl -m=make_config -d
    0 root       -92    -     0K   272K -       0  36.0H   0.00% [kernel{dummynet}]

Кто подскажет, куда копать?
PS. Через месяц будет другой сервер, буду переносить систему, но хочется просто перенести, а не ставить с нуля.


Название: Re: Отпадает nokernel.pl
Отправлено: ale1975 от 05 Апреля 2018, 10:39:15
Отъедает озу, потом СВОП и потом падает. Увеличение свопа и памяти ничего не даст. Мы убрали подсчет трафика за ненадобностью и проблема ушла. Для безопасности мониторим озу.


Название: Re: Отпадает nokernel.pl
Отправлено: Gosha от 05 Апреля 2018, 10:43:57
... Мы убрали подсчет трафика за ненадобностью и проблема ушла.
Это не выход. У меня к тарифам привязка(если не больше 50 Мб , то деньги не снимаются).


Название: Re: Отпадает nokernel.pl
Отправлено: kosmich от 05 Апреля 2018, 10:44:48
Возможно не совсем в тему, но возможно своп в определенный момент полностью используется и заканчивается и как следствие ядро падает.
У меня было такое со свопом, на 10.3, но последствия были другие, на 11 пока не наблюдается.
Хотя оперативки было более чем достаточно, но своп все равно на 10.3 использовался, сначала немного, в определенный момент полностью и потом глюки.
Графики использования ресурсов есть ?

Пока писал, уже ответили. Дополняю. В одном из случаев подсчета трафика нет, но своп все равно вымывался на 10.3.


Название: Re: Отпадает nokernel.pl
Отправлено: Gosha от 05 Апреля 2018, 10:52:10
Мониторинг за сутки h_t_t_p_s://hkar.ru/TBx7
О свопе думал, с переходом увеличу.


Название: Re: Отпадает nokernel.pl
Отправлено: kosmich от 05 Апреля 2018, 11:37:53
Увеличение свопа, ситуацию не решит.

На графиках, смотри есть ли всплекски свопа и оперативки.


Название: Re: Отпадает nokernel.pl
Отправлено: Gosha от 05 Апреля 2018, 11:58:18
Увеличение свопа, ситуацию не решит.

На графиках, смотри есть ли всплекски свопа и оперативки.
Я так думаю, что перейду на 11 версию freebsd, и увеличу своп. Только не решил, ставить с нуля, или апгрейд.