[Решено] Squid иногда самопроизвольно пропадает интернет

19.03.2013 17:30 · отредактировано #310259

Доброго дня!

Ситуация следующая, имею squid на ubuntu, там же прикручен sarg-monitoring. Все это работает нормально. Но с недавних пор, буквально дней 10 назад, стал замечать следующее - периодически в любое время пропадает интернет в локалке у юзеров сети, а потом, как не бывало восстанавливается обратно, и все работает. Или может быть в течение дня нет ничего, зато на другой день ситуация повторяется. В сети разные ОС - windows, linux, freebsd. Данная проблема может быть только у одного человека, а также у нескольких сразу, т.е. кратковременное пропадание интернета и самовосстановление. Раньше все было отлично. как-то загадочно все это... Не знаю куда копать, может кто знаком с этим, подскажите, пожалуйста.

Вообщем, стал копать гугл, выяснил, что известная проблема и не только меня она мучает. но пока ясного решения я не нашел. Только был один ответ, где пользователь сказал, у него была проблема из-за того, что было два одинаковых IP в сети, на хосте и на свитче. Но в моем случае, это исключено. Вот собственно ссылки по теме

Показать

http://forum.oszone.net/post-1989126.html ссылка, где два одинаковых IP
http://unixforum.org/index.php?showtopic=96069 ссылка, с аналогичной моей проблемой, но ответа там четкого не нашел.
вообщем, ищу дальше

буду весьма благодарен. спасибо.
зы. заметил, от ОС, что стоит у юзеров сети, это не зависит, на любой машине такое может быть, как на винде, так и на юниксах. как сам считаю проблема однозначно в сквиде, что стоит на серваке.

19.03.2013 17:45 #310265

Ну так ловите время когда такое произойдет и изучайте логи сквида на предмет этого пользователя.
А телепаты в отпуске...

19.03.2013 17:55 #310267

Верно. Пропал интернет смотрите лог сквида.

20.03.2013 17:01 #310415

Стал смотреть логи сквида, а именно файл, где хранится вся отладочная инфа и ошибки, а именно cache.log и увидел следующее:

Показать

2013/03/19 15:57:22| clientTryParseRequest: FD 16 (192.168.0.33:38256) Invalid Request
2013/03/19 16:32:25| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 16:32:25| clientTryParseRequest: FD 16 (192.168.0.33:38639) Invalid Request
2013/03/19 16:38:02| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 16:38:02| clientTryParseRequest: FD 37 (192.168.0.33:38697) Invalid Request
2013/03/19 16:40:25| clientTryParseRequest: FD 40 (192.168.0.36:4847) Invalid Request
2013/03/19 16:40:31| parseHttpRequest: Unsupported method '^R<E5><C7><D0>^}<E4><BA>^H<A9>X<91>7n<89>^?<F3>f<95><82>K9нЇ<EC><F1>^\<F5>Q^PA<E5><A2>^V<BF>^E^A^V<AE><89><82><88>'
2013/03/19 16:40:31| clientTryParseRequest: FD 21 (192.168.0.33:38872) Invalid Request
2013/03/19 16:40:40| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 16:40:40| clientTryParseRequest: FD 175 (192.168.0.33:38888) Invalid Request
2013/03/19 16:44:38| clientTryParseRequest: FD 12 (192.168.0.36:1119) Invalid Request
2013/03/19 16:47:34| parseHttpRequest: Unsupported method '<A6>T<D9>]<FE>"[<B2><96><A5>}D<8C>c<97><CB>3'
2013/03/19 16:47:34| clientTryParseRequest: FD 26 (192.168.0.36:1282) Invalid Request
2013/03/19 16:47:34| clientTryParseRequest: FD 25 (192.168.0.36:1281) Invalid Request
2013/03/19 16:53:30| clientTryParseRequest: FD 27 (192.168.0.36:1677) Invalid Request
2013/03/19 16:54:04| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 16:54:04| clientTryParseRequest: FD 21 (192.168.0.33:39430) Invalid Request
2013/03/19 16:56:35| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 16:56:35| clientTryParseRequest: FD 22 (192.168.0.33:39463) Invalid Request
2013/03/19 17:01:42| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 17:01:42| clientTryParseRequest: FD 18 (192.168.0.33:39744) Invalid Request
2013/03/19 17:03:21| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 17:03:21| clientTryParseRequest: FD 12 (192.168.0.33:39779) Invalid Request
2013/03/19 17:03:53| clientTryParseRequest: FD 47 (192.168.0.36:2182) Invalid Request
2013/03/19 17:04:00| clientTryParseRequest: FD 18 (192.168.0.36:2196) Invalid Request
2013/03/19 17:07:22| parseHttpRequest: Unsupported method '<U+1180E4><91>K^^<A3>i7<E5><BB>0<80><FA><8D>eS<C8>hRG'
2013/03/19 17:07:22| clientTryParseRequest: FD 18 (192.168.0.36:2375) Invalid Request
2013/03/19 17:07:54| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 17:07:54| clientTryParseRequest: FD 29 (192.168.0.33:39917) Invalid Request
2013/03/19 17:08:57| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 17:08:57| clientTryParseRequest: FD 12 (192.168.0.33:39947) Invalid Request
2013/03/19 17:10:18| parseHttpRequest: Unsupported method 'P<F9>~<AC>'
2013/03/19 17:10:18| clientTryParseRequest: FD 12 (192.168.0.36:2569) Invalid Request
2013/03/19 17:10:18| clientTryParseRequest: FD 16 (192.168.0.36:2570) Invalid Request
2013/03/19 17:10:34| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 17:10:34| clientTryParseRequest: FD 12 (192.168.0.33:40033) Invalid Request
2013/03/19 17:12:31| parseHttpRequest: Unsupported method '^E^ACONNECT'
2013/03/19 17:12:31| clientTryParseRequest: FD 22 (192.168.0.33:40162) Invalid Request

для сравнения сегодня все хорошо работает и лог другой

Показать

Возможные причины, как я думаю (почитав форумы в инете) - либо правда где-то случайно дублирующий IP появляется, либо это может быть связано с логами, когда логи сквида разрастаются и сервак немного подвисает.

20.03.2013 17:14 #310418

А может ваши юзвери ходят на какие-то левые сайты. А что у вас в конфиге сквида насчёт метода CONNECT прописано.

20.03.2013 17:44 · отредактировано #310430

прописано это

Показать

сначала идут ACL

acl Safe_ports port 631 # cups
acl Safe_ports port 873 # rsync
acl Safe_ports port 901 # SWAT
acl Safe_ports port 1500 # VSAT
acl purge method PURGE
acl CONNECT method CONNECT

потом запрет

# Only allow cachemgr access from localhost
http_access allow manager localhost
http_access deny manager
# Only allow purge requests from localhost
http_access allow purge localhost
http_access deny purge
# Deny requests to unknown ports
http_access deny !Safe_ports
# Deny CONNECT to other than SSL ports
http_access deny CONNECT !SSL_ports

в данному случае относительно CONNECT я понял следующее - метод CONNECT в ACL прописан, а в запретах, указано запретить, т.е. последняя строчка
# Deny CONNECT to other than SSL ports
http_access deny CONNECT !SSL_ports

вроде бы так

кто куда ходит я разбираюсь, смотрю логи, ошибки нашел..теперь надо их в гугле покопать, т.к. проблема не только у меня такая.

20.03.2013 17:50 · отредактировано #310433

"Linux777⇓" написал:
Возможные причины, как я думаю (почитав форумы в инете) - либо правда где-то случайно дублирующий IP появляется, либо это может быть связано с логами, когда логи сквида разрастаются и сервак немного подвисает.

О проблеме свободного места и разпухшего лога, решил вот что сделать, узнать сколько места на диске, и размер логов:
может это скажет чего??

Показать

root@SQUID:~# df -lh
Filesystem Size Used Avail Use% Mounted on
/dev/mapper/SQUID-root
89G 17G 68G 20% /
udev 1.9G 4.0K 1.9G 1% /dev
tmpfs 775M 284K 775M 1% /run
none 5.0M 0 5.0M 0% /run/lock
none 1.9G 0 1.9G 0% /run/shm
/dev/sda1 228M 70M 147M 33% /boot

root@SQUID:/var/log/squid# ls -lh
total 6.0G
-rw-r----- 1 proxy proxy 1.4G 2013-03-20 17:59 access.log
-rw-r----- 1 proxy proxy 2.2M 2013-03-20 17:04 cache.log
-rw-r----- 1 proxy proxy 4.6G 2013-03-20 17:59 store.log

20.03.2013 18:43 #310441

Верно, настройте ротацию логов, потому что это оч большие размеры файлов. Я чтобы не заморачиватьса с ротацией логов то в крон засунул скрипт который в 12 часов ночи исполняет squid -k rotate

21.03.2013 10:02 · отредактировано #310518

А можно для примера привести, какой размер логов на твоем серваке (чтобы понять, какой размер логов должен быть в идеале, и как часто должна быть ротация логов)? кронтаб заодно можешь показать? попутно еще узнал, читая сегодня существует и третья проблема - очистить кеш сквида, тоже когда разрастается тоже тупить может.

Показать

вот что у меня написано, где лежит кеш в конфиге сквида.

#Default:
cache_dir ufs /var/spool/squid 4096 32 256

кронтаб

# m h dom mon dow command

00 00-23/1 * * * /usr/sbin/sarg-reports today
00 20 * * * /usr/sbin/sarg-reports daily
00 16 * * 0 /usr/sbin/sarg-reports weekly
00 08 1 * * /usr/sbin/sarg-reports monthly

00 15 2 * * /usr/sbin/squid -k rotate

то есть ротация раз в месяц логов. ведь если раньше делать, анализатор логов sarg не покажет данные, кто чего качает.

ведь верно, кеш сквида тут лежит /var/spool/squid
а как его чистить, описано тут http://linuxway.ru/poleznoe/kak-ochistit-kesh-squid/
с кешем тоже может связано тормоза сквида?

21.03.2013 10:08 · отредактировано #310521

Щас обясню как у меня сделано.
У меня сквид обслужывает гдето 150 юзверей.
Анализ логов делаю lightsquid'ом потому что отчёты sarg очень много места занимают.
lightsquid просматривает у меня лог сквида каждую 58 мин. в 9, 11, 13, 15, 17, 19, 21, 23 ч. и этого как для моей сети хватае. Каждую новую сутку в 0ч 1мин у меня проходит ротацыя логов. Тоисть в 23,58 был обработан последний раз лог сквида а в 00,01 уже прошла ротацыя. Так как у меня огранизацыя ВНЗ и в 12 часов ночи никого нету то ето нормально. Вся инфа учитываетса.
А вот мои кронтаб и логи скида.

text


58 9,11,13,15,17,19,21,23 * * * /var/tmp/script/squidlog.sh
1 0 * * * /usr/local/squid/sbin/squid -k rotate

text


root@rm-proxy:/var/spool/cron/crontabs# ls -lh /var/run/squid/var/log
total 598M
-rw-r----- 1 nobody nobody 4.0M Mar 21 08:35 access.log
-rw-r----- 1 nobody nobody  67M Mar 20 23:54 access.log.0
-rw-r----- 1 nobody nobody  67M Mar 19 23:10 access.log.1
-rw-r----- 1 nobody nobody  57M Mar 18 23:56 access.log.2
-rw-r----- 1 nobody nobody 7.5M Mar 17 23:09 access.log.3
-rw-r----- 1 nobody nobody 6.7M Mar 17 00:00 access.log.4
-rw-r----- 1 nobody nobody  52M Mar 15 23:48 access.log.5
-rw-r----- 1 nobody nobody  69M Mar 15 00:00 access.log.6
-rw-r----- 1 nobody nobody  66M Mar 14 00:00 access.log.7
-rw-r----- 1 nobody nobody 155M Mar 12 23:58 access.log.8
-rw-r----- 1 nobody nobody  50M Mar  7 00:00 access.log.9
-rw-r----- 1 nobody nobody  685 Mar 21 08:27 cache.log
-rw-r----- 1 nobody nobody 8.8K Mar 21 00:01 cache.log.0
-rw-r----- 1 nobody nobody  29K Mar 20 00:01 cache.log.1
-rw-r----- 1 nobody nobody  11K Mar 19 00:01 cache.log.2
-rw-r----- 1 nobody nobody 1.1K Mar 18 00:01 cache.log.3
-rw-r----- 1 nobody nobody  986 Mar 17 00:01 cache.log.4
-rw-r----- 1 nobody nobody  46K Mar 16 00:01 cache.log.5
-rw-r----- 1 nobody nobody  13K Mar 15 00:01 cache.log.6
-rw-r----- 1 nobody nobody  16K Mar 14 00:01 cache.log.7
-rw-r----- 1 nobody nobody  40K Mar 13 00:01 cache.log.8
-rw-r----- 1 nobody nobody 7.7K Mar  7 00:01 cache.log.9
-rw-r--r-- 1 root   nobody    5 Mar 19 16:47 squid.pid

А это скрипт, которым пользуюсь. Примитивен но со своими функцыями справляетса

text


#!/bin/bash
cp /var/run/squid/var/log/access.log /tmp/access.log
/srv/www/htdocs/lightsquid/lightparser.pl
> /usr/local/squidGuard/log/squidGuard.log
rm -f /tmp/access.log

В скрипте я ещё очищаю и лог SquidGuard'а.
Нащот очистки кеша, можно подумать. Теперь когда уже у меня этот кеш гдето продержалса гдето 2 года и в нём уже есть 50000 элементов, то долго перестраиваетса кеш при перегрузке сервака. Может и почищу, незнаю. Просто стараюсь сервака не перегружать.
P.S.
store.log вообще отключил, потому что он больше всех логов розросталса.

text

cache_dir ufs /var/run/squid/cache 1024 16 256

21.03.2013 10:18 #310525

Тормоза скивад, могу быть связанные с дисковой подсистемой и нагрузкой на процессор, а я смотрю там еще и sarg, я в свое время от него отказался из-за его тормозов в сторону free-sa.

21.03.2013 10:32 #310534

"i2ks⇓" написал:
Тормоза скивад, могу быть связанные с дисковой подсистемой и нагрузкой на процессор, а я смотрю там еще и sarg, я в свое время от него отказался из-за его тормозов в сторону free-sa.

чтобы это проверить, как узнать нагрузку на процессор и дисковую систему (в данному случае речь же идет о том, что сервер может быть перегружен, да)? это уже выходит 4 возможный вариант проблемы.

21.03.2013 10:39 · отредактировано #310538

Очисти логи сквида и посмотри что будет.
А ещё какими задачами рулит сервак. У моего кроме сквида ещё и работа с базой мускула которая весит не мало.

Показать

ls -lh /var/lib/mysql/trafstat
total 1.7G
-rw-rw---- 1 mysql mysql 96 Mar 21 04:23 config.MYD
-rw-rw---- 1 mysql mysql 8.0K Mar 21 04:23 config.MYI
-rw-rw---- 1 mysql mysql 8.4K Dec 21 2011 config.frm
-rw-rw---- 1 mysql mysql 61 Dec 20 2011 db.opt
-rw-rw---- 1 mysql mysql 470 Dec 21 2011 groups.MYD
-rw-rw---- 1 mysql mysql 3.0K Dec 18 04:33 groups.MYI
-rw-rw---- 1 mysql mysql 8.7K Dec 21 2011 groups.frm
-rw-rw---- 1 mysql mysql 21 Jan 3 04:23 list_traffic.MYD
-rw-rw---- 1 mysql mysql 2.0K Feb 7 04:33 list_traffic.MYI
-rw-rw---- 1 mysql mysql 8.4K Dec 21 2011 list_traffic.frm
-rw-rw---- 1 mysql mysql 1.3K Dec 21 2011 privileges.MYD
-rw-rw---- 1 mysql mysql 3.0K Dec 21 2011 privileges.MYI
-rw-rw---- 1 mysql mysql 8.5K Dec 21 2011 privileges.frm
-rw-rw---- 1 mysql mysql 119 Dec 21 2011 proto.MYD
-rw-rw---- 1 mysql mysql 3.0K Dec 21 2011 proto.MYI
-rw-rw---- 1 mysql mysql 8.4K Dec 21 2011 proto.frm
-rw-rw---- 1 mysql mysql 358M Jan 4 2012 traffic_2011.MYD
-rw-rw---- 1 mysql mysql 375M Mar 2 2012 traffic_2011.MYI
-rw-rw---- 1 mysql mysql 8.6K Dec 21 2011 traffic_2011.frm
-rw-rw---- 1 mysql mysql 419M Jan 3 04:23 traffic_2012.MYD
-rw-rw---- 1 mysql mysql 440M Jan 4 08:36 traffic_2012.MYI
-rw-rw---- 1 mysql mysql 8.6K Jan 4 2012 traffic_2012.frm
-rw-rw---- 1 mysql mysql 51M Mar 21 04:23 traffic_2013.MYD
-rw-rw---- 1 mysql mysql 54M Mar 21 04:23 traffic_2013.MYI
-rw-rw---- 1 mysql mysql 8.6K Jan 3 04:23 traffic_2013.frm
-rw-rw---- 1 mysql mysql 19M Mar 21 08:50 traffic_cur.MYD
-rw-rw---- 1 mysql mysql 20M Mar 21 08:50 traffic_cur.MYI
-rw-rw---- 1 mysql mysql 8.6K Dec 21 2011 traffic_cur.frm
-rw-rw---- 1 mysql mysql 900 Mar 15 14:45 users.MYD
-rw-rw---- 1 mysql mysql 3.0K Mar 19 07:58 users.MYI
-rw-rw---- 1 mysql mysql 8.6K Dec 21 2011 users.frm

И ничего, лагов нету.
p.s.

Показать

21.03.2013 10:54 #310548

еще висит на сервере тоже mysql + asterisk (но пока в тестовом режиме) была задача сначала поднять астериск, потом сделал, стало чуть менее актуальна и пока не запущен. еще апач висит там + phpmyadmin. вроде бы все.

21.03.2013 10:57 #310550

"Linux777⇓" написал:
чтобы это проверить, как узнать нагрузку на процессор и дисковую систему (в данному случае речь же идет о том, что сервер может быть перегружен, да)? это уже выходит 4 возможный вариант проблемы.

top, iostat. iotop. vmstat etc....

21.03.2013 11:20 #310558

ставьте что-нибудь легкое постоянно наблюдающее за нагрузкой проца, сети,... например munin и будете в курсе когда и что перенагружалось...

21.03.2013 11:41 #310561

вообщем, я по статье http://ipcop.ru/index.php?topic=262.0 почистил кеш. потом запустил заново сквид, и проверил место свободное df и размер логов.

Показать

root@SQUID:/var/log/squid# df -lh
Filesystem Size Used Avail Use% Mounted on
/dev/mapper/SQUID-root
89G 6.5G 78G 8% /
udev 1.9G 4.0K 1.9G 1% /dev
tmpfs 775M 284K 775M 1% /run
none 5.0M 0 5.0M 0% /run/lock
none 1.9G 0 1.9G 0% /run/shm
/dev/sda1 228M 70M 147M 33% /boot
root@SQUID:/var/log/squid#
root@SQUID:/var/log/squid#
root@SQUID:/var/log/squid# ls -lh
total 288K
-rw-r----- 1 proxy proxy 100K 2013-03-21 11:47 access.log
-rw-r----- 1 proxy proxy 3.7K 2013-03-21 11:40 cache.log
-rw-r----- 1 proxy proxy 175K 2013-03-21 11:47 store.log
root@SQUID:/var/log/squid# cat /etc/logrotate.d/squid

воообщем, как стало видно, логи стали меньше, из ГБ стало Кб. а Кеш тоже уменьшился. но вот вопрос. это нормально, так и должно быть? я сам каталог /var/log/squid/ где лежат 3 лога сквида не трогал. я просто кеш почистил и заметил автоматом почитслись и сами логи. теперь надо проверить, будут ли сбои повторятся. ведь пока логи были маленькие сбоев не было. около 6 мес работало все на ура. кстати, сарг тоже там же висит.

21.03.2013 11:51 #310566

Насчет наблюдения за железом, есть идея - заббикс! я уже начал делать сеть в заббиксе, чтобы все мониторить, об этом пишу тут SNMP запросы к различному оборудованию и настройка zabbix (OID+MIB) надо и на этот сервак поставить, еще руки не дошли, стал разбираться со сквидом. посмотрим, обнулил логи все. если не будет проблем, значит решение верное, разпухший лог тормозил.

21.03.2013 12:13 #310571

Я думаю что это из за логов. А когда вы очистили кеш сквид скорее всего пересоздал новые логы и очистил те распухшые. Сделайте ротацыю или так как я и будет вам щастье. :)

21.03.2013 14:15 · отредактировано #310598

"kisil⇓" написал:
Я думаю что это из за логов. А когда вы очистили кеш сквид скорее всего пересоздал новые логы и очистил те распухшые. Сделайте ротацыю или так как я и будет вам щастье. ab

благодарю. меня тут посмешило, http://forum.ubuntu.ru/index.php?topic=37785.0 везде проблема аналогчиная, да и решение везде аналогичное. ребут сервака..да уж *WALL* . надо так сказать не ребутить, а искать решение, почему происходит так.

в данном случае, я изрыл интерент вдоль и поперек, как минимум знаю 4 причины, куда стоит копать, а не ребут делать. а если у меня не 10, а 10тыщ юзеров. то всех ребутом я просто убъю))

"i2ks⇓" написал:
Linux777⇓ пишет:

чтобы это проверить, как узнать нагрузку на процессор и дисковую систему (в данному случае речь же идет о том, что сервер может быть перегружен, да)? это уже выходит 4 возможный вариант проблемы.

top, iostat. iotop. vmstat etc....

спасибо!