Skocz do zawartości
danielburchardt

Limity połączeń http

Polecane posty

Witam :)

 

Na wstępnie zaznacza, że jestem laikiem jeśli chodzi o temat działania sieci, ograniczeń itd. i problem może występować w innym miejscu.

 

Nie chce wchodzić w szczegóły ale głównym zadaniem mojego skrypt jest wykonywanie dużej ilości połączeń http, przez prywatne serwery proxy (http lub socks) do konkretnych adresów www.

 

Skrypt napisany w pythonie (wątki + kolejka + curl, każde połączenie to osobny wątek - nie używam curl_multi), całość stoi na VPS lub dedyku. Skrypt działa na około 300 wątkach jednak posiadam nadal ogromne zasoby CPU oraz ram. Przy próbie zwiększenia ilości wątków powyżej ilości 300 jest brak jakiekolwiek różnicy jeśli chodzi o wydajność skryptu. Niestety nie jestem w stanie zlokalizować wąskiego gardła takiego rozwiązania dlatego proszę o pomoc.

 

Jeśli chodzi o same proxy to nawet przy 1,5k aktywnych problem ten nadal występuje.

 

Z góry dziękuje pomoc

Udostępnij ten post


Link to postu
Udostępnij na innych stronach

Bądź aktywny! Zaloguj się lub utwórz konto

Tylko zarejestrowani użytkownicy mogą komentować zawartość tej strony

Utwórz konto

Zarejestruj nowe konto, to proste!

Zarejestruj nowe konto

Zaloguj się

Posiadasz własne konto? Użyj go!

Zaloguj się


×