Citrix NetScaler – балансировка высоконагруженных системНиколай ШадринSystems EngineerCitrix Systems

Тенденции пользователей и ИТ

APPSAPPS

• Глобализация• Свободный график• Расширение филиалов• Мобильность• E-коммерция

USERS

• Зеленые ЦОД• Безопасность• Непрерывность бизнеса• Web и Enterprise 2.0• SaaS, XML, SOA

APPS

Групповые блоги

Wiki

Групповые календари

Списки

Content Sharing

Microsoft SharePoint 2007

Веб-приложения: богатые, сложные, требовательные

Больше соединений

Больше общения

Больше протоколов

Больше форматов

Больше неизвестного

2000 2001 2002 2003 2004 2005 2006 2007 2008 2009 20100.0

2.0

4.0

6.0

8.0

10.0

12.0

14.0

16.0

18.0

0

20

40

60

80

100

120

Projected Server and Electricity UseServers Electricity Use

Year

Serv

ers

Inst

alle

d (m

illio

ns)

Annu

al E

lect

ricity

Use

(bill

ions

/kW

h)

Серверы: их всё больше

Source: Energy Star Report

7000+ Deployments Worldwide

Доверие лидирующих предприятий и веб-сервисов

Use

rs

App

sТрафик приложений

Сетевой трафик

XML...SOAP...HTTP...WSDL...JSON...REST...RSS...AJAX...end-user experience...Mashup...RelTag...SOA...Application Availability...Data theft...RIA...Wiki...Enterprise 2.0

MAC address...Source IP...Destination IP...Source port...Destination port...Ping...OSPF...RIP...BGP...ACL...DNS...Subnet...802.XX...ARP...ICMP...RTT...SYN...ACK...

Keepalive...SNMP...SSH...SSL...MTBF...Latency...

Router Switch Firewall

Ускорениеприложений

Доступностьприложений

Безопасностьприложений

Разгрузкаинфраструктуры

XenApp

NetScaler

Workflow Studio

XenServerXenDesktop

Citrix Delivery CenterTM

“Превращаем центры обработки в центры доставки”

AccessGateway

RepeaterEdgeSight

Сеть доставки

ProvisioningServer

Динамический ЦОД

Citrix Delivery CenterTM

NetScaler - Platinum

Встроенный Web App Firewall

Встроенныймониторинг

XenApp

Workflow Studio

XenServerXenDesktop

ВстроенныйAG-E

NetScaler

NetScaler AppExpert

Системная архитектура NetScaler

Application Networking Platform

Функциональные модули NetScaler

Administration

AppExpertVisual Policy

Builder

Единоеуправление

и отчеты

Высокопроизводительная обработка

пакетов и политик AppExpert

2) Расшифровка/аутентификация/анализ запроса3) Применение политик и ответ на запросы

1) Получение и прерывание запроса

4) Мультиплексирование через постоянные соединения

AppExpert Policy Engine

AppExpert Policy Engine

Приложение 1

UsersПриложение 2

AppExpert Service Callout Example

NS PolicyNS

PolicyNS Policy Website

Citrix NSUsers

Scrapertracking1. Приходит запрос

2. NetScaler отсылает IP3. Приложение проверяет

IP4. Приложение отсылает

“yes” или “no”5. Политика NetScaler

– Пропускает, если “yes”– Блокирует, если “no”

1

2

3

4

5

NetScaler Product Capabilities

NetScaler and the 4 Feature Buckets

InternetClients ServerNS

Acceleration Security Availability Offload

NetScaler and the 4 Feature Buckets

InternetClients ServerNS

Acceleration Security Availability Offload

• TCP Multiplex and Reuse• SSL Offload• Cache (Static and

Dynamic)• Consolidated Web

Logging• TCP Buffering

• TCP Optimization• Web Compression• Cache (Static and Dynamic)

• DDos Protection• Content Filtering and Redirection• Web Application Firewall• SSL VPN

• Load Balancing Layer 4 and Layer 7

• Global Server Load Balancing• Content Rewrite and Redirection• Surge Protection and Sure

Connect

Разгрузка серверов

Server Offload

ИнтернетКлиенты СерверNS

Offload

• Мультиплексирование и повторное использование TCP

• Разгрузка SSL• Кэширование (статическое и динамическое)• Консолидированная работа с логами• TCP-буферизация

Основы TCP и дополнительные 7 пакетовSYN

SYN + ACK

ACK

FIN

FIN

ACK

ACK

GET

Data

}

}

3 – WayHandshake

4 – WayTeardown

TCP7 PacketOverhead

1. Клиент и сервер договариваются о настройках соединения.

2. Client sends initial request for data. In HTTP, this would be a GET. The server will respond with data.

3. Server will send a FIN, informing the client that all data has been sent.

Установка TCP-соединения (3-Way Handshake)• Почему это важно?

– Установка правильной связи с использованием порядковых номеров и подтверждений

– Обе стороны принимают соглашение об опциях соединения (WS, MSS и SACK)

• Какие проблемы?– TCP Slow Start

– Slow Start и congestion avoidance постоянно меняют скорость отправки пакетов

– Denial of Service Attacks– TCP может использоваться для отправки пакетов, перегружающих

систему (SYN Flood)

Традиционные балансировщики и TCP

InternetClients ServerLB

Клиент отправляет TCP SYN на LB LB отправляет пакет на Web-ферму

TCP-соединения от клиента к серверу

NetScaler и TCP-соединения

InternetClients ServerNS

Клиент отправляет TCP SYN на NS NS отправляет свой SYN на ферму

NetScaler в виде TCP Proxy

Традиционные балансировщики vs. NetScaler

InternetClients ServerNS

Соотношение клиентских и серверных соединений – 1:1 у традиционных балансировщиков

NS проксирует TCP-соединения, клиент и сервер полностью разделены; this allows a NetScaler to Multiplex and Reuse server side TCP Connections.

Many Client Connections to 1 Server Side Connection N:1

Customer Server Offload Attained Other Benefits

dRemate 50% • Improved response time by 110%• 40% savings on mgmt. costs

LiveNation 50% • Capacity to support 100X traffic spikes

SINA 66% • Significant decreases in application latency and mgmt. costs

Transport for London 95% • 10X improvement in application performance

• 60% reduction in application latency

Userplane 87% • Estimated $390K savings in capital investment

Application Availability

Traditional Load Balancing

InternetClients NS

LB Algorithms:• Least conns.• Least bandwidth• SNMP (CPU, RAM, etc.)• etc.

Health Checks:• TCP, UDP• HTTP, HTTPS• App level checks

Server

Pool

L7 Content Switching

InternetClients NS

LB Algorithms:• Least conns.• Least bandwidth• SNMP (CPU, RAM, etc.)• etc.

Health Checks:• TCP, UDP• HTTP, HTTPS• App level checks

Server

Pool

Server

Pool

Content Switch

L7 Content Switching

InternetClients NS

Server

Динамический(asp, cgi, etc.)

Server

Статический (html, jpg, etc.)

Content Type

Оптимизированные пулы для разного типа контента

L7 Content Switching

Server

Server

URL

Оптимизированные пулы для разного контента95% запросов

5% содержимого

5% запросов95% содержимогоInternetClients NS

L7 Content Switching

Server

Ботнеты,спайдеры и т.п.

Server

Пользовательскийтрафик

Source Info

Разные уровни сервиса разным клиентам

InternetClients NS

B2C

B2B

NetScaler GSLB

P2P

Site B

Site A

Как работает GSLB?1. Клиент производит DNS-запрос

What site should I go to?

2. NetScaler возвращает IP наиболее доступного ЦОД

Go to site number 3.

3. Клиент соединяется с указанным IP

Site 1

Site 2

Site 3

Варианты выбора политики доступа• Round Robin

Взвешенный или невзвешенный• Географическая близость

– Статическая или динамическая• Уровень нагрузки• Пользовательские политики• Disaster Recovery

автоматический или ручной перенос нагрузки• На базе сохранения сессии

GSLB Static Proximity• IP локального DNS определяет его географическое

расположение.• Стандартные базы данные определяют ближайший

балансировщик• В георгафическом контексте имеются следующие обозначения:

“Continent”, “Country”, “State”,“City”, “ISP”. Organization”

• LDNS IP может подходить под несколько политик• Предлагается VIP с наилучшим набором параметров• Сайты в том же ЦОД балансируются по взвешенному Round Robin

GSLB Static Proximity - Supported Formats– NetScaler format– IP-country– IP-country-isp– IP-country-region-city– IP-country-region-city-isp– GeoIP-country– GeoIP-region– GeoIP-city– GeoIP- organization– GeoIP -isp– GeoIP-city-isp-organization– Custom database (User defined qualifiers)

GSLB Communication b/w NetSclaers Простой мониторинг• Only State (Up/Down) is learned• Status is assumed to be equally good• Each DNS query gets the IP address of various participating GSLB sites in a round robin

fashion.• Insecure mode of Communication

MEP (Metric Exchange Protocol)• NetScaler internal protocol to exchange state and health information over a TCP session• Connection establishment involves a secure RPC method• Data is sent in an non-encrypted manner• DNS queries get best suited response based on configured algo and information gathered

through MEP

GSLB Dynamic Decision Methods• RTT (Round Trip Time)• Least Connections• Least (Server) Response Time• Least Bandwidth• Least Packet• Source IP Hash

Partners

Customers

Lines of Business

• Make sure the right users get appropriate capacity

• Плохие ничего не получат• Ни один отдельный пользователь не

нагрузит сервер• Встроено в ядро NetScaler• Работает со многими модулями

Spiders, botnets,

scrapers, etc.

NetScaler 9: AppExpert Rate Controls

AppExpert Rate Controls

User(s)

• IP Address• IP Range/Subnet• Cookie• Wildcards• Любой

заголовок или данные…

Object

• IP сервера• URL/URI• Рисунок• Файл• Любой

заголовок или данные…

TimeRate

• Запросы• Пакеты• Полоса

• Измеряется в мсек.

• Ограничения• Выполнить

политику• Responder• Rewrite• Cache• и. т. д.

• Alert• Log• Trap

Actionü

Изолирование критичных объектов

Application Acceleration

Application Acceleration

InternetClients ServerNS

Acceleration • TCP Optimization• Web Compression• Cache (both Static Content and Dynamic)

Сжатие HTTP

Зачем сжимать данные HTTP? Меньше пакетов проходят по сети Быстрее ответ приложения

• Большинство веб-контента хранится несжатым• Все броузеры поддерживают сжатие GZIP

– Совершенно прозрачно для пользователей– Решение о сжатии принимается на основе заголовка User-Agent– Политика NetScaler определяется по User-Agent и MIME-Type

• Обычное сжатие – в интервале от 3:1 до 5:1 • Сжатие данных на скоростях до 6 Gbps

Динамическое кэширование

без NetScaler с NetScaler

10,1

4

5,22

2,04

6,41

1,3

1,1

0,22

0 2 4 6 8 10 12

Oracle Forms

Siebel CRM

SAP

SharePoint

With NetScaler

Without NetScaler

NetScaler ускоряет доставку до пользователя

Response Time in Seconds

Продуктовая линейка NetScaler

Solutions for Any Size Business

12000: 6 Gbps

10000: 4.8 Gbps

9000: 3 Gbps

7000: 600 Mbps

MPX: 15 Gbps

500 Mbps150 Mbps

SingleSingle

21

2U1U

3 Gbps600 Mbps

4x - 10/100/1000; or4x – GB Fiber

6x - 10/100 & 2x - 10/100/1000

44004400 Max.

125K50K

400 Mbps150 Mbps

2GB1 GB

SSL Encrypted Throughput

Processor

Power Supplies

Size

System Throughput

Network Interface Support

HTTP Requests per Second

HTTP Compression Throughput

Memory

90107000

SSL Transactions per Second

Citrix NetScaler Medium Enterprise Platforms

3 Gbps760 Mbps

DualSingle

22

2U2U

5.5 Gbps4.8 Gbps

8x Fiber/Cu GB SFP, or8x Cu GB SFP; or4x Fiber & 4x CU SFP; or2x10GE & 8x10/100/1000

4x - 10/100/1000 &4x – GB Fiber

8800

275K250K

1.3 Gbps555 Mbps

4GB4GB

SSL Encrypted Throughput

Processor

Power Supplies

Size

System Throughput

Network Interface Support

HTTP Requests per Second

HTTP Compression Throughput

Memory

1200010010

SSL Transactions per Second 28,000+

MPX 15000 MPX 17000

2

2U

2

2U

6 Gbps

Dual (4 cores)

15 Gbps

350K+

6 Gbps

16GB

48,000

6 Gbps

Dual (8 cores)

15 Gbps

6 Gbps

32GB

48,000

350K+

4x 10G Fiber XFP or

2x 10G Fiber XFP +8x CU SFP 10/100/1000

2x 10G Fiber XFP +8x CU SFP 10/100/1000

Citrix NetScaler Large Enterprise Platforms

• http://angdemo.citrix.com/• http://hqfastapps.com• nshadrin@citrix.com