애플리케이션모니터링 소개자료e1%84%8b%e1%85...수집서버, 웹화면을구축해야하지만와탭의모니터링서비스는수집서버는공유하되, 각서비스의독립성을지켜주는구조로만들어졌습니다

2019.04.24

애플리케이션모니터링

소개자료

(주)와탭랩스

목차

1. 회사소개

2. 제품개요

3. 애플리케이션모니터링주요기능

4. URL 모니터링

5. 주요고객

Chapter

회사소개

01.

회사개요

1. 회사소개

GS 1등급인증 마크

Cloud Service인증 마크

WhaTap은 통합 IT 환경에

최적화된클라우드 선두주자입니다.

년도 월 내용

2015 1월 SMS 모니터링서비스오픈

7월 와탭랩스회사 설립

2016 11월 Java Application Monitoring 서비스오픈

K-Global DB-Starts대상수상

클라우드서비스인증

12월 ICT 유망 300 기업선정

2017 2월 GS 인증

4월 Node.js Application Monitoring 서비스오픈

8월 Server Monitoring 서비스오픈

9월 PHP Application Monitoring 서비스오픈

11월 Python Application Monitoring 서비스오픈

2018 3월 DB Monitoring 서비스오픈

2019 4월 URL Monitoring 서비스오픈

6월 Kubernetes Monitoring 서비스오픈

와탭랩스는2015년7월에설립된 IT 모니터링전문기업으로15년1월Server 모니터링서비스(SMS) 오픈이래

JAVA, Node.js, PHP, Python Application Monitoring 과Server Monitoring, Database Monitoring를지속적으로런칭하여모니터링영역을확대해나가고

있습니다.국내최고의성능분석전문가들이모여설치형모니터링서비스의한계를뛰어넘는클라우드기반모니터링서비스를운영하고있습니다.

사업분야

1. 회사소개

서비스형태모니터링 설치형태모니터링 성능관리컨설팅

모니터링분야에전념하고있으며, 독보적인모니터링기술로기존모니터링제품이해결하지못한문제들을해결하며우수성을인정받고있습니다.

2016년한국클라우드서비스품질인증을받아퍼블릭클라우드모니터링서비스를운영중이며, 운영중인상용솔루션을고객인프라에구축도가능합니다.

Chapter

제품개요

02.

“애플리케이션이인프라와비즈니스에어떠한영향을주는지복합적인분석필요”

IT환경의변화와모니터링

IT 에서의모니터링이란

서비스나앱을런칭하거나, 신규제품이소비자에게공급된순간부터어디서무슨일이왜일어나는지를파악하고, 어떤영향을주고있는지를분석하는일련의과정

2. 제품개요

전통적인 IT환경

인프라 시스템다운 체크

단위 업무서비스 분석

단위 업무별애플리케이션

서버, 네트워크장비등의 인프라시스템

최신 IT환경

애플리케이션이인프라와비즈니스에

어떠한 영향을주는지 복합적인분석 필요

빠른 개발기간, 잦은 배포

애플리케이션,서비스를 구성하는요소들이

점점 복잡하고다양화 MSA

다양한 구축환경

(VM, Container, Docker, Redis etc.)

클라우드 도입

와탭키워드

2. 제품개요

Cloud 서비스 Multi-region

Scalable server

Multi-tenant

Co-working

Security

PerformanceManagement

Multi-language

타사설치형제품

데이터센터 /클라우드

service

수집서버

고객(개발/운영자)

모니터링서비스를위한구조

와탭은단일고객, 단일업무를위한모니터링이아닌여러회사, 여러업무, 여러팀을통합모니터링하기위한서비스입니다. 기존제품은모니터링대상별로별도의

수집서버, 웹화면을구축해야하지만와탭의모니터링서비스는수집서버는공유하되, 각서비스의독립성을지켜주는구조로만들어졌습니다.

통합관리를하기위해데이터수집서버는유연한확장구조여야하고,멀티테넌트기능을제공해야합니다.

2. 제품개요

• 통합모니터링, MSA 지원, DevOps, Co-Working Monitoring• 단위업무모니터링, 전문운영팀, 지표및알림제공

와탭모니터링서비스

데이터센터 /클라우드

service

통합수집 서버

고객(개발/운영자)와탭

전문가지원

서버에이전트

와탭의구성

와탭은 Infrastructure(서버) 시스템과 Java, Node.js, PHP, Python Application(애플리케이션)과데이터베이스의성능을“모니터링하는서비스”입니다.

근래 IT 환경은서버의복잡도가증가하고, 여러개의언어로개발된애플리케이션들이혼재되어서비스되는경우가빈번합니다.

이런특징들을효율적으로대처하기위해서버모니터링과언어별애플리케이션모니터링그리고데이터베이스모니터링으로제품라인업을구성하고있으며,

세가지제품은동일한아키텍처에서동작하도록설계하였습니다.

2. 제품개요

TCP/AES

구분 항목 설명

Agent

Java • IP 기반사용자추적

• SESSIONID 기반사용자추적

• 커스텀헤더 기반사용자추적

• 트랜잭션 URL 패턴정규화

• 트랜잭션 URL 패턴등록

• 에이전트 다운감지

• 프로파일 hooking 패턴지정

• SQL 호출스택프로파일링

• HTTP 호출스택프로파일링

• SQL 파라메터수집(암호화기반)

• HTTP 파라메타수집(암호화기반)

Node.js

PHP

Python

DB

Infrastructure

Server

Yard

• 데이터 수집서버

• Proxy Server로부터데이터를수집하

고 데이터 용량에따라 Scale out 되는

구조

Web Front

• Web Service Server

• 사용자가접속하는서버이며

여러 사용자 (관리자, 개발자, 사업담당자)

의 동시접속이가능

Server

• Agent는Proxy 서버의대표 IP를바라보는형태로되어있어수집서버(Yard) 증설시별도의에이전트단변화없음

• Proxy는Single로구성할수도있고안정성을위해이중화또는삼중화구성가능

Scalable & Stable 수집서버아키텍처

증가하는관리(모니터링) 대상서버를원활히수용하기위해서는모니터링서버는내부확장성을가져야합니다. 확장성보장을위해와탭모니터링서버는세분화된

경량서버애플리케이션으로구성되어있으며, 결합도가낮은분산환경입니다. 또한데이터안정성을보장을위해이중화및데이터복구기능을지원합니다.

2. 제품개요

• Yard : 데이터저장소

• 저널 : 데이터복제백업

Proxy 서버의대표 IP 방화벽설정후에이전트증가에따른 추가방화벽작업이필요없음

수집서버는게이트웨이서버를 통해데이터가나가기때문에별도로 Front 서버와의방화벽작업필요없음

증가

Yard 증가, 수집서버영역늘어가게표현

에이전트 에이전트 에이전트 에이전트 에이전트 에이전트 에이전트

마스터1 마스터2 저널

Azure도쿄

아마존서울

여러지역의통합모니터링(멀티리전)지원

와탭모니터링서버는리전의개념으로구성되어있어추가 IDC 센터 / 별도의클라우드서비스이용시리전구축만으로별도의데이터손실/다운타임없이수집서버를

확장할수있습니다. 이는여러 IDC에시스템을분산해서구축되어있거나, 여러해외지사를둔기업에최적의구조입니다.

2. 제품개요

유레카 웹프론트 서버

개발자/운영자

개발자/운영자

에이전트

에이전트

에이전트

A사개발팀 B사운영팀 C사개발팀 D사운영팀

• 중앙서비스관리자가직접그룹또는프로젝트의권한관리를하지않고,각그룹또는프로젝트의소유자가권한을관리하는구조

• 그룹또는프로젝트에관리자여러명지정가능. 초대기능활용을통해관리자는관리자및일반사용자초대/보기권한추가가능

• 여러개의조직들의통합모니터링시,사이트관리자밑에프로젝트관리자와일반사용자를설정가능

여러사용자를통합관리(멀티테넌트)지원

여러회사의시스템을통합모니터링하게되면한사람의관리자가각사용자의권한관계를총괄할수없습니다.

다중사용자에대한관리수준이권한관리수준을넘어테넌트관리수준이되어야합니다.

멀티테넌트환경에서는최상위관리자라도개별시스템의파라미터를조회해서는안됩니다.

2. 제품개요

: 관리자

: 사용자

:프로젝트소유자와탭클라우드모니터링시스템

멀티리전& 멀티테넌시예시

2. 제품개요

A본부 / Tokyo B본부 / Seoul

운영팀

독립성 제공

사용자정의통합대시보드

개발팀별, 운영팀별사용자니즈에따라목적별로통합대시보드를구성하여프로젝트들에들어가는정보들을커스터마이징가능합니다.

2. 제품개요

• A본부정의대시보드예시

• 주요Application 프로젝트로구성

• B본부정의대시보드예시

• 주요서비스Application과인프라프로젝트로구성

와탭모니터링서비스를설치

기존의On-Premise 모니터링솔루션을구축하신경우, 고객사에서직접상황을파악하고분석해야합니다. 분석이어려울경우외부성능컨설턴트에게분석작업을

의뢰하여추가적인시간과비용을소비해야합니다.

하지만, 와탭에서는와탭성능분석전문분석팀과의협업서비스를제공하여고객사의시스템을정밀진단해드립니다.

2. 제품개요

서비스형태모니터링

와탭전문가와의협업

세밀한성능분석

설치형태모니터링

와탭모니터링서비스그대로 On-premises 구축그대로구축

Chapter

Application Monitoring 주요기능

03.

주요기능

Application Monitoring은실시간으로트랜잭션을모니터링하고, 특정시점을지정하여분석할수있는기능을제공하고있습니다.

운영의편리성을높이기위해리포트기능을강화하였고, 운영자가선호하는알림수단을선택할수있습니다.

3. Application Monitoring 주요기능

지원언어

실시간모니터링 트랜잭션 분석 사후 분석 통계 관리 리포트

• 실시간트랜잭션현

황

• 응답시간 분포도

(Hitmap)

• 서버현황

• Realtime User

• 트랜잭션현황

• 리소스 현황

• 트랜잭션프로파일링

• 스택분석

• 멀티트랜잭션 트레이스

(연계추적)

• 응답시간분포도

(Hitmap)

• SQL 추적

• HTTP Call 추적

• Cube 분석

• 스택 분석

• Performace Trend 분석

• 응답시간분포도

(Hitmap)

• 에러 통계

• Transaction

• Error

• SQL

• Remote HTTP Call

• Client IP

• 브라우저 통계

• Agent 실행방식

• 개발/운영환경분리시, 지

원

• 알람설정

• 알림전달수단설정

• Daily Report

• Daily Application

Check

• Weekly Report

• Monthly Report

대시보드

기본적으로대시보드는쉽고빠르게이해할수있어야하므로정보를시각적으로유지하는것이중요합니다.

와탭대시보드는진행중인트랜잭션과종료된트랜잭션정보를실시간으로업데이트하고, 시각화된차트를제공하여서비스및시스템의정확한현재상태를

운용자에게직관적으로인지시킬수있습니다.


진행중인

트랜잭션분석

종료되지 않은

트랜잭션을

실시간 모니터링

실시간리소스현황

한눈에볼수있는

실시간 TPS, 응답시간, CPU,

Memory, User 정보제공

종료된트랜잭션

실시간업데이트

최신의 데이터

자동업데이트및

기간별 이력/통계

데이터제공

항상최신데이터

자동업데이트

최신의 데이터

자동업데이트하여

실시간모니터링

서비스 제공

통합대시보드

통합대시보드를구성하여프로젝트들에들어가는정보들을구성및커스터마이징가능합니다.

사용자니즈에따라목적별로대시보드화면을구성합니다.


토폴로지개요

와탭은3가지유형의애플리케이션토폴로지를제공합니다.

프로젝트범위에서는애플리케이션간관계정보를표현하는애플리케이션토폴로지, 애플리케이션그룹간관계정보를표현하는그룹토폴로지를제공합니다.

다중프로젝트그룹간관계정보는통합토폴로지로제공합니다.


그룹

그룹 타프로젝트 그룹

타프로젝트 그룹

호출정보애플리케이션애플리케이션

애플리케이션 그룹 애플리케이션 그룹

프로젝트

애플리케이션

호출정보

프로젝트

호출정보

애플리케이션

와탭의 애플리케이션관리 구조 토폴로지 표현개요

토폴로지표현정보

토폴로지는애플리케이션및애플리케이션그룹의호출관계와데이터베이스및HTTP 아웃바운드호출정보를포함한구조를제공합니다.


애플리케이션

및그룹

프로젝트, 애플리케이션 그룹, 애플리케이션, 데이터베이스,

HTTP 호출대상 외부 호스트, 외부모듈(애플리케이션 호출자)

호출정보

애플리케이션및그룹간호출정보

• 평균 응답시간 - 5초간의 노드 간 트랜잭션 또는 호출 내역의 응

답시간 합계를 총 건수로 나눈 정보

• 건수 - 5초간의 노드 간 트랜잭션 또는 호출 내역의 총 건수 (에러

건수를 포함)

• 에러 - 5초간의 노드 간 트랜잭션 또는 호출 내역 중 총 에러 건수

• 액티브TX - 노드 간 트랜잭션 또는 호출 중 현재진행 상태의 건

수

• 패치 시간 - 5초간의 DB 호출 내역의 레코드취득 시간총합

• 패치 건수 - 5초간의 DB 호출 내역의 레코드취득 건수총합

애플리케이션토폴로지

토폴로지

통합토폴로지를통해복수프로젝트의다수의애플리케이션그룹을프로젝트단위로군집하여표현합니다.


통합 토폴로지

진행중인트랜잭션모니터링–아크이퀄라이저

아크이퀄라이저는인스턴스수만큼의아크로분할되어진행중인트랜잭션의수를보여줍니다.아크를클릭함으로진행중인트랜잭션의상세정보를확인할수

있습니다.


원의분할은 App Process 갯수

외곽애니메이션 : TPS > 0

빨간색은성능장애를의미

진행중인트랜잭션모니터링–액티브스테이터스

모든액티브트랜잭션의진행상태를5가지상태로구분하여보여줌으로지연구간을빠르게식별할수있도록도와줍니다.


상태 설명 위험

METHOD 내부로직을수행중인상태 하

SQL DB에 SQL을수행중인상태 중

HTTPC 외부 Http 요청 중인상태 중

DBC DB Connection Pool에서 get한 상태 상

SOCKET 외부에 Socket Connect 중인상태 상

• DB Connection Pool 에서Connection을획득하면서지연이되면DBC상태값이올라갑니다.SOCKET 연결시,지연이발생하면SOCKET상태값이증가

합니다. 이둘은일반적으로는0으로나타나야합니다.값이지속적으로올라간다는것은장애가발생중일가능성이있습니다.그래서빨간색으로표시합니다.

• SQL이나HTTC는외부에요청을보낸경우입니다.일반적으로는트랜잭션은이부분에서지연이발생합니다.

• 위의4가지상태외의 내부모든상태는METHOD로상태가판단됩니다.액티브트랜잭션의상태가METHOD인경우는정상으로간주됩니다.

• 액티브트랜잭션을상세하게리스트업하지않고도성능지연의위치를빠르게판단할수있습니다.

트랜잭션모니터링–응답시간분포도(Hit Map)

개별트랜잭션의응답시간과종료시간을기준으로전체트랜잭션의분포를표현함으로느린트랜잭션에대한선택적분석이가능합니다.

와탭응답시간분포도는장시간데이터를조회하는유리합니다.


SQL

NoSql

OPEN SOCKET

FILE

CONN

Transaction Profile Data

a.jsp

b.jsp

z.jsp

하나의Square는

시간 별트랜잭션 수행건수를 의미합니다.

• X축: 시간 / Y축: 트랜잭션완료까지의소요시간

• 정상트랜잭션: 청색계열

• 에러트랜잭션: 적색계열

• 해당시간대에기록된트랜잭션밀도가높을수록짙은색상(하늘색-> 청색 / 노란색-> 적색)

종료시간고정값 (5초)

패턴기반트랜잭션분석

와탭의응답시간분포도(히트맵)를통해종료된트랜잭션의상태를체크할수있습니다.


히트맵

원하는 트랜잭션을드래그하여선택하면

해당트랜잭션의내용을분석할수 있습니다.

• 히트맵의상태분석

- 트랜잭션의패턴을분석하여직관적으로문제의

원인을파악할수있습니다.

• 세로라인경고

- 동시에여러트랜잭션들이 Time Out 되면세로

라인패턴이발생됩니다.

- 와탭모니터링은이런패턴을인식하여알림경고

를발생합니다.

폭포수현상조회 건수에따른응답지연

초기화에의한병목 폭주와 장애

응답분포도를통한병목분석


•동일인스턴스?•동일서비스(URL)?•동일클라이언트 IP?

•동일 SQL?•동일구간?

트랜잭션분석– Static / Dynamic Transaction Profiling

애플리케이션의성능문제를해결하기위해서는메소드레벨의성능분석이필요합니다.

일반적인Static/Dynamic 트랜잭션프로파일링방법에서는의심되는메소드를선별할수없는한계가있습니다.


사용자 블라인드영역

기존프로파일방식으로는

분석이어렵습니다.

와탭은스냅샷 분석으로

블라인드 영역의병목을찾아줍니다.

트랜잭션분석–Dynamic Profiling의한계를극복하는스냅샷분석

애플리케이션의성능문제를해결하기위해서는메소드레벨의성능분석이필요합니다.

기존의타사트랜잭션프로파일링분석방법에서는의심되는메소드를선별할수없는한계가존재합니다.

와탭의스냅샷프로파일분석(특허보유)은10초주기로수집된스택들을통계화하여문제가유발될가능성높은부분을자동으로찾아줍니다.


타사프로파일분석

의심되는

메소드지정스택 덤프 스택 단순조회

와탭스냅샷프로파일분석

10초 주기

스택 덤프(자동)

Tree 구조의통계화된

스택 분석자료

*액티브스택 기술특허번호 : 10-1828156-0000

사후분석 -큐브분석

시점별로관련성능데이터를 한번에조회해볼수있는기능입니다.Cube는1일을5분구간으로분할하여288개의Cube 단위통계로실시간사용자, 국가별접속,

Hit Map 트랜잭션, TOP 트랜잭션, TPS, 응답시간, 자원사용정보를제공합니다.


사후분석 - Trend 분석

TPS, 응답시간, CPU 사용량, 트랜잭션URL, SQL 등의추세를한눈에파악할수있습니다. 애플리케이션의최근상태를집약적으로파악하는데최적화하였습니다.


통계 -트랜잭션통계

트랜잭션통계에서개별URL에대한일간추세및

평균응답시간을파악할수있고, 상세프로파일정보와스택분석을통한연관분석이가능합니다.


프로파일 + Active Stack

스택 TOP LINE통계 = Top Stack

동일스택통계 = Unique Stack

통계 -에러, SQL, HttpC


에러 SQL HTTP Call

프로젝트 B프로젝트 A

트랜잭션분석–멀티프로젝트트랜잭션연계분석

MSA기반으로프로젝트가구성되어있어도프로젝트간에트랜잭션의연계정보를추적할수있습니다.


사용자 File File

Transaction A Transaction B

Load Caller

Load Callee

어드민

트랜잭션분석–멀티프로젝트트랜잭션연계분석

프로젝트를복수개선택하여연관된트랜잭션을추적하며, 시작시간을기준으로자동정렬되어목록사이에추가됩니다.

다른플랫폼으로구성된애플리케이션서비스트랜잭션추적도가능합니다.


Table View

Chart View

리포팅 -사용자활동분석이가능한리포트

와탭은Daily, Weekly, Monthly 리포트를제공합니다. 특히Monthly Report 에서는MAU, DAU 정보를제공하고있어, 비즈니스지표로활용할수있습니다. 또한

리포트들을언제든지출력가능합니다.


관리기능 - Agent Update

대규모시스템을운용하는환경에서,웹을통해간단한조작만으로전체업데이트가가능합니다.


whatap.agent.tracer

Restart

########## WHATAP ############

WHATAP_HOME=/app/whatap/agent

WHATAP_JAR=`ls ${WHATAP_HOME}/whatap.agent.tracer-*.jar | sort | tail -1`

export JAVA_OPTS="-javaagent:${WHATAP_JAR}"

########## WHATAP ############

WhaTap

관리기능 - Agent Plug-in

사용자가원하는부가정보를획득하기위해플러그인기능을사용할수있습니다.

예를들어, 어떤메소드의파라미터를추적하거나Http Call에추가정보(Login id등)를전송하는목적으로사용될수있습니다.


• Http Service

• App Service

• Http Call

• Trace Helper

Plug Point

WhaTap Cloud

Plug in

Plug Point

Hot Pluggable

관리기능 - OPEN API

주요성능지표를Open API 을통해제공합니다. Auto Scale In/Out의지표로활용할수있습니다.


KEY 설명(5분)

tps 평균 TPS

rtime 평균 트랜잭션응답시간

cpu 평균 CPU

txcount 총 트랜잭션건수

actx 평균 액티브트랜잭션

host AP 서버개수

act_agent 실행중인 에이전트수

inact_agent 중단된 에이전트수

cpucoure 사용 중인 CPU 코어수

Chapter

URL 모니터링

04.

URL 모니터링

운영되는웹사이트의도메인접속이불가능한경우, 관리자가최대한빨리상황을인지할수있도록URL 기반의웹사이트정상접근이가능한지모니터링합니다.

주요URL을등록하고, URL별최소5초간격으로수집한모니터링데이터를다양한형태로가공하여사용자에게전달합니다.

4. URL 모니터링

데이터조회기능

실시간모니터링중인URL 중에서상태코드가정상(200)이아닌경우, 태코드가정상이지만경과시간이비정상적으로높은경우등이상현상을발견한경우즉시해당

원인을탐색할수있습니다.

4. URL 모니터링

이벤트알림

URL별알림이벤트를설정하여문자메시지또는이메일의형태로알림을제공받을수있습니다.

4. URL 모니터링

Chapter

주요고객

05.

주요고객

4. 주요 고객

1,000여개고객사가와탭을이용했습니다.

감사합니다.

Documents

애플리케이션모니터링 소개자료e1%84%8b%e1%85...수집서버, 웹화면을구축해야하지만와탭의모니터링서비스는수집서버는공유하되, 각서비스의독립성을지켜주는구조로만들어졌습니다