The Jikes Research Virtual Machine

Jikes - Research Virtual Machine

Divino Cesar S. Lucas

Universidade Estadual de Campinas

27 de Novembro de 2012

Divino Cesar S. Lucas (UNICAMP) Jikes - Research Virtual Machine 27 de Novembro de 2012 1 / 31

Sumario

1 Introducao e Preliminares

O que e Jikes RVM?Maquina Virtual Meta-circularTecnica de EmulacaoFormacao de Regiao e Code CacheRepresentacao Intermediaria

2 Adaptive Optimization System

Visao Geral do SistemaVirtual ProcessorsOtimizacao Seletiva e AdaptativaInlining Adaptativo

3 Analise de Desempenho

4 Conclusoes

5 Perguntas

Sumario

4 Conclusoes

5 Perguntas

Sumario

4 Conclusoes

5 Perguntas

Sumario

4 Conclusoes

5 Perguntas

Introducao

Parte 1Introducao e Preliminares

Introducao

O que e Jikes RVM?

Maquina Virtual Java desenvolvida pela IBM.

Anteriormente conhecida como Jalapeno.

Com proposito apenas de pesquisa.

Escrita em Java. E uma MV meta-circular.

Disponıvel para IA32 e PowerPC.

SIGPLAN 2012 Award: Mais de 200 artigos, 40 dissertacoes e 25cursos em mais de 100 universidades.

Maquina Virtual Meta-circular

RVM JavaSource

JavacRVM JavaBytecode

BootWriter

BootRunner

RVMProcess

RVM Kernel Bytecode

RVM Subsystems Bytecode

RVM Kernel

Binary

Tecnica de Emulacao

Nao utiliza interpretacao.

Multiplos nıveis de otimizacao.

Multiplas threads de compilacao.

Modelo de otimizacao adaptativa.

A compilacao pode ocorrer em tres situacoes:1 No carregamento da classe.2 Na primeira invocacao do metodo.3 Quando o subsistema de otimizacao achar lucrativo.

Tecnica de Emulacao

Compiladores e Otimizacoes

Baseline CompilerObjetivo: gerar codigo nativo rapidamente.Traduz Bytecode diretamente para codigo nativo.Nao faz alocacao de registradores.

Optimizing CompilerPossui de tres nıveis de otimizacao.Todos os nıveis usam linear-scan (aloc. reg) e BURS (sel. instr).Level 0:

Constant, type, non-null e copy propagation.Constant folding, arithmetic simplification, branch optimizationsDead code elimination e trivial inlinings.

Level 1:Algumas otimizacoes do Level 0.Inlining agressivo (type hierarchy analyzis)

Level 2:Loop Optimizations (unroll e normalize)SSA-based flow-sensitive optimizations (GVN, GCSE, etc).

Tecnica de Emulacao

Custos e Speedups

Compilador Taxa de Compilacao* Speedup**Baseline 909.46 1.00Level 0 39.53 (23x) 4.03Level 1 18.48 (2.13x) 5.88Level 2 17.28 (1.06x) 5.93

*Taxa de Compilacao = Bytecode por milissegundos.**Valores normalizados em relacao ao compilador Baseline.

Tecnica de Formacao de Regioes

Nao forma tracos nem super blocos.

Compilacao e por metodo.

Nao utiliza cache de codigo.

Usa objeto para representar as informacoes do metodo.

Stubs sao inseridos para chamadas de metodos ainda nao compilados.

Objeto Metodo. RVMMethod.java

Objeto Metodo. CompiledMethod.java

Representacao Intermediaria

Java Bytecode

Jikes High-level IR (HIR)

Representacao de tres enderecos.Operacoes similares as de Bytecode.

Jikes Low-level IR (LIR)

Usa recursos especificos da Jikes (ex: modelo de objetos).

Jikes Machine-level IR (MIR)

Inclui detalhes da maquina alvo.Similar a linguagem de montagem.Nıvel onde e feita a alocacao de registradores.

Adaptive Optimization System

Parte 2Adaptive Optimization System

Visao Geral

Objetivos:

Selective and Adaptative Optimization

Quais metodos devem ser compilados?Com qual nıvel de otimizacao?Em que momento durante a execucao?

Feedback-directed Inlining

Fazer o inlining de hot edges do DCG (Dynamic Call Graph).

Extensıvel e Flexıvel

Visao Geral

Objetivos:

Visao Geral

Objetivos:

Yeld Points e Virtual Processors

Uma thread pode ser interrompida somente em um destes pontos:

Em um prologo de metodo.

Em um epılogo de metodo.

Em uma backedge.

Virtual Processors tem “stop bit” para ativar troca de contexto.

Modelo de Custo. Definicao.

Seja:M um conjunto de metodos eα = {Am

j |0 ≤ j ≤ k,∀m ∈ M} um conjunto de acoes, onde:Amj significa compilar metodo m com nıvel de otimizacao j .

Consideramos as funcoes:C (Am

j ) = Custo da acao Amj .

T (Amj ) = Tempo de execucao futuro de m se Am

j for executada.

Para cada metodo m:escolha a acao Am

j que minimiza C (Amj ) + T (Am

j for executada.

Modelo de Custo. Implementacao.

Definimos as funcoes:C (Am

j ) = f (tamanho(m))

T (Amj ) = σ(m)δSi

Onde:σ(m) = Numero de amostras do metodo m.δ = Tamanho do intervalo entre amostras.σ(m)δ = Tempo (estimado) que m executou.

Tempo (estimado) que m executara!SiSj

= Speedup do nıvel j em relacao ao nıvel i .

Tempo (estimado) que m executara!

Tempo (estimado) que m executara!SiSj

Arquitetura

Decay Organizer

DynamicCall Graph

Adaptive InliningOrganizer

Call EdgeSamples

Method SampleData

Hot MethodsOrganizer

MethodSamples

Priority Queue

Controller

KnowledgeRepository

Priority Queue

Compilation Thread

Baseline, Opt0,Opt1, Opt2

ExecutingCode

Amostragem

Decay Organizer

DynamicCall Graph

Call EdgeSamples

Method SampleData

MethodSamples

Priority Queue

Controller

KnowledgeRepository

Priority Queue

Compilation Thread

ExecutingCode

Detecao de Metodos Quentes

Decay Organizer

DynamicCall Graph

Call EdgeSamples

Method SampleData

MethodSamples

Priority Queue

Controller

KnowledgeRepository

Priority Queue

Compilation Thread

ExecutingCode

Controlador

Decay Organizer

DynamicCall Graph

Call EdgeSamples

Method SampleData

MethodSamples

Priority Queue

Controller

KnowledgeRepository

Priority Queue

Compilation Thread

ExecutingCode

Compiladores

Decay Organizer

DynamicCall Graph

Call EdgeSamples

Method SampleData

MethodSamples

Priority Queue

Controller

KnowledgeRepository

Priority Queue

Compilation Thread

ExecutingCode

Adaptative Inlining

Decay Organizer

DynamicCall Graph

Call EdgeSamples

Method SampleData

MethodSamples

Priority Queue

Controller

KnowledgeRepository

Priority Queue

Compilation Thread

ExecutingCode

Analise de Desempenho

Parte 3Analise de Desempenho

Metodologia

Experimentos realizados com o SPECjvm98.

Training Set significa benchmarks com entrada “100”.

Production Set significa benchmarks com as demais entradas.

Experimentos realizados em uma maquina com um processador.

Resultados sao da mediana de 10 execucoes.

Constantes obtidas utilizando o Training Set.

Potencial da Abordagem Seletiva

Potencial da Abordagem S. Baseada em Modelo

Potencial da A. S. com Multiplos Nıveis

Conclusoes

Parte 4Conclusoes e Perguntas

Conclusoes

Robusta abordagem dinamica para compilacao seletiva.

AOS adapta-se melhor a diferentes cenarios/benchmarks.

Projeto robusto e “facil” de expandir.

Perguntas?

The Jikes Research Virtual Machine

Technology

AMD Secure Virtual Machine Architecture Reference Manualvincent/lecture6/sources/amd-pacifica... · Secure Virtual Machine Architecture Reference Manual ... Virtual Machine Architecture

Máquina virtual de Java multi-aplicación - UCM · 2014. 2. 6. · máquina virtual que se utiliza en el proceso de compilación de Jikes RVM, aunque este paso sólo es necesario

Port of the Java Virtual Machine Kaﬀe to DROPS by using L4Envos.inf.tu-dresden.de/papers_ps/boettcher-beleg.pdf · The Jalapeo project [Alpern et al.] was renamed to the Jikes Research

Dalvik Virtual Machine Vs Java Virtual Machine

Virtual Machine Services

Virtual machine survey

Virtual Machine Checkpointing

Virtual Machine Lifecycle

HipHop Virtual Machine

Java virtual machine

Virtual machine

Virtual Machine Technology

Jikes Research Virtual Machine Design and Implementation ...darko/papers/kyrylkov-ms-thesis.pdf64-bit computing, contrasted with 32-bit computing, can in general be characterized by

Virtual Machine Performance

Virtual Machine Services: An Opportunity for Hardware ... · Virtual Machines (Jikes RVM and Oracle JDK) and DaCapo Java Benchmarks [10]. We choose Java because it has mature VM technology

Android Virtual Machine

CNC virtual machine

TOWARDS A UNIVERSAL VIRTUAL MACHINE - …...TOWARDS A UNIVERSAL VIRTUAL MACHINE John Rose Lead Engineer, Multi-Language Virtual Machine Sun Microsystems 2 Overview • The Java Virtual

CLONING A VIRTUAL MACHINE IN WINDOWS … A VIRTUAL MACHINE IN "WINDOWS VIRTUAL PC" HIGH-LEVEL EXECUTIVE SUMMARY: In "Windows Virtual PC", you cannot copy a virtual machine directly

Forcepoint Sidewinder, Virtual Appliance€¦ · Virtual machine networking Virtual machine networking is defined using virtual switches and port groups. • Virtual switch (vSwitch)