Recomendação de Conteúdo Baseada em Interações Multimodais
ORIENTADOR: PROFESSOR DR. MARCELO G. MANZATO
ARTHUR FORTES DA COSTA
Sumário
• Introdução
• Referencial Teórico
• Proposta
• Experimentos e Resultados
• Considerações Finais
• Contribuições
• Trabalhos Futuros
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP
Introdução
• A informação está disponível de maneira rápida, barata e disseminada
• Sistemas de Recomendação oferecem recomendações personalizadas baseada no perfil do usuário
• Os mecanismos de recomendação tradicionais utilizam:• Interações Implícitas
• Interações Explícitas
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 3
Introdução
Motivação: problemas e tendências relacionadas com as interações dos usuários
• Tendência da Web de permitir múltiplas interações dos usuários
• Os trabalhos presentes na literatura se restringem a um número limitado de interações• Exemplo: SVD ++ (Notas e histórico de visualização)
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 4
Introdução
Objetivo: desenvolvimento de um framework de recomendação baseado em interações multimodais
• Fornecer recomendações mais precisas
• Combinar diversos tipos de interações (pré processadas)
• Manter a escalabilidade do sistema
Figura 1. Interações de usuários
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 5
Referencial TeóricoInterações Multimodais
* Teve diversas extensões, como o gSVD++, proposto por Manzato (2013).
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 6
Autor(es) Ano Trabalho
Koren 2009 SVD++ (Notas e Histórico de visualização) *
Rendle et al. 2012 Factorization Machines – FM (Combina informações de usuários e itens)
Domingues et al. 2013 SR para o Last.fm (Histórico de visualização e etiquetas)
Referencial TeóricoCombinação (Ensemble)
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 7
Autor(es) Ano Trabalho
Jahrer et. al. 2010 Conjunto de técnicas de ensemble aplicadas à SR
Bar et al. 2013 Combinação de ranques (aprendizagem linear)
Petar el al. 2014 Combinação de ranques gerados por diversosrecomendadores
Referencial TeóricoRecomendadores Unimodais
•Utilizam um único ou um simples conjunto de tipos de interação para gerar recomendação:• Predição de Notas
• Recomendação de itens
• Recomendadores Unimodais utilizados no framework:• BPR MF (Bayesian Personalized Ranking) > Recomendação de itens
• SVD ++ (Singular Value Decomposition) > Predição de Notas
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 8
Referencial Teórico• BPR MF
• Consiste em fornecer classificação personalizada de itens para um usuário
• Apenas com interação implícita
• Considera itens positivos e negativos
Figura 2. Representação do algoritmo BPR MF.
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 9
Referencial Teórico• Aprendizado no BPR
Algoritmo 1. Algoritmo de aprendizado do BPR.
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 10
Referencial Teórico• SVD ++
• Utiliza tanto interação explícita, quanto a interação implícita do usuário
• Considera notas atribuídas por usuários e simula histórico de visualização
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 11
Onde N(u) é o conjunto de interações implícitas
Proposta
• Desenvolvimento de um framework capaz de gerar recomendações com base nas interações multimodais do usuário (Explícitas e Implícitas)
• Composto por 4 técnicas de combinação:• Baseadas em Heurísticas (Etiquetas e Médias)
• Baseada em Aprendizado
• Baseada em Grupos
• Módulos de validação e avaliação:• Protocolo All-but-one
• Prec@N e MAP@N
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 12
Proposta
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 13
Figura 3. Representação do Framework.
Exemplo de saída :
Usuário Item Score1 5 3.3242
Re
com
en
dad
ores
Proposta
• Técnica Baseada em Etiquetas
• Pondera quantidade de vezes que o item é retornado no ranques
• Atribui maior peso à interação do ranque de etiquetas
• Etiquetas demanda um maior esforço por parte do usuário
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 14
Proposta
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 15
Figura 4. Ilustração da execução da técnica baseada em etiquetas.
• Técnica Baseada em Etiquetas
Proposta
• Técnica Baseada em Médias
• Combina os resultados dependente da media de escores de cada interação
• Generalização para qualquer tipo de interação
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 16
Proposta
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 17
Algoritmo 2. Algoritmo da técnica baseada em médias.
Proposta
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 18
Algoritmo 2. Algoritmo da técnica baseada em médias.
Proposta
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 19
Algoritmo 2. Algoritmo da técnica baseada em médias.
Proposta• Técnica Baseada em Aprendizado
• Técnica na qual os parâmetros são aprendidos com base no comportamento de cada usuário
• Extensão do algoritmo de aprendizado do BPR
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 20
Proposta• Técnica Baseada em Aprendizado
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 21
Figura 5. Representação da Técnica Baseada em Aprendizado.
Re
com
en
dad
ores
Proposta
• Técnica Baseada em Grupos
• Etapa de pré-processamento para combinar usuários em grupos de acordo com suas similaridades
• Recomendação feita somente com os itens avaliados por cada grupo
• Utiliza técnicas de agrupamento de dados e cálculos de distâncias
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 22
Proposta• Técnica Baseada em Grupos
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 23
Figura 6. Representação da Técnica Baseada em Grupos.
Experimentos e Resultados• Realização de dois estudos em duas bases diferentes• Aplicação em em bases de dados real
• Verificar eficácia do framework
• Métricas de Avaliação: Map@N e Prec@N• Com validação cruzada em 10 folds
• Protocolo All-but-one
• Biblioteca de recomendação: MyMediaLite 3.10
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 24
Experimentos e Resultados
• Estudo 1: HetRec Last FM 2k
92.834 interações no histórico/ 186.479 etiquetas atribuídas/ 1.892 usuários/ 17.632 artistas
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 25
Figura 7. Representação da base considerando todas as interações.
Experimentos and ResultadosFigura 8. Gráfico MAP@N Para o Estudo 1.
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 26
Experimentos and ResultadosFigura 9. Gráfico Prec@NPara o Estudo 1.
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 27
Experimentos e Resultados
• Estudo 2: HetRec Movielens 2k
800.000 interações de notas/ 10.000 etiquetas atribuídas/ 2.113 usuários/ 10.197 filmes
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 28
Figura 10. Representação da base considerando todas as interações.
Experimentos and ResultadosFigura 11. Gráfico MAP@N Para o Estudo 2.
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 29
Experimentos and ResultadosFigura 12. Gráfico Prec@NPara o Estudo 2.
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 30
Considerações Finais
• Melhores resultados que os baselines
• Framework extensível e aplicavél em diversos domínios
• Resultados com valores baixos devido ao uso do Protocolo All-but-one
31RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP
Contribuições• Um framework de recomendação baseado em interações multimodais• Módulo de divisão de base
• Módulo de recomendação (4 técnicas)
• Módulo de validação e avaliação
• Integração mais rápida de novos usuários na comunidade
• Avanço no estado da arte de sistemas de recomendação
• Publicação dos resultados em conferências
32RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP
Contribuições• Fortes, C. A.; Manzato, Marcelo G; Domingues, Marcos A.; Rezende, Solange O. Improving Personalized Ranking in Recommender Systems with Multimodal Interactions. Web Intelligence (WI) and Intelligent Agent Technologies (IAT), 2014 IEEE/WIC/ACM International Joint Conferences on, v. 1, p. 198-204, 2014. Qualis A2
• Fortes, C. A.; Manzato, Marcelo G. Multimodal Interactions in Recommender Systems: AnEnsembling Approach. In: Brazilian Conference on Intelligent Systems, 2014, São Carlos, São Paulo. Brazilian Conference on Intelligent Systems (BRACIS 14). Los Alamitos: IEEE, 2014. QualisB1
• Fortes, C. A.; Manzato, Marcelo G. Ensemble Learning in Recommender Systems: CombiningMultiple User Interactions for Ranking Personalization. In: XX Simpósio Brasileiro de Sistemas Multimídia e Web (Webmedia), 2014, João Pessoa - PB. Anais do XX Simpósio Brasileiro de Sistemas Multimídia e Web. New York: ACM, 2014. Qualis B3
33RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP
Trabalhos Futuros• Artigo: Group-based Collaborative Filtering with Multiple Users' Interactions
• Integração das abordagens baseada em grupos e em aprendizagem, afim de considerar todos os tipos de interações individualmente
• Desenvolver e aprimorar técnicas utilizando abordagens de agrupamento de dados
• Uso de informações de contexto dos itens para gerar recomendações ainda mais precisas
• Desenvolver novas métricas de avaliação para SR utilizando a semântica dos dados
34RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP
Recomendação de Conteúdo Baseada em Interações Multimodais
ORIENTADOR: PROFESSOR DR. MARCELO G. MANZATO
ARTHUR FORTES DA COSTA
Referências Adomavicius; G., Mobasher, B.; Ricci, F.; Tuzhilin, A. Context-aware recommender
systems. AI Magazine, p. 67 - 80, 2011.
Ricci, F.; Rokach, L.; Shapira, B. Introduction to recommender systems handbook. In:
Recommender Systems Handbook, p. 1--35, 2011.
Fortes, A.; Manzato, M. Ensemble learning in recommender systems: Combining multiple
user interactions for ranking personalization. XX Simposio Brasileiro de Sistemas
Multimdia e Web - Webmedia 2014, p. 47-54, 2014a.
36RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP
Apêndice ADesvio padrão Estudo 1
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 37
Apêndice BDesvio padrão Estudo 2
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 38
Apêndice CLinks
SlideShare: http://pt.slideshare.net/fortesarthur
Github: https://github.com/ArthurFortes
RECOMENDAÇÃO DE CONTEÚDO BASEADA EM INTERAÇÕES MULTIMODAIS - ICMC - USP 39