29
HAL Id: inria-00070756 https://hal.inria.fr/inria-00070756 Submitted on 19 May 2006 HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers. L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés. Statistics on Multivariate Normal Distributions: A Geometric Approach and its Application to Diffusion Tensor MRI Christophe Lenglet, Mikaël Rousson, Rachid Deriche, Olivier Faugeras To cite this version: Christophe Lenglet, Mikaël Rousson, Rachid Deriche, Olivier Faugeras. Statistics on Multivariate Normal Distributions: A Geometric Approach and its Application to Diffusion Tensor MRI. RR-5242, INRIA. 2004, pp.25. inria-00070756

Statistics on Multivariate Normal Distributions: A

  • Upload
    others

  • View
    13

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Statistics on Multivariate Normal Distributions: A

HAL Id: inria-00070756https://hal.inria.fr/inria-00070756

Submitted on 19 May 2006

HAL is a multi-disciplinary open accessarchive for the deposit and dissemination of sci-entific research documents, whether they are pub-lished or not. The documents may come fromteaching and research institutions in France orabroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, estdestinée au dépôt et à la diffusion de documentsscientifiques de niveau recherche, publiés ou non,émanant des établissements d’enseignement et derecherche français ou étrangers, des laboratoirespublics ou privés.

Statistics on Multivariate Normal Distributions: AGeometric Approach and its Application to Diffusion

Tensor MRIChristophe Lenglet, Mikaël Rousson, Rachid Deriche, Olivier Faugeras

To cite this version:Christophe Lenglet, Mikaël Rousson, Rachid Deriche, Olivier Faugeras. Statistics on MultivariateNormal Distributions: A Geometric Approach and its Application to Diffusion Tensor MRI. RR-5242,INRIA. 2004, pp.25. �inria-00070756�

Page 2: Statistics on Multivariate Normal Distributions: A

ISS

N 0

249-

6399

ap por t de r ech er ch e

Thème BIO

INSTITUT NATIONAL DE RECHERCHE EN INFORMATIQUE ET EN AUTOMATIQUE

Statistics on Multivariate Normal Distributions:A Geometric Approach and its Application to

Diffusion Tensor MRI

Christophe Lenglet — Mikaël Rousson — Rachid Deriche — Olivier Faugeras

N° 5242

June 2004

Page 3: Statistics on Multivariate Normal Distributions: A
Page 4: Statistics on Multivariate Normal Distributions: A

Unité de recherche INRIA Sophia Antipolis2004, route des Lucioles, BP 93, 06902 Sophia Antipolis Cedex (France)

Téléphone : +33 4 92 38 77 77 — Télécopie : +33 4 92 38 77 65

����������������� ���������������������������! "����#$�%�'&(�)�*������+,�-�������,�/.0 12�3��#4�������)(06575,�������89���,:;����� 0<5,5,���)/�����)���=���$&(��>?���@�)���

A �3�,�@���<��BDC

EGF�HJILK�MJNOPF�QSRTQVU�W*XYQZM ∗ [�\ IY]_^_`VXTabNc�KJKJNU † [ a7^edfF�ILgih7QVHJIjdkF�Q ‡ [ml XLIYn�IYQZHbom^ec�WQZHk^eK §pTqsr�tGu�vTwyx{z}|�~�����r)t�u)�3�����f���������Z�su��

�m� �k��u���x���~��y�y�)u���k�s� � � ���su � u)��q�u � ��q�u��e�����k Z��z¢¡��s��u%�k£�£f �z=��� �_� �fu��

¤-¥�¦�§©¨Jª_«f§�¬ pTqs��� � u � � � ���­���su)�s��� � ��u��®���b��q�u���� � ���������­� � � � � � �­~��y�­����¯m��qsu�� �_� �)u��f¯°t����±���­² �k� � � ��u��� � t � � ��� �k� � �_�­���±�³~?�su��s�y�±�³~?¯´�s�s���������s�)µ�w¶� � u)����u)�����?��qsu����±·u � u)����� � ����u)��t�u�� � ��� � � �s� � � u � ���­u�����¯��q�uG���s�su � �­~��­��� �e�©��� t�u���u � � �_� �)u�¸@u��s�s�J¹�u)�º¹»�­��q �,� ��u)t � �s�s� � �¼t�u�� � ���f¸ � ��¹�u)��� � ����� � u��)u����¹�� �y½ ����q � ���­u��?���,��qsu��fu��su ��� ���­¾ � ���­���º�f¯°��q�uG��� � t � �m� � ¹¿���S���f�sÀj�­���su �k� � �_� ��u)�)µ�Á¼uG¹»�­���� � ������ �Z��u)u��Ã���º��qsuÄ��� � ��u���¯���q�u �©� �b���Å�yu)�)���­���ÇÆf¸�¹»qs���­uÄu)È ��� u)�y�y���s�'�y��tGu®�Z� � �����­����u)� � u)� � ��u��Ã�����q�uÉ��� � �s�)��� � ub��¯���q�ubt � ���­¯´���­�Ê��¯T������u � u�����¸ � �s�'��qsu��'¯Ë�V�)�������¼��qsu-�su � �­² � �����f�'��¯3�)���f�yu���Àj¯´� � tu)È �s� u)�y�y�����s�%¯´� � ��q�ubt�u � �*¸P�)�J² �k� � � �s�)ubt � � � �­È¸PtG�V�su��%�f¯T² �k� � � ������� � �s�'��� � t � �°� � ¹Ì�u)�³¹�u)u��t%�s�­���­² �k� � � ��u°�s� � t � �Z�s����� � �±���s���­���s���­�%�yu)�����������Vµ@Á¼u°¹»�­��� � ���y� � �s� � u)�y����qsu/�su � �­² � �����f����¯ � ���)� ��� ��u� �s�-u�ÍÉ�)��u)�����Z�st�u � ��� � �e�y��qsu)t�u��°����u������­t � ��u»��qsu ��� � � �f�yu��-�Z� � �����­���­u��)µ�Î{t � �Ï� �T�k�s� ����� � ���­���b��¯��q�u �s� u)�yu����T¹�� �y½ ������q�u���� � ���­������� � � � � � �±~��y���T��¯��s�­·�s�y�����7��u)�s�y� �3Ð?� ���su������ � u)�y��� � �s��u�w³t � �����s�sµÁ'u��yq���¹ �s� ��tG���y���s� � u)�y�s�­���»�f����~V�Z��qsu������ � �s� � u � �Ñ� � � � �­���yu)�)���­���ÄÒVµÓ�ÔVÕÖ�×�Ø ¨kÙ�¦f¬ t%�s�±���­² �k� � � ��u���� � t � ���s����� � �±�_�����­���*¸��~�t�tGu)� � �­� � ���y�­���±²�u)Àj�su�Â����±��u�t � � � �­Èe¸et�u � �Ѹ���J² �k� � � �s��uSt � � � �­Èe¸�t��V�su)����¯�² �©� � � ���­���*¸�Ú��­�yq�u � ���s¯´� � t � �������*¸���u��Z��u)�y���)�)¸���u)�V�su��y�­�º�s����� � �s�)u�¸� �­u�t � �s�sÀÏÛ/q � �­�����f·u��Z��u)�s�y� � ¸ � �­���)����u��s�y� � ¸f�y� � � �k� �)� � ² � ��� � uf¸f�yu)�)���­��� � �Z��� � ² � ��� � u�¸fqs��t��f��u��su)���s�� �e� ��uf¸�Ü@��u�� � ��� � ¸ � �­u�t � �s��� � ����u��ft�u)� � ~

∗ ÝÞ©ßLàâáLãjä�å©Þ©æ�ç èZæ�éJê�ëâæÏã³ì�áLä�å©Þ©àâíJç àâéJßLàâí©ç î±ß† ï àâð�í�ñÏë�ç òÑä�ó©áLájä�éfì�ájä�å©Þ©àâí©ç àâé©ßLàâíJç î±ß‡ òÑí�ô¶Þ©àâõ�ç ö�æ�ßLàâô¶Þ©æ�ì�ájä�å©Þ©àâíJç àâé©ßLàâíJç î÷ߧ ø�ëâà ù�àâæ�ßÏç ú©í�ó©ê�æÏßLí�á³ì�áLä�å©ÞJàâí©ç àâé©ßLàâí©ç î±ß

Page 5: Statistics on Multivariate Normal Distributions: A

�G�������)�*�������7�»� �Ñ�,�<���»�Ì&(��������)+7�-���)�����¿ "����#$�%���»� �������������������3�»�°.� �,� 0<5,57�����8,� 1��3��#������������7�!��� �@����0<5,5,���)/����������� ��ÏCeB<�

:7� A �3�,�@�3�7�D:7�!&(��>S���@�)���

�� ¦� �� � ¬ Û/u ���k�s� � � � � �� � �suG��� � � � �­~V�yu���� � �����������Z�suG��uG��� u)� �_� �)u��su����su��s�y�­���)����u �s� �f� � �����­�­������ � t � ��u)�3t%�s�­���±² �©� ���)u��)µmw³�*��� �k�s� �s��u��y� � �­u�� �s� � �s� �������)�)¸����y�y�su)�»��u�� � �����ft��)� � �­u��s�­·� � u�������u)���­u�¸s�su��� u)� �_� �)u��su)� �_�k��� t�r�� � u)�3�y���s��À­� � �)u������»���Z�s� � ����� ���su�t���� � � ����u � �­u�t � �s���­u��s�suf¸ � ���s�y�@�Z�su��y� � �su� ���)u������»� ��� ² � ��È � ~ � ����t�u)�����É� � �f���s� ��� ���­� � �������®�su%� � �������s� � t � �­u � ��È�u)� �e� ��u)���s����Àj�����s� � � � u)�)µ� ���s�%�)��t�tGu��s�)u � ���s� �_�k� � � u)�y�yu � �s�'�)� � �%�sub��� �k� �%u)�'�yu��������f� Æf¸��������%u)�'u�È �s� ��t � �Z�%��u � � � ���s��Z� � �����­���)�����­��u)���É� � ��� � �s����� � u��su�� � �s�f� � u�u)� �_� �)u%��� ������� ��� ��µ � ���s���s���s���)���s��u)��� � u � �f����u)���y�s�±��u�y� � � � �s� � �­² � �����f����� u)È ��� u)�y�y���f���@u�È � �����)�­��u)� � ��� � � � t��J~�u)�s��uf¸k� � t � � � ���)um�sum����² �k� � � �s��uf¸©��u)�@t��V�su)���u�² �k� � � ���­����u�� � ��� � �s�su������Ñ�s� � t � �­u�u)��� � u��s����� � �±���s���­���s���s� � t � �­u��»t%�s�±���­² �k� ���)u��3u��,�yu����������Ä�Vµ� ���s� � �� � �su � ���s�/��� � ��u)t�u�������u�����²�u)��� �s� u)t�u�������u��y��q��)t � ���Z�st�� � � �Z�su)�Tu�ÍÉ� � �)u�� � ��� � u)������tGu ���u)�P��� � �Z���±����� �s� � � ���y�)u��)µ����su �k�s� �­��� � �����f��t � �Ïu�� � u��s� �s� �)�yu������ ��� ² � ��� � �)�y���su/� � ������� � � � �­~��yu/��� � À��������� ����u»��u)���­t � ��u)�/w �»Ð �s�É��u��s�yu)� � �su��s�­·�s�y���f�ѵ � ���s� �s� ���yu)�������s����� u��s�)��� ��� ��u � ����� � �)�y�s�­� � ����y� � �su��3�s���s�s��u)� � �)u)����u)�»u��»��~�����qs�)�����Z�su��3u)�,�yu��������f�®ÒVµ� Ø §J¦ Ö «�� � ¦�¬ �s����� � �±���s���­�����s� � t � �­umt%�s�±���­² �k� ���)u�¸©t � � � ���)uP��~�t���� � � �Z�sum�s��Â����­u)À � ���y�±���­²�uf¸©t��J~�u)�s�su�¸t � � � ���)u®�su?����² �k� � � �s��uf¸�tG�V�su��-�su®² �©� � � ���­���*¸»���s¯´� � t � ������� �su?Ú��­�yqsu � ¸»�����Z���)�y� ����u)�)¸��s����� � �s�)u�����Z���)�y� ����uf¸���u)�s�yu�� � �su � ��u)t � �s��ÀÏÛ/q � �������f·u)�L¸P��u)���yu)� � �su � ���)���Y¸m�)��� � ��� � u-�y� � � � � � u�¸P�)��� � �_� � u�yu����������su)���­u�¸su�� �_� �)u�qs��tG����r)��uf¸�� � ��� � u��su�Ü��­u�¸����)��t���� � ��u � �­u�t � �s���­u��s�su

Page 6: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� Ò

& �������3�����

')( ÔZØ � Ô §J¨ ÕÃØ�* §�+ Ô-,/. ª_« ÔÄØ�* � �˧102�ª�¨�0˪s§ Ô�3�Ø ¨ �Sª �5460´¦�§©¨�0Y¥� ѧ10 Ø87 ¦ 9Æfµ�Æ Ð u�� � ��¾ � ���­���,��¯���qsu%| �_� �)u���¯ �m� �k� � �_�­���±�³~;:�u)���y�±�³~7Ú����s���������s� µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ  Æfµâ� w³��¯Ë� � t � ���­���=<�u)�V�su��y�­�>:��­��� � �s��u¢µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ ?ÆfµâÒ Î ��� �­��� � �������7���G��qsu Ð ���±���­² �k� � � ��u � � � t � � Ð �V�su)� µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ ?Æfµ   |Z� � �s����� � u���¯@��qsu�| �_� �)u���¯ Ð ���±���­² �k� � � ��u � � � t � �/:������ � �±���s���­���s�?µ�µ�µ�µ�µ�µ�µ�µ�µ�µ Æ�£

@ , §Jªs§10´¦�§�0´«�¦ Ø87 � �� §102�ª_¨�0˪s§ Ô�3,Ø ¨ �Sª �5460´¦�§©¨�0´¥ ѧ10 Ø87 ¦ 'BA�Vµ�Æ w³�Z� � �­�s�y��� Ð u � � µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ ÆJÒ�Vµâ� w³�Z� � �­�s�y���GÛ/��² �k� � � �s��u ÐS� � � �­È � �s� �P� ���s��� �_� � Ð �Z��u)� µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ�µ ÆC?�VµâÒ Î � � � t � �/:������ � �±�_�����­���,��� Ð �s�­���­² �k� � � ��u � � � t � �D:��­��� � �­�����������s� µ�µ�µ�µ�µ�µ�µ�µ�µ Æ1E

A 3 �� Ô ¨�0´«�ª �5FHG .PÔ ¨�0�� ÔB7 §�ªs§�0 Ø87 ¦ 'BI

9 J Ø87 «��� @¦C0 Ø87 @K@

L ¤ .M.�Ô�7 ÙN0�G ' ¬OJ Ø � .PØ87ÑÔ�7 §©¦ Ø�* §�+ Ô 0 Ô �ºª 7P7 0˪ 7 � Ô §©¨�0Y« @%A

ò�òDé�QKRSUTVS

Page 7: Statistics on Multivariate Normal Distributions: A

  ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

� 1 �3��#$������� ���'��87� �É5,��/�(���Ã�����������������)�����2 !����#4���S&(����������+7�-���)�����

Á'u � u)²��­u)¹���t � � � � � �������k�������s����q � ����u)�S���,��qsuÉtGu)� � �­¾ � ���­���º�f¯ �s� �f� � �����­�­�³~S� �_� �)u�� � �s�º���7��qsu��u�Â��s�­�����f�Ã��¯»���­��� � �s��u7t�u � �y� � u��G�u��³¹�u�u)� �e�©��� t�u�� � ���,�s�­��� � �­�����������s���s�s�su � �)u � � � �­� � u)���s� �©� �­�³~�����s�s�­���­���s�)µTÚ_���­���J¹»�­�s�b��qsu�¹�� �y½ �V~ ��� ��� ��Æ �j¸�¹»qsu � u ��� �­u�t � �s��� � �®tGu)� � �­��¹ � ���­��� � �V�s���)u)�Ä�����u � t �f¯»��qsu-u��­u�tGu������G��¯3��qsu7�­��¯Ë� � t � ���­��� t � � � �­È¸ � �s� � ��qsu)� � u)t!�Z~ ¡�u)�s�yu�����Æ � E�?Z¸ �s� �­² � ��u����tGt%�s���­� � �����������!� �"��#�¸�ÎT� ½ ���s�y��� � �s� Ð �±����qsu)�����k��� � ���su����)�����yu)�ɯ´� � tG�°�f¯e��qsu3��u��Z��u)�y���3�s����� � �s�)u�*u��³¹�u)u��Gu)��u)t�u������P��¯_¹�u)���±À ½ �s�J¹»�ɯ � t��­����u)�m�f¯�s�­��� � �­�����������s�m�y�s��q � �P��qsu�ÂsÈ�u���Àjt�u � ��t����±���­² �k� � � ��u��� � t � ��t��V�su)�Lµ�w³� Æ$��%��V¸*vT� � �u �-� �s� ��� � �s� � � ���yu)� � �s���±Â�u�� �k�s�s� � � ��q?���b��qsu��su � �­² � �������®��¯t�u)� � �­�����­� ��� �k� � �_�­���±�³~Ê� �_� �)u��)µ¼pTqsu�~'����� � �V�s�s�)u��'��qsu7�s�f���­���Ê��¯

φÀju)�Z� � � � ~¼¯´�s�s�)���­��� � �/¹»qs���yu

& u��y�y� � �º�­� � �s� � u����������S��¯m��q�u�� � �s��u)����� �_� �)u���¯m��qsu �e�©��� t�u���u � � �_� �)u��­��� �k½ u)� � ����qsuGt�u�� � ���fµÁ'u � ���y��¯Ë�����­�J¹'� �k (�j¸)�âÒ"�j¸)�â� ���������� � �V�s�s��u �%� ��u)t � �s�s� � �,t�u�� � �������-��qsu �e�©��� t�u���u � � �_� �)u��f¯Ñ��qsut%�s�­���­² �k� � � ��u��s� � t � ���s����� � �±���s���­���s�)¸ � �s�%��qsu � �y�y�Z��� � ��u����fu��V�su)�y���/���­��� � �s��uf¸ � ��u)t � �s��ÀÏÛ/q � �­�����f·u����u��s�y� � ¸ � �­���)�*��u)�s�y� ��� ��� � �­���)�Ñ�y� � � �k� µ

*,+-* .0/)132465)7813469�:;9=<>1@?�/BADCE7GFH/�9�<JI�2@9,KE7LKM4-N-4O1QPSRT/�:EU�4O1QPWVYXE:EFZ13469�:EUÁ'uT��� �k� �P�V~ � ��u)�su ��� �s��q �k��� ����u � �­¾ � ���­������¯_��qsu3� �_� �)u»��¯ �s� �f� � �����­�­�³~G�su��s�y�±�³~G¯Ë���s���������s�)¸������fu)��qsu �¹»�­��q7��qsu���q �k��� ����u � �­¾ � ���­���,�f¯��­���3t�u�� � ���fµÜ�u��

L1(X , µ)�su)���k��u-��qsu7� �_� �)u7��¯»�­�Z��u)� ��� ���­u

µÀjt�u � �y� ��� �_�­u � u � ��¯Ë�s���������f�����su)Â��su��Ê�J²�u � ��qsu

t�u � �y� ��� �_�­u�� �_� ��u X ¸_ufµ �@[

L1(X , µ) = {p : ‖p‖µ =

X|p(x)|dµ(x) <∞}

Á'u �k� u�������u � u�����u)�,���7��qsu��)����²�u�È7�y���_�yu�� P �f¯ L1+

�y����q,��q � �$[

L1+ = {p ∈ L1(X , µ) : p(x) ≥ 0

¯Ë� �µÀ � ��t������ � ���

x ∈ X}P = {p ∈ L1

+ : ‖p‖µ = 1}Ü�u��φ�u � �)���������Z�s���s� � u � �»¯´�s�s�)���­���Å���

Iφ ⊂ R+ � �s� Fφ(X , µ)��qsu��yu)�b��¯

µÀjt�u � �y� ��� ����u

¯´�s�s�)���­���s�p�su)Â��su)����²�u � X � �s�7� �©½ ���s��² � ���su��T���

Iφµ°pTqsu

φÀju���� � � � ~-¯´�s�s�)���­��� � �*����� � �V�s�s�)u��7���

�  (�Ñ���»�su�Â���u)� � �

Hφ(p) = −∫

Xφ(p(x))dµ(x) ∀p ∈ L1

φ = L1+ ∩ Fφ

pTq�u��yu��)���s�,� � ��u � �s�­·u � u)����� � ���¯Ñ��qsu�u)�Z� � � � ~b¯´�s�s�)���­��� � �Hφ

� �p���-��qsu���� � u��������f�7��¯

f ∈ L1φ

�­����­²�u)�7�Z~H[

d2Hφ(p; f, f) = −∫

Xφ′′(p(x))(f(x))2dµ(x)

Á'u��s�J¹Ã����� � �V�s�s��u/��q�u��yu��θ = (θ1, ..., θn)

��¯n� u � �����f�Z���­�Z���f��� �_�k��� t�u)��u � ����u�Â��s���s� � t � �s��¯´�f���

Θu)t��u��s�su)�����

Rn� ���,�����s�y�­��u � ��qsu��y���_�yu�� FΘ

�f¯ Pφ = P ∩ Fφ [

FΘ = {p(.|θ) ∈ Pφ : θ ∈ Θ}

\^] ò \^_

Page 8: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� �

w¶���­� � ¯ � t����±~?��¯ �s� �f� � ���­���­�³~®�su��s�y�­�³~®¯´�s�s�)���­���s����¯m��qsu ��� �s�s��t ² �k� � � ����ux ∈ X µ Ð � � u)�J²�u � ¸@�­�¹»������u � �y�y�st�u)�����,��qsu�¯Ë�����­�J¹»���s�G��q � � ∀i, j = 1, ..., n

[Æfµ ∂p(x|θ)

∂θi

�­�»�su�Â_�su)� ∀x ∈ X � ��� ∀θ ∈ Θ

�Vµ ∫X∂p(x|θ)∂θi

dµ(x) = 0

ÒVµT��q�u�t � � � �±ÈEθ[∂ log p(x|θ)

∂θi

∂ log p(x|θ)∂θj

] �­� � ���y�­���±²�u���u�Â��s�­��u ∀θ ∈ Θ

Á'u-¹»���yqÃ���º�Z� � ������¯ ~Ê��qsu,�yu��)���s�ò �k� � � �������Ã�f¯���qsu,u���� � � � ~ʯ´�s�s�)���­��� � �3��� ��q�u7�s� � u)�)���­��� ��¯ �²�u������ �

dp(θ)��¯@��q�u�� � �s��u)���»� �e� ��u���¯

Θ¸�¹»�­��q

dp(θ) =n∑

i=1

∂p(.|θ)∂θi

dθi

��u)�s�f�����s�S��qsu, � ���b� � ��u �b�k�s��� ��È���t � ������� ��¯���qsu��s�­·u � u��s�)u7�*u��³¹�u)u�� ��q�u,��u)�s�y�­���­u�� � �y�y�Z��� � ��u��¹»�­��q7��qsu �_�k��� tGu)��u �3� ���������

(θ1, ...θn)� �s�

(θ1 + dθ1, ...θn + dθn)µ & u��s�)u�¸

d2{Hφ(p)}(θ) = −∫

Xφ′′(p(x))(dp(θ))2dµ(x)

�����su � ��qsu � �y�y�st � ���­���,��q � �φ���»�)����²�u�È7���

ds2φ(θ) = −d2{Hφ(p)}(θ) =

n∑

i,j=1

g(φ)ij dθidθj

¹»�­��qg

(φ)ij =

Xφ′′(p(x))

∂p(x|θ)∂θi

∂p(x|θ)∂θj

dµ(x)

��u�Â��su�� ��� ���y�±���­²�u��su)Â��s�­��u�¯´� � tÌ���É��qsu�� � �s��u)����� �_� ��u � �s�É��qZ���/���­²�u�� ��� ��u)t � �s�s� � �-tGu)� � �­�����Θ¸ ½ �s�J¹»� � �T��q�u

φÀju���� � � � ~7tGu)� � �­��µ

� � �1��� �3pTq��­�»¯Ë�����­�J¹»�»¯ � ��t ��qsu�u�È �_� �s�y���f����¯(dp(θ))2 � �s�,��qsu����­�su �k� �±�³~,�f¯���qsu��­����u�� ��� �Lµ �

pTq�un × n

t � � � �±Èg

(φ)ij

���,��qsuφÀju)�Z� � � � ~ t � � � �­Èµ pTqsuº���­�su¼u)��u)t�u)���

ds = (ds2φ(θ))1/2 �­�

u � �y�­�­~ �yu)u�� ���º�u,����² �k� � � �Z�b�s�s�su � � ��� �s�y¯´� � t � �����f�Å�f¯θµ Û/���s�yuJ����u)�����­~�¸

g(φ)ij (θ)

�­� � �yu)�����s�� � �su � �)�J² �k� � � ���»��~�tGt�u)� � �­����u)�s�y� � µ

�/�k� �­���s� � ���y�y�­����u���qs���­��u)�3¯Ë� � ��qsu�u���� � � � ~b¯´�s�s�)���­���φq � ²�u��u�u)� �s� � � ���yu)�ѵPÁ¼u��)���s��u)��� ��� ��u�¸V���

��q��­� � u � � � ��¸s���7��qsu�|Zq � �s�s���Äu)��� � � � ~ � �y�y�V�)� � ��u��,¹»�±��qφ(p) = p log p ∀p ∈ FΘ

µ°pTqsu)�Ѹ

H(p) = −∫

Xp(x|θ) log p(x|θ)dµ(x)

ò�òDé�QKRSUTVS

Page 9: Statistics on Multivariate Normal Distributions: A

? ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

� �s�Ê��qsu-�)��t � ���su)�����G��¯T��q�ub���s¯´� � t � �������Êt � � � �­È¸ ½ �s�J¹»� � �%��qsu-Ú����yqsu � �­��¯Ë� � t � ���­���Êt � � � �±È¸�*u)�)��t�u

gij(θ) =

X

∂ log p(x|θ)∂θi

∂ log p(x|θ)∂θj

p(x|θ)dµ(x) = Eθ[∂ log p(x|θ)

∂θi

∂ log p(x|θ)∂θj

]

*,+�� � :E< 9,2�� 7L13469�:��T/�9���/�U�46F�R 46U 1�7,:EFH/pTq�u���u)�V�su��y�­���s����� � �s�)u D �­���s�s�)u��b�Z~É��qsu����s¯´� � t � �������-t�u�� � ��� ds2 �s� u)²��­���s�y�­~É�su � �±²�u��b¯ � ��t¿��qsuÚ����yqsu � �­�s¯´� � t � �������¼t � � � �­È?¹ � ���­��²�u������­� � ��u)�'¯Ë� � �)u � � � �­� �_�k��� t�u�� � ���É�s�­��� � �­�����������s����� � �"�j¸ �  (�j¸��Æ �"�L¸=�âÒ"�j¸�� %"� � �s�º�f��qsu � �)µ Ð � � u � u��)u������±~�¸PÛ � �­²�� � ���Êx��­��u � �â�"�m��u � �­²�u�� � �¼u�È � ���­���±���y�f�����������º��¯��q�u����s¯´� � t � �������,��u��Z��u)�y����u��Z� � �������,¯Ë� � ��qsu���u)�su ��� �Ñt%�s�­���±² �©� � � ��u��s� � t � �Ñt��V�su)�Lµ

Á'u � u)� � �­����q � ��¸���¯t 7→ θ(t), t1 ≤ t ≤ t2

�su)���k��u�� � �)� � ²�u'�yu��ft�u����®���Θ�u��³¹�u�u)�{�³¹��

�e�©��� t�u�� � ��¾)u��,�s����� � �±�_�����­���s�θ1, θ2 ¸��­���3�­u��s�f��q,�­�»u�È �s� u��y�yu)� � �

D(θ1, θ2) =

∣∣∣∣∣∣∣

∫ t2

t1

n∑

i,j=1

gij(θ)dθidt

dθjdt

1/2

dt

∣∣∣∣∣∣∣��Æ #

Î6��u)�V�su��y�­���)� � ²�u,������q �k��� �)��u � ��¾)u�� �Z~Ê��qsu,¯ � ���G��q � �É�­�ÉtG���s��t��­¾�u)����qsu,���s¯´� � t � �������Ã��u)�V�su��y�­����­��� � �s��u D(θ1, θ2)

¸�ufµ ��µm�­�»���3�y���������­������¯@��q�u°�s��u � ÀjÜ � � ��� �s��u�uJ��� � �������s� [

n∑

i=1

gik(θ)d2θidt2

+

n∑

i,j=1

Γijkdθidt

dθjdt

= 0 ∀k = 1, ..., n�j� #

¹»q�u � uΓijk

�k� um��qsu�Û/q � �������f·u)����~�t�����­����¯V��qsum � ��� ½ ���s�*µm|Z���­²V���s�3��q�u�°�s��u � ÀjÜ � � ��� �s��u°u��Z� � �������s�� �s�,��qsu�u)² � �­� � �������,��¯@��q�u���u)�V�su��y�­���s�­��� � �s��u D �)���s�����­������uf¸s�����fu��su ��� �L¸ � �s�­Í����s�­�T� � � ½ µ

*,+ � � CECMN-46FH7L13469�:S1�9'13?�/ . XEN 1@4��L7L2 4O7L1�/�� 9�2�� 7GN .09���/�Nx�� � ���±����t � ��u��f� � ��u��­�s�G���G�su�Â_�su���� � �����������)�T���,t%�s�±���­² �k� � � ��u���� � t � �*�s����� � �±�_�����­���s� � �s�,��� �k� À� �±~-�±�T���G�s�­·�s�y���f�,��u)�s�y� � ��t � �fu��)¸�¹�u��s�J¹{�)���s��u)��� ��� ��u����-��qsu�� �_� �)u

S+(m,R)¸�u��s�s�J¹�u)�7¹»�±��q

��q�uÉ�­�s¯´� � t � �������¼t�u�� � ���ds2 µ S+(m,R)

��u)�s�f��u)����qsuÉ�yu)����¯m × m � u � �°��~�t�tGu)� � �­� � ���y�­���±²�u�À

��u�Â��s�­��u7t � � � �­��u)�)µ¼w¶���Gu)��u)t�u)�Z��� �k� u7�s�yu)� ���?�su��y� � �­�u-��qsu7�)�J² �©� � � �s�)u7t � � � ���)u)�G��¯3��qsu-ÂsÈ�u���Àt�u � �T�Y�su��s�f��u)�S�V~

ξ ∈ Rm #��s� � t � �mt��V�su��Yµ7pTq � �f���fqº��qsuÉt �k�s� ���s����q � � � �y�y�V�)� � ��u)������u � ��qΣ ∈ S+(m,R)

�±���3���ft � ���su������σij , i ≤ j, i, j = 1, ...,m

¸s¹�u��yu�u���q � �S+(m,R)

�­�»���y�ft�� �y� qs������Rn, n = 1

2m(m+ 1)µ & u)�s��uf¸Z��qsu �_�k��� t�u���u � � �_� �)u

Θ¸�¹»qs���yu�u��­u�t�u)����� �k� u

θ = (σij), i ≤ j¸

���3u)t��u��s�su��,���R 1

2m(m+1) µ

Á'u��su)�s�f��u��Z~Eij , i ≤ j, i, j = 1, ...,m

��qsuG� � �s���s��� � ��� � �y�­����¯m��qsu%� � �s��u������ �_� �)uTS+ �Yu�µ �sµ

��q�u�� �_� ��u���¯�²�u������ � Â�u��­�s��#�µTÁ¼u�uJ�Z� � �­�­~,�su)���k��u��Z~E∗ij , i ≤ j, i, j = 1, ...,m

��qsu���� � �Ñ� � �y������¯��q�u����f� � ���fu����»� �_� �)u

T ∗S+ �Yu�µ �sµP��qsu�� �_� �)u���¯��s�­·u � u������ � �ѯ´� � t���#�µ°pTqsu)�yu�� � �y�­� �k� u��f�­²�u)�7�V~Z[

\^] ò \^_

Page 10: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� E

Eij =

{1ii , i = j

(1ij + 1ji) , i 6= jE∗ij =

{1ii , i = j

12 (1ij + 1ji) , i 6= j

Ú�� � ��� �k� �­�³~'��¯»�s�f� � ���­���s�)¸°¹�u-¹»���­�T� � � � ��qsu �_�k��� tGu)��u � �m� ���

R���S+(m,R)

¹»qsu)� �s�� t��������s�±�³~,�­� � ���y�y�­���­u�µ

Ú_���­���J¹»�­�s� � �k (�L¸�� ÒQ�L¸�� %"�j¸�� �"� � ��� �­Æ�Æ �L¸�¹�u�¹»�­�����q �k��� �)��u � ��¾)uS+ � � � � � ÍÉ�su���~�t�t�u�� � ����� �_� �)u�¯´� �¹»q��­��q'�)���f�yu��'¯Ë� � t!u�È �s� u��y�y�­���s� �©� u � ² � ��� � ����ub¯´� � ��qsub�y���­�s���­���'��¯���qsub��u)�V�su��y�­�bu��Z� � �����f� � � �

¹�u��­� � ��¯Ë� � ��qsu%���s¯´� � t � �����f�?��u)�V�su��y�­�%�s����� � �s�)u � � ���y� ½ ����¹»� � � ��� � � �����­��� � �s��u"#�µ�|V�­�s��uf¸���Ä��qsu��u�ÈV���yu)�)���­���s�)¸

S+ ¹»�­�����uG��q �k��� �)��u � ��¾)u�� � � � q��ft�����u)�su����s��� �_� ��uf¸Ñ¹�u� � ��� � u)� � �­��� � �y�­��¯ � �)������,Ü��­u�� � �f� � � � �s��Ü��­u � ����u�� ��� � �´¹�u � u�¯Ëu � ��qsu � u � ��u � ��� �­ÆJÒ"�@¯Ë� � t�� � u��su�� � ���­��#�µ

3�Ø §10 Ø87 ¦ Ø87�� 0 Ô ( ¨ Ø . ¦Gª 7 Ù�� Ø � Ø��_ÔB7@ÔZØ �¦ ,D. ª_« Ô ¦� w³¯ H �­� � �y����� � ��� � ��¯ � � � ��� �

G¸���qsu)�'¯Ë� ��� ��~

g ∈ G¸���q�uÉ��u)¯Ë��� � �­��q��%�����yu��%��¯

H�k� u

� u�� � u)�)���±²�u��±~-��u�Â��su�� � �T��q�u��y�����yu)���»��¯G��¯@��qsu�¯Ë� � t {gh : h ∈ H} � �s� {hg : h ∈ H} µ

� w³¯ G ��� � ��� � ���­�����­� � �e� �e� ��uf¸���qsu��yu)�T��¯Ñ��u)¯Ë�T�)���yu�������¯ H ¸s�su)�s�f��u�� G/H ��� � q��ft�����u)�su����s�� �e� ��ufµ

� Î{qs��t��f��u��su)���s�/� �_� ��u����/��q �k��� ����u � �­¾�u)�É�Z~���qsu�¯ � ���/��q � �/�­���/q � � � � � ��� � qs��t���tG� �y� q��­�ytτ(G)

�su�Â_�s�­��� � � ��� �s�y�­���±²�u%� � ��� �º� ���������®��¯ � Ü��­u�� � ��� �G�f�Z���

G/H� �s� � �y�y���f���­�s� � �

u � ��qÊu��­u�tGu����g�f¯3��qsu7� � ��� �

G� t �©��� �­���

τ(g) : G/H → G/H¹»�­��q � ���������

aH 7→gaH ∀a ∈ G µ

� pTq�u�� � ���fu������ �_� �)u��f¯ � Ü@��u�� � ��� � G � �»��qsu��­��u)�����­�³~,q � �3��qsu���� � �s�)��� � u���¯ � Ü@��u � �­��u)� ���g¸su�µ �sµ � ²�u)�)��� � � �_� �)u�¹»�­��q7��qsu����­�����su �k� t �k�s� �­�s� ½ �s�J¹»� � �3��qsu�Ü��­u�� ��� � ½ u��

[., .]µ

w³�º��� � � � �yuS+ � � �?�u�u)È ��� u)�y�yu)� � ����qsu�qs��t�����u)�su��f����� �_� �)u

G/H¹»qsu � u���qsu�Ü@��uG�y����� � ��� �

H�­� � �y�y�V�)� � ��u)�,¹»�­��q7��qsu�Ü@��u��y�s� � �­��u�� ���

h ⊆ gµG���3��qsu���u)�su ��� �@�­���su �k� � � �f� � ��¯ � u � �

m×mt � � � ���)u)�GL(m,R)

� �s�H���T��q�u�� � u��)� � �� � ��qs�����f� � �@� � ��� �

SO(m)µ

pTq�u��)� �y� u)� � ���s���­�s� � �­��u)� ��� � �k� u � u�� � u)�)���±²�u)�­~gl(m,R)

¸��qsu��yu)����¯m ×m � u � ��t � � � �­��u)�)¸ � ���

so(m)¸Ñ��q�u��yu�����¯

m ×m � ½ u�¹3Àj��~�t�t�u�� � ����t � � � �­��u)�)µbpTqsu��*¸GL(m,R)

� �������f�S+(m,R)

�y���q � �»¯Ë� � u � ��q

g ∈ G,Σ ∈ S+ ¸ τ(g) : Σ 7→ gΣgTµ

x��su%��t � � � � � ��� ��� � � u � �³~Ä��¯���qsu��­��¯Ë� � t � ���­���?t�u�� � ���ds2 ¯´� � ��q�u%��u)�su ��� ��t%�s�±���­² �k� � � ��u%�s� � t � ����­��� � �­�����������s�

p(.|θ) = N (ξ,Σ)¸ � �/��� � ��u��b��� �â�"�L¸������­���/����² �k� � � �s�)u��s���su � ��q�u»� ��� �s�y¯´� � t � �����f�-���

S+ �su�Â���u)� � � [(ξ,Σ) 7→ (ξ, PΣP T )

¹»q�u � uP ∈ GL(m,R)

µ�Á¼u � u)� � ������q � �ξ ∈ Rm ��� � ÂsÈ�u)�®t�u � �®²�u)�)��� ��� ���

Σ��q�u%�)�J² �©� � � �s�)u

t � � � �­È-��¯���qsu��s����� � �±���s���­���*µ

ò�òDé�QKRSUTVS

Page 11: Statistics on Multivariate Normal Distributions: A

% ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

pTq�u ��� � � �°�s����� � �s�)u � �­�y��u�È�qs�­���­���m��qs�­�/�­�Z² �k� � � �s��u �s� � � u � �³~�µ & u��s�)u3��qsu»����² �k� � � �s�)u»���s�su � � ��� �s��À¯´� � t � �������s�3��¯

GL(m,R)µmpTqsu������s�yu��Z�su��s�)u��3�f¯���qs���3���­��u �s� � � u � �³~ �k� u��³¹��f¯´���­��[

Ú�� � ����¸P��q�u-�s�y� � �TÜ@u)²��±ÀÏÛ/�­²��±� � �����s�su)�)���­��� ���%��� � �y���f� ¯ � u)u�µºv��s�G�yu)�)���s�Ѹ � �s�ÃtG�������­t � � � � � ����¸S+ �u��­���É��~Vt�t�u�� � ���f¸���qsu � u���� � ��� � ���s� � u�� � �����f���yqs� � �*u��³¹�u)u��,��qsu�u)È � ���su)����� � �Ñt �k� PÈ � ¯ � ��t� �­u�t � �s��� � �,�fu���tGu)� � ~�¸���qsu�u�È � ���su������ � �*t �©� u)È �

TUS+ → S+ ���,Ü@��u�� � ��� � � � �s�-��q�u�t � � � �­Èu)È � ���su)����� � ���q � �f���fq�[

mÈ �U(X) =

u�È �(2X) = e(2X)

¹»q�u � uU���3��q�u��s���±�

m×m t � � � �±È � �s����q�u�� � �s��u)�Z��� �_� �)u���¯S+ �­�����su)�����­Â�u���¹»�±��q

S(m,R)¸

��q�u�� �e� ��u���¯m×m � u � �Ñ��~�tGt�u)� � �­��t � � � �­��u)�)µ

� ¨ Ø�.�Ø ¦C0˧10 Ø87 '���'���� �B� ��� !���%�%������ � ������ � �������B�#���%� �U�������� �� �� !� ���� O�B� ����������������#�8��� !�����������$ �B�������%����Y������� $��!���B� ��� ���U�O�U������������K�5����%� ����

g(Ei1,i2 , Ej1,j2) =1

2

���(Σ−1Ei1,i2Σ−1Ej1,j2) i1, i2, j1, j2 = 1, ...,m

�jÒ #

�G�B��� � �U�� ��%���8��K������� � ����8� ��� ������>������ �=���� �U� ��������� �� � �1��� �3pTq��­�-¯´�f������¹»�-¯ � ��t ��qsuÄq�u)� � �������­�?�su�Â����±������� �f¯���qsu®t�u�� � ������u��s�y� � ¸ �s� � � ���yu��Å�Z~ ��� �s¸¹»q��­��q � t��f�������»���É��q �k��� ����u � �­¾�u���qsu���� ½ u��­��qs�V�V� ��� ��������¯��³¹��É�­��Â_�s�±��u��y�­t � ���±~��)�����yu��s����� � �­���������f�����¯S+ ¸ � �y�y�V�)� � ��u�� � u)� � u)�����­²�u)�­~É��� θ � �s� θ + dθ

µ°pTqs��� ��� ���­��u�È �s� u��y�T��qsu���������u)�s��u���¯ � u � � � �)���s�θ�Z~

θ + dθ� �s���­�»�su�Â_�su)� � �

dp(θ)

p(θ)=

n∑

i=1

∂p(x|θ)∂θi

p−1(x|θ)dθi =

n∑

i=1

∂ log p(x|θ)∂θi

dθi

w¶���3² �k� � � �s�)u�¹ � � �s� � � ���yu)� � � � �s����� � ���)u�t�u � �y� � u��u��³¹�u�u)�7�³¹��É���������­���s���s���s�­��� � �­�����������s�)¸_u�µ �sµ��q�u%t�u�� � ���%��u)�s�y� � µ�Î���u�È � ���yu��®�­�SÎ �s� u��s�s�­È¼Æ���¯Y� �"�j¸*¯´� � ��qsu�t%�s�±���­² �k� � � ��u��s� � t � ��t��V�su)��¹�uq � ²�u

∂ log p(x|Υ)

∂Υ= a− xxT

2¹»q�u � uΥ = Σ−1 � ��� a ∈ R µ pTqsu�² �k� � � �s��uÄ��¯���q��­�-�s����� � �±�_�����­��� ���Å��qsu®�s� � u����������s� A � ���

B ∈ TS+ �­�3��qsu��)[�°�k� (dp(Σ)

p(Σ)

)(A,B) = 1

4

�/�©�(xxT )(A,B)

= 14

Û/�J²(� �

(AxxT ),� �

(BxxT )) = 14

Û/�J²(〈x,Ax〉, 〈x,Bx〉)

= 14

Û/�J²(xTAx, xTBx) = 1

2

� �(ΣAΣB)

�Y  #

|V�­�s��uA� �s�

B�k� uG�­���su �©� ���ft������ � �����f�����f¯m��qsuG� � �y�­��²�u������ � �)¸Ñ¹�uG���s�±~?�su�u)�?���,� � �­���s� � ��u���qsu

t�u)� � �­����u)���y� � ¯´� � ��q�u�� � �s���s��� � �*� � �y�­�»Â�u)���Eij¸s¹»qs����q,~���u)���s�T��qsu � u��y�s�­�$[

g(Eii,i2 , Ej1,j2) =1

2

� �(Σ−1Eii,i2Σ−1Eji,j2) i1, i2, j1, j2 = 1, ...,m

\^] ò \^_

Page 12: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� �

Î��Ãu)È � �­���)�­�bu�È �s� u��y�y�­��� ��¯���qsu���u)�V�su)�y������� � ²�u)�Σ(t), t ∈ [a, b] ⊂ R

��u���u � t����su)� �Z~ ��qsu¯´���­���J¹»�­������~�����u�tW�âÒ"�_¹ � �/�su � �±²�u��,Û � �±²�� � �s�,x�����u � ��� � �"�L�´¹»qsu � u»��qsu �s� �V��¯*��¯��qsu�¯Ë�����­�J¹»���s�%� � ��*u�¯´���s�s�Z#�µ

{(Σ−1Σ̇) + ccTΣ = 0

cTΣc+ 12

� �((Σ−1Σ̇)2) = 1

c ∈ Rn

Î��3u)È � ���yu)�,��� � �"� � ��� ��Æ %"�L¸s��q�u���u��Z��u)�y������� �©� �����s��¯ � �ftΣ(a) ∈ S+ ���,��qsu���� � u��������f�

Σ̇(a) = Σ(a)1/2XΣ(a)1/2 ∈ S = TS+

¹ � �­��u)� [Σ(t) = Σ(a)1/2 u)È � (tX)Σ(a)1/2 ∈ S+ �j��#

¹»q��­��q�� � � � ���y���u3�f�s� � ���su)���Z~��s�y�­������qsu»� � ��� �-� �������f� �s� u)²��­���s�y�­~G��u)�s�f��u)���Z~τ(GL(m,R))

���� u�� � ������qsu%�)��t � ��� � �����f�®��¯ � ��~���u)�V�su��y�­�%�������b��qsu%� � u)��� � ��� � �yu

Σ(a) = Im� ���±��¹ � � �s� � � ���yu)�

��� ��Æ�£"�jµ

pTq�u��­�s¯´� � t � �������-��u)�V�su��y�­���s����� � �s�)u D �u)�³¹�u)u�� � ��~É�³¹���u��­u�t�u)��� Σ1� �s�

Σ2��¯S+ ���T���±²�u)�b�Z~��q�u���q�u)� � u)t �´��qsu �s� �V�f¯����T� � ��u ��~-� ½ u)����qsu��,¯´� � ��qsu�� �k½ u���¯��)� �k� �±�³~ � �s���­� � ² � ��� � ����u���� � �"��#�[

� + ÔZØ ¨ Ô � '���@ ��� , � � ��� ÔB7 ¦ Ô�7�� '�� ���� ���%� �� � � ���B� � �� ����� ��� O�B� ���������������� �8��� ��� ��������$ �B�������%� � ����� � �� O !��� �U��� ���U� �����

ξ$ �B�

�� �H� ������ ����������8�U� � �U������������8� � ��������U��� � �B�D� � � ��U��� ���������8�U�#$ � ���5�U��6���5�� !� !$U��� ��� ���B�

� �� O���� � ���� ������������U� � �U������������8�U�� !��������U� �Σ1

��� Σ2

���������� � $ �

D(Σ1,Σ2) =1

2

� �(log2(Σ

−1/21 Σ2Σ

−1/21 )) =

1

2

m∑

i=1

log2(λi)

�G�B� � �����B�λi

� ������� ���B�m

�� � � �%�������%� � ���>���B� � ��� � ��8���K�����P��� �%��������� |λΣ2 − Σ1| = 0�

� � �1��� �TÜ�u��»�s�3�����s�y�­��u � ��qsu��y���s���s� �©� ² � �­��u���u)�)��t � ���y�­���­������¯Σ = UDUT

¸s��qsu��

dΣ = dUDUT + UdDUT + UDdUT

� �s�g(dΣ, dΣ)

� � �,�u�¹ � �­�y��u)� � ¯ ��u � �y�ft�u��y��t � �­�­Â�� � �������s� � � [

a+1

2

� �(D−1dDD−1dD) = a+

1

2

m∑

k=1

(dλkλk

)2

¹»q�u � ua ∈ R ≥ 0

� �s�?��qsuλk�k� u���q�u����ft � ���su���������¯m��qsuG��� � ����� � ��t � � � �±È

Dµ%v�~®�s�y���s�7��qsu

����² �©� � � �s�)u���¯@��qsu��­��¯Ë� � t � ���­���,t � � � �±È7�s���su � ���su�ÀL���fÀj���su�� ��� �s�y¯´� � t � �������s�»�f¯���qsu��s�­��� � �­�����������s�)¸�­�°��� � ���y�y�±����u»�����yu)�

Σ1 = D1� ���

Σ2 = I� �s� � tG���s� � �­����qsu»��� � ²�u)�

(U(t), D(t))�u��³¹�u�u)�

(I, I)� �s�(I, D1)

¸���q�u��yqs� � ��u)��� �_� ��q7��� � ��qs��u�²�u��-�Z~(I, D(t))

����~��­u��­�-��q�u��s����� � ���)u 12

∑mi=1 log2(λi)

µ

ò�òDé�QKRSUTVS

Page 13: Statistics on Multivariate Normal Distributions: A

Æ�£ ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

� ¨ Ø�.�Ô ¨�§10 Ô ¦ Ø�* §�+ Ô ( ÔZØ Ù Ô ¦C0´«�460´¦�§Jª 7 « Ô ¬pTqsu?�s����� � �s�)u D ���

S+ ��u�Â��su�� � ��J²�u?u�È�qs�­���­���-�y��t�u?�s���)u �s� � � u � ����u)�-��q � �-¹�uSqsu � u � ¯Ë��u ��y��tGt �k� ��¾)u([Æfµ � ���y�­���±²��­�³~Z[ D(Σ1,Σ2) ≥ 0, D(Σ1,Σ2) = 0⇔ Σ1 = Σ2

�Vµ�|Z~Vt�t�u�� � ~H[ D(Σ1,Σ2) = D(Σ2,Σ1)ÒVµ»p � � � ���f��u����suJ��� � ���­�³~Z[ D(Σ1,Σ3) ≤ D(Σ1,Σ2) +D(Σ2,Σ3) sµ3w³�Z² �k� � � �s��u��s���su � �)���s� � �su��s�)u�� ��� ���y¯Ë� � t � ���­���s� [ D(Σ1,Σ2) = D(PΣ1P

T , PΣ2PT )

∀P ∈ GL(m,R)�Vµ3w³�Z² �k� � � �s��u��s���su � �­�Z²�u � �y�­���)[ D(Σ1,Σ2) = D(Σ−1

1 ,Σ−12 )

pTq�u�������u � u�����u)� � u � �su � � � �?Â��s�St�� � u���u�� � �­��� � ���������qs�������?��qsu%��u���qs���­� � � � u � � � ���Z~®Ú�� � �����su �� �s� Ð �V�f��u)� �­Æ�Æ �jµ

*,+�� A 132XEFZ13X�2@/�9�< 13?�/BADCE7GFH/ 9�< . XENO134 �87G246781�/�� 9,2�� 7,N R 4-U 1�246KMXY13469�:EUw³�%� � ��u � ����¯´� � ��qsu � �����s��~���qsu°� � u��)�­Â��)�­����u)����¯V��q�um� �e� ��u°��¯�t%�s�­���±² �©� � � ��u°�s� � t � �����­��� � �­�����������s�)¸k¹�u����¹i�su)Â��su���q � u)u��­t � � � � � ���3�Z� � �����­���­u��/¯ � ��t � ��u)t � �s�s� � �7��u)��t�u�� � ~H[���qsu � ��u)t � �s��ÀÏÛ/q � �­�����f·u����� � ² � ��� � uT��u��s�y� � ¸���qsu � ���)������u��s�y� �/� �s�G��q�u � ���)�����y� � � �k� µPvT���m�u)¯´� � uT�u)���s� � ����uT�����su)Â��su3��qsu)�yuu��­u�t�u)�����)¸�¹�u�q � ²�u���� � �B�C��� � � � � ÍÉ�su����f���su)�)���­���-¹»qs����q � �­���J¹»�3�s�����Gt �©�Ä� ��~b� � �s��u)�Z�T� �e� ��uTΣ

� �Σ���Ä��qsu�� � �s��u������ �_� �)u

TΣ′� �

Σ′µ®pTqs��� � ÍÉ�su-t �k�s� ���s�®�su � u)���s�%�f�¼��q�ub�)� � ²�u

Σ(t)�����s�su)�)���­���Σ� ���

Σ′µ'pTqs����¹ � ~�¸°u)²�u�� �­¯

Σ(t)��� � ���V� � ¸P��q�u-� � ���fu������ �_� �)u

T���Gt �k�s� u)�

�������Ä�±���yu��­¯ � ���f������qs�­�%�)� � ²�uÉ������¸���qsuÉ� � �­�����¼��¯TΣ

� � �¼�ubt �k�s� u)�¼������� � �s�f��qsu ��� �f�����J�Yu�µ �sµ���k���±���yu��­¯�#�µ�pTqsub��q � ���fu-�­�¼��qsub�s� � u)�)���­���'��¯ � ²�u������ � �s���su � ��qs���%t �k�s� �­�s�?��q �k��� ����u � �­¾�u)����qsu��� � ² � ��� � u���¯���qsu�t � �s��¯Ë�����*µ

pTq�uG� � �s���s��� � �P�)���s��u)���������S��� �7� ��u)t � �s�s� � �ºt � ���­¯´���­�º�­����q�uGÜ@u)²V�­ÀÏÛ/�­²V�­� � �)���s�su��������f� �Y� � �)�fÀ² �k� � � �s��u��su � �­² � ���­²�u"#�µ�Î��G�­t � � � � � ��� ��� � � u � ����u)����¯���qs���������s�su)�)���­���G�­����q � �P�­�P���P�)��t �_� ���±�_�­u�¹»�­��q��q�u�t�u)� � �­��µmw³�,�f��qsu � ¹�� � �s�)¸���qsu��)�J² �k� � � �Z�»�su � �­² � ���­²�u���¯���qsu�t�u�� � �������»¾)u � �sµ

Ú���� � �­�­~���q�u/Ü@u�²��­ÀÏÛ/�±²��­� � �)���s�su��������f�%�)�Vu�ÍÉ�)��u)�Z��� �k� u/���±²�u����V~n3 ¯Ë�s���������f����� � ����u)����qsu3Û/q � �������f·u)���~�t�������3��¯���qsu��yu��)���s� ½ �­�s�

Γkij�su)Â��su�� � � [

Γkij = gkmΓijm =1

2gkm

(∂gjm∂θi

+∂gim∂θj

− ∂gij∂θk

)

vT��� � �G¹�u�� � ���*¸�¹�u,�su�u)�Ã���S��qs�V�f�yu,��qsu � ÍÉ�su����f���su)�)���­���Ã���?�u��)���s�y���su � u��Ã�y���s�)u,��qs���G¹»�������������u)�s��u���qsu��)� � ² � ��� � u ��� � � u � ����u)�»�f¯���qsu�t � �s��¯´�f���*µÎ�t �k� ����Æ��»q � �É����� � �V�s�s��u)� � �f��u�À �_�k��� t�u���u � ¯ � t����±~ ��¯ � ÍÉ�su��)���s�su����������s�)¸ ½ �s�J¹»� � ����qsu

αÀ

�����s�su)�)���­���s�)¸����7� � �su � ���%�u��y��u �/� u �s� u)�yu�������qsu������ � �­���y�­� ��� � � u � ����u)���f¯Ñ��qsu�¯ � t����±~b��¯ ��� �k� � �_�­���±�³~���­��� � �­�����������s�)µ°pTq�u

αÀj���f���su)�)���­���s�»� � �7�u�¹ � �±�y��u��)[

Γ(α)ijk = Γ

(1)ijk +

1− α2

Tijk

\^] ò \^_

Page 14: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� Æ�Æ

¹»q�u � u���q�u���q�� � ��Àj� � �su � ��~�t�t�u�� � ������u)�s�y� �Tijk

���3�su)��su�� � �

Tijk = Eθ[∂ log p(x|θ)

∂θi

∂ log p(x|θ)∂θj

∂ log p(x|θ)∂θk

]

Á'u��yu�u���q � �3��qsu0Àj�)���s��u)���������7������­�»�s�J¹»�,������qsu�Ü�u�²��­ÀÏÛ/�±²��­� � �)���s�su����������*µ�Á¼u � u)� � ���*��q � �3�­�3���

��q�uG���s�±~S�f��u����7�u��)��t �_� ���­���­uG¹»�­��q?��qsu�t�u�� � ���f¸Ñ��q � ��������qsu����s�­~®���suG�Z~®¹»q��­��qS��qsu �_�k��� ���­u��� ��� �s� � � � �»��¯ � ²�u������ � �s�Vu��T�s�f� � ·u)�)�3�±���3��u)�s�f��q*µ°pTq�u

αÀj�)���s�su��������f��� �©� u��s�f�3���ft �_� ���­����u�¹»�­��q

��q�u�t�u)� � �­��¯Ë� �α 6= 0

µ

Ð � � u��J²�u � ¸��±��� � �º�uÉ�yqs�J¹»� �-� Ò ��#���q � ��¸�¯Ë� �%� ��~ºu�È � ���su������ � �°¯ � t��­�­~ � � � � u��)� � �P�³~ � uÉ��¯��s����� � �±À�_�����­���s�����®¹»qs����q®��qsu%t%�s�±���­² �k� � � ��u%�s� � t � ��t��Z��u)��� � �Ä�u � u)� � ��� #�¸e��q�u

αÀ � �­u�t � ����ÀÏÛ/q � �������k·*u)�

��� � ² � ��� � u�¹ � �­��u)�R

(α)ijkl = (1− α2)Rijkl��qV�s�3���­²��­�s� � ¾)u � �

αÀj�)� � ² � ��� � u����G��qsu�t����±���­² �k� � � ��u��s� � t � �@tG�V�su��*¯´� ��� �­�

α 6= 0µ

vTu�� � �s�yu%��¯���qsu�� � �s����Àj�)��t �_� ���­���­���­�³~�¹»�­��qÄ��qsu%t�u�� � ��� � �s�Ä��qsu�� � ���s�s���)u)�0Àj��� � ² � ��� � u�¸e��qsu ±1

À�����s�su)�)���­����� � u)� � u������­²�u��±~ ½ �s�J¹»� � � °¯ � ��� � ��� : � ²V���Z#��s�����k�/�yu)u)t¿�����u � �f�V�V�É� � �s���­� � ��u»¯´� ���q�u�¯Ë�����­�J¹»���s���su � �­² � �������s�3��¯���� � �����������)�T���7��q�u�� �e� ��u��f¯�t%�s�­���­² �k� � � ��u��s� � t � �*�s����� � �­���������f���)µPÁ¼u¹»�����Z���s�su�u)���su�u)���f� � � �e� ��u/����u�È�qs�­���­� � �s����À � ���y�­���±²�u��yu���������� � �V�)� � ² � ��� � u/����� � ��u � ����u��s�y� � u/��qsuu)È��­����u��s�)u � �s�Ä�s�����Z�su��su)�y���f¯���qsu � �­u�t � ���s� � �Ä� �k� ~��)u)�Z��u � µTÚ�� � ��qs�­� � u � �y���*¸_¹�u%�����­� ½ ¹»�­��q,��qsu��� � �y�y��� � �sÜ@u�²��­ÀÏÛ/�±²��­� � �)���s��u)���������G������qsu � u)t � �­���­�s���su�²�u��­� � t�u)�Z���)µ�Á¼uTq � ²�uT�������k�����)u�¸�qs�J¹�u�²�u � ¸��q � �

αÀj�)���s��u)���������s�3¹»�±��q

α 6= ±1¹»�­���*q � ²�u����G�u��­��²�u������­� � ��u)�*µ

Î��m�yqs�J¹»����� � �k (� � �s� �s� �J²�u������ � ��Ò"�L¸���qsu � ��u)t � �s��ÀÏÛ/q � �������f·u)����� � ² � ��� � uT��u)�s�y� � �)� �y� u)� � ���s���­�s����G��qsu����s¯´� � t � �������,t�u)� � �­��¸�¯Ë� � ¾)u � �kÀjt�u � ��t%�s�­���±² �k� � � ��u���� � t � �@�s����� � �±���s���­���s�)¸_¹»�±��q

X,Y, Z, V�*u)���s��u)��u)t�u)�����»��¯@��q�u�� � �s���s��� � �*� � �y�­���f¯�²�u)�)��� � Â�u)���s� � �s�Σ ∈ S+ �­� [

Rijkl = R(X,Y, Z, V ) = 14

� �(Y Σ−1XΣ−1ZΣ−1V Σ−1)−

14

� �(XΣ−1Y Σ−1ZΣ−1V Σ−1)

w¶��q � �/ÆJ�(� ?3�)��t � ���su������@�_�������s�­~ÉÆ)£��3��¯V¹»q��­��q �k� u°���s�su � u)�s�su����D�Y�y���s�)u°¹�u �k� u/�­� ?3�s��t�u)�s�y�����s��#�µ

bÔ �ºª_¨���¬ Á¼u»q � ²�u � u)��� � ������u��G��qsu»u)È �s� u)�y�y�����É�f¯��qsu � �­u�t � ����ÀÏÛ/q � �������k·*u)����u)���y� � ¯´� � ��qsu»� � �yu��¯»¾)u � �kÀjt�u � �Ãt%�s�±���­² �k� � � ��u7�s� � t � �����­��� � �­�����������s�)¸/ufµ ��µ'¯Ë� �

S+ µ'pTqsu �s� u)²��­���s�G��u�²�u)��� � t�u)�����¹�u � u�² � �����,¯Ë� � ��qsu�ÂsÈ�u)��Àjt�u � ��� � �yu�µ�mÈ ��� u)�y�y���f���3¯´� � �s� � t � �Ñ���­��� � �­�����������s�3¹»�­��q,��u)�su ��� �Ñt�u � �²�u������ �»�k� u � ² � ��� � �_�­u���� �â�© (�jµ

pTq�u7��t � � � � � �Z� � ���­�Z���­�G��q � �G¹�u,� � �Ã�s�J¹ ����t � ����u-��q�u7�yu��������f� � �T��� � ² � ��� � uκ��¯»��qsu7t � ��À

��¯´�f���S+ � �s�7²�u � ��¯ ~b��q � �3��� � ����� � ���±~-���f�sÀj�)���s��� � ��� � �s�,�s����À � �f�y�­���­²�u�µmÎÇ�yu��������f� � �*��� � ² � ��� � u��­�� �y�y�V�)� � ��u)�Ä��� � ��~Ä�³¹��kÀj���­t�u)���y�­��� � ���y�s���yu�����¯P²�u)����� � � E �­�®��qsu%� � �s��u)����� �_� �)u � � Σ

¸TΣµ�w¶���­�

��u�Â��su�� � �/��qsu>< � �s�y�y� � �-�)� � ² � ��� � u���¯*��q � ��qZ~ � u � �y� � ¯ � �)u�t � �su���¯��qsu��yu)����¯ � ���­�Z��� � u � ��qsu)�b�Z~��q�u���u��Z��u)�y���)�»��� �©� �����s� � �

Σ�­� � ���*��qsu���� � u��������f���3�su)�y� � �±�u��,�Z~-��qsu � � � �su E µ

ò�òDé�QKRSUTVS

Page 15: Statistics on Multivariate Normal Distributions: A

ÆJ� ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

| ½ �J²�� ���©� �'q � ���yqs�J¹»�Ê���T� �k (�/��q � ��¸���¯�¹�ub�su��s�f��uÉ�Z~ρ2ij =

σ2ij

σiiσjj

��qsuÉ��� �y� u)� � �������'�)�Vu�ÍÉ���­u�����*u��³¹�u)u�����q�u%�)��t � ���su���������¯���qsu%����² �k� � � �s��u%t � � � �­��u)�

Σ = (σij), i, j = 1, ...,m¸e��qsu��yu)��������� � �

��� � ² � ��� � u � �Σ���3���­²�u��*¸�¯´� �

i 6= j¸s�Z~

Æfµκ(E ,Σ) = − ρ2

ij

1+ρ2ij

��¯ E =� �_� �

(Eii, Ejj)

�Vµκ(E ,Σ) = − 1

2

��¯ E =� �_� �

(Eii, Eij)

¹»q��­��q,���s�su�u)�,��u � u��s�s�»�f�Σ� �s�����3�s����À � �f�y�­���­²�u�µ

Á'u?� � �i�su � �±²�uS��qsu � ���)������u)���y� � ¸�¹»qs����qi���,�su)Â��su�� � � � ��qsuS�)����� ��� �)���­���i��¯���qsu � ��u)t � �s��ÀÛ/q � �­�����f·u��P��u)�s�y� � ¸ � ���º¹»qs����q¼� � �º�u���qs���s��q��%��¯ � ����q�uÉ�k�s��u)����¹»q��­��q¼t�u � �y� � u�����qsuÉ� � �J¹3��q��� ��u%��¯���qsu � �­u�t � �s��� � �?t�u�� � ���fµ�w¶���­� � ��~�t�t�u�� � ���f¸

m ×m �)�J² �k� � � �Z����u)�s�y� � µ�Á¼u � u�� � ���@��q � ���q�u � �­u�t � �s�sÀÏÛ/q � �­�����f·u��*��u)���y� � ���»u�È �s� u)�y�yu��,���7��u � t ��¯@��q�u �e�©� ��� � �*��u � �­² � ���±²�u��3�f¯@��q�u�t�u�� � ���([

Rlijk =∂Γlik∂θj

−∂Γlij∂θk

+ ΓmikΓlmj − ΓmijΓlmk

� �s�,��qsu�u)È ��� u)�y�y���f����¯���qsu � ���)���*��u)���y� � ¯´���­���J¹»� [

Ricciij = Rkijk = Rijklgkl

¹»q�u � ugkl

��u)�s�f��u)����qsu�����²�u � �yuT��¯s��qsu�t�u�� � ���fµ°|Z�st�t �©� ��¾)���s��u)²�u � ~V��qs���s�s¸k¹�u�q � ²�u/��q�u�u�È �s� u��y�y�­���¯´� �

Rijkl� �s�

gijµ-|Z~Vt�������­��� � ���)��� � �����f����u � �y�­�­~?��u � �S���7��qsuG���ft � ���su���������¯°��qsu � ���)�)����u��s�y� �

���S��u � tG����¯°��qsuÉ�)��t � ���su)�Z�����f¯Σ = (σij)

Î �Z�s�­��u�������u � u������­��� � �f�������­����q � ��¸@�Z~S�)��t �_�k� �­�y�����¯���qsu � �­���)�Ñ��u��s�y� � ¹»�±��q���qsu%tGu)� � �­����u)���y� � ¸_¹�u%� � � � ���y�É��u)�s�s��u���q � ����qsu�� �_� �)u%��¯�¾�u � �fÀjt�u � �t%�s�­���­² �k� � � ��u��s� � t � �����­��� � �­�����������s�����)¸e�­�Ä��u��su ��� �L¸e�s�f� � � m���s����u��­�®� �_� �)u�µTw¶���­�����s�su)u�� � � �e� ��u��¯��s����Àj�)���s��� � �����)� � ² � ��� � u � �s��qsu)�s��u��s�Vu��3�s�f�3²�u � ��¯Ë~b��qsu � u�� � �������

Ricciij =ν

ngij

¹»q�u � uν���T��qsu��y� � � �k� �)� � ² � ��� � u � �s�

n��qsu��s�­t�u��s�y�­���Ä�f¯���qsu�� �_� �)u �Yu�µ �sµ

n = 6#�µ

Î3���s�±������� � �­�­~�¸�¹�u�� � ��u�È �s� u��y����qsu � ���)���V�y� � � �k� �)� � ² � ��� � uν¸ � ����qsu�¯´�s�­�V� ��� ��u/��¯s��q�u � ���)���V��u)�s�y� � µ

w¶����� � ���y�Ä�su�Â���u)� � ���³¹»���)u���q�uÉ�y�st"��¯ � �­�m��qsuÉ�yu)��������� � �°�)� � ² � ��� � u)� � �����s� � ���m��qsu-�©À � � � �su�� E� �s� � u)� � ���­���s����q � �

Σ =

θ1 θ2 θ3

θ2 θ4 θ5

θ3 θ5 θ6

\^] ò \^_

Page 16: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� ÆJÒ

¹�u�q � ²�u([

ν = gijRicciij =

−0.03125( 51 θ31θ

34θ

36 − 99 (θ6

2θ36 + θ6

3θ34 + θ3

1θ65)−

161 (θ21θ

23θ

26θ

34 + θ3

1θ25θ

24θ

26 + θ2

1θ22θ

24θ

36) +

209 (θ31θ

45θ4θ6 + θ1θ

42θ

36θ4 + θ1θ

43θ

34θ6)−

221 (θ21θ

22θ

45θ6 + 221θ1θ

42θ

26θ

25 + θ2

1θ23θ4θ

45 + θ1θ

43θ

24θ

25 + θ2

2θ43θ

24θ6 + θ4

2θ23θ

26θ4) +

306 θ21θ2θ3θ5θ

24θ

26 + 366 (θ2

1θ22θ

25θ4θ

26 + θ1θ

22θ

23θ

26θ

24 + θ2

1θ23θ

24θ6θ

25) +

426 θ1θ22θ

25θ4θ6θ

23 + 522 (θ2

1θ2θ3θ55 + θ5

2θ3θ26θ5 + θ2θ

53θ5θ

24) +

768 θ32θ

33θ

35 − 796 (θ1θ2θ

33θ5θ6θ

24 + θ1θ

32θ3θ

26θ4θ5 + θ2

1θ2θ3θ35θ4θ6) +

940 (θ32θ6θ5θ

33θ4 + θ1θ

32θ3θ6θ

35 + θ1θ2θ

33θ

35θ4)−

1056 (θ1θ22θ

45θ

23 + θ4

2θ6θ25θ

23 + θ2

2θ43θ

25θ4))/∆3

¹»q�u � u∆ = |Σ| = θ1θ4θ6 − θ1θ

25 − θ2

2θ6 + 2θ2θ3θ5 − θ23θ4µ

� ��������������������������������������������! "����#$�%�'&(�)�*������+,�-�������,�

�D+-* � : 1�24-:EU�46F . /�7G:Ú_���­���J¹»�­�s� �G� u��)u����3¹�� �y½ �Z~ Ð � �k½ q�u � ��Æ % �j¸�¹�u ��� � � �f�yu � ��u�¹Ç� ��� �s��u)�Z���su)�y��u)��� � ����� � �±��qstD¯´� ���q�u3�)��t � ��� � ���­������¯e��qsu3�­�Z� � �­�s�y���»tGu � ���s����� � �±�_�����­���É��¯ � �yu��°��¯e¾�u � �fÀjt�u � ��t%�s�­���±² �k� � � ��u3�s� � t � ����­��� � �­�����������s�)µ�w¶� � u)���­u������%��qsu/��� � �y�y��� � �V��u�Â��s�­�����f����¯���q�u � ��u)t � �s�s� � ���)u�����u � ��¯�t � �y� � �s��t �k½ u)����yu3��¯_��qsu»��u)�V�su��y�­�3uJ��� � �������s�P�����su � �­²�u � t � �s��¯Ë�������)���s��� ��� ���su)�É�Z�st�u � ��� � �_�­����u�� ��� ��� �/� �s����qZ�s�u��s�y� � u���q � �Tu � ��q-����u � ¯´� � ¹ �k� �-��¯*��qsu�� ��� �s��u)���T��u)�y�)u����T��� � ~��/¹»�­��qs���b��qsu�� �_� �)u

S+ µmÎ��°¹�u�¹»������yq���¹ �­�º��qsuÉ�Z��tGu � �­� � �mu)È � u � ��t�u)�����)¸���qs�­�%tGu)��qs�V�º����²�u � ~Su)ÍÉ�)��u)��� � �s�¼�s�y� � �­�­~º�)����²�u � �fu���������s��� � ¯´u�¹ �­��u ��� ���­���s�)µ

Á'uf¸���¯3�)��� � �yu�¸P�yu�u ½ ���®u)������t � ��ub��qsu-u)t � � � �­� � �/t�u � � � � �s� � � ���yu��'�Z~¼Ú � �)��q�u��J��ÆJ�"�L¸�� �k� ��qsu ���Æ) (�L¸ � u)�s�su�� � �f£Q�@� ��Ð � �k½ qsu � ��Æ1E$�,[4 Ô�� 7 0˧10 Ø87 @ ��'�� � �B� ����� !��� ��������$ �B������� �%��� �� !� ������C��O$ �

Σ̂ ∈ S+(m,R)��� ��� �8�� ��� ���B�

� ���������U��� �U���;���N

���������$���������%�Σk, k = 1, ..., N

�M� � � �������H�#� �C�U��� ��%�� O� ��� ���B� �U� �8� �������µ : S+(m,R)→ R+ � ��� � � ���#���B�O� ���������U���8������������U�O��� � �N�8�� ���

µ(Σ1, ...,ΣN ) =1

N

N∑

k=1

D2(Σ,Σk) = E[D2(Σ,Σk)]

� �k� ��q�u ����� ��²�u��S��� ��Æ) (�P��q � ���y����q � t�u � �Ѹ ½ �s�J¹»� � ����q�u � ��u)t � �s�s� � �º� �k� ~V��u)����u � ¸@u�È��������� �s�¼�������s���Z�suɯ´� � t � ���­¯´���­�'�f¯��s����À � ���y�­���±²�uÉ�yu��������f� � �°�)� � ² � ��� � ufµ-pTqs����¹ � ���yq���¹»�¼���,�uG��qsu� � �yu�¯´� �

S+ µw³�i� � �su � ��� �su � �±²�uº��� � � ��� �s��u)���Ä�su)�y��u)��� � ����� � �­��qst,¸�¹�u � u)�­~ ��� ��qsu?¹�u��­�­À ½ �s�J¹»�i¯´���­���J¹»�­�s�

ò�òDé�QKRSUTVS

Page 17: Statistics on Multivariate Normal Distributions: A

Æ)  ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

� u�t �©�y½ � �Y�yu)u�� E � � �s� � u�¯Ëu � u)�s��u)�Ñ��qsu � u)����¯´� � t�� � u°�su)� � ������#�[*Á¼um¹ � �������»�su � �­²�u � �_��¹Êu�²����±²����s� � ����s�­��� � �Z���su)�y�

Σ̂(0)���J¹ �k� ����qsu°tGu � ����¯ � �yu�����¯�u��­u�tGu��������f¯

S+ µ�w³¯V¹�u°�su��s�f��um�Z~ Σ̂(s), s ∈ [0,∞)��q�u�¯ � t��­�­~7��¯��y�f�����������,��¯∂sΣ̂(s) = V (Σ̂(s))

¹»q�u � uV�­�3��qsu��s� � u)�)���­������¯�u)²������������f�Ѹ�¹�u�q � ²�u

Σ̂(s) ∈ S+(m,R), ∀s > 0

⇔ Σ̂(0) ∈ S+(m,R)� �s�

V (Σ̂(s)) ∈ TΣ̂(s)S+(m,R) = S(m,R), ∀s > 0

Á'u%��qZ�������su)������¯Ë~V¹»�­��q?��qsuG� �s� �f�y�­��uG��¯m��q�u�����² �k� � � �����su � �±² � ���­²�u���¯/�f� � �f����u)�)���±²�uG¯Ë���s���������

µ(Σ1, ...,ΣN )¹»q��­��q,���»�yqs�J¹»�,���G�u �Y�yu�u>��Æ % ��#�[

∇µ =Σ̂(s)

N

N∑

k=1

log(Σ−1k Σ̂(s))

��? #

& u��s�)u���qsu�u�²����­�s���­���

∂sΣ̂(s) = − Σ̂(s)

N

N∑

k=1

log(Σ−1k Σ̂(s))

��E�#

������������ ��������������������� ������� �vT����¸ � �3t�u)�Z���­���su��,��� ��E �L¸s��q�u���� �y� u)� � ���s�s���s�É�Z�st�u � ��� � �Ñ��t � �­u�t�u)��� � �����f��q � �T���G�u��su � �­�3¹»�­��q� �k� u)¯´�s�­�­~ � �s�,¹�u�q � ²�u����G���s����� � ����u � Àj¯´� � ¹ �k� �,� � u ��� ��� �

Kdt�y�s��q,��q � �3��qsu��s�­�y� � u���u ���J¹

Σl+1 = Kdt(Σl), Σ0 ∈ S+

��� ��²����su)� � �É�­��� � ���s�y��� �Y� � ���f���y�­����u���� � �/�Z� � ���±Â_u)�É���!��E �^# �k�s�s� �JÈ��­t � �����f�b��¯u)²������������f�ÉuJ�Z� � ���­��� E�l��u)�s�f��u)�m��qsu»�s���y� � u)��u3²�u � �y���f�É��¯��qsu3���������­�V�s���s�°¯ � tG���­~ �_�k��� t�u���u �

s#�µ�Î��m¹�u»q � ²�u ��� u�²��­���s�y�­~

� �f������u��%������¸ � �)�����yu)��¯´� � t ¯´� � ��qsu���u)�V�su��y�­������¯S+ �s�Vu)��u�È��­����µ & u)���)u/¹�u/� � ����� � u������­~��­����u�� ��� ��u� �����s�-��q�uG��u)�V�su)�y���)����¯m��q�u�� �_� ��u�¹»�±��q��f�s��q � ²����s�7���7�s�yuG��qsuGu�È � ���su������ � �Pt �©� ��� � u�À ��� �k�Ïu�����¸

� ¯Ë��u � u � ��q��­����u�� ��� ������������u � ¸s��q�u�u)��u)t�u)�����f�s� � �­��u)�,�Z~7t��J²��­���É�­�,��qsu��s� � u)�)���­�������±²�u��7�V~ −∇µ� �s�,¹�u�q � ²�u���qsu�¯´���­���J¹»�­��� �s� � � ���y�­���­���)[� ¨ Ø�.�Ø ¦C0˧10 Ø87 @ � @ � � ��� ��� �

Σ(t) ∈ S+(m,R), t ∈ [a, b]��� ��� �!������� ��K�5���U� �����

V = −∇µ ∈S(m,R)

� ��� ���K�������U����! ��� �U���%�U������ �%�#"6��� ��� � ��� !��������� ��� ���B�%$ � �'& � ��� $U�!� $ ������8� �$ � � �U�������B�>���� � � � �����5��� ���%� � �������

Kdt(Σl) = Σ1/2l exp (−dtΣ−1/2

l ∇µΣ−1/2l )Σ

1/2l

� %�#

� � �1��� �3pTq�u3�fu��V�su)�y���3��� �k� ���­�s��¯ � ��tΣ(t)

� ��� � ���������­�����­�É�s� � u����������V = Σ(t)1/2XΣ(t)1/2, X ∈

M(m,R)���3���­²�u��7�Z~

Σ(t+ dt) = Σ(t)1/2 exp ([t+ dt]X)Σ(t)1/2 ∀dt ∈ [0, 1]

\^] ò \^_

Page 18: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� ÆJ�

�­� � u � �s���­~-¯´���­���J¹»�T��q � �

Σ(t+ dt) = Σ(t)1/2 exp (tX)Σ(t)1/2Σ(t)−1/2 exp (dtX)Σ(t)1/2

= Σ(t)Σ(t)−1/2 exp (dtX)Σ(t)1/2

w³¯V���»���su)�Z���±Â�u��,¹»�±��q7��q�u�� ��� ���y�±��u��f¯���qsu�����² �k� � � ���»�su � �±² � ���±²�u���¯ � ��~7�f�s�Ïu������­²�u�¯Ë���s��������� � �

µ�´¹»q��­��q,�­�»���S(m,R

# #�¸�¹�u��f�s� � ���)[

X = −Σ(t)−1/2∇µΣ(t)−1/2

� �s�Σ(t+ dt) = Σ(t)Σ(t)−1/2 exp (−dtΣ(t)−1/2∇µΣ(t)−1/2)Σ(t)1/2 � ��#

���su������­¯Ë~��­���Σ(t)

¹»�±��q7��q�u��)� �y� u)����u)������t � ��u���¯@��qsu�t�u � �Σl~��­u��­�s�3��qsu � u)�y�s�­��µ

�� ����� � ���� �,& �J¹ �s�Vu)�°��q��­�/�Z��tGu � �­� � �e�y��qsu�t�u��)��t �_�k� u»������qsu�� ��� �s��u)�����su��y�)u���� � �y�y�Z��� � ��u��

���G��qsu�¯´���­���J¹»�­�s�É� � u ��� ��� ���Kdt(Σl) = Σl − dt∇µ

��Æ)£ #� ¨ Ø�.�Ø ¦C0˧10 Ø87 @ � A � � �B�O���������%�U�������� � � � �����5��� ;���%� � ����������� ��� � �N��� ���� �� ��� ��� � ��� !��������� ������B� ���K�� ������� ��� � � ���%���U�������� � �� � �1��� � � u)� � ���­���s�G��q � �3��qsu�t � � � �­È7u�È � ���su)�Z��� � �*¹ � �±��u�� � �3��qsu�¯Ë�����­�J¹»���s� � �J¹�u � �yu � ��u)� [

expX =∞∑

n=0

Xn

n!= I+X +

XX

2+XXX

6+ ...

�  � ���»� � �su � u)È �_� �s�y�­������¯L%%~���u)���s� [

Kdt(Σl) = ΣlΣ−1/2l (I− dtΣ−1/2

l ∇µΣ−1/2l )Σ

1/2l

= Σl − dtΣlΣ−1l ∇µ

= Σl − dt∇µ

�pTqsu�u�È � ���su������ � �mt �©� �­���su)Â��su��º¯ � ��t

[0, 1]�������

S+ µbpTqsuÉ� � ���­t � ������t�u�����u � dt ������qsu)�uJ�Z� � ����1� �s�,��qsu�� � ����t � �Ñ����u � Àj¯Ë� � ¹ �k� ��� � u ��� ��� � �­�»u�È �s� u��y�yu)� � �»¯Ë�����­�J¹»�

K(Σl) = Σ1/2l exp (−Σ

−1/2l ∇µΣ

−1/2l )Σ

1/2l

pTq��­�3¹»�­���*�u����­���s��� ��� ��u)�����7��qsu��yu)���������,�su��s�­� � ��u)�7�����Z�st�u � �­� � �@u)È � u � ��tGu������)µ

� ������� ��� ���� �Á'u��s�J¹ �)��t�u�� � � ½ ������qsu��su � �±² � ����������¯ � �Z�st�u � �­� � � � �­��� � �±��q�tD���Éu)������t � ��u���qsu � �­u�t � �s��� � �

ò�òDé�QKRSUTVS

Page 19: Statistics on Multivariate Normal Distributions: A

ÆC? ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

� �©� ~���u)����u �Σ̂�f¯ � �yu)���f¯ �_�k��� tGu)� � �­¾�u)�St%�s�­���±² �k� � � ��uG�s� � t � �P�s����� � �±���s���­���s�)µ�Á¼u��y�­t � �­~?t �k½ u

���yu,��¯���qsu�u�È � ���­���±�Éu�È �s� u��y�y�­��� ��¯���qsu��)�J² �k� � � �Z����u � �­² � ���±²�u ∇µ ���­²�u��Ã��� ?ZµÅpTq��­��~���u)���s�G��qsu����u � Àj¯´� � ¹ �k� ��� � u ��� ��� � [

Kdt(Σ̂l) = Σ̂1/2l exp (−dt Σ̂

1/2l

N

N∑

k=0

log(Σ−1k Σ̂l)Σ̂

−1/2l )Σ̂

1/2l

��Æ�Æ #

¹»q��f�yu � �y�y�Z��� � ��u�� �_��¹ ������²�u � ��u)�3���J¹ �©� �,��qsu�� �k� ~��)u)�Z��u � ¯´� ��� ��~7���s�­��� � �Ñ���su��y�Σ̂0µ

�D+�� � : 1�24-:EU�46F�� 9 �L7L2 4O7,:EFH/�.0781324��;7G: � I�24-:EF)46CE7GN .09���/�UÁ'u �s� � � ���yu � �su)¹ � ����� � �±��qst ¯Ë� � ��qsu����ft � �s� � ����������¯s��qsu������ � ���s�y����u�t � � � ��� � ������² �k� � � �s��u�t � � � �­È��¯ � �yu)�/��¯

N¾)u � �kÀjt�u � �bt%�s�­���±² �©� � � ��u��s� � t � �e�s����� � �±���s���­���s�)µPÁ¼u�¯Ë�����­�J¹ � ?"�e¹»qsu � u»��qs��� �s� �f����u)t

¹ � � � �s� � u)�y�yu��Å��� ��qsu�����Â��s�­��uÄ�s��t�u)�s�y����� � ��� � �yuÄ�f¯ � �yu��b��¯ � � � � �k� �)���f�yu��Å�)� � ²�u)�)¸ � ��� ��Æ�£Q�¹»q�u � u»��q�u�Ü@��� �©� �­��qst�����t �k�s� �­�s��q � �-�����u��s�yu)�ѵ�x�� � �f����u)�)���±²�u»¹»�����_�*u�������u � �­²�u � �7�­��� � ���s�y����V�st�u � ��� � �/�y��qsu)t�u7¯Ë� � ��q�ubu������­t � �����f�Ê��¯T��qsu-�)�J² �k� � � �s�)u-t � � � �±È

Λ� u�� � ���­²�ub���Ä��qsu-u)t � � � �­� � �

t�u � �Σ̂��¯N�s� � t � �Ñ���­��� � �­�����������s� � ���,���y�­�s�É��qsu�u)È � �­���)�­�»�y�����������f�Ä��¯���qsu���u)�V�su��y�­��uJ��� � �������*µ

Î���¹�uG�)���s�y���su � ��q�u6Àj���­t�u)���y�­��� � ��t � �s��¯Ë�����S��¯ �_�k��� tGu)� � �­¾�u)�?�s� � t � ��� � ¹»�)¸*¹�u%¹»��������¯m����� � �yu

u��s�,� � ¹»�­��qΛ ∈ S+(6,R)

� �������s���f�,��qsu�� �_� ��uS(6,R)

µÎ����su�Â���u)�Ã����� ?"� � �s���â�f£Q�L¸°¹�u � �y�y�V�)� � ��u-���Su � ��qÃ��¯

N�s� � t � �3�s����� � �­���������f�

Σk��qsu,���s���Z�su

� � �s��u�����²�u)�)��� �βk ∈ S(m,R)

�Y�yu�u)� � � � �ºu)��u)t�u)�Z���f¯Rm

#��y�s��qº��q � ����qsuÉu)t � � � �­� � �mt�u � �Σ̂����t �k�s� u��Ã�������

Σk�Z~ ��qsu,u�È � ���su������ � �3t �k� PÈ �

Σ̂(βk)�Y�yu)u,Â���� � u¼Æ"#�µÃÁ¼u7��q�u)� q � ²�u,��qsu

¯´���­���J¹»�­���G��u�Â��s�­�����f��[4 Ô�� 7 0˧10 Ø87 @ � 9 ��� ���� �

N� � � !��K�������

S+(m,R)��� !�O �U��������� �%�

Σ̂� ���B� � ��������U���/�U����������

���8�U�> !������ � � � ��������� ���Σ̂�� � � �8� �����

ΛΣ̂ =1

N

N∑

k=1

βkβTk

Á¼uP���su)������¯Ë~���qsuβk¹»�±��q���qsum�)�J² �k� � � ���@�su � �±² � ���­²�u���¯Z��qsuP���Z� �k� u)���s����� � �s�)um¯´�s�s��������� ∇D2(Σ̂,Σk)

µÎ��3��u�� � �­��u)���­� ��Æ$%"�j¸�¹�u�q � ²�u ∇D2(Σ̂,Σk) = Σ̂ log(Σ−1

k Σ̂)µ

x��s�)u°¹�u/q � ²�u��)��t � ����u��Λ¸f�­������¯ � � � �­~�u � ��~�¸ � �s�%���s��� � �s�����­²�u/���%� � �su � ����¯Ë� � ��qsu � �s�s�su � ��� � �s����qsu

��� � ������� � u»��¯*��� � �y�����yu�����¯*�s� � t � �_�s����� � �­���������f���)¸Z�����)��t � ����u»��qsu�u)���fu���² � ���su)� � �s�bu)����u)��²�u������ � ���¯3��q�u-�)�J² �©� � � �s�)u7t � � � �­Èeµ'Ú���u�����q�u � u�� � �LµT� �"�T��u��su ��� ���­¾�u)�Ê��qsu7�s�f�����f� ��¯ �m� ���s�)� �_� ��Û/�ft � �fÀ��u)����Î�� � �­~V�y�������,Ü@��uG� � ��� � ���Z~?�yu)u ½ �­�s���fu��V�su)�y���G�y����t � �s��¯Ë�����s�)¸@�V~ � � � ���f�f~®¹»�­��q?��qsuG���J¹�u � À���­t�u)���y�­��� � �V�­���su �©� �y����� �e� ��u)����¯ � Û/Î%¸���q � ��t � È��­t���¾)u°��qsu �s� �k��u)����u���² �k� � � �s�)u/�f¯���qsu/� � � � µ�pTq��­�� �)��� � �­�­~ � t��f�������°���%��q �k��� ����u � �­¾�u3��q�u3� � �s��u������ �_� �)u � �/��qsu�t�u � �bu)��u)t�u����

Σ̂��q � ���s��qb�)� � �y�y�­� � �

� Û/Î ���Ä� � �su � ���É���f����� � �s��� � �Ä� � ��qs������� � �Ñ� � �y������¯�� � �s��u)�Z�»²�u)����� � �vk, k = 1, ..., d ≤ m

��q � �� � �7�*u��s�yu)������fu��su ��� ��u

lÀj���­t�u)���y�­��� � ���y����� �e� ��u)�

Vl =� �_� �

(v1, ..., vl), l ≤ m��q � �»t � È��­t���¾)u

��q�u ��� �k�Ïu�����u��%² �k� � � �s��ufµPpTqsuvk�k� uT�su�Â���u)� � ����qsuT�yu��m��¯_u)���fu���²�u)�)��� � �P��¯���qsuT�)�J² �k� � � ���)uTt � � � �­È

Λµ & �J¹�u�²�u � ¸��y���s�)u�¹�u�q � ²�u � ² � ��� � ����u���q�u��fu��V�su)�y����uJ�Z� � ���­���s�����

S+ ¸V¹�u�q � ²�u � �)���f�yu���Àj¯´� � t ���

\^] ò \^_

Page 20: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� Æ1E

Ú��­��� � uÉÆ([ :�u � ���������f���f¯���qsu�²�u��­�V���±�³~bÂ_u)���βk� �3��qsu�u�t � � � ��� � �Ñt�u � �

Σ̂

��u��su ��� ��u�u)��u)t�u)��������¯ � �Z~���u)�V�su)�y�����y���_t � �s��¯´�f���Hk

�su�Â���u)� � ����q�u�u�È � ���su������ � ��t �k�s� �­�s�b��qsuVkµ

w³���su)u��*¸°¹�u,� � �Ã�su�Â���u � ��~ ���­�su �k� ����t��_�­� � ������� ��¯3��q�uvk¸v =

∑dk=1 αkvk ∈ S(m,R)

� �s���q�u)�b���ft � �s��u���qsu��s�����Z�su�u��­u�tGu����

C��¯S+(m,R)

� u � ��qsu)�b�Z~b¯Ë�����­�J¹»���s�%��qsu���u��Z��u)�y����u)t � � � �yÀ���s��¯ � �ft

Σ̂�­�,��qsu��s� � u)�)���­���

v� �s�����ft � �s��u)� � � [

C = Σ̂1/2 u)È � (Σ̂−1/2d∑

k=1

αkvkΣ̂−1/2)Σ̂1/2 ��ÆJ��#

�D+ � � � 9,2�� 7GN R 46U 1�2 4OKMXY1@4O9=:S9�: . XENO134 �L7L2467813/ � 9�2�� 7GN R 4-U 1�246KMXY13469�:EUx�� � � � ���T������� � �±�_�����­���7t �k½ u)�T�s�yu��f¯Ñ��qsu�² �k� �����s�T�Z� � �����­���­u����su � �­²�u)�7� � ���%��q � � � ������� � �s�7¯´�s�­�­~u)È � �­���­���°��qsu����s¯´� � t � �������É��q�u�~ �s� �J²��­�su����-� � �su � ���%�su � �­²�u���qsu�u)È ��� u)�y�y���f�-��¯ � �s� � t � �e�s����� � �±���sÀ�������?�f�

S+ µ�Á¼u%��qZ��� ��� �Z��u)u��®�Z~ � ���s�����­���-��qsu �k�s��� � ��� � � ��u���� � �Z���±����u)�����?��qsu���u)��u ��� �­��¾ � ���������¯*��qsu��s� � t � �e�s����� � �±���s���­���b��� � ��u)t � �s�s� � �7t � ���­¯´���­�s� �s� � � ���yu)�-��� � �f£Q�¯´� � �y��ÍÉ���­u������±~b�����s�)u���À� ��� ��u�� �s� �f� � �������±�³~,�su)�s�y�­�³~7¯´�s�s�)���­���s�)¸�ufµ �sµm¯Ë� � �yt � �­�@����² �k� � � �s��u�t � � � ���)u)�)µÁ'u �k� u�t��f���±² � ��u)�S�Z~ � ²�u � ~S�­t � � � � � ��� �©��� �­��� � �������º���¼t�u)�s��� � �m��t � ��u � � � �­~V�y���)¸�� � t�u)�­~?��qsu�yu���tGu���� � ���­���Ä�f¯��s�­·�s�y����� Ð?� ���su������ � u)�y��� � �s�)u�w³t � �fu��)µTpTq�u � �s��qs� � �»q � ²�u � � � u � �s~ �s� � � ���yu)��yu)²�u ��� ���s�­·u � u)��� �©���s� � � ��qsu)�����7� � � ½ ��u���qs�������y�y�su �­ÆC?"�j¸��â��� �j¸���ÆJ� �jµ & �J¹�u�²�u � ¸@�y���s�)uG��qsuGu��y�yu)�s��u��¯3��q�u)�yu �©���s� � � ��qsu)���­�G���?t � È��­t���¾)u7��qsu7���f�fÀj��� ½ u��­��qs�V�V� ��¯ � �Y�s� � t � � #����­��� � �­����������� �J²�u � ��qsu�f�s�Ïu��������f¯P������u � u)����¸u�µ �sµ :��­·�s�y���f�Sp@u��s�y� � � � �s�®�y���s��u���qs���yu���u��s�y� � � �k� u%� � ��� ��� ���±~�������u �y�s� u���u��� �3��qsu����J² �k� � � �s��u�t � � � �­��u)�»��¯�¾)u � �kÀjt�u � ���s� � t � �@�s����� � �±�_�����­���s�)¸���qsu�¯Ë�����­�J¹»���s�É��u)�su ��� �­��¾)u��,� � ¹¹»������u���¯�� � u � �»qsu�� �®� ���,���»�)� �y� u������±~-�u��­��� �k�s� ���­u��,������q � �3� � � ½ µ

Ú_���­���J¹»�­�s�bpTqsu)� � u�t   �s� �J²�u)���­� �â�f£"�j¸s¹�u�q � ²�u���qsu�¯´���­���J¹»�­��� �s� � � ���y�­���­��� [

ò�òDé�QKRSUTVS

Page 21: Statistics on Multivariate Normal Distributions: A

Æ % ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

Ú������ � ub� [ PÈ � t � ��u)����¯/�yu)��t�u)��� � �������S���º�s�±·*�s�y�­���S��u��s�y� ��Ю� w��Z~?�y� � ¯ � �)u�u�²����­�s���­��� �-� ������� �²�u���� � �­���­u���� ������� � �U��� ��� � � ����� ��� �B #

� ¨ Ø�.�Ø ¦C0˧10 Ø87 @ ��L ��� �B������� !��� ��������$ �B�������6��S+(m,R)

� ���>���m×m �U������������8�U�� !������

Λ�����U !����� ����������8�U�σ2 =

� �(Λ)

������#���B� � ���

k. exp−βγβT

2�G�B� � �

� β��� � � �8� ��� ∇D2(Σ̂,Σ)

�5�������� � � ������� �

� � �B�>�8��� ��� � �C��������� � ���%������K���k =

1+O(σ3)+ε(σr )√(2π)m|Λ|

� � ����Λ

� � �8� ���#����� �U� ������� �

� � �B�#�U���8�U��K��� ��������� !������ �γ = Λ−1− Ricci

3 +O(σ) + ε(σr )� � ����

Λ ��� �8�� ��� �� � �U� �������

� 6��� Ricci

���#���=� �U� ������� � ���

r��>���B�>���V� � ���������U� ����B�����

Σ̂���

���U�%� �;���B���

limo+ x−pε(x) = 0 ∀p ∈ R+ �

� "�,#$�3�P�)/�%� ���-5?�3���)#$�3�G�����������,�

Á'u �s� � � ���yuf¸V���bÎ��­��� � �±��q�tG��Æ � �s�7�V¸Z��qsu Ð?� ��� � � TM �­t � ��u)t�u���� � ���­���b��¯e��q�u � ����� � �­��qst��°¯´� � ��qsu����� � ���s�y����tGu � � � �s������² �k� � � �s��u�t � � � �±Èµ°pTqsu��)��t � ��� � ���­���,��¯���q�u�t��V�su)�3��¯�² �©� � � ���­��� � t����s�������� � u � ¯´� � t � |Z���s���s� �k� �/� �­�su :�u)����t � �f�y�­�����f�-�f¯*��qsu��)�J² �©� � � �s�)u�t � � � �­È � �s�b���%�s�yu�uJ�Z� � ���­���®ÆJ�����u)������t � ��u���qsu�t��V�su)�)µ/pTqsu��­t � ��u)t�u)�Z� � ���������­�»��� ��� �­��q���¯´� � ¹ �©� �ѵ� u)� �k� �s�­����¸Z��qsu��)��t � ��� � �������É��¯��qsu � �­���)����u)���y� � ¸V¹�u»�����s�f� �s� �J²����su»��qsu�u�È � ���­���±�/u�È �s� u��y�y�­���b��¯�­���3�)��t � ���su������3�y�­���)u��­�3� �k½ u)�T���V�Gt%�s��q�� �_� ��u������3��q�u��s�yu��f¯ Ð?�k� ��u TM ¹»�­��q7��qsu������������ � �s�� �������������������! ��"� �_� � ½f� ��u)����� � u)�)��t�t�u)�s��u)� � �s�Äu � �y���±~ �s� �J²��­��u)� C �y��� � ��u��)�V�su�µ�Ú���� � �­�­~�¸_��qsu� �­���)�V�y� � � �©� �)� � ² � ��� � u/�­�P�f�s� � �­�su����s� � u)�����­~�¯ � �ft ��qsu�u�È �s� u��y�y�­�������±²�u�� � ����qsu�u)�����f¯_�yu)�)���­���-Æfµ  sµ

\^] ò \^_

Page 22: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� Æ �

¤ � �_Ø ¨�0 §1+�� ' Ð?� ��� � �?Û/�V�su�¯Ë� � w³��� � ���s�y��� Ð u � �������������� ������������������������� ���"! ��"#�$%�����#��#�&!('!���#��"#�!%�"����"#�$�!�*)+$��,�����,��!��"-/."#���!�0�(12 �3���4#��# ��576���!���7���7�8�!9�"!�����7'� ��:�#/�"!���!���;�4#��! �<�>=�����?�!��@����#�! ��� �#����4����A�� ����(1 �CB"���#/����!�'�1�!����7������"#�������"$ �#����EDF1�G�H�#����"#��4��#�$�1�!����I)+ KJL12KJM'�IJN�4#�! �40ODN=IJM.PJN8GQH���#�R!O)+ 0TSDU�VJF��G�H���#�R!O)M1�2�0TS1�H;12WS�� �@#�! ��H"XY�U�4#,! �

Z H7R�! ����T)N�VJF�T0TS�� �Q#�H"XY�F=

Z H Z�[ 5���6 �V)\#��&W)M�!��8�����!O)+ O)]#TJ��J�+0TJ^�WJ_��0�0�`�140TS!��'IS1�H��,a��� �V)L140�`�!�� ���V)/-,'��`���a�����V)M140�`Y) Z<b^c =40�`�#���&K)/��a��� �V)M140�0�0�`���a����<)M1"0YS

!��'IS

¤ � �_Ø ¨�0 §1+�� @ Ð?� ��� � �?Û/�V�su�¯Ë� � w³��� � ���s�y����Û/�J² �k� � � �s��u Ð?� � � �­È������������� ������������������������� ���"! ��"#�$%�����#��#�&!('!���#��"#�!%�"����"#�$�!�*)+$��,�����,��!��"-/."#���!�0�(1 �CB"���#/����!�'(�"!�������A�� �����d �CB"���#/����!�'@$���&� ��#����"$�!%�"�����#�������"$ �#����EDLd�G�H�#����"#��4��#�$�d���&�1��W)+ KJN140DF=PJN8VJN.�G�H���#,R!O)+ �0eSd7H(R! �����T)+fKJ_f0TSg H(R! �����T)+fKJ/X�0TS�� �@# H"XY�U=

h H(�!��8�����!O)+ O)]#TJ��J�+0eJ^�WJ^��0eSZ H(1�`�5���6 �P)]#��&W) h 0�`�140eSg )�X�09H Z )�XeJ/X�0eS g )+i�0%H Z )/XeJ_i�0TS g )_��0;H Z )�XeJ^��0TSg )^j"09H Z )+iKJ_i�0eS g )+k�0%H Z )_iKJ^��0TS g )+f0;H Z )_�WJ^��0TSd7H�d [;g ` gIl S

!��'ISd7H7d b^c =IS

ò�òDé�QKRSUTVS

Page 23: Statistics on Multivariate Normal Distributions: A

�f£ ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

Ú������ � uGÒ�[�� �����"�/|�~�����qsu���������u)�s�y� � Â�u��­� �-� �­u�¯ � ��� � �����­� � ���s���­��~ÄÂ�u)���*¸L� � ���fqZ� ���yu)��t�u)��� � �������®��¯���qsu�yq �©� u»��¯*������u � u���� #�¸Z�����������L�Ú�� � ��� � �s�b�yu��)���s�bt��V�su)�/��¯² �©� � � ���­���É�y� � u � ��t � �f�yu��-�f�É��qsu�t�u � ���u��s�y� � �´��� � � ½ [ t�u � �*¸ � u)�)[

αk = +2����u��Z� � ���­���¼Æ��-¸s�_�­�su�[

αk = −2����u��Z� � �����f�¼ÆJ��#

\^] ò \^_

Page 24: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� ��Æ

°��u)t�u)����� Æ�£ Æ)£�£ �k£�£ Æ�£�£f£ �f£�£�£ Æ�£�£�£�£ �f£�£�£�£pT�­t�u �Y���

s# £�µ £ ? ?�� £�µ  �Æ) ZÒ Æfµ � ?�%�� ÒZµ %k Z�(� Æ$�Vµ÷�f£f£�� Ò��Vµ  �����Æ Æ �fÒVµ EVÆV?��

p � ����uÉÆ([°pT�­t�u��f¯��)����²�u � �fu��s�)u��­�,��u � tG�3��¯���qsu��V�st��u � ��¯�u)��u)t�u)�Z�����Y��� � �V¸   < & ¾ � w � #

Á'u�����¹ �s� �V�)u�u)�7�����Z��tGu � �­� � �Ñu�È � u � �­t�u)�Z� � �������s�3������~V�Z��qsu������ � �s� � u � �Ñ� � � � �yu����)µÁ'u%q � ²�u% � ��� �k�s� ���­u��Ä��q�u��su�Â����±�������?��¯P��qsu���u)�V�su��y�­�����­��� � �s��u � ���?�­��� � �y�y�V�)� � ��u)�®² �k� � � �s��u����� u � ¯´� � t¿��qsu��yu���tGu���� � ���­���7�f¯Ñ�)u � u�� ��� � � � � ����t��­� � �e��� � ������� � u��°�Z~ÉÂs�y�����s�-Æ�Àj�s��t�u)�s�y����� � ��s� � t � �t��V�su��­���f�S��qsuG���­��� � �­�����������s����¯m��qsuG��u��Z��u)�y���G���­��� � �s��u)�)µ�pTqsu�������u � u�����u)� � u � �su � ��� � u�¯Ëu �y� u)�?�����ÆC?"�_¯´� � tG� � u»��u�� � �­���)µPÚ��­��� � u�� �s� u��yu)�����°��qsu � u��y�s�­���°��¯e��qsu»�yu)��t�u)�Z� � �������ɯË� � ��qsu3²�u)��� � ���)��u)� � �s���q�u�¹�u��­�­À ½ �s�J¹»����� � �s�)��� � u���¯���qsu�¹»q��±��u�t � �y��u � ¸���qsu �U��� ��� � � ����� ��� �B µ

Á'u���qsu)����u����3��qsu�Î����f� � �­��qst��%Æ � ���?�G��� � �y�����yu)���f¯���qsu���q � u�u�Àj�s��t�u)�s�y����� � ����~V�Z��qsu���������u��s�y� �Â_u)���S�yqs�J¹»�S���?Â���� � ubÒVµGpTqsuG� � � � ¹ � ����u)��u ��� ��u)�S�y�7��q � ���y��t�u���u��s�y� � ��¯´���­���J¹ ���º�_� �y��u � �*µpTq�u � u)���»��¯@��qsu�²��f���st�u�¹ � �TÂ_�­��u)�7¹»�­��q7��u��s�y� � � � ���­���su��,�­�,��qsu�� � t�u��s� � u)���������*µ ��� �s�s��tD��~VtGÀt�u)� � �­�»t � � � ���)u)�)¸V¹»�±��qbu)��� � ��u)�/¯Ë�����­�J¹»���s� � �s� � t � �_� � ¹ �f¯*¾�u � ��t�u � � � �s�ɲ �©� � � �s�)u

1¹�u � u�t � �su

� �f�y�­���­²�u)Àj�su�Â_�s�±��u°�Z~ �k�s� �­��� � �����f�%��¯���qsu/t � � � �­È�u�È � ���su������ � � � �s��²��JÈ�u)�­¹»�­�yu � �s�su������3��q�um²����­�st�u�µÁ'u � ����� � ���±~�u�ÈV� ��� ����u�����qsu3��u)���y� � �/���s�y���su»��q�u � �yq �k� u � � �*�f�s���f£�£�£ # � �s�-�)��t � ����u)�É��qsu»t�u � �Ѹ���J² �k� � � �s��u�t � � � �­È � ���? � �����³¹��7t��V�su)����¯m² �k� � � �����f���)µ�pTqsu � u)�y�s�­� �©� u �s� u)�yu�����u)�S���?Â���� � uÉÒVµÚ_� � ��qsu3� �k½ u»�f¯e�)� �k� �±�³~�¸�¹�u»���s�±~Gq � ²�u � u �s� u��yu)����u��G��qsuT � ���m�³¹���t��V�su��m¯Ë� �

αk = ±2����u��Z� � �����f�

ÆJ�VµPw¶�3��� � �s�3�f�s�T��q � �T��qsu� � ���T�³¹���u��­��u)�Z²�u������ � �T��¯@��qsu��)�J² �k� � � ���)u�t � � � �­È �k� u��s��t���� � ����¸s¹»�­��q� ��t��f����uJ�Z� � �_u��­��u)�Z² � �­��u)�)µmpTqsu»Â � ����t��V�su��yu�u)t��/����� �k� ��� � u���qsu�� � ��u)��� � ������� � ��² �©� � � ���­���b��¯��qsu� � � � �yu)�T¹»qsu � u � �T��q�u��yu)�����s���f��u��yu)u�t��T����u)��� �k� �y�s� � ��u���qsu�² �©� � � ���­���,��¯��y��¾)u���¯���qsu���u��s�y� � �)µ

� u)ÈV��¸Z¹�u�q � ²�u��)���s�s������u)�-�y��t�u � u � ¯Ë� � t � �s�)u � � � �­~V�y���T��¯*��qsu�� ��� �s��u)�Z�T�su)�y��u)��� � ����� � �±��qst ���yu)����,u)������t � ��u���qsu��­�Z� � �­�s�y����t�u � �ѵGv�~ � �s�s�s���s�,��qsu � ���f� � �­��qst � u � u � ��u)���±~®¹»�±��qº�s�­·u � u������­���±��� � ����su��y�yu)�)¸Z¹�u�q � ²�u�u)�s�y� � u�����q � �/�±�°¹ � �°�s�f� � ·u)�)��u)���Z~���q � � �_�k��� t�u)��u � �y�­���)u��±�/�)����²�u � ��u)�bu�²�u � ~����t�u��­�S�s�,tG� � u���q � �

4�±��u ��� �������s�)µ%pTqs����¹ � ��qs�­��qs�­~ � u ��� �Z���s�)�­����u � �s�?��u�����u)�®¹»�±��q �b½ �s�J¹»�

t�u � � � ��� �s���­�yuÄ��u)�su ��� ��u�� � � �s� u�²������s�y�±~�µ{x��Ã��q � �É� � �y�­�)¸�¹�u �s� u)�yu����-�f� Â���� � u¼Æf¸ � � � ���­u�yq���¹»���s�®��qsu7u�²����­���������'��¯3��qsub���­t�u-��¯3�)����²�u � ��u��s�)u7�­�'��u � t��%��¯T��q�ub�V�st��u � ��¯3u)��u)t�u)������¯´� �¹»q��­��q7��q�u�t�u � �����T���G�u�u)������t � ��u��*µmÎ��3u�È � u�����u��*¸���qs���3�­� ��� u � ¯Ëu������­~b�����su �k� �)��t � �­u)È��±�³~�µ

Ú���� � �­�­~�¸°¹�u-¹����s��� ��� ½ u-���S�yqs�J¹ ������u � u)�������s� � u)�y�s�­���G���Ê��q�u7�)��t � ��� � ���­��� ��¯»��qsu � ���)�)�T�y� � � �k���� � u � �N:��±·���y�­���¼p�u)�s�y� ��Ð?� �f��u������ � u)�y��� � �s��u�w³t � ���­�s�sµ�Á¼u � u�� � �­����q � ����qs�­� �e�©� �����)��� �k��Ю�t��V� � ���±�³~ �s� �V�s�s��u)�)¸ � �»u � ��q7²��JÈVu��Y¸ � ��u��s�y� � ��q � �»���»�s�f��qs�­���G�����3��q�u��)�J² �©� � � �s�)u�t � � � �­È7��¯@��qsu��� � t � ��� � ¹ �k�s�s� �JÈ��­t � �����s����q�u � ²�u ��� ��u3t��f�����f�É��¯_¹ � ��u � t��f��u)���s��u)�)µ/x���Â���� � u»  �k� u ��� u)�yu)�Z��u)���q�u�¯ ��� ��������� � � � �s���y�k� � � � ~ � �s�b��q�u��y� � � �k� �)� � ² � ��� � u��)��t � ����u��-��� �

64× 64× 24:�pTw�²����­��tGu�µ

pTq�u%¯ ��� �)���­��� � � � �s�­�y�f� � � � ~®��� � �)��t������ � ���­���?��¯P��qsu%u��­��u���² � ���su)����¯���qsu��s�­·�s�y���f�?��u)�s�y� � ¹»qs����q���G¹�u��­� ½ �s�J¹»�Ã���ºqs����qs���­��q��É��qsu � u��f�����s��¹»qsu � u � qs�­��q ��u)�s�y�­�³~Ã�f¯���u)� ��� �TÂs�u � � �k� u ��� u)�yu)�Z��µ& �J¹�u)²�u � ¸���qs�­�°tGu � �y� � u3�yu�u)t��P�����u3�y��t�u)qs�J¹Å�yu��s�y�­���±²�u3�����s�����yu � ����qs����qs�±~G�s� � u��­� � ���­u � �P²��JÈ�u)�¹»q�u � u�� � ���y�y�­�s������¯*Â��u � ���V�)�)� � µPpTq��­� ½ ���s�%��¯Ñ��� � :�pTwP� � � �%� � � Â�u)���-��¯Ñ�s� � t � ��s�­��� � �­�����������s�)¸

ò�òDé�QKRSUTVS

Page 25: Statistics on Multivariate Normal Distributions: A

��� ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

Ú������ � u� @[ � ����� ���*Ú ��� �)���­��� � � � ���­�y�f� � � � ~�¸�������� � ��|V� � � �k� ��� � ² � ��� � u��)��t � ����u��7��� � u � � :�pTwm� � � �

�­������u � ��~Ä���7�yu)u�¸Ñ¯ � ��t ��qsu���u�Â��s�­�����f�S��¯m��qsu��y� � � �k� �)� � ² � ��� � uν¸*��q � ����qs�­���Z� � �����­�³~Ĺ»�­����² �k� ~

¹»�­��q®��qsu � �s���y�k� � � � ~®��¯P��q�u��)�J² �k� � � ���)u�t � � � �±È®�f¯°u � ��q?�s� � t � ���s����� � �±�_�����­���*µ�w³���su)u��*¸Â���� � uG ������� � �T�yqs�J¹»�%��q � ����qsu7�y� � � �©� ��� � ² � ��� � u-q � � � �����±��u-�u��y��u � ���­�y� � �­t���� � ���±²�u � �J¹�u � ��q � �'��qsu¯ ��� ��������� � � � �s���y�f� � � � ~bÚ�Î%µ�Á¼u��­�­À ½ �s�J¹»�-��� � �s����� � u��/��¯*��q�u»¹»qs�­��u�Àjt � �y��u � �y�s��q � �/��qsu �U��� ��� �#�U��� �� ��� �B � � ��qsu �U��� ���8� � � �������� �k� u��­�s��u)u)�7�)��u �k� �­~Éqs����qs�­����q���u)�7���bÂ���� � u� J� ��� �� �G�´¹�u � u�� � ���_��q � ���q�u»�y� � � �©� ��� � ² � ��� � u��­�/�su�� � ���­²�uf¸V�y����q � � � ��� � � ½ ²��JÈ�u)�_u)ÈVq��±���­���°��qsu�t������/�su�� � ���­²�u»��� � ² � ��� � uQ#�µpTq��­�»�­� ���s� ��t��­�y���s�É�su)¹ tGu � �y� � u���¯ � �s���y�f� � � � ~7¯´� � :�pTw°��q � �3¹�u �k� u���� �y� u)�����­~7u�² � ��� � �����s�sµ

� & ������)�,�������

Á'u�q � ²�u �s� u��yu)����u�� � ��u)��t�u�� � ��� �k�s��� � � ��q?���7��qsuG��� � ����������� � � � � � �­~V�y������¯°t%�s�­���±² �©� � � ��uG�s� � t � ����­��� � �­�����������s�)µ�Á'umq � ²�u/�su�²�u)��� � u)���s�J²�u)� � �­��� � �±��q�tG��¯´� � ��qsu°u������­t � �����f����¯V��q�umt�u � �Ѹk�)�J² �©� � � �s�)ut � � � �­È � �s� ��qsu-t��V�su��G��¯T² �©� � � ���­���*µºÁ¼u7q � ²�u � �­�y�S����� � �V�s�s��u)� u�È � �����)�­�Gu�È �s� u)�y�y�����s�G¯´� � ��qsu� �­u�t � �s�sÀÏÛ/q � �­�����f·u�� � �s� � �­���)�e��u)���y� � � � �/¹�u��­� � �T¯Ë� � ��qsu � �­���)��y� � � �©� �)� � ² � ��� � u�¯Ë� � ��qsu�� �e� ��u��¯°¾)u � �fÀjtGu � �St%�s�­���±² �k� � � ��uG�s� � t � �P�s����� � �­���������f���)µGÎ��­����qsu��yuG�)����� � �­�����������s��q � ²�uG�u)u��S�s�yu)�S���� � �su � ���,�su � �­²�u � ���º¯Ë���­�­~®��q �k��� ����u � ��¾)u � ��u��su ��� ���­¾�u)�S�s� � t � �P� � ¹¿�f�S��qsuG� �e� ��u���¯°¾�u � �fÀjt�u � �t%�s�­���­² �k� � � ��u��s� � t � ���s����� � �­���������f���)µ�Á¼u�q � ²�uG�yqs�J¹»� �s� ��t��­�y���s� � u)�y�s�­�����f�S��~�����qsu������ � ��� � u � �� � � � �yu)���)µ�x��su%��¯���� � ��� � ���­���s�J¹Ç���bu�È � ���f�­� � ���@��qsu����s¯Ë� � t � ���­��� �s� �J²����su)�Ä�Z~,��qs���yu���� � ���������­������,� � �su � �����*u��y��u � �s�s�su � ��� � �s� � �s� � � � �­~�¾)u���q�u�� � � � �f�s� � �­�su��,�Z~7�s�±·*�s�y�­������u)�s�y� � ��t � �����s�sµ

¤�« � 7@Ø�× � Ô Ù � � Ô�7 §©¦f¬ pTqsu � ����qs� � �°¹����s���b�­� ½ u»������q � � ½�Ð µ Ð � �k½ qsu � � ��� ������� � ��°�s�����su)u � �­�s�|V��qs�V��� � ��p@�s���­�)¸p��s�s���y� � #T¯´� � qs�­��¯ � �s�­��¯Ë�s�@���ft�t�u)�Z������� �_�k� ������¯���qsu ��� u)�yu)�Z� � u��yu �k� ��q � u � � � ��µpTq�u�~ � ���y�?��q � � ½ �Gµ ����� � �����L¸T|_µPÜ@u�qsu � ����~ � ��� <%µ/| �k� � � � �¶Û/u)����u � ¯´� ��Ð?� ���su������ � u)�y��� � �s��u� u)�yu �k� ��q*¸ ���s�­²�u � �y�­�³~7��¯ Ð ���s�su)�y�f� � ¸ Ð �­�s��u �k� ���­���)¸ ��|VÎ�#/¯´� � ��qsu�� � ² � �­� � �_�­u��)����� � �� ��� ���­��� � �s�u)È � u � �����yu»��� � �J�Z�s� � u���q�u�� � � � �s�yu��-���b��qs��� � u � � � �T���bÂ���� � u�  � �/¹�u)��� � �3¡sµ Ú�µ ÐS� ���f��� � �s�,¡sµ v�µ� �����­�su �¶Û °Î�| & ÚP¡s¸x � � � ~�¸_Ú ��� �s�)uQ#/¯Ë� �3�s� �J²����s�­�����s�3¹»�±��q,��qsu�� � � � �s�yu)�����7Â���� � u%�Vµ

\^] ò \^_

Page 26: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� ��Ò

� 0<5,5?�3�,:,� � � . & ��#$5?���7�3�G��� �����87� B<�)�3#$���7�������9#$��������

g11 =(θ4θ6 − θ2

5

)2/2∆2 g12 =

(θ4θ6 − θ2

5

)(θ2θ6 − θ3θ5) /∆2

g13 =(θ4θ6 − θ2

5

)(θ2θ5 − θ3θ4) /∆2 g14 = (θ2θ6 − θ3θ5)2 /2∆2

g15 = − (θ2θ6 − θ3θ5) (θ2θ5 − θ3θ4) /∆2 g16 = − (θ2θ5 − θ3θ4)2/2∆2

g22 =(−θ2

6θ22 − 2θ2

3θ25 + 2θ6θ2θ3θ5 − θ1θ4θ

26 + θ6θ1θ

25 + θ6θ

23θ4

)/∆2

g23 =(−θ2

2θ6θ5 + 2θ2θ6θ3θ4 − θ23θ5θ4 − θ5θ1θ4θ6 + θ1θ

35

)/∆2

g24 =(−θ1θ6 + θ2

3

)(θ2θ6 − θ3θ5) /∆2

g25 =(−θ4θ3θ1θ6 + θ4θ

33 − θ6θ

22θ3 + 2θ6θ2θ1θ5 − θ2

5θ3θ1

)/∆2

g26 = (θ2θ5 − θ3θ4) (−θ1θ5 + θ3θ2) /∆2

g33 =(θ2

4θ23 − 2θ4θ2θ3θ5 + 2θ2

2θ25 − θ1θ4θ

25 − θ2

2θ6θ4 + θ6θ24θ1

)/∆2

g34 = (θ2θ6 − θ3θ5) (−θ1θ5 + θ3θ2) /∆2

g35 =(θ4θ2θ

23 − 2θ4θ1θ3θ5 + θ2θ1θ

25 − θ3

2θ6 + θ4θ6θ2θ1

)/∆2

g36 = −(−θ1θ4 + θ2

2

)(θ2θ5 − θ3θ4) /∆2

g44 = −(−θ1θ6 + θ2

3

)2/2∆2

g45 = −(−θ1θ6 + θ2

3

)(−θ1θ5 + θ3θ2) /∆2

g46 = − (−θ1θ5 + θ3θ2)2/2∆2

g55 =(θ4θ1θ

23 + 2θ2θ1θ3θ5 − θ2

1θ25 − 2θ2

2θ23 + θ6θ

22θ1 − θ4θ6θ

21

)/∆2

g56 = −(−θ1θ4 + θ2

2

)(−θ1θ5 + θ3θ2) /∆2

g66 =(−θ1θ4 + θ2

2

)2/2∆2

¹»q�u � u���q�u���u���u � t���� � �����f¯���qsu��)�J² �k� � � ���)u�t � � � �­È-��� [∆ = |D| = θ1θ4θ6 − θ1θ5

2 − θ22θ6 + 2θ2θ3θ5 − θ2

3θ4

ò�òDé�QKRSUTVS

Page 27: Statistics on Multivariate Normal Distributions: A

�k  ����� � ����� � ���N� �� ���B�U� ���� �� " ����� �B����� ��� ����� �� ���

BD� �k�3���3�,/�»�

��Æ ��|_µ w�µ�Î�t �k� �Yµ "#� �H��U��K������� � � �U�� � ������ �����-� ���B� �� ��� ����������������� µÜ�u)����� � u)� � �k��u��m���7|�� � ���­�������)�)µ| �s� ���s��u � À � u � � � �s¸@Æ �(�f£�µ

�â�"��Û�µ©ÎT� ½ ���s�y��� � �s�%Î%µ Ú�µ÷|_µ Ð �­����q�u)���Yµ ��� � � �����­��� � �s��u/tGu � �y� � ufµ � ��� � � � � � � �B���U� ��������B��� ��8������ ��������� �­¸� ZÒ@�YÎ�#�[÷Ò© Z����Ò ?f�V¸ÑÆ ��%�Ækµ

�âÒ"��¡sµ�vT� � �u � µ w³�s¯´� � t � ���­²�u®��u)��t�u�� � ~ ��¯ ��� �k� � �_�­���±�³~ � �_� �)u)�)µ�� ��%���U��������8�� � �����B� !�������U� ¸ @[âÒk  E���Ò E(%V¸@Æ$��% ?Vµ

�  (��¡sµ�vT� � �u ��� �s�7Û�µ � µ ��� �sµ °��� � � � ~G�s�­·u � u������ � ��t�u�� � ���f¸Z���­��� � �s��u � �s�É�s�­²�u � ��u)���)u»tGu � �y� � u)���� �s� �f� � �����­�­�³~�� �_� ��u)� [�ÎÃ�s�s�­Â�u)� �k�s�s� � � ��q*µ �B��� ��8������� ���B� ����������������H����� ���U�� ¸sÆJ� [÷� Ef������� ?V¸Æ ��%f�Vµ

�â�"� Ð µsÛ � �­²�� � �s�-¡sµ Ð µ�x�����u � µ*Î��Éu)È � �­���)�­�°�y���������­���b��¯*�­�s¯´� � t � �������É��u��Z��u)�y���»u��Z� � �����f���°¯´� � ��qsut%�s�­���±² �©� � � ��u��s� � t � �Ñt��V�su)�Lµ ��������������������� O" �U� ���U������� ¸Z�V¸@Æ �(��Æfµ

� ?"� <%µ�Û/q �©�y� � � ��¸%x�µ3Ú � �s��u ��� �)¸ � �s� � µ ��u � �­²�u��*µ Î �s��� ��È���t � �������s����¯��yq �k� uºt�u�� � ���)� � �s��k�s� ���­� � ���­���b�����yq �k� u�¹ �k�y� ���s� � �s�7�yq �k� u���� � ���­�������)�)µ � u)�yu �©� ��q � u � � � �T  %��k£�¸�w ��� w³Î%¸ Ð?� ~�f£�£�ÒVµ

��E ��Û�µ�Û/q�u)¯´��� q��k��u��Y¸P:�µ@p@�y��qZ�st � u � �­��¸ � µ/:�u � ����qsu�¸ � �s�Êx�µÑÚ � �s��u ��� �)µ � u)���s� �©� ��¾)���s� �_��¹»��¯´� ��)���s��� ��� ���su)�7t � � � �­ÈZÀL² � �­�su��-��t � ��u��)µ �B��� ��8���D��� � �����B� !�������U����� !�$������!��� �/���U����� ¸_�f£��Æ�À� #�[�Æ)  E��eÆV?��V¸e�k£�£f sµ

� %"� � µ±|_µ � � ½ �yu��*µ <�u��Z��u)�y���)�3�)���s��u)����u��-¹»�±��q-��q�u�Â_�yqsu � tGu)� � �­���f�7��qsu�t%�s�­���±² �©� � � ��u�t � �s�­¯´���­�ѵp�u)��q��s�­� � � � u � � � �E% ?JÀ�ÆJÒV¸�w³�s�����­������u��f¯ °�­u���� � ���s���%|�~�����u�tG�)¸_Î � �­�� � � ���s�­²�u � �y�­�³~�¸@Æ ��% ?Vµ

� �"� � µ�p�µfÚ��­u)����qsu � ¸�Û�µfÜ��*¸ � ���b|_µ�¡��f�yq��YµÑ|�� � ���­�������)�P�f¯_�yq �©� u�²�� ���s� ���s��� �_� �s��u)�V�su)�y��� � � � �­~��y�­�P������­u�� � ��� � �)µÑw³� � ����� � ��� � � ��� � �� ����B��� ���/��U��������� � ��������� �U�U� ���%�������� ¸ �_� ��u)�D�����eÆ�£�Æf¸�f£�£�ÒVµ

��Æ�£Q� � µâp�µsÚ��­u)����qsu �»� �s�®|_µ�¡����yqs�Lµ �m� ���s�)� �_� �Ñ�fu��V�su)�y��� � � � �±~��y���3���7��~�t�t�u�� � ����� �e� ��u)� [�|�� � ���������­�����¯����±·���y�­���,��u)�s�y� � �)µmw³� � � �C� �=� �� ���������� ��U������ � ���U�C� ���B� �#���O�-������U����� !�$� �� �8�������U��� ¸�m��� �f��uf¸ Ð?� ~��f£�£k sµ

��Æ�Æ ��Á µ�Ú�� � �����su ��� �s�iv�µ Ð �V���su)�ѵ�Î(t�u)� � �­�S¯Ë� � �)�J² �©� � � �s�)u?t � � � �­��u)�)µÌp@u���qs�s��� � � � u � � � ��¸|������y��� �k� � �����±²�u � �y�­�³~�¸%:�u � ��µs��¯ <�u)�V�su���~ � �s�=<�u��f���s¯´� � t � �����)�)¸@Æ �����Vµ

��ÆJ�"� Ð µPÚ � ����qsu)��µ'Ü�u)���)���)t�u)�Z��� � �­� � ����� � u)�G��u7� � ��� � u��Z�su)���)�����Z�su7� � ���G��� u)� �e� ��u7���­��� � �s���­��µ �%� � � �%�� ����� � �����8�U����� ¸�� �Yw � #�[÷��ÆJ����Ò�Æ�£�¸ÑÆ$�k  %Vµ

��ÆJÒ"��|_µ & u��­� � �y���*µ "#� �H� � � �%������� � �U�� !� �����(� � ��� � � ��� ����� ��� ���� !� ������6� �K� � � � µ Î3� � ��u)t��­��m� u)�y�)¸@Æ � E(%Vµ

��Æ) (� & µ � �k� ��qsu � µ � �­u�t � ���s� � �º��u)��� � u��f¯/t � �y� � �s�ºt����­���±Â_u � �yt��V�k��q��­�s�sµ � �� � � � � �� � �8� ��-����� ¸eÒf£3[â�f£ ���V�k �Æf¸@Æ � E�EZµ

\^] ò \^_

Page 28: Statistics on Multivariate Normal Distributions: A

��������������� ���������������������������������� !����"#��������$���������%� ���

��ÆJ�"��Û�µ�Ü@u��s���­u)��¸ Ð µ � �f���y�y�f�Ѹ � ��� � µ�:�u � ����qsu�µP|Zu���tGu���� � ���­���7�f¯�Ò1: �s� �f� � �����­�­�³~b��u)�s�y�­�³~ÉÂ�u)���s��Z~É�y� � ¯ � �)u�u�²����������­���)[PÎ �s� ���­� � �������É���%�s�­·�s�y���f� Ю� w�µ@w³� � �U�C� � &C��� � �K��� ��� ��� � � ��� �-������U���� !�$� � � �� ����B������ ��� � �� ����B��� � �U�U��U���� � �K��� ���� �K������� ¸_| � �����yÀ Ð?� �­�s¸VÚ ��� �s�)u�¸s|Zu � ��u)t��u ��f£�£k sµ

��ÆC?"��Û�µ©Ü@u)���f��u���¸ Ð µ � ���s�y�y���*¸ � �s� � µ1:�u � �­��qsufµVp��J¹ �©� �%�yu��ft�u���� � ���­���%��¯�Ò�: �s� �f� � �������±�³~��su��s�y�±�³~Â�u��­�s�@�Z~��y� � ¯ � �)u°u�²����������­���)[@Î �s� ����� � ���­�������3���±·���y�­��� Ю� w�µ � u)�yu �k� ��q � u � � � �����k �ÒV¸fw ��� w³Î%¸¡��s�su%�f£�£f sµ

��Æ1E � Ð µ Ð � �k½ qsu � µ Ð u � ��� � �s� � ²�u ��� �����s�����b��qsu�� � ��� � ��¯ � �f� � �����f���)µ ��� � �B���B������/���;�-������ �8�������U��� ��� � �8� ���U���������%� ¸e�©  ��Æ"#�[ Æ �eÆC?V¸_�f£�£��Vµ

��Æ %"� Ð µ Ð � �k½ qsu � µ Î �s�­·u � u)����� � �»��u��ft�u)� � �­� �k�s�s� � � ��qÅ���¼��q�uÄ�fu���tGu)� � �­�Ät�u � � ��¯���~�t�t�u��yÀ� ��� � ���y�±���­²�u�Àj�su)Â��s�­��u�t � � � ���)u��)µ ��� � �B��� ��8��� ��� �-������ H�8�������U�� ��� � � �8� ���U���������%� !������� �%�U��� " ¸_�f£f£f sµ

��Æ �"��¡sµ Ð µ�x��­��u �%� �s� Û�µ Ð µ�Û/� � � ��� �)µ ��� � � ���s����� � �s�)uɯË� � �su)� � ���±²�u�t%�s�­���­�s��t�� � �°�s�­��� � �­�����������s�)µ� ��� � � � � � � �B��� � ������ �B���B������M��� �K������� ��¸�  E [�Ef���3%fÒV¸@Æ ��%��Vµ

�â�f£Q� �%µ � u)�s�su��fµ �m� �f� � ���­���­���­u�� � �s����� � ���­�������)����� � ��u)t � �s�s� � ��t � �s��¯´�f���s� [�Î ��u)��t�u�� � ��� �k�s�s� � � ��qѵ� u��yu �k� ��q � u � � � ���k£ ��ÒV¸sw ��� w³Î%¸�¡ � �V� �k� ~Ä�k£�£f sµ

�â��Æ ��Û�µ � µ ��� �sµ/w³�s¯Ë� � t � ���­��� � �s� � ���)� ��� ��~ � �y� � �­� � �_�­u����,��qsu�u)������t � ����������¯���� � ���������­� � � �_�k��� tGÀu���u � �)µ � ����� �D� ��� ��������O�-����� � � �C� �­¸eÒ E [ %�Æ �3�VÆf¸@Æ �k Z�Vµ

�â���"� Ð µ � ���s�y�y���*¸�Û�µeÜ�u)�s����u���¸ � �s� � µ8:�u � ����q�ufµ�Ü�u�²�u)���yu�� � ��� � u)�����f�®� � �yu)�®�y� � ¯ � �)u �s� � �_� � � À�����f�,¯´� � �s�­·�s�y���f�,��u��s�y� � t � �*�yu���tGu���� � ���­���*µPw³� � �� ����������/�� ����� � ��� �C� � �B� ����� �-������U���� !�$� � H�8�������U�� ! � � ��� "���� �-�����B� �������U���D�-� ���B� �� ��� � ���� !� ����U��� � !�$� � �8������� ��!��6� � � "��O��� � � �B��� ¸ �m��� �f��uf¸ Ð?� ~��f£�£k sµ

�â��Ò"��Ümµâp�µÑ| ½ �J²�� ���k� �*µ�Î � ��u)t � �s�s� � �®��u)��t�u�� � ~��f¯���q�u�t%�s�­���­² �k� � � ��u���� � t � ��tG�V�su��Yµ�p�u)��q��s�­� � �� u � � � �8%�Æ �fÒV¸�|�� � ���­������� � � � u��yu �k� ��q ���s�­��¸1: � �s���yq Ð u)�s��� � � � u��yu �k� ��q�Û/���s���)���Y¸�: � �s���yq�|V�Z��� � �|Z���­u��s�)u � u)�yu �©� ��q?Û/�f���s�)���Y¸�Æ$��%�Æfµ

�â�k (��Ümµâp�µ*| ½ �J²V� ���k� �*µ�Î � �­u�t � �s��� � �Ä��u)��t�u�� � ~,�f¯���qsu�t%�s�­���­² �k� � � ��u��s� � t � �@t��V�su)�Lµ � �U��� ���8� ��C����� �B���B������M��� �K������������� � ¸@Æ�Æ([â��Æ�Æ �V��Ò�ÒV¸ÑÆ ��%k sµ

ò�òDé�QKRSUTVS

Page 29: Statistics on Multivariate Normal Distributions: A

Unité de recherche INRIA Sophia Antipolis2004, route des Lucioles - BP 93 - 06902 Sophia Antipolis Cedex (France)

Unité de recherche INRIA Futurs : Parc Club Orsay Université - ZAC des Vignes4, rue Jacques Monod - 91893 ORSAY Cedex (France)

Unité de recherche INRIA Lorraine : LORIA, Technopôle de Nancy-Brabois - Campus scientifique615, rue du Jardin Botanique - BP 101 - 54602 Villers-lès-Nancy Cedex (France)

Unité de recherche INRIA Rennes : IRISA, Campus universitaire de Beaulieu - 35042 Rennes Cedex (France)Unité de recherche INRIA Rhône-Alpes : 655, avenue de l’Europe - 38334 Montbonnot Saint-Ismier (France)

Unité de recherche INRIA Rocquencourt : Domaine de Voluceau - Rocquencourt - BP 105 - 78153 Le Chesnay Cedex (France)

ÉditeurINRIA - Domaine de Voluceau - Rocquencourt, BP 105 - 78153 Le Chesnay Cedex (France)��������������� ����������� ��� ���

ISSN 0249-6399