Устойчивые распределения. Статистический анализ числовых величин (непараметрическая статистика)

Устойчивым и безгранично делимым распределениям уделяется большое внимание в литературе, посвященной моделированию поведения обменных курсов валют и финансовых индексов.

Устойчивые и безгранично делимые распределения изучались в работах П.Леви, Дж. Пойа, А.Я. Хинчина.

Остановимся на определении устойчивых распределений. Существует два равносильных определения. Приведем одно из них

Определение. Случайная величина называется устойчивой, если для всякого найдутся и такие, что

где - независимые копии случайной величины. Если в (81) =0, т.е.

то случайная величина называется строго устойчивой.

Замечательно, что доказывается следующий факт

для некоторого. При этом называют индексом устойчивости.

Приведем пример. Рассмотрим нормальный закон, тогда сумма распределена по нормальному закону, точно также распределена случайная величина. Здесь. Откуда следует, что гауссовский закон является устойчивым законом с индексом устойчивости. Причем строго устойчивым, если.

Для полноты картины следует отметить факт, характеризующий устойчивое распределение как распределение бесконечных сумм независимых и одинаково распределенных случайных величин.

Устойчивое распределение имеет область притяжения в том смысле, что найдется последовательность независимых одинаково распределенных случайных величин, и последовательности положительных чисел и вещественных чисел такие, что

Рассмотрим характеристическую функцию распределения случайной величины

Характеристическая функция суммы независимых копий

Сопоставим (86) и (82) получим, что для строго устойчивого распределения

Таким образом, на языке характеристических функций распределение называется строго устойчивым, если для любого существует такое положительное число, что выполняется (87). Поскольку, то (87) приобретает вид:

Рассмотрим распределение Пуассона

Характеристическая функция распределения Пуассона:

Отсюда и распределение Пуассона не является устойчивым распределением. Свойство строгой устойчивости связано еще с одним свойством закона распределения. Напомним, что сверткой функций распределения называется функция распределения. Если функции распределения и обладают плотностями, то функция распределения также обладает плотностью, причем. При этом, если случайные величины и - независимые, то. Введем обозначение. В этом обозначении функция распределения суммы - . Следовательно, функция распределения строго устойчивого закона должна обладать свойством:

Если существует плотность, то

В этой связи рассмотрим распределение Коши:

Непосредственным интегрированием и индукцией нетрудно убедиться, что

Отсюда следует, что распределение Коши строго устойчиво с индексом устойчивости.

Отметим, что замечательный результат теории вероятностей (П. Леви, А.Я. Хинчин) дает следующее представление характеристической функции устойчивой случайной величины:

где. Смысл параметров следующий:

Индекс устойчивости,

Параметр скошенности плотности распределения,

Параметр масштаба,

Параметр положения.

Параметр определяет скорость убывания хвостов распределения.

а - гамма функция.

Рассмотрим случай. Из (95) следует, что

которая является характеристической функцией нормального закона. Об устойчивости нормального закона с индексом устойчивости уже упоминалось выше. Отметим, что произведение, поэтому не определяется однозначно. Принято считать, что.

С точки зрения поведения хвостов распределения случаи и существенно отличаются. Действительно, пусть, тогда

Сопоставление (98) с (95) и (96) позволяет сделать вывод, что стремление к нулю хвостов распределения в случае, когда более медленное. Поэтому такие распределения принято называть распределениями с тяжелыми хвостами. Как показывают статистические исследования многие финансовые инструменты имеют логарифмические возвраты, у которых распределения обладают тяжелыми хвостами. Этот статистический факт делает устойчивые распределения привлекательными для описания поведения логарифмических возвратов.

Отметим, что в том и только в том случае, когда. Действительно, если, то из (95) и (96) следует, что. Если, то из неравенства, следует. Пусть, тогда из неравенства следует, что.

В связи с показательной асимптотикой остановимся на распределении Парето, плотность которого

С параметрами (индекс устойчивости) и. График плотности распределения Парето представлен на рисунке 8.

Рис. 8.

Функция распределения

а вероятность. Сравнение с (95) показывает, что на бесконечности устойчивые распределения ведут себя так же, как и распределение Парето. Поэтому хвостовая часть устойчивых распределений относится к паретовскому типу.

Можно рассмотреть симметричное распределение Парето:

которое выглядит более естественным при моделировании последовательности. Параметр скошенности (асимметрии) определяет насколько распределение асимметрично. Если, то есть

то распределение симметрично относительно. Чем ближе к единице, тем сильнее выражена асимметрия распределения. Причем если, то распределение скошено сильнее слева, при - справа.

Параметр является масштабным параметром.

При, случай нормального распределения. При - дисперсии не существует. Поэтому параметр отличается от среднего квадратического отклонения.

Параметр - параметр положения при, как уже отмечалось выше, и существует математическое ожидание. При математическое ожидание может быть не определено, поэтому не следует интерпретировать как математическое ожидание.

Традиционным обозначением для устойчивых распределений является обозначение. Отметим, что при

Нормальное распределение (распределение Гаусса) всегда играло центральную роль в теории вероятностей, так как возникает очень часто как результат воздействия множества факторов, вклад любого одного из которых ничтожен. Центральная предельная теорема (ЦПТ), находит применение фактически во всех прикладных науках, делая аппарат статистики универсальным. Однако, весьма часты случаи, когда ее применение невозможно, а исследователи пытаются всячески организовать подгонку результатов под гауссиану. Вот про альтернативный подход в случае влияния на распределение множества факторов я сейчас и расскажу.

Краткая история ЦПТ. Еще при живом Ньютоне Абрахам де Муавр доказал теорему о сходимости центрированного и нормированного числа наблюдений события в серии независимых испытаний к нормальному распределению. Весь 19 и начало 20 веков эта теорема послужила ученым образцом для обобщений. Лаплас доказал случай равномерного распределения, Пуассон – локальную теорему для случая с разными вероятностями. Пуанкаре, Лежандр и Гаусс разработали богатую теорию ошибок наблюдений и метод наименьших квадратов, опираясь на сходимость ошибок к нормальному распределению. Чебышев доказал еще более сильную теорему для суммы случайных величин, походу разработав метод моментов. Ляпунов в 1900 году, опираясь на Чебышева и Маркова, доказал ЦПТ в нынешнем виде, но только при существовании моментов третьего порядка. И только в 1934 году Феллер поставил точку, показав, что существование моментов второго порядка, является и необходимым и достаточным условием.

ЦПТ можно сформулировать так: если случайные величины независимы, одинаково распределены и имеют конечную дисперсию отличную от нуля, то суммы (центрированные и нормированные) этих величин сходятся к нормальному закону. Именно в таком виде эту теорему и преподают в вузах и ее так часто используют наблюдатели и исследователи, которые не профессиональны в математике. Что в ней не так? В самом деле, теорема отлично применяется в областях, над которыми работали Гаусс, Пуанкаре, Чебышев и прочие гении 19 века, а именно: теория ошибок наблюдений, статистическая физика, МНК, демографические исследования и может что-то еще. Но ученые, которым не достает оригинальности для открытий, занимаются обобщениями и хотят применить эту теорему ко всему, или просто притащить за уши нормальное распределение, где его просто быть не может. Хотите примеры, они есть у меня.

Коэффициент интеллекта IQ. Изначально подразумевает, что интеллект людей распределен нормально. Проводят тест, который заранее составлен таким образом, при котором не учитываются незаурядные способности, а учитываются по-отдельности с одинаковыми долевыми факторами: логическое мышление , мысленное проектирование, вычислительные способности, абстрактное мышление и что-то еще. Способность решать задачи, недоступные большинству, или прохождение теста за сверхбыстрое время никак не учитывается, а прохождение теста ранее, увеличивает результат (но не интеллект) в дальнейшем. А потом филистеры и полагают, что «никто в два раза умнее их быть не может», «давайте у умников отнимем и поделим».

Второй пример: изменения финансовых показателей. Исследования изменения курса акций, котировок валют, товарных опционов требует применения аппарата математической статистики, а особенно тут важно не ошибиться с видом распределения. Показательный пример: в 1997 году нобелевская премия по экономике была выплачена за предложение модели Блэка - Шоулза, основанной на предположении нормальности распределения прироста фондовых показателей (так называемый белый шум). При этом авторы явно заявили, что данная модель нуждается в уточнении, но всё, на что решилось большинство дальнейших исследователей – просто добавить к нормальному распределению распределение Пуассона. Здесь, очевидно, будут неточности при исследовании длинных временных рядов, так как распределение Пуассона слишком хорошо удовлетворяет ЦПТ, и уже при 20 слагаемых неотличимо от нормального распределения. Гляньте на картинку снизу (а она из очень серьезного экономического журнала), на ней видно, что, несмотря на достаточно большое количество наблюдений и очевидные перекосы, делается предположение о нормальности распределения.

Весьма очевидно, что нормальными не будет распределения заработной платы среди населения города, размеров файлов на диске, населения городов и стран.

Общее у распределений из этих примеров – наличие так называемого «тяжелого хвоста», то есть значений, далеко лежащих от среднего, и заметной асимметрии, как правило, правой. Рассмотрим, какими еще, кроме нормального могли бы быть такие распределения. Начнем с упоминаемого ранее Пуассона: у него есть хвост, но мы же хотим, чтобы закон повторялся для совокупности групп, в каждой из которых он наблюдается (считать размер файлов по предприятию, зарплату по нескольким городам) или масштабировался (произвольно увеличивать или уменьшать интервал модели Блэка - Шоулза), как показывают наблюдения, хвосты и асимметрия не исчезают, а вот распределение Пуассона, по ЦПТ, должно стать нормальным. По этим же соображениям не подойдут распределения Эрланга, бета, логонормальное, и все другие, имеющие дисперсию. Осталось только отсечь распределение Парето, а вот оно не подходит в связи с совпадением моды с минимальным значением, что почти не встречается при анализе выборочных данных.

Распределения, обладающее необходимыми свойствами, существуют и носят название устойчивых распределений. Их история также весьма интересна, а основная теорема была доказана через год после работы Феллера, в 1935 году, совместными усилиями французского математика Поля Леви и советского математика А.Я. Хинчина. ЦПТ была обобщена, из нее было убрано условие существования дисперсии. В отличие от нормального, ни плотность ни функция распределения у устойчивых случайных величин не выражаются (за редким исключением, о котором ниже), все что о них известно, это характеристическая функция (обратное преобразование Фурье плотности распределения, но для понимания сути это можно и не знать).
Итак, теорема: если случайные величины независимы, одинаково распределены, то суммы этих величин сходятся к устойчивому закону.

Теперь определение. Случайная величина X будет устойчивой тогда и только тогда, когда логарифм ее характеристической функции представим в виде:

где .

В самом деле, ничего сильно сложного здесь нет, просто надо объяснить смысл четырех параметров. Параметры сигма и мю – обычные масштаб и смещение, как и в нормальном распределении, мю будет равно математическому ожиданию, если оно есть, а оно есть, когда альфа больше одного. Параметр бета – асимметрия, при его равенстве нулю, распределение симметрично. А вот альфа это характеристический параметр, обозначает какого порядка моменты у величины существуют, чем он ближе к двум, тем больше распределение похоже на нормальное, при равенстве двум распределение становиться нормальным, и только в этом случае у него существуют моменты больших порядков, также в случае нормального распределения, асимметрия вырождается. В случае, когда альфа равна единице, а бета нулю, получается распределение Коши, а в случае, когда альфа равна половине, а бета единице – распределение Леви, в других случаях не существует представления в квадратурах для плотности распределения таких величин.
В 20 веке была разработана богатая теория устойчивых величин и процессов (получивших название процессов Леви), показана их связь с дробными интегралами, введены различные способы параметризации и моделирования, несколькими способами были оценены параметры и показана состоятельность и устойчивость оценок. Посмотрите на картинку, на ней смоделированная траектория процесса Леви с увеличенным в 15 раз фрагментом.

Именно занимаясь такими процессами и их приложением в финансах, Бенуа Мандельброт придумал фракталы. Однако не везде было так хорошо. Вторая половина 20 века прошла под повальным трендом прикладных и кибернетических наук, а это означало кризис чистой математики, все хотели производить, но не хотели думать, гуманитарии со своей публицистикой оккупировали математические сферы. Пример: книга «Пятьдесят занимательных вероятностных задач с решениями» американца Мостеллера, задача №11:

Авторское решение этой задачи, это просто поражение здравого смысла:

Такая же ситуация и с 25 задачей, где даются ТРИ противоречащих ответа.

Но вернемся к устойчивым распределениям. В оставшейся части статьи я попытаюсь показать, что не должно возникать дополнительных сложностей при работе с ними. А именно, существуют численные и статистические методы, позволяющие оценивать параметры, вычислять функцию распределения и моделировать оные, то есть работать так же, как и с любым другим распределением.

Моделирование устойчивых случайных величин. Так как все познается в сравнении, то напомню сначала наиболее удобный, с точки зрения вычислений, метод генерирования нормальной величины (метод Бокса – Мюллера): если – базовые случайные величины (равномерно распределены на }