Руководство по прогнозированию временных рядов с помощью ARIMA в Python 3

Временные ряды дают возможность прогнозировать будущие значения. Основываясь на предыдущих значениях, временные ряды могут использоваться для прогнозирования тенденций в экономике, погоде и планировании производственных мощностей, и многие другие. Специфические свойства данных временных рядов означают, что обычно требуются специальные статистические методы.

В этом уроке мы будем стремиться к созданию надежных прогнозов временных рядов. Мы начнем с представления и обсуждения концепций автокорреляции, стационарности и сезонности, а затем перейдем к применению одного из наиболее часто используемых методов прогнозирования временных рядов, известного как ARIMA.

Один из методов, доступных в Python для моделирования и прогнозирования будущих точек временного ряда, известен какSARIMAX, что означаетSeasonal AutoRegressive Integrated Moving Averages with eXogenous regressors. Здесь мы прежде всего сосредоточимся на компоненте ARIMA, который используется для подгонки данных временного ряда для лучшего понимания и прогнозирования будущих точек во временном ряду.

В этом руководстве будет рассказано, как выполнять анализ временных рядов на локальном компьютере или на удаленном сервере. Работа с большими наборами данных может потребовать много памяти, поэтому в любом случае компьютеру потребуется не менее2GB of memory для выполнения некоторых вычислений в этом руководстве.

Чтобы максимально использовать этот урок, может быть полезно некоторое знакомство с временными рядами и статистикой.

В этом руководстве мы будем использоватьJupyter Notebook для работы с данными. Если у вас его еще нет, следуйте нашимtutorial to install and set up Jupyter Notebook for Python 3.

[[step-1 -—- install-packages]] == Шаг 1. Установка пакетов

Чтобы настроить нашу среду для прогнозирования временных рядов, давайте сначала перейдем к нашимlocal programming environment илиserver-based programming environment:

Отсюда давайте создадим новый каталог для нашего проекта. Мы назовем егоARIMA, а затем перейдем в каталог. Если вы назвали проект другим именем, не забудьте заменитьARIMA своим именем на протяжении всего руководства.

В этом руководстве потребуются библиотекиwarnings,itertools,pandas,numpy,matplotlib иstatsmodels. Библиотекиwarnings иitertools входят в стандартный набор библиотек Python, поэтому устанавливать их не нужно.

Как и в случае с другими пакетами Python, мы можем установить эти требования с помощьюpip.
Теперь мы можем установитьpandas,statsmodels и пакет построения графиков данныхmatplotlib. Их зависимости также будут установлены:

На данный момент мы настроены на работу с установленными пакетами.

[[step-2 -—- importing-packages-and-loading-data]] == Шаг 2. Импорт пакетов и загрузка данных

Чтобы начать работать с нашими данными, мы запустим Jupyter Notebook:

Чтобы создать новый файл записной книжки, выберитеNew>Python 3 в правом верхнем раскрывающемся меню:

Это откроет блокнот.

Лучше всего начать сimporting the libraries, которое вам понадобится в верхней части записной книжки:

Мы также определили для наших графиковmatplotlib styleот пятидесятых восьмидесяти.

Мы будем работать с набором данных, который называется «Атмосферный CO2 из непрерывных проб воздуха в обсерватории Мауна-Лоа, Гавайи, США», который собирал образцы CO2 с марта 1958 года по декабрь 2001 года. Мы можем внести эти данные следующим образом:

Давайте немного обработаем наши данные, прежде чем двигаться дальше. С еженедельными данными может быть сложно работать, так как это более короткое время, поэтому давайте вместо этого будем использовать среднемесячные значения. Мы сделаем преобразование с помощью функцииresample. Для простоты мы также можем использоватьfillna() function, чтобы убедиться, что у нас нет пропущенных значений в наших временных рядах.

Давайте рассмотрим этот временной ряд e как визуализацию данных:

Некоторые различимые шаблоны появляются, когда мы наносим данные. Временной ряд имеет явную модель сезонности, а также общую тенденцию к увеличению.

Чтобы узнать больше о предварительной обработке временных рядов, см. «Https://www.digitalocean.com/community/tutorials/a-guide-to-time-series-visualization-with-python-3[A Guide to Time Серия «Визуализация с Python 3]», где описанные выше шаги описаны гораздо более подробно.

Теперь, когда мы преобразовали и изучили наши данные, давайте перейдем к прогнозированию временных рядов с помощью ARIMA.

[[step-3 -—- the-arima-time-series-model]] == Шаг 3 - Модель временных рядов ARIMA

Один из наиболее распространенных методов, используемых при прогнозировании временных рядов, известен как модель ARIMA, которая обозначает среднюю величинуAutoregRessionsIntegratedMovingA. ARIMA - это модель, которая может быть адаптирована к данным временного ряда, чтобы лучше понять или предсказать будущие точки в ряду.

Есть три различных целых числа (p,d,q), которые используются для параметризации моделей ARIMA. По этой причине модели ARIMA обозначаются символомARIMA(p, d, q). Вместе эти три параметра учитывают сезонность, тренд и шум в наборах данных:

При работе с сезонными эффектами мы используем ARIMAseasonal, который обозначается какARIMA(p,d,q)(P,D,Q)s. Здесь(p, d, q) - это несезонные параметры, описанные выше, а(P, D, Q) следуют тому же определению, но применяются к сезонной составляющей временного ряда. Членs - это периодичность временного ряда (4 для квартальных периодов,12 для годовых периодов и т. Д.).

Сезонный метод ARIMA может показаться пугающим из-за множества параметров настройки. В следующем разделе мы опишем, как автоматизировать процесс определения оптимального набора параметров для сезонной модели временных рядов ARIMA.

[[step-4 -—- parameter-selection-for-the-arima-time-series-model]] == Шаг 4 - Выбор параметра для модели временных рядов ARIMA

При поиске соответствия данных временных рядов сезонной модели ARIMA наша первая цель - найти значенияARIMA(p,d,q)(P,D,Q)s, которые оптимизируют интересующую метрику. Для достижения этой цели существует множество руководств и рекомендаций, однако правильная параметризация моделей ARIMA может быть кропотливым ручным процессом, требующим специальных знаний и времени. Другие языки статистического программирования, такие какR, предоставляютautomated ways to solve this issue, но их еще предстоит перенести на Python. В этом разделе мы решим эту проблему, написав код Python для программного выбора оптимальных значений параметров для нашей модели временных рядовARIMA(p,d,q)(P,D,Q)s.

Мы будем использовать «поиск по сетке», чтобы итеративно исследовать различные комбинации параметров. Для каждой комбинации параметров мы подбираем новую сезонную модель ARIMA с функциейSARIMAX() из модуляstatsmodels и оцениваем ее общее качество. После того, как мы изучим всю совокупность параметров, наш оптимальный набор параметров станет тем, который даст наилучшую производительность по нашим интересующим критериям. Давайте начнем с генерации различных комбинаций параметров, которые мы хотим оценить:

Теперь мы можем использовать тройки параметров, определенных выше, чтобы автоматизировать процесс обучения и оценки моделей ARIMA для различных комбинаций. В статистике и машинном обучении этот процесс известен как поиск по сетке (или оптимизация гиперпараметров) для выбора модели.

При оценке и сравнении статистических моделей, снабженных различными параметрами, каждая из них может быть ранжирована друг против друга на основе того, насколько хорошо она соответствует данным или ее способности точно прогнозировать будущие точки данных. Мы будем использовать значениеAIC (информационный критерий Акаике), которое удобно возвращается с моделями ARIMA, подобранными с использованиемstatsmodels. AIC измеряет, насколько хорошо модель соответствует данным, принимая во внимание общую сложность модели. Модель, которая очень хорошо соответствует данным при использовании большого количества функций, получит более высокий балл AIC, чем модель, которая использует меньше функций для достижения того же качества соответствия. Следовательно, мы заинтересованы в поиске модели, которая дает наименьшее значениеAIC.

Приведенный ниже фрагмент кода выполняет итерацию по комбинациям параметров и использует функциюSARIMAX изstatsmodels для соответствия соответствующей сезонной модели ARIMA. Здесь аргументorder указывает параметры(p, d, q), а аргументseasonal_order указывает сезонный компонент(P, D, Q, S) модели Seasonal ARIMA. После подбора каждого баллаSARIMAX()+`model, the code prints out its respective `+AIC.

Поскольку некоторые комбинации параметров могут привести к ошибочной числовой спецификации, мы явно отключили предупреждающие сообщения, чтобы избежать перегрузки предупреждающих сообщений. Эти неправильные спецификации могут также привести к ошибкам и вызвать исключение, поэтому мы обязательно перехватим эти исключения и проигнорируем комбинации параметров, которые вызывают эти проблемы.

Код выше должен дать следующие результаты, это может занять некоторое время:

Вывод нашего кода предполагает, чтоSARIMAX(1, 1, 1)x(1, 1, 1, 12) дает наименьшее значениеAIC, равное 277,78. Поэтому мы должны считать это оптимальным вариантом из всех моделей, которые мы рассмотрели.

[[step-5 -—- fit-an-arima-time-series-model]] == Шаг 5. Подгонка модели временных рядов ARIMA

Используя поиск по сетке, мы определили набор параметров, который дает наилучшую модель соответствия нашим данным временных рядов. Мы можем продолжить анализ этой конкретной модели более подробно.

Мы начнем с добавления оптимальных значений параметров в новую модельSARIMAX:

Атрибутsummary, который является результатом выводаSARIMAX, возвращает значительный объем информации, но мы сосредоточим наше внимание на таблице коэффициентов. Столбецcoef показывает вес (т.е. важность) каждой функции и то, как каждая из них влияет на временной ряд. СтолбецP>|z| информирует нас о значимости каждого веса функции. Здесь каждый вес имеет значение p, меньшее или близкое к0.05, поэтому разумно сохранить их все в нашей модели.

При подборе сезонных моделей ARIMA (и любых других моделей по этому вопросу) важно проводить диагностику модели, чтобы убедиться, что ни одно из предположений, сделанных моделью, не было нарушено. Объектplot_diagnostics позволяет нам быстро генерировать диагностику модели и исследовать любое необычное поведение.

Наша главная задача - обеспечить, чтобы остатки нашей модели были некоррелированными и нормально распределенными с нулевым средним. Если сезонная модель ARIMA не удовлетворяет этим свойствам, это является хорошим показателем того, что ее можно еще улучшить.

В этом случае наша диагностика модели предполагает, что остатки модели обычно распределяются на основе следующего:

Эти наблюдения позволяют нам сделать вывод, что наша модель обеспечивает удовлетворительное соответствие, которое может помочь нам понять данные нашего временного ряда и прогнозировать будущие значения.

Несмотря на то, что у нас удовлетворительная посадка, некоторые параметры нашей сезонной модели ARIMA можно изменить, чтобы улучшить ее посадку. Например, наш поиск по сетке рассматривал только ограниченный набор комбинаций параметров, поэтому мы можем найти лучшие модели, если расширим поиск по сетке.

[[step-6 -—- validating-procasts]] == Шаг 6. Проверка прогнозов

Мы получили модель для нашего временного ряда, которую теперь можно использовать для составления прогнозов. Мы начнем со сравнения прогнозируемых значений с реальными значениями временного ряда, что поможет нам понять точность наших прогнозов. Атрибутыget_prediction() иconf_int() позволяют нам получать значения и соответствующие доверительные интервалы для прогнозов временных рядов.

Код выше требует, чтобы прогнозы начались в январе 1998 года.

Аргументdynamic=False гарантирует, что мы составляем прогнозы на один шаг вперед, что означает, что прогнозы в каждой точке создаются с использованием полной истории до этого момента.

Мы можем построить реальные и прогнозируемые значения временных рядов CO2, чтобы оценить, насколько хорошо мы справились. Обратите внимание на то, как мы увеличивали конец временного ряда, разрезая индекс даты.

В целом, наши прогнозы очень хорошо соответствуют истинным значениям, показывая общую тенденцию роста.

Также полезно количественно оценить точность наших прогнозов. Мы будем использовать MSE (средняя квадратическая ошибка), которая суммирует среднюю ошибку наших прогнозов. Для каждого прогнозируемого значения мы вычисляем его расстояние до истинного значения и возводим в квадрат результат. Результаты должны быть возведены в квадрат, чтобы положительные / отрицательные различия не компенсировали друг друга, когда мы вычисляем общее среднее значение.

MSE наших прогнозов на один шаг вперед дает значение0.07, что очень мало, так как оно близко к 0. MSE 0 будет означать, что оценщик прогнозирует наблюдения параметра с идеальной точностью, что было бы идеальным сценарием, но это, как правило, невозможно.

Однако лучшее представление о нашей истинной предсказательной силе может быть получено с помощью динамических прогнозов. В этом случае мы используем информацию только из временного ряда до определенной точки, а после этого прогнозы генерируются с использованием значений из предыдущих прогнозируемых моментов времени.

В приведенном ниже фрагменте кода мы указываем начать вычисление динамических прогнозов и доверительных интервалов с января 1998 года.

Нанося на график наблюдаемые и прогнозируемые значения временного ряда, мы видим, что общие прогнозы точны даже при использовании динамических прогнозов. Все прогнозируемые значения (красная линия) очень близки к истинной точке (синяя линия) и находятся в пределах доверительных интервалов нашего прогноза.

Еще раз, мы количественно оцениваем прогнозную эффективность наших прогнозов, вычисляя MSE

Прогнозируемые значения, полученные из динамических прогнозов, дают MSE 1,01. Это немного выше, чем на шаг вперед, что и следовало ожидать, учитывая, что мы полагаемся на меньшее количество исторических данных из временного ряда.

Оба шага вперед и динамические прогнозы подтверждают, что эта модель временного ряда является действительной. Тем не менее, большой интерес к прогнозированию временных рядов вызывает способность прогнозировать будущие значения заранее во времени.

[[step-7 -—- создание-и-визуализация-прогнозов]] == Шаг 7 - Создание и визуализация прогнозов

На последнем этапе этого руководства мы опишем, как использовать нашу сезонную модель временных рядов ARIMA для прогнозирования будущих значений. Атрибутget_forecast() нашего объекта временного ряда может вычислять прогнозируемые значения на указанное количество шагов вперед.

Мы можем использовать выходные данные этого кода для построения временного ряда и прогнозов его будущих значений.

Сгенерированные нами прогнозы и связанный с ними доверительный интервал теперь можно использовать для дальнейшего понимания временных рядов и прогнозирования того, что ожидать. Наши прогнозы показывают, что временные ряды, как ожидается, будут продолжать расти устойчивыми темпами.

По мере того, как мы прогнозируем дальнейшее будущее, для нас естественно стать менее уверенными в наших ценностях. Это отражается в доверительных интервалах, генерируемых нашей моделью, которые увеличиваются по мере того, как мы продвигаемся дальше в будущее.

В этом руководстве мы описали, как реализовать сезонную модель ARIMA в Python. Мы широко использовали библиотекиpandas иstatsmodels и показали, как запускать диагностику модели, а также как составлять прогнозы временных рядов CO2.

Вот еще несколько вещей, которые вы можете попробовать:

Для большей практики вы можете также попытаться загрузить другой набор данных временных рядов, чтобы получить свои собственные прогнозы.