python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(1)

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(2)

来源 | DeepHub IMBA

封图 | CSDN 付费下载于视觉中国

在本篇中,我们将展示使用 Python 统计学模型进行时间序列数据分析。 目标是:根据两年以上的每日广告支出历史数据,提前预测两个月的广告支出金额。

原始数据:2017-01-01 到 2019-09-23 期间的每日广告支出。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(3)

数据准备:划分训练集和测试集。

df1 = data[['Date','Spend']].set_index('Date') train = df1.iloc[:933,:]test = df1.iloc[933:,:] test.shape,train.shape

测试集大小:(63,1);训练集大小:(933,1)。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(4)

统计模型与统计要素

时间序列分析常用统计模型

  • 单变量时间序列统计学模型,如:平均方法、平滑方法、有/无季节性条件的 ARIMA 模型。
  • 多变量时间序列统计学模型,如:外生回归变量、VAR。
  • 附加或组件模型,如:Facebook Prophet、ETS。
  • 结构化时间序列模型,如:贝叶斯结构化时间序列模型、分层时间序列模型。

在本篇文章中,我们主要关注 SARIMA 和 Holt-winters 方法。

单变量时间序列统计学模型的关键要素

如果我们想要对时间序列数据进行上述统计学模型分析,需要进行一系列处理使得:

(1)数据均值(2)数据方差(3)数据自协方差

这三个指标不依赖于时间项。即时间序列数据具有平稳性。

如何明确时间序列数据是否具有平稳性?

可以从两个特征进行判断。

(1) 趋势,即均值随时间变化;

(2) 季节性,即方差随时间变化、自协方差随时间变化。

若满足以上两个条件,则时间序列数据不符合平稳性要求。

可以通过以下方法消除上述问题:

  1. 变换,如:取对数、取平方等。
  2. 平滑处理,如:移动平均等。
  3. 差分。
  4. 分解。
  5. 多项式拟合,如:拟合回归。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(5)

ARIMA:差分整合移动平均自回归模型

Autoregressive Integrated Moving Average model (ARIMA),差分整合移动平均自回归模型。ARIMA(p,d,q)主要包含三项:

p:AR项,即自回归项(autoregression),将时间序列下一阶段描述为前一阶段数据的线性映射。

d项,即积分项(integration),时间序列的差分预处理步骤,使其满足平稳性要求

q:MA项,即移动平均项(moving average),将时间序列下一阶段描述为前一阶段数据平均过程中的残留误差的线性映射。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(6)

该模型需要指定 p d q三项参数,并按照顺序执行。ARIMA 模型也可以用于开发 AR, MA 和 ARMA 模型。

ACF 和 PACF 图

自相关函数,autocorrelation function(ACF),描述了时间序列数据与其之后版本的相关性(如:Y(t) 与 Y(t-1) 之间的相关性)。

偏自相关函数,partial autocorrelation function(PACF),描述了各个序列的相关性。

  1. 通过 PACF 图可以确定 p
  2. 通过 ACF 图可以确定 q

SARIMA

季节性差分自回归滑动平均模型,seasonal autoregressive integrated moving averaging(SARIMA),在 ARIMA 模型的基础上进行了季节性调节。

其形式为:SARIMA(p,d,q)(P,D,Q)s,其中P,D,Q为季节参数,s为时间序列周期。

案例:通过 SARIMA 预测广告支出

首先,我们建立test_stationarity来检查时间序列数据的平稳性。

from statsmodels.tsa.stattools import adfuller df1=df.resample('D', how=np.mean)def test_stationarity(timeseries): rolmean = timeseries.rolling(window=30).mean rolstd = timeseries.rolling(window=30).std plt.figure(figsize=(14,5)) sns.despine(left=True) orig = plt.plot(timeseries, color='blue',label='Original') mean = plt.plot(rolmean, color='red', label='Rolling Mean') std = plt.plot(rolstd, color='black', label = 'Rolling Std') plt.legend(loc='best'); plt.title('Rolling Mean & Standard Deviation') plt.showprint ('<Results of Dickey-Fuller Test>') dftest = adfuller(timeseries, autolag='AIC') dfoutput = pd.Series(dftest[0:4], index=['Test Statistic','p-value','#Lags Used','Number of Observations Used'])for key,value in dftest[4].items: dfoutput['Critical Value (%s)'%key] = value print(dfoutput) test_stationarity(df1.Spend.dropna)

通过 test_stationarity函数,可以绘制移动平均值以及标准差,并且通过 Augmented Dickey-Fuller test 输出 P 值。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(7)

对比临界值(critical value)可以看到,时间序列数据时非平稳的。

首先我们试试对数变换,能不能使数据达到平稳性要求。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(8)

可以看到,利用对数变换df1[‘log_Spend’]=np.log(df1[‘Spend’]),时间序列在阈值为5%时满足平稳性要求。接下来,我们试试差分操作:test_stationarity(df1[‘Spend’].diff(1).dropna)。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(9)

显然,通过差分操作后,效果更好,时间序列在阈值为1%时满足平稳性要求。

然后,我们就可以建立 SARIMA 模型,并且预测 2019-07-23 到 2019-09-23 这两个月间每天的广告指出。

import statsmodels.api as sm fit1 = sm.tsa.statespace.SARIMAX(train.Spend, order=(7, 1, 2), seasonal_order=(0, 1, 2, 7)).fit(use_boxcox=True) test['SARIMA'] = fit1.predict(start="2019-07-23", end="2019-09-23", dynamic=True) plt.figure(figsize=(16, 8)) plt.plot(train['Spend'], label='Train') plt.plot(test['Spend'], label='Test') plt.plot(test['SARIMA'], label='SARIMA') plt.legend(loc='best') plt.show

现在,让我们通过从 sklearn.metrics包导入mean_squared_error,mean_absolute_error函数计算 mse 和 mae 来检查这个模型的性能。结果如下:

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(10)

进行数据可视化:

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(11)

从 mse、mae 以及预测曲线可以看出,SARIMA 模型成功预测了时间序列变化趋势和季节性特征。但是在峰值处的表现仍旧有待提高。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(12)

ETS:指数平滑法

ETS,Exponential Smoothing

由于时间序列数据随时间变化但具有一定的随机性,我们通常希望对数据进行平滑处理。为此,我们将使用 ETS 技术,通过指数方法为过去的数据分配较少的权重。同时将时间序列数据分解为趋势(T)、季节(S)和误差(E)分量。

三种常用 ETS 方法如下:

  • Linear:双指数平滑;
  • Additive:三指数平滑;
  • Multiplicative:三指数平滑。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(13)

Holt-Winter 季节性预测算法

Holt-winter 季节性预测算法是一种三指数平滑方法。它包含三个主要部分:水平、趋势、季节性分量。

案例:通过 Holt-Winter 季节性预测算法预测广告支出

通过 Holt-winter 季节性预测算法预测 2019-07-23 到 2019-09-23 期间的每日广告支出,代码如下:

from statsmodels.tsa.api import ExponentialSmoothing fit1 = ExponentialSmoothing(np.asarray(train['Spend']) ,seasonal_periods=7 ,trend='add', seasonal='add').fit(use_boxcox=True)test['Holt_Winter'] = fit1.forecast(len(test)) plt.figure(figsize=(16,8)) plt.plot( train['Spend'], label='Train') plt.plot(test['Spend'], label='Test') plt.plot(test['Holt_Winter'], label='Holt_Winter') plt.legend(loc='best') plt.show

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(14)

同样,我们通过 mean_squared_error,mean_absolute_error函数查看 mse 和 mae。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(15)

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(16)

可以看到,H-W 模型同样能够预测时间序列变化趋势和季节性特征。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(17)

算法对比

通过将两种算法的预测结果进行对比,可以评价哪种方法预测能力更好。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(18)

从图中可以看出,在MSE和MAE均较低的情况下,SARIMA模型的性能略优于Holt-Winter模型。尽管这两种模式都无法完美地抓住峰谷特征,但它们仍然对企业有用。根据数据,平均每月广告支出为2百万美元以上。而这两种算法的MAE大约在6000左右。换言之,对于一家平均每月广告支出为2百万美元的企业,两个月的广告支出预测误差只在6000美元左右,这是相当可观的。

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(19)

结束语

在本文中,单变量预测方法在广告支出数据上表现良好。但这些方法难以组合/合并新的信号(如事件、天气)。同时这些方法对丢失数据也非常敏感,通常不能很好地预测很长一段时间。

你还想了解深度学习技术的哪些问题,戳文末评论告诉我们,就有机会获得「AI 开发者万人大会」的在线直播门票哦!

python统计学分析(通过Python代码实现时间序列数据的统计学预测模型)(20)

  • 前百度主任架构师创业,两年融资千万美元,他说AI新药研发将迎来黄金十年
  • 北京四环堵车引发的智能交通大构想
  • 400 多行代码!超详细中文聊天机器人开发指南 | 原力计划
  • 三大运营商将上线 5G 消息;苹果谷歌联手,追踪 30 亿用户;jQuery 3.5.0 发布 | 极客头条
  • 比特币当赎金,WannaRen 勒索病毒二度来袭!
  • 你公司的虚拟机还闲着?基于 Jenkins 和 Kubernetes 的持续集成测试实践了解一下!
  • 从 Web 1.0到Web 3.0:详析这些年互联网的发展及未来方向
,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页