R での予測
ニューラル ネットワーク用の nnet パッケージを使用する
ニューラル ネットワークは非常に重要であり、機械学習で広く使用されています。タスクを実行する入力データから特徴を自動的に学習する機能があります。
ニューラル ネットワークは、人工ニューラル ネットワークとも呼ばれます。
ニューラル ネットワークを使用して分析したい予約データがいくつかありますが、R 側の作業に入る前に、よく使用されるいくつかのフレーズを整理することが適切だと考えました。
ニューラル ネットワークの仕組み:
ニューラル ネットワークは、相互接続された多数のニューロンを使用して機能します。(人工ニューロン) は、モデルのトレーニング プロセス中に学習した活性化関数と重みを使用して、入力データを処理および変換します。その目的は、損失/コスト関数を最小限に抑える出力を生成することです。
手順には次のものが含まれます。
- 入力層: 入力データ
- 隠れ層: ネットワークの複雑さを制御するために変更できます。
- 活性化関数:シグモイド関数、双曲線正接関数、および整流線形単位 (ReLU) 関数。
- 重み付けとバイアス項
- 伝播: 順伝播。
- トレーニング: ランダムに初期化されます
- 評価: テストセットで評価
始める前に、以下にいくつかの定義を追加しました。
- 順伝播— 入力データをニューラル ネットワークに渡して出力を生成するプロセス。
- バックプロパゲーション— 予測が可能な限り正確になるように、モデルの重みとバイアスをトレーニングするために使用されるアルゴリズム。目標は、予測された出力と実際の出力の差を測定する損失関数を最小化することです。
- 収束— モデルのパラメーターが損失関数を最小化する最適な値のセットに近づくプロセス。目標は、可能な限り最小の損失関数を生成する重みとバイアスを見つけることです。
- ノード— ニューロンを表す数学的単位。
- 活性化関数— モデルに非線形性を導入するために使用される数学関数。これらはネットワーク内の各ノードの入力の加重和に適用され、活性化関数の出力がノードの出力を決定します。
- 重み— ニューロン/ノード間の接続に割り当てられ、接続の強さを表す値を指します。
- 損失関数— コスト関数とも呼ばれ、モデルの予測出力と真の出力の差を測定するために使用される数学関数です。
library(knitr)
library(tidyverse)
opts_chunk$set(fig.width=9, fig.height=7)
opts_chunk$set(comment="", fig.align="center", tidy=TRUE, fig.retina=2, cache = TRUE)
library(broom)
library(yardstick)
library(parsnip)
library(nnet)
library(patchwork)
library(rsample)
library(recipes)
data <- read_csv("https://raw.githubusercontent.com/NicJC/Hotel-reservations/main/Hotel_Reservations.csv")
data %>% names()
booking <- data.frame(
No_Adults = data$no_of_adults,
arrival_day = data$arrival_date,
arrival_month = data$arrival_month ,
year = data$arrival_year,
Qty_weekNights = data$no_of_week_nights,
Qty_weekendNights = data$no_of_weekend_nights,
room_type = data$room_type_reserved,
AvgPricePerRoom = data$avg_price_per_room
)
booking %>% head(n=8)
skimr::skim(booking)
データを少し見てみたいと思います。
booking %>% ggplot() +
geom_point(mapping = aes(
y= Qty_weekendNights ,
x = No_Adults ,
col = as.factor(arrival_month),
size = as.factor(year))) +
labs(title = "Weekend Nights booked by quantity of adults per month",
color = "Arrival Month",
x = "Number of Adults",
y = "Weekens Nights booked",
size = "year"
)
予約データを評価するための 5 つのモデルを作成します。私は「Qty_weekendNights」変数に興味があります。これをターゲット変数または応答にします。
データをトレーニング セットとテスト セットに分割する必要もあります。25 / 75 % の分割を使用します。
set.seed(1784)
split <- initial_split(booking, prop=3/4)
train <- training(split)
test <- testing(split)
再現性を目的としてシードを設定します。同じ実験をしたい場合は、同じシードを使用するだけです。
最初のモデルは次のとおりです。
set.seed(2982)
model1<- nnet(Qty_weekendNights ~ ., data = train, linout=TRUE, size=11)
サイズは、隠れ層内のユニットの数を指します。11は多すぎます。
set.seed(7365)
model2<- nnet(Qty_weekendNights ~ ., data = train,
linout=TRUE,
size=6,
decay=0.01,
maxit=1000
)
隠れ層のユニットの最適な数 (サイズ) は、有効な予測子の数 (7) を 2 で割って切り上げたものである必要があります。4 は適切な数であるはずです。
set.seed(8)
model3<- nnet(Qty_weekendNights ~ ., data = train, linout=FALSE, size=4)
set.seed(168)
model4<- nnet(Qty_weekendNights ~ ., data = train,
linout=TRUE,
size=4,
decay = 0.01 ,
maxit = 1000,
Hess = TRUE)
極小値は、モデルがトレーニング データに対して低い誤差を生み出す重みのセットを見つけることになるため、問題が発生する可能性がありますが、この誤差は可能な限り最小ではない可能性があります。理想的には、グローバル ミニマムが必要です。
Hess = TRUE の場合、最適な重みセットが返されることを期待します。
ニューラル ネットワークをフィッティングしてメトリクスを取得する別の方法。モデルをフィッティングするこの方法には、パースニップパッケージが必要です。
set.seed(814)
model5 <- mlp(mode="regression", engine="nnet", hidden_units=4, penalty=0.01,
epochs = 1000)
fit1 <- model5 %>% fit(Qty_weekendNights ~ ., data=train)
fit1 %>% extract_fit_engine() %>% pluck("convergence")
pred1 <- fit1 %>% augment(new_data=test)
pred1 %>% metrics(truth=Qty_weekendNights, estimate=.pred)
上記の 0 は、モデルが収束した場合は 0 を生成し、最大反復回数に達した場合は「1」を生成する pluck("convergence") を参照します。
モデル 1 ~ 4 のモデル メトリックを確認します。
モデル4
pred <- test %>%
bind_cols(pred = predict(model4, newdata=test) %>% as.numeric())
pred %>%
metrics(truth=Qty_weekendNights, estimate=pred)
pred2 <- test %>%
bind_cols(pred = predict(model3, newdata=test) %>% as.numeric())
pred2 %>%
metrics(truth=Qty_weekendNights, estimate=pred)
pred3 <- test %>%
bind_cols(pred = predict(model2, newdata=test) %>% as.numeric())
pred3 %>%
metrics(truth=Qty_weekendNights, estimate=pred)
pred4 <- test %>%
bind_cols(pred = predict(model1, newdata=test) %>% as.numeric())
pred4 %>%
metrics(truth=Qty_weekendNights, estimate=pred)
pred1 <- fit1 %>% augment(new_data=test)
pred1
結論
いくつかのニューラル ネットワークを適合させ、いくつかのパラメーターを使用してより適切な適合を試みました。
減衰はコスト/損失関数に影響するため、非常に重要です。重み減衰とは、コスト関数にペナルティ項を追加することで過学習を防ぐことを目的とした手法を指します。過学習は、モデルが複雑になりすぎてトレーニング データに適合しすぎる場合に発生します。通常、減衰パラメータには 0.01 を使用するのが適切な数値です。
パラメータをいじっていくつかのモデルを作成し、モデル メトリクスを介して相互に比較することは価値があります。
コード内でパイプ %>% 演算子を頻繁に使用しました。パイピングについて詳しく知りたい場合は、以下の記事を参照してください。
R付配管記事をお楽しみいただき、お役に立てば幸いです。
R、Julia、Python、応用統計に関する記事をもっと見るには、私をフォローしてください。

![とにかく、リンクリストとは何ですか?[パート1]](https://post.nghiatu.com/assets/images/m/max/724/1*Xokk6XOjWyIGCBujkJsCzQ.jpeg)



































