第5章：非線形SVM | 推薦システム研究室（RecSysLab）

公開日：2019-08-15
最終更新日：2019-08-26

skl05-0：準備

次の`curry2.csv`は第1章で用いたBobのカレーに対する評価履歴データである．ただし，「どちらでもない」と評価したデータは除いてある．以下のデータを`data`ディレクトリに配置したうえで，次のコードを実行しよう．

curry2.csv：カレーに対する評価履歴データ（データIDid，辛さspicy {0-100}，とろみthickness {0-100}，評価値rating {0=嫌い, 1=好き}）

>>> import numpy as np

>>> import pandas as pd

>>>

>>> # データの読込み

>>> curry2 = pd.read_csv('data/curry2.csv', index_col=0)

>>>

>>> feature_names = np.array(curry2.columns[:-1])

>>> target_names = ['dislike', 'like']

>>>

>>> curry2_X = np.array(curry2[feature_names])

>>> curry2_y = np.array(curry2['rating'])

>>>

>>> # 全データをランダムに学習データ80%とテストデータ20%に分割

>>> n = len(curry2_X)

>>> m = int(n * 0.2)

>>> np.random.seed(0)

>>> indices = np.random.permutation(n)

>>> curry2_X_train = curry2_X[indices[:-m]]

>>> curry2_y_train = curry2_y[indices[:-m]]

>>> curry2_X_test = curry2_X[indices[-m:]]

>>> curry2_y_test = curry2_y[indices[-m:]]

skl05-1：SVCのインポート

`SVC`をインポートしよう．

難易度：★

ミッション	説明
1	`SVC`をインポートする．

skl05-2：SVCオブジェクト（線形カーネル）の生成

`SVC`オブジェクトを生成しよう．ここで，パラメタは`kernel='linear'`とする．

難易度：★★

ミッション	説明
1	`SVC()`コンストラクタを呼び出す．
2	`kernel`パラメタを指定する．
3	生成した`SVC`オブジェクトを`svc`とする．

skl05-3：線形SVMによる学習

学習データを基に`svc`により学習しよう．

難易度：★★

ミッション	説明
1	`SVC.fit()`メソッドを使う．

skl05-4：線形SVMによる予測

`svc`によりテストデータに対してラベルを予測しよう．

難易度：★★

ミッション	説明
1	`SVC.predict()`メソッドを使う．

skl05-5：線形SVMによる予測精度の取得

`svc`のテストデータに対する予測精度を取得しよう．

難易度：★

ミッション	説明
1	`SVC.score()`メソッドを使う．

skl05-6：線形SVMによる学習モデルの可視化

次のコードは`svc`による学習モデルを可視化するものである．次のコードを`skl05_plt01.py`というファイル名で保存し，`python3`コマンドで実行しよう．

import numpy as np

import pandas as pd

import matplotlib.pyplot as plt

from matplotlib.colors import ListedColormap

from sklearn.svm import SVC

# data

curry2 = pd.read_csv('data/curry2.csv', index_col=0)

feature_names = np.array(curry2.columns[:-1])

target_names = ['dislike', 'like']

curry2_X = np.array(curry2[feature_names])

curry2_y = np.array(curry2['rating'])

# train

svc = SVC(kernel='linear')

svc.fit(curry2_X, curry2_y)

# plot

cmap_light = ListedColormap(['#CCCCFF', '#FFCCCC'])

cmap_dark = ListedColormap(['#8888FF', '#FF8888'])

x_min = 0

x_max = 100

y_min = 0

y_max = 100

xx, yy = np.mgrid[x_min:x_max:200j, y_min:y_max:200j]

Z = svc.decision_function(np.c_[xx.ravel(), yy.ravel()])

Z = Z.reshape(xx.shape)

plt.pcolormesh(xx, yy, Z, cmap=cmap_light)

plt.contour(xx, yy, Z, colors=['k', 'k', 'k'], linestyles=['--', '-', '--'], levels=[-.5, 0, .5])

plt.scatter(svc.support_vectors_[:, 0], svc.support_vectors_[:, 1], s=80, facecolors='none', edgecolors='k')

plt.scatter(curry2_X[:, 0], curry2_X[:, 1], c=curry2_y, cmap=cmap_dark, edgecolors='k')

plt.title("curry2")

plt.xlabel('spicy')

plt.ylabel('thickness')

plt.xlim(xx.min(), xx.max())

plt.ylim(yy.min(), yy.max())

plt.show()

難易度：★

ミッション	説明
1	`python3`コマンドで`skl05_plt01.py`を実行する．

skl05-7：SVCオブジェクト（RBFカーネル）の生成

`SVC`オブジェクトを生成しよう．ここで，パラメタは`kernel='rbf', C=1, gamma=0.01`とする．

難易度：★★

ミッション	説明
1	`SVC()`コンストラクタを呼び出す．
2	`kernel`パラメタを指定する．
3	`C`パラメタを指定する．
4	`gamma`パラメタを指定する．
5	生成した`SVC`オブジェクトを`svc_rbf`とする．

skl05-8：非線形SVMによる学習

学習データを基に`svc_rbf`により学習しよう．

難易度：★★

ミッション	説明
1	`SVC.fit()`メソッドを使う．

skl05-9：非線形SVMによる予測

`svc_rbf`によりテストデータに対してラベルを予測しよう．

難易度：★★

ミッション	説明
1	`SVC.predict()`メソッドを使う．

skl05-10：非線形SVMによる予測精度の取得

`svc_rbf`のテストデータに対する予測精度を取得しよう．

難易度：★

ミッション	説明
1	`SVC.score()`メソッドを使う．

skl05-11：非線形SVMによる学習モデルの可視化

次のコードは`svc_rbf`による学習モデルを可視化するものである．次のコードを`skl05_plt02.py`というファイル名で保存し，`python3`コマンドで実行しよう．

import numpy as np

import pandas as pd

import matplotlib.pyplot as plt

from matplotlib.colors import ListedColormap

from sklearn.svm import SVC

# data

curry2 = pd.read_csv('data/curry2.csv', index_col=0)

feature_names = np.array(curry2.columns[:-1])

target_names = ['dislike', 'like']

curry2_X = np.array(curry2[feature_names])

curry2_y = np.array(curry2['rating'])

# train

svc_rbf = SVC(kernel='rbf', C=1, gamma=0.1)

svc_rbf.fit(curry2_X, curry2_y)

# plot

cmap_light = ListedColormap(['#CCCCFF', '#FFCCCC'])

cmap_dark = ListedColormap(['#8888FF', '#FF8888'])

x_min = 0

x_max = 100

y_min = 0

y_max = 100

xx, yy = np.mgrid[x_min:x_max:200j, y_min:y_max:200j]

Z = svc_rbf.decision_function(np.c_[xx.ravel(), yy.ravel()])

Z = Z.reshape(xx.shape)

plt.pcolormesh(xx, yy, Z, cmap=cmap_light)

plt.contour(xx, yy, Z, colors=['k', 'k', 'k'], linestyles=['--', '-', '--'], levels=[-.5, 0, .5])

plt.scatter(svc_rbf.support_vectors_[:, 0], svc_rbf.support_vectors_[:, 1], s=80, facecolors='none', edgecolors='k')

plt.scatter(curry2_X[:, 0], curry2_X[:, 1], c=curry2_y, cmap=cmap_dark, edgecolors='k')

plt.title("curry2")

plt.xlabel('spicy')

plt.ylabel('thickness')

plt.xlim(xx.min(), xx.max())

plt.ylim(yy.min(), yy.max())

plt.show()

難易度：★

ミッション	説明
1	`python3`コマンドで`skl05_plt02.py`を実行する．

次のcurry2.csvは第1章で用いたBobのカレーに対する評価履歴データである．ただし，「どちらでもない」と評価したデータは除いてある．以下のデータをdataディレクトリに配置したうえで，次のコードを実行しよう．

SVCをインポートしよう．

SVCオブジェクトを生成しよう．ここで，パラメタはkernel='linear'とする．

学習データを基にsvcにより学習しよう．

svcによりテストデータに対してラベルを予測しよう．

svcのテストデータに対する予測精度を取得しよう．

次のコードはsvcによる学習モデルを可視化するものである．次のコードをskl05_plt01.pyというファイル名で保存し，python3コマンドで実行しよう．

SVCオブジェクトを生成しよう．ここで，パラメタはkernel='rbf', C=1, gamma=0.01とする．

学習データを基にsvc_rbfにより学習しよう．

svc_rbfによりテストデータに対してラベルを予測しよう．

svc_rbfのテストデータに対する予測精度を取得しよう．

次のコードはsvc_rbfによる学習モデルを可視化するものである．次のコードをskl05_plt02.pyというファイル名で保存し，python3コマンドで実行しよう．

次の`curry2.csv`は第1章で用いたBobのカレーに対する評価履歴データである．ただし，「どちらでもない」と評価したデータは除いてある．以下のデータを`data`ディレクトリに配置したうえで，次のコードを実行しよう．

`SVC`をインポートしよう．

`SVC`オブジェクトを生成しよう．ここで，パラメタは`kernel='linear'`とする．

学習データを基に`svc`により学習しよう．

`svc`によりテストデータに対してラベルを予測しよう．

`svc`のテストデータに対する予測精度を取得しよう．

次のコードは`svc`による学習モデルを可視化するものである．次のコードを`skl05_plt01.py`というファイル名で保存し，`python3`コマンドで実行しよう．

`SVC`オブジェクトを生成しよう．ここで，パラメタは`kernel='rbf', C=1, gamma=0.01`とする．

学習データを基に`svc_rbf`により学習しよう．

`svc_rbf`によりテストデータに対してラベルを予測しよう．

`svc_rbf`のテストデータに対する予測精度を取得しよう．

次のコードは`svc_rbf`による学習モデルを可視化するものである．次のコードを`skl05_plt02.py`というファイル名で保存し，`python3`コマンドで実行しよう．