機械学習ライブラリML.netを使用し,描かれたストロークの図形を推定して,整形された図形に置き換える機能を実装する.
ML.netは.NET standard 2.0に依存している.UWPで.NET standard 2.0を使用可能な状態にするには最小ターゲットバージョンを1809にする必要がある.
ソリューションエクスプローラーから,Kisozemiプロジェクトのプロパティを開き,[アプリケーション]-[ターゲットバージョン]と[最小バージョン]を共に,1809に変更し,保存,いったんVisual Studioを再起動する.
再起動後,[プロジェクト]-[NuGetパッケージの管理]を開き,[参照]からML.netを検索し,プロジェクトにインストールする.
本来,今回のような分類の機械学習を行う場合,学習データの準備と学習モデルの作成が必要となる.
しかし,時間も限られているため,今回はすでに作成されている学習モデルを読み込み,図形の分類推定に使用することとする.
以下のmodel.zipは,楕円と四角の図形を約60個学習させたモデルとなる.model.zipを置いておく場所は後述する.
適当なButtonを用意し,Clickイベントでmodel.zipを読み込む.
ML.netを使用するため,usingに以下を追加:
using Microsoft.ML; using Microsoft.ML.Data;
クラスのメンバに以下を追加:
MLContext mlContext = null; ITransformer strokePredictModel = null;
クリックイベント内で実際にmodel.zipを読み込む,非同期処理(await, async)を使用しているため,イベントメソッドの先頭にasyncを追加すること:
Windows.Storage.StorageFolder storageFolder = Windows.Storage.ApplicationData.Current.LocalFolder; Windows.Storage.StorageFile modelFile = await storageFolder.GetFileAsync("model.zip"); mlContext = new MLContext(); //Define DataViewSchema for data preparation pipeline and trained model DataViewSchema modelSchema; // Load trained model using (System.IO.Stream stream = await modelFile.OpenStreamForReadAsync()) { strokePredictModel = mlContext.Model.Load(stream, out modelSchema); stream.Flush(); }
注意
UWPで作成されるアプリはiOSやAndroidのアプリ同様に,端末内のストレージに自由にアクセスすることはできない.
そのため,
Windows.Storage.StorageFolder storageFolder = Windows.Storage.ApplicationData.Current.LocalFolder;
によって,アプリが自由に使えるフォルダを取得している.このフォルダにmodel.zipを置いておくことになるが,このフォルダの場所は環境によりことなるため,各自確認すること.
ブレークポイントなどを使用することで,確認,パスのコピーができる.
以下の.csファイルをプロジェクトに追加する.中には機械学習用の入力データ(StrokeData),出力データ(StrokePredict)クラスが定義されている.
学習モデルを読み込んだ状態であれば,ストロークを描き終えた後,そのストロークを特徴ベクトルに変換し,それを学習モデルに入力,図形の推定を行い,推定結果を基に該当する図形をストロークの大きさ,位置に生成する.
StrokeData input; //input に ストロークを特徴ベクトル化したデータを生成(後述) StrokeData[] inputdata = new[] { input }; IDataView batchinput = mlContext.Data.LoadFromEnumerable(inputdata); IDataView predictions = strokePredictModel.Transform(batchinput); IEnumerable<StrokePredict> strokePredict = mlContext.Data.CreateEnumerable<StrokePredict>(predictions, reuseRowObject: false); foreach(StrokePredict sp in strokePredict) { AddMessage($"Prediction: {(Convert.ToBoolean(sp.Prediction) ? "Ellipse" : "Rect")} | Probability: {sp.Probability} "); var rect = drawingStroke.PathShape.Data.Bounds; if (sp.Prediction == true) //trueであれば楕円として推定されたのでEllipseをrectのサイズ,位置で生成する {
Shapeクラスの位置指定はCanvas.Set〜メソッドで行う.
Canvas.SetLeft(ellipse, rect.X); Canvas.SetTop(ellipse, rect.Y);