https://www.jstage.jst.go.jp/article/bjsiam/28/1/28_32/_pdf

本稿「機械学習の概要」は，人工知能技術のコアとして発展する機械学習を，「学術界・産業界での広範な利用」「代表的問題設定」「実行ツール」の観点から入門的に整理しています。主な内容は以下のとおりです。

  1. はじめに
    • 機械学習は「データから学ぶ」統計的学習として発展し，狭義のAIを超えてデータサイエンスの手法論として重要性を増している 。
  2. 機械学習の歴史
    • 初期のニューラルネット（SNARC，Perceptron）から始まり，深層学習（誤差逆伝播法，ネオコグニトロン）のブームを経て，カーネル法／SVM，高次元スパース推定（Lasso），トピックモデル，確率的最適化法など統計的手法が成熟。
    • 2012年以降のAlexNetによるILSVRC優勝で第三次ニューラルネットワークブームが到来 。
  3. コミュニティ
    • 主要国際会議として NIPS（NeurIPS），ICML，COLT，AISTATS，UAI を挙げ，関連分野会議（CVPR，KDD，ACL，AAAI など）とも密接に連携 。
  4. 機械学習の問題設定
    • 教師あり学習：回帰・分類問題。損失関数による汎化誤差最小化，正則化（リッジ，L₁）による過学習対策を解説 。
    • 教師なし学習：クラスタリング（混合ガウスモデル＋EM），次元削減，ICA など。
    • 半教師あり学習：ラベル付き・ラベルなしデータの併用による精度向上手法。
    • 強化学習：Bellman 方程式と価値反復法，Q学習，Deep Q-Network（DQN）による能動的学習の基本 。
  5. 機械学習のツール
    • Python（scikit-learn），深層学習ライブラリ（TensorFlow, Keras, Caffe, Chainer など），およびクラウドサービス（AWS, GCP, Azure）の活用環境を紹介 。
  6. まとめ
    • データ収集・計算環境の整備により機械学習の利用は容易になった一方，手法の数理的原理を理解し適切に適用するには一定の学習コストが必要であると総括しています 。