AIは「何を」学習しているのか | 電気工事の求人は神奈川県、平塚の東和電気株式会社 | ブログ

　その答えは、知識そのものではなく「関係性のパターン」を数値化して得ることであり、そもそもAIの学習とは、正解とのズレを減らすように数値（重み）を調整することだといいます。

　AIは知識そのものを文章として覚えているのではなく、「入力 → 出力を結びつける数値（重み）」を学習しているのだとか。

　例えば、「今日はいい天気」の次に来る言葉を予測する場合、「ですね」は来やすく、「冷蔵庫」は来にくい。この“確率の傾向”を学んでいるのです。

　学んでいる内容の実体は、文法構造、意味の関係（犬⇔動物）、文脈の流れ、よくあるパターン等で、知識というより「傾向の集合体」だといわれます。

　ではAIは「どのように」学習するのかということですが、① 予測する② 正解と比較する（誤差計算）③ 修正する（ここが学習）の3ステップが基本だそうです。

　まず、AIに問題を与え、例えば、「私はご飯を（　）」の（　）内に当てはまる言葉を予測させ、AIの答えが「たべる」で、正解が「よそう」だった場合、ズレ（誤差）を計算し、誤差が小さくなるように内部の重みを調整するのだそうです。この例の場合であれば、圧倒的にAIの答えが正しい場合が多いと思いますが、前後の文脈から間違えた原因を逆算して、全部のつまみ（重み）を微調整し、記憶することで精度が上がるのだといえます。

　学習の仕方自体は、人間が練習問題を解くのと似ていますが、学習の量は、この「予測 → 誤差 → 修正」を何億回も繰り返し、さらに実際のパラメータ数は数十億〜兆のオーダーで、データ量に至ってはテラ〜ペタバイトにも上るそうで、これなら膨大な電力が必要になる訳ですね。