G検定　⑤ DL理論基礎

ディープラーニングを支える理論的な基礎を学ぶ分野です。ニューラルネットワークの構造、活性化関数、誤差逆伝播法、勾配降下法と各種最適化手法、勾配消失問題やその対策が中心テーマになります。なぜ深い層の学習が難しいのか、それをどう克服してきたのかという流れの理解が問われます。数式そのものより、各手法が「何を解決するためのものか」を押さえることが効率的な学習につながります。

この分野の問題96問を、選択肢・正解・解説つきで掲載しています。まず自分で解答を考えてから「正解と解説を見る」を開いて答え合わせをしてください。

クイズモードで挑戦 →

第376問人間の脳の神経回路を模したアルゴリズムであり、ディープラーニングの土台となる仕組みはどれか。

A決定木
Bサポートベクターマシン
Cニューラルネットワーク
Dランダムフォレスト

正解と解説を見る

正解：C．ニューラルネットワーク

2章でも言及された通り、人間の脳のニューロンを模した巨大なネットワークです。

G検定 ⑤ DL理論基礎

第376問人間の脳の神経回路を模したアルゴリズムであり、ディープラーニングの土台となる仕組みはどれか。

第377問ニューラルネットワークの各層において、入力された信号を受け取り出力する役割を持つ要素を何と呼ぶか。

第378問入力層のニューロンと出力層のニューロンの間の繋がりの強さを表し、学習によって調整される値を何と呼ぶか。

第379問単純パーセプトロンにおいて、入力の総和を0から1の値に変換し、出力へ伝播させるかを調整する関数を何と言うか。

第380問単純パーセプトロンで最初に用いられていた、出力が0か1かの二値にしかならないような活性化関数はどれか。

第381問出力を0と1の二値ではなく、0から1の間の連続的な確率のような値で出力できる滑らかな活性化関数はどれか。

第382問入力層と出力層だけで構成される単純パーセプトロンの決定的な弱点はどれか。

第383問単純パーセプトロンの弱点を克服するために、入力層と出力層の間に追加された層を何と呼ぶか。

第384問隠れ層を追加した多層パーセプトロンにおける「モデルの学習」とは何を意味するか。

第385問ニューラルネットワークの構造のうち、ハイパーパラメータに該当するものはどれか。

第386問一般的にディープラーニングと呼ばれる手法は、どのような構造のニューラルネットワークを指すか。

第387問「半導体の集積率は18ヶ月ごとに2倍になる」という、ハードウェアの進化を表現した経験則は何か。

第388問ディープラーニングの膨大な計算において、CPU以上に適しているとされる演算処理装置はどれか。

第389問GPUを本来の画像処理以外の目的（ディープラーニングなど汎用的な計算）に利用する技術を何と呼ぶか。

第390問ディープラーニング向けのGPU開発を牽引し、AIブームで大きく成長した代表的な半導体メーカーはどこか。

第391問Googleが独自に開発した、テンソル計算処理に最適化されたAI専用チップの名称は何か。

第392問ディープラーニングが十分な精度を出すために必要なデータ量に関する「バーニーおじさんのルール」とはどのようなものか。

第393問モデルの学習において、予測値と実際の正解の値を比較し、その「ズレ」を数値化した関数を何と呼ぶか。

第394問回帰問題において一般的に用いられる、予測値と正解値の差を2乗して平均する誤差関数はどれか。

第395問平均二乗誤差関数において、誤差を「2乗」する数学的なメリットは何か。

第396問分類問題において、出力された予測確率と実際の正解（1か0）との差を測るのによく用いられる誤差関数はどれか。

第397問分類問題において交差エントロピー誤差関数が好まれる理由として正しいものはどれか。

第398問文字通りデータ間の「距離」を測り、データの類似度を推定するような学習アプローチを何と呼ぶか。

第399問深層距離学習で用いられる「Siamese Network」の特徴として正しいものはどれか。

第400問Siamese Networkの学習によく用いられる、同じクラスは近づけ、異なるクラスは遠ざけるための誤差関数は何か。

第401問深層距離学習で用いられる「Triplet Network」にはいくつのデータが同時に入力されるか。

第402問Triplet Networkの学習に用いられる誤差関数の名称はどれか。

第403問生成モデルの学習において、生成されたデータの確率分布と実際の分布との「ズレ」を測る指標は何か。

第404問KLダイバージェンスを改良し、AからBへのズレとBからAへのズレを対称的に評価できるようにした指標は何か。

第405問ディープラーニングにおいて、訓練データに過剰に適合してしまい、未知のデータに対する予測性能が落ちる現象を何と呼ぶか。

第406問過学習を防ぎ、モデルの汎化性能（未知のデータへの対応力）を高めるための手法の総称を何と呼ぶか。

第407問誤差関数にパラメータ（重み）の大きさに応じたペナルティを加えることで過学習を防ぐ正則化手法はどれか。

第408問パラメータの「絶対値の和」をペナルティ項として誤差関数に加算する正則化手法を何と呼ぶか。

第409問パラメータの「2乗の和」をペナルティ項として誤差関数に加算する正則化手法を何と呼ぶか。

第410問線形回帰に対してL1正則化を適用した手法を一般に何と呼ぶか。

第411問線形回帰に対してL2正則化を適用した手法を一般に何と呼ぶか。

第412問L1正則化を適用して学習を進めた際に見られる特徴的な結果はどれか。

第413問ラッソ回帰（L1正則化）とリッジ回帰（L2正則化）の両方を組み合わせて適用した手法を何と呼ぶか。

第414問ディープラーニング特有の過学習対策として、学習時にネットワークの一部ニューロンをランダムに無効化する手法はどれか。

第415問ドロップアウトが過学習を防ぐ効果は、機械学習のどのような手法と似た考え方であると解釈できるか。

第416問ドロップアウトにおいて、除外するニューロンの選択はどのタイミングで行われるか。

第417問学習アルゴリズムを使って、誤差関数を最小にするようなパラメータ（重み）の値を探索する手法の総称を何と呼ぶか。

第418問最適化手法の中でも基本となる、誤差関数の「傾き」を計算して、少しずつ谷底（最小値）へとパラメータを更新していく手法はどれか。

第419問勾配降下法を現実世界で例えると、どのような行動に似ているとテキストで表現されているか。

第420問勾配降下法において、1回の更新でパラメータをどの程度大きく動かすかを調整するための係数を何と呼ぶか。

第421問勾配降下法で学習率が大きすぎる場合、どのような問題が発生するか。

第422問勾配降下法で学習率が小さすぎる場合、どのような問題が発生するか。

第423問勾配降下法において、最適なパラメータを求めるために「手持ちの訓練データをすべて使って」1回の更新を行う方式を何と呼ぶか。

第424問バッチ勾配降下法がディープラーニングにおいて持つ決定的な欠点はどれか。

第425問人工知能のプログラム自身がデータから学習する仕組みを指す言葉はどれか。

第426問ニューラルネットワークの「入力層」の役割として正しいものはどれか。

第427問ディープラーニングは機械学習の一種である。この関係性を表す図において、最も外側にある大きな枠組みの概念はどれか。

第428問CPUとGPUの役割の違いについて、GPUが得意とする処理はどれか。

第429問CPUとGPUの役割の違いについて、CPUが得意とする処理はどれか。

第430問ディープラーニングが普及した2010年代以降、GPUを活用する上で重要となった計算の種類は何か。

第431問モデルの性能を評価するための「誤差関数」は、別の呼び方で何関数と呼ばれることが多いか。

第432問交差エントロピー誤差関数の式に含まれる「対数計算」にはどのような利点があるか。

第433問Contrastive Lossを用いるネットワークはどれか。

第434問L1正則化で追加されるペナルティ項は、どのような性質を持っているか。

第435問L2正則化で追加されるペナルティ項は、どのような性質を持っているか。

第436問ドロップアウトの効果について、誤っている記述はどれか。

第437問ドロップアウトが行われるのはニューラルネットワークのどの工程か。

第438問勾配降下法において、パラメータ更新のたびに計算しなければならないものは何か。

第439問学習率が高すぎる場合の勾配降下法の軌跡を示すグラフはどのような特徴を示すか。

第440問勾配降下法の目的となる「関数を最小化する」という数学的なアプローチを一般に何と呼ぶか。

第441問単純パーセプトロンが1958年に提案された当時、画期的だった点は何か。

第442問ニューラルネットワークにおいて、人間の脳の「ニューロン」に相当するものを図示する際、通常どのような形で描かれるか。

第443問ディープラーニングの実装において、計算能力の向上だけでなく不可欠だった要素はどれか。

第444問ディープラーニングにおいて、データの中から着目すべき「特徴量」は誰（何）が決定するか。

第445問ディープラーニングの学習において現在主流となっている全データを小さなグループに分けて更新を繰り返す手法はどれか。

第446問ミニバッチ学習において全データを分割した1つひとつの小さなデータのかたまりに含まれるデータ数を何と呼ぶか。

第447問ミニバッチ学習において手元にある全訓練データをすべて使い切ってパラメータ更新を一周した状態を表す単位は何か。

第448問全データが1000個でバッチサイズが50の場合1エポックあたりのパラメータの更新回数であるイテレーション数は何回になるか。

第449問勾配降下法において本当の最小値ではないがある範囲の中で局所的に凹んでしまい学習が止まりかける地点を何と呼ぶか。

第450問誤差関数全体の中で真に最も値が小さくなっている本当の最小値の地点を何と呼ぶか。

第451問ある次元から見れば極小であるが別の次元から見ると極大になっており最適化の進行を妨げてしまう地点を何と呼ぶか。

第452問勾配降下法において一度平坦な場所に陥ってしまい学習がなかなか進まなくなる停留状態を何と呼ぶか。

第453問過学習を防ぐために検証データに対する誤差が下がらなくなり上がり始めたタイミングで学習を打ち切る手法はどれか。

第454問過去の勾配の移動量を足し合わせることで物理学における慣性のような振る舞いを持たせ学習を加速させる手法はどれか。

G検定　⑤ DL理論基礎