用語集

確率・統計

確率probability

ある出来事がどれくらい起こりやすいかを、0〜1（0%〜100%）の数で表したもの。→ 1.1

独立independence

一方が起きても、もう一方の起きやすさが変わらないこと。独立なら「両方起きる確率」は掛け算で求められる。→ 1.1、1.2

排反mutually exclusive

2つの出来事が同時には起きないこと。排反なら「どちらかが起きる確率」は足し算で求められる。→ 1.1

条件付き確率conditional probability

A が起きたという条件のもとで B が起きる確率。P(B | A) と書き、「A が起きた世界の中で B が占める割合」を表す。→ 1.2

ベイズの定理Bayes’ theorem

P(A | B) から P(B | A) へ、条件の向きをひっくり返す式。証拠（アラームなど）を見た後の確率を計算できる。→ 1.2

事前確率・事後確率prior / posterior probability

証拠を見る前の見込みが事前確率、証拠を見て更新した後の見込みが事後確率。稀な事象では、事前確率の低さが誤報の多さにつながる。→ 1.2

尤度比likelihood ratio

ある証拠（試験の合格など）が、「安全」のときに起きる確率と「危険」のときに起きる確率の比。事前オッズに掛けると事後オッズになる。危険でも通ってしまう試験は尤度比が 1 に近く、合格しても証拠として弱い。→ 1.2、5.10

確率分布probability distribution

起こりうる結果と、それぞれの起きやすさの一覧。→ 1.3

二項分布binomial distribution

成功確率 p の試行を n 回くり返したときの、成功回数の分布。例：検出率90%の検出器を10回試験したときの検出回数。→ 1.3

ポアソン分布Poisson distribution

一定の距離や時間の中で、稀な出来事が何回起きるかを表す分布。平均回数 m だけで形が決まる。→ 1.3、1.8

正規分布normal distribution

平均を中心とした左右対称の釣り鐘型の分布。平均 ±σ に約68%、±2σ に約95%、±3σ に約99.7% が入る。→ 1.3

期待値expected value

とりうる値にそれぞれの確率を掛けて足し合わせたもの。確率で重みづけした平均。→ 1.4

遭遇頻度exposure

ある条件（雨、夜、渋滞など）に、走行のうちどれだけの割合で出会うか。全体の事故率は、条件ごとの率を遭遇頻度で重みづけした期待値になる。機能安全のリスク評価（ASIL の E）でも使う。→ 1.4、5.6

分散・標準偏差variance / standard deviation

分散は平均からのずれを2乗して平均したもの、標準偏差 σ はその平方根。ばらつきの大きさを元の単位で表す。→ 1.4

大数の法則・中心極限定理law of large numbers / central limit theorem

試行を増やすほど平均は真の値に近づく（大数の法則）。多くの独立な値の平均は、元の分布が正規分布でなくても正規分布に近づく（中心極限定理）。→ 1.5

標準誤差standard error

平均（や割合）の推定値のばらつきの大きさ。1回ごとのばらつき σ を √n で割ったもので、試行を4倍にすると半分になる。→ 1.5、1.6

モンテカルロ法Monte Carlo method

乱数を使って何度も試行（シミュレーション）し、確率や平均を見積もる方法。精度は試行回数の平方根でしか良くならない。→ 1.5、5.7

信頼区間・信頼度confidence interval / confidence level

データから推定した「真の値はこの範囲にありそう」という幅。信頼度95%の区間とは、同じ方法で何度も推定すると、約95%の区間が真の値を含むという意味。「○%以下」のような安全の要求では、片側の上限（95% なら 推定値 ＋ 1.64 × 標準誤差）で判断する。→ 1.6

点推定・区間推定point estimate / interval estimate

データから真の値を1つの数で見積もるのが点推定（例：検出率90%）、幅をもって見積もるのが区間推定（例：86〜94%）。→ 1.6

標本分散（n − 1 で割る分散）sample variance

手元のデータから本当のばらつきを推定するときの分散。平均からのずれの2乗の合計を、n ではなく n − 1 で割ると、平均的に小さく見積もりすぎなくなる。→ 1.4、1.6

t分布t-distribution

データが少ないときに、平均の信頼区間を作るのに使う分布。正規分布より裾が広く、データが少ないほど区間が広がる（6件なら「2」の代わりに約2.57を使う）。→ 1.6、1.7

ブートストラップbootstrap

手元のデータから同じ個数を重複を許して引き直し、推定をやり直すことを何度もくり返して、推定値のばらつき（信頼区間）を求める方法。複雑な計算の結果や分位点にも使えるが、表せるのはデータの偶然のばらつきだけで、モデルの仮定の誤りは含まない。→ 1.9

仮説検定hypothesis testing

「差がない」と仮定したとき、観測された結果がどれくらい起きにくいかを調べ、差があると言ってよいかを判断する方法。この「差がない」という仮定を帰無仮説と呼ぶ。→ 1.7

p値・有意水準p-value / significance level

p値は、「差がない」と仮定したとき、観測された結果と同じか、それより極端な結果が出る確率。これが前もって決めた有意水準（ふつう5%）より小さければ「統計的に有意」とする。p値は「差がない確率」ではない。→ 1.7

第1種の誤り・第2種の誤り・検出力type I error / type II error / power

本当は差がないのに「差がある」とするのが第1種の誤り（確率 α）、本当は差があるのに見逃すのが第2種の誤り（確率 β）。本当の差を正しく見つけられる確率 1 − β が検出力で、試験の回数を増やすと高くなる。→ 1.7

多重比較multiple comparisons

たくさんの比較を同時に行うこと。差がまったくなくても、有意水準5%なら20回に1回は偶然「有意」になるため、基準を厳しくする（ボンフェローニ補正：α を比較の数で割る）などの対策が要る。→ 1.7

3の法則rule of three

失敗ゼロのまま n 回（n km）試したとき、失敗率の上限は信頼度95%でおよそ 3/n。目標「X kmに1件以下」を示すには、無事故で約 3X km 走る必要がある。→ 1.8

裾の重い分布・極値heavy-tailed distribution / extreme value

正規分布よりも大きな外れ値が起きやすい分布。めったに起きない極端な値（極値）の扱いが、安全評価では重要になる。→ 1.3、1.9

再現レベル・再現期間return level / return period

「n回（n年）に1回しか超えない値」が再現レベル、その n が再現期間。「100年に1度の大雨」と同じ考え方で、回数を重ねるほど、出会う最悪値は大きくなる。→ 1.9

極値理論・しきい値超過法extreme value theory / peaks over threshold

しきい値を超えた出来事（例：ヒヤリハット）だけを集めて裾の形をあてはめ、もっと稀な出来事（例：事故）の起きやすさを外挿する方法。しきい値を十分きびしくとると、超えた分の分布は元の分布によらず一般化パレート分布に近づく。結果は裾の形の仮定に大きく左右される。→ 1.9

機械学習・AI

機械学習machine learning

人がルールを書く代わりに、データから規則（モデル）をコンピュータに学ばせる方法。→ 2.1

教師あり学習・教師なし学習・強化学習supervised / unsupervised / reinforcement learning

正解付きのデータから入力と答えの関係を学ぶのが教師あり学習、正解なしでデータの中のまとまりや珍しいものを見つけるのが教師なし学習、試行錯誤して報酬が大きくなる行動を学ぶのが強化学習。→ 2.1

回帰・分類regression / classification

教師あり学習のうち、数値を予測するのが回帰（例：3秒後の位置）、カテゴリを予測するのが分類（例：歩行者か自転車か）。→ 2.1、2.2、2.4

モデル・パラメータ・推論model / parameter / inference

モデルは入力から予測を出す計算のしくみ、パラメータはその振る舞いを決める調整つまみ。学習でパラメータを決め、できたモデルで新しい入力に答えを出すことを推論という。→ 2.1

汎化（汎化性能）generalization

学習に使っていない新しいデータでも正しく予測できること。その性能は、学習に使わずにとっておいたデータで測る。→ 2.1、2.6

損失関数loss function

予測と正解のずれを1つの数にしたもの。学習とは、これが小さくなるようにパラメータを調整すること。→ 2.2

残差residual

正解と予測の差（y − ŷ）。データ1つごとの「予測のずれ」。→ 2.2

平均二乗誤差・RMSE・MAEmean squared error / RMSE / MAE

残差の2乗の平均が平均二乗誤差（MSE）、その平方根が RMSE（元の単位で表した平均的なずれ）、残差の絶対値の平均が MAE。MSE は大きなずれを重く見るぶん、外れ値に引っ張られやすい。→ 2.2

最小二乗法least squares

残差の2乗の合計が最も小さくなるように、直線などのパラメータを決める方法。線形回帰では式で直接求まる。→ 2.2

外挿extrapolation

データのある範囲の外を予測すること。範囲の中での当てはまりが良くても、外では大きく外れることがある。→ 1.9、2.2

勾配降下法gradient descent

損失関数の傾き（勾配）を求め、下る向きにパラメータを少しずつ動かして、損失が最も小さくなる所を探す方法。→ 0.2、2.3

学習率learning rate

勾配降下法で1歩にどれだけ進むかを決める数（η）。小さすぎると学習が遅く、大きすぎると行き過ぎて揺れたり発散したりする。→ 2.3

確率的勾配降下法・ミニバッチ・エポックstochastic gradient descent / mini-batch / epoch

毎回ランダムに選んだ一部のデータ（ミニバッチ）だけで傾きを見積もって進む勾配降下法。データ全体を1周するのを1エポックという。→ 2.3

局所解local minimum

その周りでは損失が最も低いが、全体で最も低いとは限らない点。ニューラルネットワークでは、初期値や乱数によってどこに落ち着くかが変わる。→ 2.3

ロジスティック回帰・シグモイド関数logistic regression / sigmoid function

直線の式 z ＝ wx ＋ b を、シグモイド関数 1/(1 ＋ e^−z) で0〜1の確率に変えて分類する方法。名前に「回帰」とあるが、分類に使う。→ 2.4

オッズodds

起きる確率が、起きない確率の何倍かを表す数 p/(1 − p)。ロジスティック回帰では、オッズの対数が入力の直線になる。→ 2.4

交差エントロピー・最尤推定cross-entropy / maximum likelihood

分類でよく使う損失関数。正解の側に出した確率が低いほど大きくなり、自信を持って外すと罰が急に大きくなる。交差エントロピーを最小にすることは、データが観測される確率（尤度）を最大にすること（最尤推定）と同じ。→ 2.4

しきい値（判定の）decision threshold

モデルが出した確率を「検出する／しない」の判定に変える境目。下げると見逃しが減り誤検知が増え、上げるとその逆になる。→ 2.4、2.7

ソフトマックス関数softmax function

3つ以上の分類先それぞれの点数を、0以上で合計が1になる確率に変える関数。画像認識のニューラルネットワークの最後の段で使われる。→ 2.4

決定木・ジニ不純度decision tree / Gini impurity

はい／いいえの質問を木の形に重ねて判断するモデル。質問は、分けたあとの混ざり具合（ジニ不純度 1 − Σp²）が最も下がるものを選ぶ。小さな木は人がルールとして読める。→ 2.5

アンサンブル（ランダムフォレスト・勾配ブースティング）ensemble / random forest / gradient boosting

複数のモデルの多数決や平均で予測する方法。効果は、各モデルの間違いが独立なほど大きく、同じデータで学んだモデルどうしでは小さくなる。→ 2.5

過学習overfitting

訓練データに合わせすぎて、新しいデータでは性能が落ちる状態。正則化などで防ぐ。→ 2.6

学習不足underfitting

モデルが単純すぎて、訓練データでも新しいデータでも誤差が大きい状態。より表現力のあるモデルや、役に立つ入力を加えて改善する。→ 2.6

訓練データ・検証データ・テストデータtraining / validation / test data

パラメータを学ぶのが訓練データ、モデルの複雑さなどの設定を選ぶのが検証データ、最後に一度だけ本当の性能を測るのがテストデータ。→ 2.6、2.8

交差検証cross-validation

データの分け方を変えながら、学習と検証を何度もくり返して平均する方法。データが少ないときに、評価のぶれを小さくできる。→ 2.6

正則化（リッジ回帰）regularization / ridge regression

損失に「重みの大きさ」への罰（λ × 重みの2乗の和など）を足して、なめらかで新しいデータにも当たるモデルにする方法。罰が強すぎると学習不足になる。→ 2.6

早期終了early stopping

検証データでの誤差が上がり始めた所で学習を止め、過学習を防ぐ方法。→ 2.3、2.6

適合率・再現率・見逃し率precision / recall / miss rate

再現率は本物のうち検出できた割合、適合率は検出したもののうち本物だった割合。どちらか一方だけでは性能を判断できない。見逃し率（偽陰性率、FNR）は 1 − 再現率。再現率は感度・真陽性率（TPR）、適合率は陽性的中率（PPV）とも呼ぶ。誤検知率（偽陽性率、FPR）について、1 − 誤検知率を特異度（真陰性率、TNR）と呼ぶ。→ 1.2、2.7

誤検知・未検出false positive / false negative

誤検知（偽陽性）は無いものを有ると判定すること、未検出（偽陰性）は有るものを見逃すこと。自動運転では、不要な急ブレーキと見逃しの両方が危険につながる。→ 1.2、2.7

混同行列・正解率confusion matrix / accuracy

判定の結果を、正しく検出（TP）・見逃し（FN）・誤検知（FP）・正しく見送り（TN）の4つに分けて数えた表。正解率（全体のうち合っていた割合）は、対象が少数派だと高く出やすく、それだけでは性能を判断できない。→ 2.7

F1スコアF1 score

適合率 P と再現率 R をまとめた数 2PR/(P ＋ R)。どちらか一方だけが高くても大きくならない。→ 2.7

ROC曲線・AUCROC curve / AUC

しきい値を動かしたときの誤検知率（横）と再現率（縦）の関係を描いた曲線と、その下の面積。AUC は、本物と偽物を1つずつ選んだとき本物のほうに高い点数をつける確率で、0.5 なら当てずっぽう。→ 2.7

IoU（重なり率）intersection over union

物体検出で、予測した枠と正解の枠が重なっている面積を、2つを合わせた面積で割った値。一定以上（例：0.5）重なっていれば「正しく検出」とみなす。→ 2.7、3.4

分布シフトdistribution shift

学習に使ったデータと、実際に使う場面のデータの性質がずれること。AI の性能が落ちる大きな原因。→ 2.8

共変量シフト・事前確率シフト・コンセプトシフトcovariate / prior / concept shift

分布シフトの3つの型。入力の分布が変わる（雪国・夜間・カメラ交換など）のが共変量シフト、対象の割合が変わる（歩行者の多さなど）のが事前確率シフト、入力と答えの関係そのものが変わる（新しい乗り物・ルール変更など）のがコンセプトシフト。→ 2.8

データの漏れdata leakage

同じ走行・同じ日・同じ場所の似たデータが訓練とテストの両方に入るなどして、テストの成績が実力より高く出ること。走行・日・地域などのまとまりごとにデータを分けて防ぐ。→ 2.6、2.8

分布外検出out-of-distribution detection

学習データから遠い、見慣れない入力が来たことを見つける方法。見つけたら、機能を制限するなど安全側に振る舞うきっかけにする。→ 2.8、3.7

ニューラルネットワークneural network

内積と簡単な変換を何層にも重ねた計算のしくみ。画像認識など、現在の AI の中心となるモデル。→ 0.2、3.1

ニューロン・活性化関数neuron / activation function

ニューラルネットワークの部品。入力の重み付きの和にバイアスを足し、活性化関数（シグモイド関数や ReLU など）に通して出力する。活性化関数で途中を「曲げる」ので、層を重ねる意味が生まれる。→ 3.1

ReLUrectified linear unit

活性化関数の一つ。max(0, z)、つまり z がマイナスなら0、プラスならそのまま出す。計算が軽く、深いネットワークでよく使われる。→ 3.1

ディープラーニング（深層学習）・隠れ層deep learning / hidden layer

入力と出力の間の層（隠れ層）をたくさん重ねたニューラルネットワークで学習すること。前の層は単純な特徴を、後の層は複雑なものを表すようになる。→ 3.1

誤差逆伝播法・連鎖律backpropagation / chain rule

出力の誤差を後ろの層から順に配り、1回の後ろ向きの計算ですべての重みの傾きを求める方法。傾き（変化の割合）が途中の割合の掛け算で伝わる、という連鎖律を使う。→ 3.2

勾配消失・勾配爆発vanishing / exploding gradients

深いネットワークで、連鎖律の掛け算が長くなり、手前の層に届く傾きが小さくなりすぎる（消失）、または大きくなりすぎる（爆発）こと。ReLU・初期値の工夫・正規化・残差接続などで防ぐ。→ 3.2

自動微分automatic differentiation

計算の手順から、傾き（微分）をソフトウェアが自動で正確に求めるしくみ。誤差逆伝播法を実際の開発で使えるものにしている。→ 3.2

CNN（畳み込みニューラルネットワーク）・畳み込み・フィルタconvolutional neural network / convolution / filter

小さな窓（フィルタ）を画像全体にずらしながら当て、重ねた部分を「掛けて足す」（畳み込み）ニューラルネットワーク。どの場所でも同じ重みを使うのでパラメータが少なく、どこに写っていても同じ特徴を拾える。結果の並びを特徴マップという。→ 3.3

プーリングpooling

特徴マップを小さな区画ごとにまとめる処理（例：2×2画素ごとに最大値だけを残す）。計算を減らし、物の少しのずれに強くする。→ 3.3

近道学習shortcut learning

本来の手がかり（物の形など）ではなく、データにたまたま含まれる手がかり（背景・模様・撮影条件など）で判断するように学んでしまうこと。試験データにも同じ偏りがあると、正解率だけでは気づけない。→ 3.3、3.9

物体検出・バウンディングボックスobject detection / bounding box

画像の中の物ごとに、位置と大きさを表す枠（バウンディングボックス）・種類・確信度を答える課題。枠のずれ（回帰）と種類（分類）を同時に学ぶ。→ 3.4

セグメンテーション（セマンティック・インスタンス）semantic / instance segmentation

画素ごとに種類（道路・歩道・車など）を答える課題がセマンティックセグメンテーション。さらに同じ種類の物を1つずつ区別するのがインスタンスセグメンテーション。→ 3.4

NMS（非最大値抑制）non-maximum suppression

同じ物への重複した枠を消す手順。確信度の最も高い枠を残し、それと大きく重なる（IoU がしきい値を超える）枠を消すことをくり返す。別々の物が重なって写ると、片方を消してしまうことがある。→ 3.4

AP・mAP（平均適合率）average precision / mean average precision

物体検出の代表的な評価指標。しきい値を動かしたときの適合率と再現率の曲線の下の面積が AP、種類ごとの AP の平均が mAP。すべての見逃しを同じ重さで数える点に注意。→ 3.4

危険度で重みづけた指標danger-weighted metric

誤りを、危険の大きさ（相手までの距離、衝突までの余裕時間など）で重みづけて数える指標。全体の再現率が同じモデルでも、近くの相手の見逃しが多いものは大きく下がる。重みの決め方は、根拠とともに先に決める。→ 3.10

続けて見逃す確率consecutive misses

連続した画像で、同じ相手を何枚も続けて見逃す確率。見逃しの原因（逆光・物陰など）は続くので、1 枚あたりの見逃し率を掛け算した値よりずっと大きくなる。動画で、見逃しが続いた長さを数えて評価する。→ 3.10

対応のある比較（マクネマー検定）paired comparison / McNemar’s test

2 つのモデルを同じ試験データで比べ、「片方だけが正解した件数」b と c から、差が偶然かを判断する方法。z ＝ (b − c) / √(b ＋ c) がおよそ 2 を超えれば差があると言える。別々のデータで比べるより、小さな差まで見分けられる。→ 1.7、3.10

テストオラクルtest oracle

試験の結果が正しいかどうかを判定する仕組み（正解や判定の基準）。AI の認識では、あらゆる入力に正解を用意できないことが、テストのいちばんの課題になる。→ 3.11

メタモルフィックテストmetamorphic testing

「入力をこう変えたら、出力はこう変わる（変わらない）はず」という関係を確かめる試験。画像の左右反転や明るさの変更などで、正解のラベルなしに多くの試験ができる。関係が守られても答えが正しいとは限らないので、正解付きの試験を補うものとして使う。→ 3.11

ネガティブフリップnegative flip

モデルを更新したとき、前のモデルが正解していたのに新しいモデルが間違えるようになった件。平均の性能が上がっても起きるので、回帰試験では件数と中身を確かめる。→ 3.11

スライス試験slice testing

夜・雨・遠距離などの条件ごとに試験データを分け、条件ごとの性能を調べて弱いところを探す試験。弱さを見分けるには、条件ごとに十分な件数が要る。→ 3.11、5.9

注意機構（アテンション）・クエリ・キー・バリューattention / query, key, value

「どこをどれだけ参考にするか」を重みで決めるしくみ。探しているもの（クエリ）と各要素の特徴（キー）の内積をソフトマックス関数で重みに直し、その重みで中身（バリュー）を平均する。重みは判断の理由の説明とは限らない。→ 3.5

TransformerTransformer

注意機構を中心に、層を何重にも重ねたニューラルネットワーク。離れた要素どうしの関係を直接見られる。文章・画像・場面の予測など幅広く使われ、計算量はトークン数の2乗で増える。→ 3.5、3.6

トークンtoken

Transformer が扱う入力の単位。文章なら単語やその一部、画像なら小さな区画、走行場面なら1台1台の車や歩行者など。→ 3.5

基盤モデル・事前学習・微調整foundation model / pre-training / fine-tuning

正解ラベルのない大量のデータで巨大なモデルを学習させ（事前学習）、それを少ないデータでの追加学習（微調整）や文章による指示で、さまざまな用途に使い回すモデル。→ 3.6

LLM・VLM（大規模言語モデル・視覚言語モデル）large language model / vision-language model

文章を扱う基盤モデルが LLM、画像と文章の両方を扱うのが VLM。LLM は、それまでの並びから次のトークンの確率を予測して文章を作る。→ 3.6

温度（生成の）temperature

生成AIが次のトークンを選ぶとき、点数を割ってからソフトマックス関数に通す数。大きいと答えが散らばり確率の低い答えも出やすく、小さいとほぼ毎回同じ答えになる。→ 3.6

ハルシネーションhallucination

生成AIが、事実と違う内容をもっともらしく、自信のある口調で出力すること。「本当かどうか」ではなく「続きとしてもっともらしいか」を学んでいるために起きる。→ 3.6

データの混入（ベンチマークの汚染）data contamination

評価に使う問題と答えが、モデルの学習データに含まれてしまうこと。モデルが答えを「覚えて」いると、初めて見る問題での実力より正答率が高く出る。公開されていない問題や新しく作った問題で確かめる。→ 3.6

AI による採点LLM-as-a-judge

生成AI の答えの良し悪しを、別の AI に採点させる方法。速くて安いが、長い答えや先に示された答えを高く評価しやすいなどの偏りがあるので、人の採点と突き合わせてから使う。→ 3.6

不確実性：偶然的（アレアトリック）・認識的（エピステミック）aleatoric / epistemic uncertainty

データそのもののばらつきやあいまいさによる偶然的不確実性（アレアトリック不確実性。語源はラテン語の「サイコロ」）と、知識やデータの不足による認識的不確実性（エピステミック不確実性。語源はギリシャ語の「知識」）がある。前者はデータを増やしても減らないが、後者はデータを増やすと減らせる。→ 3.7

キャリブレーションcalibration

AI が出す確信度（例：90%）と、実際に正しい割合が一致しているかどうか。一致していれば「よく較正されている」という。→ 3.7

信頼性図・ECE（期待較正誤差）reliability diagram / expected calibration error

確信度ごとに答えをまとめ、実際の正解率と比べた図が信頼性図。点が対角線より下なら自信過剰。確信度と正解率の差を件数で重み付けして平均した数が ECE。→ 3.7

温度スケーリングtemperature scaling

確率に直す前の点数を温度 T で割り、確信度の語り方を直す較正の方法。T は検証データで選ぶ。どの答えが最も確率が高いかは変わらないので、正解率は変わらない。→ 3.7

頑健性（ロバスト性）・劣化robustness / corruption

入力が少し変わっても判断が変わらない性質。雨・汚れ・逆光・ぶれなどの自然な劣化に対するものと、意図的な小さな変化（敵対的サンプル）に対するものがあり、両方を分けて評価する。→ 3.8

敵対的サンプルadversarial example

人には気づかないほどの小さな変化で、AI に大きく誤った判断をさせる入力。頑健性の評価に使われる。→ 3.8

敵対的訓練・データ拡張adversarial training / data augmentation

学習中に敵対的サンプルを作り、それでも正しく答えられるように学ぶのが敵対的訓練。雨や明るさの変化などを加えた画像で学ぶのがデータ拡張。敵対的訓練は、変化のない入力での正解率が少し下がることが多い。→ 3.8

説明可能性（XAI）explainability / explainable AI

AI の判断が入力のどこに頼っているかを調べ、人に分かる形で示す技術。1件の判断の説明（局所的）と、モデル全体の傾向の説明（大域的）がある。説明はもっともらしくても正しいとは限らない。→ 3.9

顕著性マップ・遮蔽saliency map / occlusion

各画素を少し変えたときの出力の変化の割合（入力についての傾き）を図にしたのが顕著性マップ。画像の一部を隠して確信度の下がり方を調べるのが遮蔽。→ 3.9

SHAP・特徴の寄与SHAP / feature attribution

平均的な場面からの出力の差を、入力ごとに公平に分け合って「どの入力がどれだけ押し上げたか」を示す方法。直線のモデルでは、重み ×（入力 − 平均）になる。→ 3.9

反実仮想の説明counterfactual explanation

「入力がこう違っていたら、答えはこう変わった」という形の説明。答えを変えるのに必要な最小の変化を示す。→ 3.9

自動運転

自動運転レベルlevels of driving automation

SAE J3016 が定めるレベル0〜5の区分。運転を人とシステムのどちらが担うか、システムが使える条件に制限があるかなどで分ける。→ 4.1

運行設計領域（ODD）Operational Design Domain

自動運転システムが正しく動くように設計された条件の範囲（道路の種類、天候、速度、時間帯など）。同じ性能でも、ODD によって結果の意味が変わる。→ 1.2、4.1

ODD の境界ODD boundary

ODD に含める条件の限界（降雨量いくつまで、など）。性能が落ちる点（性能の境界）より手前に、退避に要する時間と検知の誤差の余裕を見込んで置き、車が運転中に測れる量で定義する。遭遇頻度と可用性のかね合いも含めて根拠を残す。→ 4.1

動的運転タスク（DDT）dynamic driving task

運転中にその場で行う仕事。加減速とハンドルの操作と、周りの車や歩行者などに気づいて対応すること（周囲の監視と対応）からなる。行き先や経路を決めることは含まない。→ 4.1

引き継ぎ要求・フォールバックtakeover request / DDT fallback

システムの不具合や、ODD の外に出そうなときの対応がフォールバック。レベル3 では、システムが人に運転を代わるよう求め（引き継ぎ要求）、人が引き継ぐ。レベル4 以上では、システム自身が対応する。→ 4.1

最小リスク状態（MRC）minimal risk condition

運転を続けられないとき、事故の危険をできるだけ小さくするために車をもっていく状態。例：路肩や車線内に止まり、ハザードランプを点ける。→ 4.1

認知・判断・操作perception / planning / control

周囲を認識し（認知）、走り方を決め（判断）、ハンドルやブレーキを動かす（操作）という、自動運転の基本の流れ。→ 4.2

遅れ（レイテンシ）latency

センサが様子をとらえてから、車が実際に動き始めるまでにかかる時間。各段階の処理の時間が積み重なる。遅れの間も車は進むので、止まるまでの距離がのびる。→ 4.2

追跡（トラッキング）object tracking

各フレームで検出した物体を、前のフレームの同じ物体と結びつけ、位置や速度の変化を追うこと。1フレームだけの見逃しを補ったり、速度を求めたりできる。→ 3.4、4.2

バイワイヤdrive-by-wire

ブレーキやハンドルを、機械的なつながりではなく電気信号で動かすしくみ。自動運転の操作の段階で使われ、故障に備えた冗長化が重要になる。→ 4.2

センサフュージョンsensor fusion

カメラ・LiDAR・レーダーなど複数のセンサの情報を組み合わせ、互いの弱点を補う技術。→ 4.3

LiDAR（ライダー）Light Detection and Ranging

レーザー光を当て、跳ね返ってくるまでの時間から周囲の物体までの距離を測るセンサ。→ 1.3、4.3

レーダーradar

電波を出し、跳ね返ってくるまでの時間から距離を、周波数のずれ（ドップラー効果）から相対速度を測るセンサ。雨・霧・暗さに強いが、形の細かい見分けは苦手。→ 4.3

点群point cloud

LiDAR などで得られる、3次元の点の集まり。1つ1つの点が位置（と反射の強さ）をもつ。→ 3.4、4.3

ステレオカメラ・視差stereo camera / disparity

左右に並べた2台のカメラ。同じ物が左右の画像でずれて写る量（視差）から距離を求める。遠いほど視差が小さくなり、距離の誤差は距離の2乗に比例して大きくなる。→ 4.3

カルマンフィルタKalman filter

予測と新しい測定を、それぞれの誤差の大きさ（分散）に応じて重み付けして組み合わせることを、時刻ごとにくり返す方法。追跡・センサフュージョン・自己位置推定で広く使われる。→ 4.2、4.3

自己位置推定localization

自車が地図の上のどこにいて、どちらを向いているかを推定すること。GNSS、推測航法、地図照合を組み合わせる。→ 4.4

高精度地図HD map

車線の形・停止線・標識などを数 cm〜十数 cm の精度で記録した地図。センサの届かない先の情報も与えるが、工事などで現実と食い違うことがある。→ 4.4

推測航法（デッドレコニング）dead reckoning

車輪の回転や IMU で測った動きを足し合わせて位置を求める方法。外の手がかりがなくても使えるが、誤差が走った距離とともにたまる。→ 4.3、4.4

地図照合map matching

LiDAR の点群やカメラで見た車線などを地図と照らし合わせ、最もよく重なる位置を探して自己位置を求める方法。似た景色では取り違えることがある。→ 4.4

GNSS・RTKGlobal Navigation Satellite System / real-time kinematic

衛星の電波で位置を求めるしくみ（GPS など）の総称が GNSS。ふつうは数 m の誤差だが、基準局の補正を使う RTK では数 cm になる。トンネルやビルの谷間では使えない、または誤差が大きくなる。→ 4.3、4.4

周りの動きの予測motion prediction

周りの車や歩行者が数秒後にどこにいるかを見積もること。1つの答えではなく、「待つ 70%、渡る 30%」のような確率つきの複数の未来として出すことが多い（マルチモーダルな予測）。→ 4.5

経路計画・軌道計画route, behaviour and trajectory planning

目的地までの道順（ルート計画）、次に何をするか（行動の決定）、数秒先までの位置と速度（軌道計画）を決めること。候補を評価して最もよいものを選び、短い周期で立て直す。→ 4.5

コスト関数cost function

候補の走り方の「悪さ」を、危険・乗り心地・進み具合などの重み付きの和で表したもの。機械学習の損失関数と同じ考え方で、重みの決め方が振る舞いを左右する。→ 2.2、4.5

安全な車間距離のモデル（RSS）Responsibility-Sensitive Safety

前の車が急ブレーキをかけても、反応時間と自車のブレーキで止まれる車間距離などを式で決め、それを守るようにする考え方。計画の結果を外側から確かめる「安全の枠」として使われる。→ 4.5

End-to-End 型end-to-end driving

カメラなどの入力から運転操作までを、1つの大きな AI モデルで直接学習する方式。部品ごとに作るモジュール型と対比される。→ 4.6

模倣学習・強化学習imitation learning / reinforcement learning

人の運転をお手本にしてまねるのが模倣学習、報酬を手がかりに試行錯誤で学ぶのが強化学習。模倣学習は、お手本にない「ずれた状態」に入ると誤りが積み重なりやすい。→ 4.6

開ループ評価・閉ループ評価open-loop / closed-loop evaluation

記録したデータの各場面で、モデルの出力とお手本のずれを測るのが開ループ評価。モデルの判断で車が動き、その結果が次の入力になる状態（シミュレーションなど）で試すのが閉ループ評価。開ループでよい成績でも、閉ループでうまく走れるとは限らない。→ 4.6

衝突被害軽減ブレーキ（AEB）autonomous emergency braking

前方の車や歩行者との衝突の危険を検知し、自動でブレーキをかける機能。誤作動（不要な急ブレーキ）も危険につながる。→ 1.2

衝突余裕時間（TTC）time to collision

今の速度のまま進んだときに衝突するまでの時間。短いほど危険な場面で、ヒヤリハットの指標に使われる。→ 1.8

ドライバー介入disengagement / driver intervention

自動運転の試験中に、安全のためにセーフティドライバーが運転を代わること。その回数は試験の指標の1つ。→ 1.3

SOTIF・安全

機能安全（ISO 26262）functional safety

電気・電子システムの故障（誤動作）によって生じる危険を、許容できる水準まで減らすための考え方と、そのための規格。→ 4.7

ASIL（自動車用安全度水準）Automotive Safety Integrity Level

機能安全で、故障による危険な事象ごとに、重大度（S）・遭遇頻度（E）・制御可能性（C）から決める安全の水準。A〜D の4段階で D が最も厳しく、どれにも当たらなければ QM（ふつうの品質管理）。→ 4.7、5.4

故障率・FITfailure rate / failures in time

部品が1時間あたりに故障する確率が故障率。とても小さいので、10億時間あたりの故障回数である FIT（1 FIT ＝ 10⁻⁹ /時間）で表すことが多い。→ 4.7

フェイルセーフ・フェイルオペレーショナルfail-safe / fail-operational

故障したときに危険の少ない状態に移るのがフェイルセーフ。故障しても必要な機能を保ち、安全に止まるまで動き続けられるのがフェイルオペレーショナルで、人がすぐに運転を代われないレベル3 以上で必要になる。→ 4.1、4.7

サイバーセキュリティ（ISO/SAE 21434）・TARAcybersecurity / threat analysis and risk assessment

悪意ある攻撃から車を守るための考え方と規格。脅威を洗い出し、攻撃の実行しやすさと影響の大きさからリスクを評価する手順を TARA（脅威分析とリスク評価）と呼ぶ。→ 4.4、4.7

共通原因common cause

1つの原因（濃霧、豪雨、電源の不具合など）が、複数の部品やセンサを同時に弱らせること。冗長化の効果を掛け算で見積もると、共通原因を見落として安全を高く見積もりすぎやすい。→ 1.1、2.5、4.7

β ファクターbeta factor

共通原因の大きさを表す割合。1つの部品の失敗のうち、もう1つの部品も同時に失敗させる原因によるものの割合 β。2つがともに失敗する確率はおよそ βp ＋ {(1 − β)p}² で、β が数%でも独立と仮定した p² より大きく外れる。→ 1.1

SOTIF（ISO 21448）Safety Of The Intended Functionality

意図した機能の安全性。故障していなくても、機能の不十分さ（性能や仕様の限界）や合理的に予見可能な誤使用によって生じる危険を減らすための考え方と規格。→ 5.1

機能不十分functional insufficiency

仕様の不十分（想定していない状況がある）と、性能の不十分（センサや認識の性能が足りない）の総称。故障とは区別される。→ 5.1、5.3

トリガー条件triggering condition

機能不十分を表に出し、危険な振る舞いのきっかけとなる状況。例：逆光、豪雨、見慣れない物体。→ 5.1、5.3

ペアワイズ試験（組み合わせ試験）pairwise / combinatorial testing

すべての組み合わせを試す代わりに、「どの2つの条件の組み合わせも少なくとも1回は試す」ように試験を選ぶ方法。組み合わせで現れる不具合やトリガー条件を、少ない試験で見つけやすくする。→ 5.3、5.6

実験計画法design of experiments

調べたいパラメータ（要因）とその段階（水準）を決め、少ない試験で、各要因の効果や組み合わせの影響を効率よく調べるための、試験の選び方の方法。直交表やペアワイズ試験はその道具。→ 5.6

直交表orthogonal array

どの2つの列を取っても、水準の組が同じ回数ずつ現れるように作った試験の一覧。例：4つの要因を3段階ずつにした 81 通りを、9 通り（L9）で調べる。→ 5.6

交互作用interaction

ある条件の効果が、ほかの条件の水準によって変わること。例：夜だけ、雨だけなら問題がなくても、雨の夜には性能が下がる。→ 5.3、5.6

4つの領域the four areas

SOTIF では状況を「既知か未知か」と「危険か安全か」で4つの領域に分け、既知の危険な状況と未知の危険な状況を減らしていく。→ 5.2

グッド・チューリングの推定Good–Turing estimate

記録した N 件の出来事のうち、ちょうど1回だけ出てきた種類の数を N₁ として、「次に出会うのがまだ見たことのない種類である確率」を N₁/N と見積もる方法。同じ条件で出来事が起き続けることが前提。→ 1.8、5.2

合理的に予見可能な誤使用reasonably foreseeable misuse

設計者の意図とは違うが、人の行動として十分に予想できる使い方。SOTIF では危険の原因の1つとして扱う。→ 5.1

危険な振る舞いhazardous behaviour

機能不十分がトリガー条件で表に出た結果として、車が見せる危険につながる振る舞い。必要なのに止まらない、不要なのに急ブレーキをかける、など。→ 5.1

残留リスクresidual risk

対策をしたあとにも残る危険。ゼロにはできないので、受入れ基準以下であることを示す。→ 5.1、5.5、付録

ハザード・危害hazard / harm

危害は人のけがや健康被害のこと、ハザードはその危害を引き起こしうる潜在的な原因。→ 5.4

HARA（ハザード分析とリスク評価）hazard analysis and risk assessment

起こりうる危険な事象を洗い出し、重大度・遭遇頻度・回避のしやすさなどからリスクを評価する手順。→ 1.4、5.4

STPASystem-Theoretic Process Analysis

システムを「誰が何を指示し、どう応答するか」という制御の構造として捉え、危険につながる不適切な制御を洗い出す分析手法。→ 5.4

危ない制御動作（UCA）unsafe control action

STPA で、ある状況のもとで危険につながる制御動作。「与えないと危険」「与えると危険」「タイミングや順序が悪いと危険」「続け方が悪いと危険」の4つの型で洗い出す。→ 5.4

FTA・FMEA（故障の木解析・故障モード影響解析）fault tree analysis / failure mode and effects analysis

FTA は、望ましくない出来事を頂上に置き、その原因を AND・OR で上から分解して、原因の組み合わせと確率を見積もる方法。FMEA は、部品の壊れ方を一つずつ挙げ、全体への影響を下からたどる方法。→ 5.4

受入れ基準acceptance criteria

「どれだけ安全なら十分か」を示す基準。例：人間のドライバーより死亡事故率が低いこと。→ 1.8、5.5

妥当性確認目標validation target

受入れ基準を満たしていると言うために必要な、検証の量や値。例：無事故で走る必要がある距離。→ 1.8、5.5

検証・妥当性確認verification / validation

検証は「仕様どおりに作れているか」、妥当性確認は「本来の目的に照らして十分に安全か」を確かめること。→ 5.5

ALARP（合理的に実行可能な限り低く）as low as reasonably practicable

対策の手間と効果を比べ、合理的に実行できる対策はすべて行って、リスクをできるだけ下げるという考え方。→ 5.5

ポジティブ・リスク・バランスpositive risk balance

自動運転を導入することで、人が運転する場合より全体として危害が減ること。自動運転の受入れ基準を考えるときの考え方の一つ。→ 5.5

代わりの指標（サロゲート指標）surrogate safety measure

事故そのものは稀で数えにくいため、衝突余裕時間（TTC）の短いヒヤリハットなど、よく起きて事故につながりうる出来事で安全を見積もる指標。事故との比の仮定が正しいかを別に確かめる必要がある。→ 1.8、5.5

シナリオベース検証scenario-based testing

危険につながりやすい場面（シナリオ）を体系的に選び、条件を変えながら試験する方法。→ 5.6

機能・論理・具体シナリオfunctional / logical / concrete scenario

シナリオの抽象度の3段階。機能シナリオはことばで書いたあらすじ、論理シナリオは場面を表すパラメータとその範囲、具体シナリオはパラメータに具体的な値を入れた1回の試験。→ 5.6

自然運転データnaturalistic driving data

ふだんの運転をそのまま記録したデータ。場面がどれくらいの頻度で起き、パラメータがどう分布しているかを知る手がかりになる。→ 5.6

XiL（MIL・SIL・HIL・VIL）X-in-the-loop

モデル・ソフトウェア・ハードウェア・実車を段階的に組み合わせて行う、シミュレーションを使った試験の総称。→ 5.7

シミュレーションと現実の差sim-to-real gap

シミュレーションの結果と、同じ場面を現実で試した結果との違い。車の動き・センサ・周りの振る舞いのモデルの不完全さから生じる。差の大きさが分かるのは、実際に比べて確かめた範囲だけ。→ 5.7

複数の柱による評価multi-pillar approach

書類の審査・シミュレーション・テストコース・公道試験など、性質の違う方法を組み合わせて自動運転の安全を評価する考え方。→ 5.7

重要度サンプリングimportance sampling

稀な危険な場面を意図的に多く試し、結果を重みで補正して、全体での起きやすさを効率よく見積もる方法。→ 1.8、5.8

反例探索（ファルシフィケーション）falsification

安全の要求を破る場面（反例）を、最適化や探索で積極的に探す方法。見つかった反例は既知の危険として対策する。見つからなくても、安全の証明にはならない。→ 5.8

安全の余裕の指標（ロバストネス）robustness value

「最小の車間 − 必要な車間」のように、要求をどれだけの余裕で満たしたかを数で表したもの。0 を下回ると要求を破ったことになり、反例探索ではこの値を小さくする場面を探す。→ 5.8

ISO/PAS 8800（道路車両の安全と AI）Road vehicles — Safety and artificial intelligence

AI を使う部品を安全に使うための考え方をまとめた公開仕様（2024年）。システムの要求から AI の部品とデータセットへの要求を導き、確かめ、運用中も見張る流れを示して、機能安全と SOTIF を補う。→ 5.9

データセットの品質dataset quality

学習・評価・試験に使うデータが安全の根拠として使えるかの観点。網羅性・正しさ（ラベルの誤りの少なさ）・独立性・代表性・追跡可能性など。→ 2.8、5.9

ラベルの誤りlabel errors

正解として付けたラベルの誤り（見落とし・取り違え・枠のずれ）。人が見落としやすい難しい例ほど AI も誤りやすいため、評価データのラベルの誤りは、見かけの性能を実際より高く見せることがある。→ 5.9

セーフティケースsafety case

「このシステムは十分に安全である」という主張を、根拠（証拠）と論理で組み立てたもの。GSN という図で表すことが多い。→ 5.10

GSN（ゴール構造表記法）Goal Structuring Notation

セーフティケースを図で表す書き方。主張（ゴール）を四角、論証の道筋（戦略）を平行四辺形、証拠を円、前提を角の丸い四角で表し、上の主張を下の主張と証拠で支える形に組み立てる。→ 5.10

反論（ディフィーター）defeater

「この主張が崩れるとしたら、どんな場合か」という疑い。反論を洗い出して証拠でつぶしていくことで、論証を強くする。つぶせない反論は隠さずに書く。→ 5.10

安全性能指標（SPI）safety performance indicator

市場に出したあとの安全を見張るために、あらかじめ決めておく指標。事故やヒヤリハットの頻度、ODD からの逸脱の頻度などを使い、決めた線を超えたら原因を調べる。セーフティケースの主張や前提が今も成り立っているかを確かめる手段になる。→ 5.10、5.11

先行指標と遅行指標leading and lagging indicators

事故の件数のように結果を数えるのが遅行指標、ヒヤリハットや急ブレーキのように事故の手前で起きることを数えるのが先行指標。先行指標は数が多いので、変化に早く気づける。→ 5.11

管理図control chart

件数や測定値を時間の順に並べ、ふだんのばらつきの範囲（平均から標準偏差の3倍など）を線で示した図。線を超えたら「ふだんと違う原因がある」と考えて調べる。製造の品質管理で生まれた方法。→ 5.11

OTA（無線でのソフトウェア更新）over-the-air update

車を工場や販売店に持ちこまずに、通信でソフトウェアを更新すること。問題を速く直せる一方、更新が新しい誤りを持ちこまないよう、回帰試験と更新の管理が欠かせない。→ 5.11

もっと知りたい人へ

• 記号の読み方：記号表、0.2 数式の読み方
• 用語の誤りのご指摘や、追加してほしい用語はお問い合わせからどうぞ