AI Safety Lab
From Probability to SOTIF

確率から、自動運転の安全まで。

確率・統計の基礎から、機械学習とAIのしくみ、そして自動運転の SOTIF（意図した機能の安全性） と安全性検証までを、一本の道でつなぐ初心者向けテキスト講座です。

確率・統計から SOTIF まで順次公開中 1回 5〜10分で読める 数式の読み方からおさらい

学習ロードマップ

左から順に積み上げると、最後の SOTIF が「暗記」ではなく「納得」になります。

  1. Step 1 確率・統計 「どれくらい安全か」を数字で語るための言葉
  2. Step 2 機械学習 データから規則を学ぶしくみと、その評価方法
  3. Step 3 ディープラーニングとAI 認識AIの中身と、得意・苦手の理由
  4. Step 4 自動運転のしくみ 見る・考える・動かすの全体像とODD
  5. Step 5 SOTIFと安全性検証 「壊れていないのに危ない」を減らし、示す

数式に不安がある方は、先に Part 0（準備） で記号の読み方をおさらいできます。

あなたに合った進み方

全部を順番に読む必要はありません。いちばん近いものを選んで、ボタンから始めてください。

AIも自動運転も初めて

確率・統計のおさらいから、順番に積み上げていきます。学生、文系出身、異業種からの方に。

最初から読む →

数式が不安なら 0.2 数式の読み方

確率・統計は分かる、AI を学びたい

機械学習のしくみと、その限界の測り方を学びます。Part 1 は必要なときに戻れば大丈夫です。

Part 2 機械学習から読む →

機械学習は分かるなら Part 3 ディープラーニングとAI

自動運転と、その安全性を知りたい

自動運転のしくみから、SOTIF による安全性の検証までを学びます。確率や AI の回は、必要な箇所からリンクしています。

Part 4 自動運転から読む →

自動運転のしくみは分かるなら Part 5 SOTIFと安全性検証

カリキュラム

NEW 新しく公開（その月のあいだ表示） UPDATE 内容を更新（誤りの訂正など。その月のあいだ表示） 準備中 執筆中 発展 飛ばしてもOK ▶ 動画 解説動画あり（この印を押すと YouTube で見られます） ▶ 動画 解説動画は準備中

Part 0

準備Getting Started

サイトの歩き方と、数式の読み方をおさらいします。

  1. 0.1このサイトの歩き方各回の構成と進め方
  2. 0.2数式の読み方Σ・関数・微分・ベクトルをこわがらない

付録

AI 安全のニュース

AI の安全や自動運転の安全に関する国内外のニュースを、AI エージェントが集めて要約し、Ken が確認してから載せています。要約には誤りが含まれることがあるので、詳しくは出典の記事を確認してください。

ニュースを読み込んでいます…

更新情報

2026-10-14
「5.2 4つの領域」「5.3 機能不十分とトリガー条件」の解説動画（日本語・英語、YouTube）を公開しました。
2026-10-13
「4.6 モジュール型とEnd-to-End型」「4.7 安全の3本柱」「5.1 SOTIFとは」の解説動画（日本語・英語、YouTube）を公開しました。5.6 の発展に、実験計画法（直交表）とペアワイズ試験の節を追加しました。
2026-10-12
4.1〜4.5 の解説動画（日本語・英語、YouTube）を公開しました。1.9 の発展に、裾の形の係数 ξ の置き方を追記しました。
2026-10-10
「3.9 説明可能性（XAI）」「3.10 安全のための評価指標」「3.11 AIのテスト手法」の解説動画（日本語・英語、YouTube）を公開しました。
2026-10-09
「3.7 不確実性とキャリブレーション」「3.8 頑健性と敵対的サンプル」の解説動画（日本語・英語、YouTube）を公開しました。
2026-10-08
「3.5 Transformerと注意機構」「3.6 基盤モデルと生成AI」の解説動画（日本語・英語、YouTube）を公開しました。
2026-10-06
「2.8 データの分け方と分布シフト」と、「3.1 ニューラルネットワーク」から「3.4 物体検出とセグメンテーション」までの解説動画（日本語・英語、YouTube）を公開しました。
2026-10-05
「2.3 勾配降下法」から「2.7 評価指標」までの解説動画（日本語・英語、YouTube）を公開しました。
2026-10-04
「2.1 機械学習とは」「2.2 線形回帰と損失関数」の解説動画（日本語・英語、YouTube）を公開しました。
2026-10-03
「1.6 推定と信頼区間」「1.7 仮説検定」「1.8 稀な事象の統計」「1.9 極値と裾の重い分布」の解説動画（日本語・英語、YouTube）を公開しました。
2026-10-02
「1.3 確率分布」の解説動画（日本語・英語、YouTube）を公開しました。記事の上の「▶ 動画」から見られます。「1.2 条件付き確率とベイズの定理」の解説動画（日本語・英語、YouTube）を公開しました。「1.4 期待値と分散」の解説動画（日本語・英語、YouTube）を公開しました。「1.5 大数の法則と中心極限定理」の解説動画（日本語・英語、YouTube）を公開しました。
2026-09-30
「3.10 安全のための評価指標」「3.11 AIのテスト手法」を公開しました（いずれも英語版あり）。2.7 に「指標にも幅がある」、3.6 に「生成AIの評価」の発展を追加しました。2.7 に見逃し率（＝ 1 − 再現率）と、指標の別名（感度・特異度・FNR など）の説明を追加しました。2.7 の点数の分布の図を、件数どおりの高さ（歩行者の山は9分の1）に直しました。
2026-09-26
表紙に「AI 安全のニュース」欄を追加しました（AI エージェントが集めた要約を、確認してから載せます。英語版あり）。全ページのヘッダーに「ニュース」リンク（新しい記事があると NEW）と、表紙の上部に最新ニュースの見出しを表示するようにしました。
2026-09-24
5.7 のシミュレーションの計算例を、現実的な計算機の台数と、粗いシミュレーションで絞り込んでから細かく確かめる手順に改めました（英語版も）。
2026-09-19
1.1・1.2・1.3・1.8 に、SOTIF の計算につながる補足を追加しました（不確実性の2種類、試験の合格の証拠としての重さ（尤度比）、ポアソン分布の3つの性質、事前の根拠を走行実績で更新する考え方。いずれも英語版あり）。表紙の「あなたに合った進み方」を、3つのカードと入口のボタンで分かりやすくしました。1.1 に共通原因の β ファクター、1.4 に遭遇頻度による重みづけの発展も追加しました。1.8 の接点に、一度も見ていない危険の確率（グッド・チューリングの推定）への前振りを加えました。1.6 に片側の上限の読み方、1.9 に外挿の結果に幅を付けるブートストラップの発展も加えました。付録に「残留リスクを数で示す」（見積もりの組み立てと各回とのつながり）を追加しました。4.1 に「ODD の境界をどう決めるか」（降雨量の例）の発展を追加しました。
2026-09-18
サイト内検索を追加しました（ヘッダーの検索窓から、回のタイトル・小見出し・用語を探せます）。
2026-09-16
サイト作成