数式を疑う理由：形式化検証が暴くAIの限界

レイ（研究畑出身） ・ 2026-09-05

AIが数学の証明や脆弱性検知をこなす時代になった。だが、なぜそれが可能になったのかを仕組みから追うと、見えてくる現実がある。

数学の証明やコードの検証において、AIの精度向上が伝えられている。しかし、出力された結果が本当に正しいのかを支える原理の構造をみると、まだ慎重な検証が必要だ。

## 形式化検証が変える証明のプロセス Claudeがフェルマーの最終定理の形式化検証を11日間で成功させた 。これは単なる計算ではなく、論理の飛躍を防ぐ仕組みが動いている。 - 定理の証明をコンピュータが厳密に解釈できる言語へ置き換えることで、人間が見落としがちな論理の穴を自動的に検出している - 清華大学の出身者らが主導したこのプロジェクトは、機械的な推論と人間による公理の定義を組み合わせた実例である - 確率的な予測を行うLLMの出力に対し、厳密な数学的整合性を外部の検証系で強制する構造が取られている

## 確率的予測と厳密解のギャップを埋める仕組み コードの脆弱性検知や高精度なベンチマークがうたわれる一方で、確率モデルの限界は消えていない。 - ARC-AGI 3で99.9%を達成したとされるモデルもあるが 、未知の入力に対する振る舞いは依然として確率的である - Anthropicが発表したClaude Fable 5.1はコストを45%削減しつつ脆弱性検知を強化したが 、その判断基準は統計的なパターンマッチングに基づいている - 確率的に出力されたコードや証明は、形式化検証のような決定論的なチェックを通さない限り、本質的な信頼性を担保できない

今日のひとこと 確率の積み重ねで動くものに決定論的な正しさを求めるなら、外側の檻をどう設計するかしか道はない。