SEGT標準評価の事例

10.08.26 17:40:00 - By mo4ma

同じ審査員・同じ基準でも生成AIの評価は最大20.8点ブレる——8月5日の体験セミナー・ライブデモの実データをもとに、SEGT収束計算がそのブレを単一の標準評価V*にまとめた実例を解説します。

同じ審査員・同じ基準でも評価は20.8点ブレる ── eval000ライブデモが見せた「SEGT収束」 | eval000.ai Blog
ケーススタディSEGT収束2026年8月8日
2026年8月5日 体験セミナー・ライブデモより

同じ審査員・同じ基準で採点しても、生成AIの評価は20.8点ブレる。
eval000のSEGT収束計算が、そのブレを1つの標準評価にまとめた実例。

2026年8月5日開催のeval000体験セミナー・ライブデモでは、同じ事業計画・同じ評価ルーブリック・同じ外生の原理Nのもとで、3種類のAIペルソナ審査員に採点してもらいました。結果は最大20.8点のブレ。ここにSEGT(標準評価生成理論)の収束計算を適用したところ、ブレは単一の標準評価値 V* に収束しました。本記事ではこのライブデモの実データをもとに、生成AIの評価がなぜバラつくのか、SEGTがそのブレをどう解消するのかを解説します。

20.8
3ペルソナ間の評価差
(越中八尾プラン)
80.3
SEGT収束後の
標準評価 V*
0.2
2つの事業計画の
V*同士の差
01 — ライブデモの実データ

同じ審査員・同じ基準で採点しても、スコアは大きくバラつく

今回のデモでは、地域活性化に関する2つの事業計画(「越中八尾」「EcoBottle」)を対象に、外生の原理N(審査の目的)とEvaluation Rubric(BGルーブリック・4軸)を固定したまま、3種類のAIペルソナ審査員に評価してもらいました。

ペルソナ 1
革新派(新興スタートアップ投資家)
新規性・独創性・先駆性を最重視。「これは世界初か?」が口癖。
ペルソナ 2
実務派(大手メーカー事業開発部長)
実績・数値根拠・実行可能性を最重視。「根拠データはあるか?」が口癖。
ペルソナ 3
バランス派(行政系支援機関の審査委員)
全評価軸を均等に重視。偏りを嫌い公正さを優先。「総合的に見ると」が口癖。
プランA「越中八尾」/BGルーブリック・実値
評価軸実務派革新派バランス派平均
バリューイノベーション (30%)60.090.083.377.8
市場の可能性 (20%)70.085.080.078.3
商業的実行可能性 (25%)65.088.084.079.0
技術的実現可能性 (25%)80.092.088.086.7
加重合計68.289.084.080.4

加重合計は実務派68.2点、バランス派84.0点、革新派89.0点。同じ計画・同じ基準にもかかわらず、審査員の視点によって20.8点もの差が生まれました。3者を単純に平均すると80.4点になりますが、これは「多数決」であり「標準化」ではありません。

収束前(越中八尾/3ペルソナの加重合計)
実務派68.2
バランス派84.0
革新派89.0
差 20.8点
SEGT収束後
80.3
標準評価 V*(越中八尾
プランB「EcoBottle」/BGルーブリック・実値
評価軸実務派革新派バランス派平均
バリューイノベーション (30%)70.083.383.378.9
市場の可能性 (20%)75.080.080.078.3
商業的実行可能性 (25%)68.084.088.080.0
技術的実現可能性 (25%)80.088.084.084.0
加重合計73.084.084.080.3

EcoBottleでも同様に3ペルソナの評価がバラつきました。加重合計は実務派73.0点、バランス派・革新派がともに84.0点で、差は11.0点。越中八尾よりは小さいものの、単純平均(80.3点)はやはり「多数決」にすぎません。

収束前(EcoBottle/3ペルソナの加重合計)
実務派73.0
バランス派84.0
革新派84.0
差 11.0点
SEGT収束後
80.1
標準評価 V*(EcoBottle

興味深いのは、越中八尾(審査員間のバラつき20.8点)とEcoBottle(バラつき11.0点)という、意見の割れ方が異なる2つの計画を比べたときの結果です。

V* = 80.3
収束前のバラつき 20.8点
vs
V* = 80.1
収束前のバラつき 11.0点
収束後のV*の差はわずか0.2点

審査員間のブレの大きさは計画ごとに違っても、外生の原理Nに拘束された収束計算をかけると、どちらも同水準の標準評価に落ち着きました。個々の審査員のブレの大きさに依存せず、安定した基準点を導けることがうかがえます。

02 — なぜ収束するのか

SEGTが解消するのは「多数決」ではなく「基準のブレ」

eval000は、外生の原理N(何のために評価するか)を先に定義し、その原理に拘束された写像 v(t+1) = F_N(v(t), R) を反復計算することで、単一の固定点 v* に収束させます。この収束プロセスは、バナッハの不動点定理という数学的な定理によって裏付けられています。

ポイントは、平均点と異なる数値を作ることが目的ではないということです。変動する個々の評価の背後にある標準評価(Evaluation Standard)を構成し、再現可能な「ものさし」(Evaluation Measure)として使えるようにすることに価値があります。

正確に言うと

バナッハの不動点定理が保証するのは、同一の評価チーム(今回のデモでは3ペルソナ固定)・同一の入力・同一のN・同一のルーブリックのもとでは、計算のたびに同じv*が得られるということです。評価するチーム自体が変わった場合(別のペルソナ構成や、人間の審査員チームなど)に同じ標準評価へ到達できるかどうかは、この定理が直接保証する範囲の外にあります。eval000ではこの区別を明確にしたうえで、異なる評価者集団間の収束性についてもPoCで検証を重ねています。

POINT 01
審査員構成に左右
されないブレない評価
複数のAIペルソナ審査員の評価傾向を、外生の原理Nに拘束された固定点(標準評価)へ収束させます。
POINT 02
「収束の強さ」を
数値で測る取り組み
収束後のブレの小ささを示す指標(Evaluation Measure・Stabilization Ratio)の定義を進めています。今回のような収束幅を定量的に示すのが次のステップです。
POINT 03
評価の「方針」を
最初に明文化する
「外生的な原理」として評価方針(N)を定義し、審査の前提を明確にしたうえで収束計算にかけます。
03 — 今後の検証

このデモは「第一歩」。次はPoCで実証を重ねます

今回のライブデモは、固定した3ペルソナ審査員チームによる1回の収束計算の実例です。この実例を土台に、eval000では3ヶ月のPoCプログラムの中で次の3点を検証しています。

01
同一条件での再現性の定量評価
同一チーム・同一条件で複数回再実施し、V*の変動幅をEvaluation Measure・Stabilization Ratioとして数値化します。
02
通常のLLM単体評価とのばらつき比較
収束計算を通さない通常のLLM評価と比べて、SEGTがどの程度ばらつきを抑えられるかを比較します。
03
異なる評価者集団間の収束性の検証
AIペルソナと人間審査員など、異なる評価者集団のあいだでどこまで標準評価が近づくのかを検証します。
PoC ご相談受付中

この収束計算を、貴社の審査プロセスで確かめてみませんか

3ヶ月のPoCで、Go/No-Go判定まで一気通貫で確認できます。お気軽にご相談ください。

お問い合わせ
株式会社テンプロクシー(award-of)編集部
eval000.ai / award-of.net
eval000は、特許権者・里吉 竜一氏と株式会社テンプロクシーの共同事業運営契約に基づき運営されるメタ評価AIプラットフォームです。Award Force(オーストラリア・50カ国以上)の日本正規パートナーとして、コンテスト・審査・表彰のDXを推進しています。

mo4ma