Evaluations で hill-climbing しながら prompt を改善する

ハイライト

AI 機能の最適化では、まず Cohen’s kappa 係数を使ってモデル裁判官と人間の専門家の一致度を校正し、評価の物差しが正確であることを確認してから、業務 prompt を反復改善します。

主要内容

App に AI 機能を統合するとき、よくある難題があります。モデルが生成した結果は一見悪くないのに、どこか違和感があり、その問題を具体的に言語化しにくいのです。

Apple の Book Tracker アプリもこの問題に直面しました。このアプリでは読者が書評を記録し、書籍に自動でタグを生成して、後から検索や閲覧をしやすくします。しかし生成されるタグにはよく 2 種類の問題がありました。1 つは、読者の個人的な感想（たとえば “poignant”）を書籍タグとして扱ってしまうこと。もう 1 つは、書評から直接フレーズ（たとえば “quiet-steadiness”）を抜き出してタグにしてしまい、検索にはまったく役立たないことです。

開発者はまず、タグ生成 prompt を直接変更したくなるかもしれません。しかしこの方法には 2 つの問題があります。第 1 に、prompt を変更した後、結果が本当に良くなったかを客観的に判断する方法が必要です。第 2 に、タグ生成 prompt が改善しても、そのタグを評価する「モデル裁判官」自体が歪んだ物差しである可能性があります。つまり、その採点基準が人間の専門家と一致していないかもしれません。

Apple が提示する解法は hill-climbing（山登り法）です。評価 pipeline を作り、毎回 1 つの変数だけを変え、評価結果をもとに次の改善へ進みます。ただし有効に hill-climbing するためには、評価ツール自体が信頼できなければなりません。

ここで「裁判官の alignment」という問題が出てきます。データセットが小さいうちは、人間の専門家とモデル裁判官の採点差は目立たないかもしれません。しかしデータセットが大きくなると、その drift（ズレ）は大きくなり、最終的に評価結果が参考にならなくなります。

さらに厄介なのは、従来よく使われる Accuracy（正解率）指標がここでは機能しないことです。データセットの 80% が高品質な出力であれば、人間の専門家もモデル裁判官も高得点を付けがちです。モデルが当てずっぽうでも正解率は高く見えてしまい、両者の採点基準が一致していない事実を隠してしまいます。

Apple はこの問題を解くために Cohen’s kappa 係数を導入します。この統計指標は、正解率から「偶然一致した」確率を差し引き、2 人の採点者の一致度をより正確に反映します。kappa 値が 0.6 以上になって初めて、モデル裁判官と人間の専門家が意味のある水準で aligned していると考えられます。

裁判官の校正プロセス自体も hill-climbing です。裁判官の prompt を変更し、採点次元の詳細説明を追加し、少数の例を提示します。毎回 1 つの変数だけを変え、kappa 値で効果を判断します。裁判官の校正が完了したら、それを使って業務機能の改善を評価できます。たとえば、ツール呼び出しを追加してモデルがより多くのコンテキストを取得できるようにする、といった改善です。

この方法論により、AI 機能の最適化は「感覚による prompt 錬金術」から、定量化できる科学実験へ変わります。

詳細

Evaluations フレームワークの基本コンポーネント

03:54

Evaluations フレームワークの中心は Evaluation protocol です。完全な評価は 4 つのコンポーネントで構成されます。

データセット（Dataset）: テストサンプルを提供します。各サンプルは入力と期待出力を含みます。

対象（Subject）: subject(from:) メソッドで評価対象の機能を呼び出し、モデル出力を取得します。

評価器（Evaluators）: 出力品質の判定方法を定義します。ヒューリスティック評価器とモデル裁判官評価器を含みます。

集計（Aggregation）: aggregateMetrics メソッドで各指標の平均、標準偏差などを計算します。

struct BookTaggingEvaluation: Evaluation {
    func subject(from sample: ModelSample<BookTags>) async throws -> ModelSubject<BookTags> {
        let result = try await BookTaggingService.generateTags(for: sample.promptDescription)
        return ModelSubject(value: result)
    }

    var dataset = ArrayLoader(samples:
        Book.sampleBooks.map { book in
            ModelSample(prompt: book.review, expected: BookTags(tags: book.tags))
        }
    )

    var evaluators: Evaluators {
        // ヒューリスティック評価器
        Evaluator { _, subject in
            let count = subject.value.tags.count
            if (count >= 3 && count <= 8) {
                return tagCount.passing(rationale: "\(count) tags")
            }
            return tagCount.failing(rationale: "取得したタグ数は \(count) 件、期待値は 3〜8 件")
        }
        // ... さらに多くの評価器
    }

    func aggregateMetrics(using aggregator: inout MetricsAggregator) {
        aggregator.group("Heuristics") { group in
            group.computeMean(of: tagCount)
        }
    }
}

ポイント: