責任あるAIとは？公平性・バイアス・説明可能性・モデルカード・AIガバナンスをわかりやすく解説

責任あるAIの原則

各国の政府や国際機関、AI企業が、それぞれAI原則を発表しています。名前や数は少しずつ違いますが、言っている中身はほぼ同じです。下の図で原則を選んで、その原則が崩れると何が起きるのかを見てみましょう。

左右にドラッグすると回転できます

原則

6つの原則がそろって支えて、はじめて信頼できるAIになる

公平性：似た条件の人を、属するグループによって違う扱いをしない。崩れた例 — 同じ経歴なのに、性別によってスコアが低く出る。

原則	意味
公平性	性別・年齢・地域といったグループによって、似た条件の人を違う扱いをしない
信頼性と安全性	さまざまな条件でも想定どおり安定して動き（堅牢性）、害を与えない
プライバシーとセキュリティ	データを守り、同意を得た範囲でだけ使う
包括性	障害・年齢・言語・地域にかかわらず、だれでも使える
透明性	AIを使っていることと、どう判断するのかを伝える（説明可能性を含む）
アカウンタビリティ（説明責任）	結果に責任を持つ人がいて、異議を申し立てて誤りを正す手続きがある

原則を書き出しただけでは、だれも守ってくれません。ここから先は、それぞれの原則について実際に何を測り、何を用意するのかを見ていきます。

問題文にこんな表現があれば → これを選ぶ

いちばんよく問題になるのが公平性です。では、AIはなぜ特定のグループを不利に扱ってしまうのでしょうか。

AIは差別しようとしているわけではありません。バイアスのほとんどは、データから来ます。モデルは見せられた例から学ぶので、データが偏っていれば、結果も同じ方向に偏ります。下の図は音声認識モデルの例です。話し方ごとに学習データがどれだけあり、どれくらい聞き取りを誤ったかを示しています。

左右にドラッグすると回転できます

音声認識モデル — 学習データの量と、話し方ごとの誤り率（例）

方言の録音が学習データの10%しかないため、方言で話す人の声は4回に1回ほど（22%）聞き取れません。モデルがわざと差別しているのではなく、データが偏っているのが原因です。

バイアスの種類	どう生まれるか	例
サンプリング（代表性）バイアス	一部のグループのデータが少なすぎる	方言の録音が少なく、方言の聞き取りをよく誤る
歴史的バイアス	過去の不公平な判断がデータに残っている	過去にあまり採用されなかったグループに、モデルも低いスコアをつける
測定・ラベルのバイアス	正解ラベルのつけ方が偏っている	あるグループの行動ばかりが「リスクあり」とラベル付けされていた
代理変数	外したはずの機微な情報を、ほかの特徴量が代わりに伝えてしまう	性別を外しても、名前や趣味から性別がわかってしまう

ここが引っかかりやすいところです。性別・年齢・地域といった機微な属性を入力から外しても、バイアスは消えません。ほかの特徴量が同じ情報を運んでしまうからです。だからこそ、結果をグループ別に分けて、実際に測る必要があります。

問題文にこんな表現があれば → これを選ぶ

では、モデルが公平かどうかを、実際の数字で確かめるにはどうすればよいのでしょうか。

Pro限定

残りの5章はPro会員向けです。各章に3D図解と「問題文にこんな表現があれば」の整理が続き、最後の章では実際に解いて確かめられます。

PasslyExam

PasslyExamは、各資格の出題範囲に合わせて作成したオリジナルの練習問題・解説・本番形式の模擬試験を提供しています。正解の選択肢がなぜ正しく、似た選択肢がなぜ誤りなのかまで解説します。登録すると毎日無料で練習問題に取り組めます。

この概念が出題される試験