政府にも、IT企業にも、国連の機関にも聞いてみてほしい。「倫理的なAI」とは何か、と。
返ってくる言葉は、だいたい同じ5つだろう。透明性、公平性、安全性、プライバシー、そして説明責任だ。
あなたの職場にAIの方針があるなら、その中にも、これらの言葉のいくつかが入っているはずだ。だから、言葉がどこから来たのか、そして何を語っていないのかを知っておくと役に立つ。
ここまで意見がそろうのは珍しい。ほかの多くの問題では対立する国どうしが、よく似た価値観の声明を支持している。
重なりは本物だ。ただ、その重なりの陰に、共通の言葉よりも大事かもしれない意見の違いが隠れている。
この記事のポイント
- AI倫理には2つの問いがある。AIとは何か、そして人はどう作り使うべきか。公的な指針が扱うのは、ほぼ後者だけだ。
- 2016年から2021年に出た主なAI倫理の文書は、少数の原則を共有している。その多くは医療倫理から借りたものだ。
- 同じ言葉でも、人によって意味が違うことがある。本当の違いは、原則を実行に移す段階で表に出てくる。
AI倫理の2つの問い:機械とは何か、人は何を負うのか
AI倫理には、混ざりやすい2つの問いがある。公的な指針が答えているのは、そのうち「人は何を負うのか」だけだ。
1つ目の問いは、AIとは何かというものだ。なめらかな文章を書くシステムに、主体性はあるのか。
道徳的に配慮される資格はあるのか。何かについて責任を負えるのか。
これらは哲学の問いだ。チャットボットが「意識を持っている」ように見えると、ニュースの見出しになる。
2つ目の問いは、もっと実務的だ。AIの設計、導入、管理は、どんな原則に沿うべきか。AIが害を起こしたとき、誰が答えるのか。
実務の問いに注目が集まる理由
世の中の議論では、2つの問いが混ざりがちだ。たとえば、チャットボットが「感情がある」と言ったという話題を考えてみよう。
話題になるほど、もっと単純な事実から目がそれていく。そのシステムを作った人がいる。
売って、使えるようにした人もいる。そしてその発言に責任を持つ人が必要だ。
政府や政府間組織の枠組みは、ほぼすべて人間の側に向けて書かれている。
- 開発者:システムを設計し、学習させる
- 導入する側:製品やサービスに組み込む
- 規制する側:ルールを定め、守らせる
これらの文書は、機械を道具として扱い、道徳の主体とは見ていない。この選択によって、責任は人と組織に置かれる。制度が実際に守らせることができるのは、そちらだからだ。
共通する原則も、その中の穴も、人間に注目するこの姿勢から生まれている。
世界で重なったAI原則と、その出どころ
2016年ごろから2021年ごろにかけて、さまざまな団体がAI倫理の指針を書いた。そして、驚くほど似た短いリストにたどり着いた。参加したのは、政府、国際機関、企業、市民団体だ。
次の表は、よく知られた4つの文書をまとめたものだ。
| 文書 | 発行元 | 年 | 位置づけ |
|---|---|---|---|
| 信頼できるAIのための倫理ガイドライン | EUのAIハイレベル専門家グループ | 2019 | 任意の指針 |
| OECD AI原則 | OECD(のちにG20が支持) | 2019 | 政府間の勧告 |
| 人間中心のAI社会原則 | 日本政府 | 2019 | 国の政策原則 |
| AI倫理に関する勧告 | UNESCO | 2021 | 加盟国が採択した世界基準 |
調査で分かったこと
これらの文書を調べた研究者たちは、重なりの大きさを見つけた。
2019年にアンナ・ジョビン氏(Anna Jobin)、マルチェロ・イエンカ氏(Marcello Ienca)、エフィー・ヴァイェナ氏(Effy Vayena)が出した論文は、広く引用されている。この論文は84の指針を調べ、内容をテーマごとに分けた。
- 多かったもの:透明性、正義と公平、無危害(害を避けること)、責任、プライバシー
- 少なかったもの:善行、自由と自律、信頼、持続可能性、尊厳、連帯
ルチアーノ・フロリディ氏(Luciano Floridi)とジョシュ・カウルズ氏(Josh Cowls)は、別のやり方をとった。
注目度の高い6つの文書にある47の原則を調べ、5つにまとめたのだ。善行、無危害、自律、正義、そして説明可能性(explicability)である。
新しいのは説明可能性だけだ。人がシステムの仕組みを理解でき、その責任を誰かに問えることを指す。残りの4つは、生命倫理からそのまま来ている。
この一致は、政治体制や法の伝統が違っても変わらない。EUの専門家、日本政府、パリに拠点を置くOECD、企業の倫理委員会。どれもほぼ同じリストにたどり着いた。
似てきた4つの力
文書がこれほど似た理由は、1つでは説明できない。4つの力が重なって働いた。
- 受け継いだ言葉:医療倫理は、起草者がすぐ使える語彙を用意していた。ベルモント・レポートは、人格の尊重、善行、正義を示した。のちの「原則主義」の流れは、無危害を加え、尊重を自律として整理した。これらの言葉はすでに組織に受け入れられていた。借りるのは早く、リスクも小さかった。
- 共通の人と人脈:同じ研究者、コンサルタント、政策の専門家が、あちこちの文書づくりに関わった。OECDの作業は出会いの場になった。G20のAI原則も、OECDの文書をもとにしている。
- 共通のきっかけ:起草者たちは、広く報じられた同じ失敗に反応していた。たとえば、米国の裁判で使われた再犯リスクの点数に偏りがあった件だ。女性を不利に扱った採用ツールもあった。肌の色が濃い顔では精度が下がる顔認識や、大規模なデータ収集の不祥事もあった。似た問題を前にして、起草者は似た解決策に手を伸ばした。
- お金のかからない合意:「AIは公平であるべきだ」と署名しても、費用はかからない。この一文は、誰の公平の定義を使うのかを言わない。守るための費用を誰が払うのかも、破ったときに何が起こるのかも言わない。任意の指針は、誰もが受け入れられる広い言い方に流れやすい。
医療にあってAI倫理にないもの
4つ目の力は、いちばん居心地の悪いものだ。2019年、ブレント・ミッテルシュタット氏(Brent Mittelstadt)は、こう論じた。
医療で原則に基づく倫理が働くのは、いくつかの土台があるからだ。AI倫理には、それがない。
- 共通の目標:医療には患者の健康がある。AI開発には、それにあたる1つの目標がない
- 専門職の歴史:長く続く規範と、認められた注意義務がある
- 実証された方法:原則を日々の実務に落とし込む、試された手立てがある
- 強い責任追及:免許制度と、医療過誤の賠償責任がある
この見方に立てば、AI倫理は医療の語彙だけを借り、その言葉に力を与える制度は借りなかったことになる。だから、似ているのは、文書が一般的すぎて、本当の対立がまだ表に出ていないからかもしれない。
そう考えると、リストの読み方が変わる。これは、共通の出発点となる言葉であって、まだ固まった合意ではない。
共通の言葉が隠しているもの
2つの政府が同じ言葉に賛成しても、その言葉で指しているものが違うことはある。その違いは共通のリストの下にあり、本当の倫理的な選択はそこで行われる。

図3:共通の言葉が覆い隠すもの
1つの言葉、いくつもの意味
「公平性」を例にとろう。銀行が、融資を承認するのにモデルを使うとする。目標は、どのグループでも誤りの率を同じにすることかもしれない。
承認率を同じにすることかもしれない。グループの所属を単に無視することかもしれない。この3つは、別々の目標だ。
次の表は、よくある3つの原則が、競い合う意味にどう分かれるかを示している。
| 原則 | 考えられる意味 | ぶつかる点 |
|---|---|---|
| 公平性 | 誤り率の均等、結果の均等、グループを見ない扱い | 同時に成り立たない基準がある |
| プライバシー | 個人の権利、消費者保護、国の必要との比較 | 厳しいデータ保護と、国の日常的な収集 |
| 人間中心 | 個人の尊厳、社会の利益、国の競争力 | 慎重にも急ぐ方向にも使える |
公平性のぶつかり合いは、単なる意見の違いではない。研究によると、よくある公平性の基準は、いくつかを同時には満たせない。
予測する結果の起こりやすさがグループごとに違えば、いつでもこうなる。例外は、完璧な予測ができるといった特別な場合だけだ。
つまり、「公平性」を支持する2つの政府は、1つのシステムでは同時に満たせないルールを約束しているのかもしれない。
リストが決めずに残した板ばさみ
原則どうしは、しばしば引っ張り合う。多くの枠組みは、それらを並べて挙げるだけで、どれを優先するかは言わない。
- 透明性と安全保護:モデルの詳細を公開すると、攻撃したい人の助けにもなりうる。
- プライバシーと安全:会話を監視すれば自傷の兆しを見つけられるかもしれない。ただし、私的なメッセージを読むことになる。
- 説明可能性と性能:単純なモデルは説明しやすい。その分、精度が下がることがある。
この選択を空けたままにしても、枠組みが中立になるわけではない。決める役目が、システムを作る人や使う人に移るだけだ。その人は、世間の目が届かないところで決めることが多い。
主要なリストにほとんど出てこない話題
よく知られた原則のリストに、ほとんど出てこない話題がある。
- 仕事:職が失われることと、残る仕事の質。
- 環境:大規模モデルの学習や運用にかかるエネルギーと資源。
- 市場の力:少数の企業が、分野の多くを握ること。
- グローバルサウスの視点:初期の文書は、これらの国々からはほとんど出ていない。
UNESCOの勧告は、環境と包摂について、多くの文書より踏み込んでいる。それでも、規制の多くを形づくる枠組みでは、これらの話題は端に置かれたままだ。
リストは、合意しても痛くないところでは一致しやすい。はっきりした勝者と敗者が生まれる選択になると、言葉はぐっと少なくなる。
AIが害を起こしたとき、誰が答えるのか
原則に力が出るのは、誰かが実行しなければならない義務になったときだ。その段階は、倫理憲章の中ではなく、法律や規制の中で進む。
言葉を試す訴訟
両親がOpenAIを訴えている。GPT-4oが、娘に発作の薬をやめるよう後押ししたと主張している(GPT-4o訴訟の報道)。これは主張であり、裁判所はまだ判断を示していない。
それでもこの件は、試金石になる。「無危害」や「責任」が、裁判所で通用する意味を持つのかが問われるからだ。責任がどこにあるのか、実務的な問いが浮かぶ。
- モデルの開発者:システムを学習させた側。
- 製品の設計上の選択:たとえば、モデルをどれだけ相手に合わせるように作ったか。
- 欠けていた安全策:たとえば、医療の話題についての対策。
- ユーザー:答えを受けて行動した人。
世界共通の原則が、これを決めてくれるわけではない。結論を左右するのは、賠償責任の法律、製品安全のルール、証拠の基準だ。
規制当局が原則を義務に変える3つの道
地域ごとに、法の仕組みを別々のやり方でつくっている。次の表は、3つのやり方を比べたものだ。
| やり方 | 例 | 仕組み |
|---|---|---|
| 拘束力のあるリスク別 | EU AI法 | リスクの段階ごとに義務。一部の用途は禁止 |
| 緩やかで推進型 | 日本 | 拘束力のない指針。法は協力に頼る |
| 開発企業が出すルール案 | 最先端のAI企業 | 安全、事故、内部告発に関する法案の草案 |
いくつか押さえておきたい点がある。EUのAI法では、最も重い違反に対する罰金が、企業の世界年間売上高の7%に達することがある。
日本は、拘束力のない「AI事業者ガイドライン」と、AIの基本法を組み合わせている。この法律は、罰則よりも、政府の指導と協力に頼る。
業界が自らルールを書くとき
3つ目の道は目を引く。最先端のAI企業の1社が、自社の安全法案を議員に売り込んだ(Anthropicの安全法案の売り込みの報道)。
こうした法案の草案は、「AIは安全であるべきだ」という言葉を、確かめられる形に絞り込む。誰が何を記録し、誰に報告するのかを決める。原則と実際の義務のあいだには、これだけの距離がある。
同時に、もっともな疑問も浮かぶ。規制される側の業界がルールづくりに加わるとき、そのルールは誰の利益を映すのだろうか。
同じ価値観、違う義務
原則で合意しても、実務で合意できたわけではない。同じ価値観のリストを持つ2つの地域が、まったく違う義務、罰則、立証の負担を決めることがある。
原則が誰かを守るかどうかは、その裏にある責任追及の仕組みで決まる。
原則が日々の仕事に出会うところ
AIの原則を実際の行動に変える判断の多くは、議会の中ではなく、組織の中で行われる。現場では、「透明性」のような広い言葉を、誰かが守れる具体的なルールにしなければならない。
写真が証拠になるとき
日本の建設現場に、具体的な例がある。工事現場では、写真が品質の公式な証拠になる。
写真には、鉄筋の配置、コンクリートの打設、隠れてしまう工事が記録される。一度覆われてしまえば、もう誰も検査できない。
生成AIを使えば、こうした画像を簡単に改ざんしたり、作り出したりできる(建設現場の写真改ざんの分析)。リスクは、偽の写真1枚にとどまらない。
検査は、写真が信頼できてはじめて成り立つ。だから、仕組み全体がその信頼にかかっている。
組織が手を伸ばすルール
現場の対応は、新しい原則の声明を出すことではなく、運用のルールをつくることだ。分析は、そのうち3つを挙げている。
- 証拠写真をAIで編集しない:証拠に使う画像には、AIツールを使わない。
- 来歴の記録:写真ごとに、いつ、どこで、誰が撮ったかの記録を付ける。
- 人によるチェック:承認の流れに、必ず人が残る。
見えにくいリスク:気づく力を失うこと
同じ分析は、もっと見えにくい問題も指摘している。技能の衰え(deskilling)だ。品質の判断や記録をAIに頼ると、働く人自身の専門性が薄れていくことがある。
ここで、人間の自律や責任に関する枠組みの懸念が、抽象論ではなくなる。確認する人がシステムの間違いに気づけなければ、監督には意味がない。
大きな言葉が変わるもの
この段階で、共通の語彙は日々の作業に置き換えられる。次の表は、2つの原則が現場事務所に届くと、どんな形になるかを示している。
| 原則 | 現場での姿 |
|---|---|
| 透明性 | 写真ごとの来歴の記録 |
| 責任 | 承認の署名をする担当者 |
この身近で手続きに近い層で、共通の原則は、人の働き方を実際に変える。
自分の仕事に持ち帰る5つの問い
建設の例から、身の回りのAIツールについて、誰でも問える問いが見えてくる。
- この原則は何を求めるのか:誰が何をしなければならず、しなかったら何が起こるのか。答えが「何も起こらない」なら、それは決まりではなく願いだ。
- どの定義が使われているのか:システムが「公平」や「プライバシー保護」とされるとき、どの定義にあたるのか。結果はどう測ったのか。
- 自分の仕事の流れでは誰が責任者か:AIツールごとに、誰が導入を認め、誰が出力を確かめ、誰がミスの責任を負うのか。
- この出力は証拠か、補助か:記録、写真、報告書が証明に使われるとき、AIが触れてよいか、どう触れてよいかのルールははっきりしているか。
- AIなしでも、自分でできるか:大事な作業を自分でめったにしなくなったら、ツールの間違いに気づけるだろうか。
ちょっと立ち止まって
世界は、言葉のリストには、わりあい早く合意した。その言葉が何を求めるのかを決めるのは、もっと遅く、もっと争いが多く、もっと現場に近い。その作業は、裁判所、議会、現場の事務所で行われている。
枠組みは、1つの問いを開けたままにしている。共通の原則が、共通の合意ではなく共通の文法だとしたら、公平、害、責任の定義を埋めるのは誰のものなのだろうか。
あなたの職場にAIツールが入ってくるとき、そこで「責任ある」が何を意味するかを決めるのは誰だろう。そのツールの影響を最も受ける人たちは、その決定に声を上げられるだろうか。

図1:AI倫理の2つの問いと、公式ガイダンスが扱う範囲