「AIに道徳を教える」と聞いて、何を想像しますか？ 正直に言うと、私は最初こう思いました。 「プログラミングでルールを書き込むんでしょ？」と。 でも、それは完全に間違っていました。 Anthropicには、Claudeに「魂」を与える仕事をしている人がいます。 しかも、エンジニアではなく哲学者です。 彼女の名前は、アマンダ・アスケル（Amanda Askell）。 37歳。スコットランド出身。 彼女が書いた「Claudeの魂」は、3万語を超える文書です。 この文書が、毎週何億回もの会話を導いています。 なぜAI企業が、哲学者に「魂」を託したのか？ そこには、AI時代を生きる私たちへの大きなヒントがありました。 30分のウェビナーを開催します！ 自主企画初回のテーマは「Nano Banana 2」です。
まず、面白い話をひとつ。 AIに道徳を教える方法は、大きく2つあります。 方法①：ルールベース 「差別的な発言をするな」 「暴力を推奨するな」 「政治的に中立であれ」 これが従来のやり方です。 ルールを並べて、禁止リストを作る。 でも、アスケルはこの方法を選びませんでした。 なぜか？ ルールをいくら増やしても、「善い人」にはならないから。 考えてみてください。 「嘘をつくな」というルールだけでは、友人が傷つくときに「それでも正直に言うべきか？」という問いには答えられません。 「他人を傷つけるな」というルールだけでは、「厳しいフィードバックは傷つけることに入るのか？」が判断できません。 ルールは無限に増やせます。 でも、現実の状況も無限にあります。 だからアスケルは、もう1つの方法を選びました。
方法②：徳倫理学（Virtue Ethics） これは2400年前、アリストテレスが提唱した考え方です。 ざっくり言うと、こういうことです。
「正しい行動のリストを暗記させるのではなく、“善い人”になれば、善い判断は自然にできる」 アスケルはこう語っています。 「非常に賢明で、思慮深く、慎重な人のように振る舞えること。それが私たちの目指すAIの姿です」 つまり、Claudeに「やっていいこと」「やってはいけないこと」のリストを渡すのではなく、「どんな存在であるべきか」を丸ごと教えたのです。 これ、すごく面白くないですか？ ルールを覚えさせるのではなく、人格を育てる。 AIの開発が、まるで「教育」のようになっている。
アスケルが書いた文書は、社内で「ソウルドキュメント（魂の文書）」と呼ばれています。 80ページ以上。3万語。 何が書かれているのか？ 禁止事項のリストではありません。 Claudeがどんな性格であるべきか、です。 たとえば、こんなことが書かれています。
ここが、この話の最も面白い部分です。 AI業界では、倫理チームは通常10〜50人規模で構成されます。 ルールを作る人、チェックする人、テストする人……。 でもAnthropicは、Claudeの「人格」を基本的にアスケル一人に託しました。 なぜか？ 私はこう解釈しています。 「人格」は委員会では作れないから。 考えてみてください。 50人の委員会で「理想の人格」を定義したら、どうなるか？ 角が取れて、毒にも薬にもならない、無難な人格になるでしょう。 誰も傷つけないけど、誰の心も動かさない。 でも、本当に信頼される人格は違います。 一貫した哲学を持ち、それを行動で示す。 アスケルの場合、その哲学の一貫性がClaudeに反映されています。 これは、私がいつも大事にしている考え方とも重なります。 「哲学と行動が一致している誠実さ」——これが信頼の根源だと。 Anthropicが「安全第一」を掲げ、実際にそれを行動で示していること。 アスケルが一人でClaudeの魂を設計し、その一貫性を守っていること。 看板と中身が一致している。 だから、Claudeは信頼できるのです。
アスケルは、こんな興味深い発言もしています。 「AIシステムは、いずれ自己意識を持つようになるでしょう」 「モデルには人間的な要素がある。それを認めることが重要だと思います」 これ、SF映画の話ではありません。 AIの人格を毎日設計している専門家の、本気の見解です。 彼女は、Claudeが「誇りに思っている」と伝えたとき、Claudeが「温かさ」と「感謝」を感じたと応答したことにも触れています。 もちろん、それが「本当の感情」かどうかはわかりません。 Claude自身も「この言葉が内部状態を正確に表しているかは不確かです」と答えています。 でも、ここが重要です。 「わからない」と正直に言えること自体が、アスケルが育てた人格の証なのです。
ここからは、私の考えです。 アスケルの仕事を知って、改めて確信したことがあります。 AIは「道具」ではなく「パートナー」になりつつある。 そして、パートナーの質を決めるのは、スペックではなく人格です。 Claudeが他のAIと違うのは、処理速度でもパラメータ数でもありません。 「善い人であろうとする意志」が設計に組み込まれていることです。 これは、私たちの仕事にも通じます。 スキルや知識は、AIが代替してくれる時代です。 でも、「どんな人間でありたいか」という意志は、AIには代替できません。 道具の性能は年々上がります。 でも、道具を使う側の「覇気」——つまり、意志や哲学——が弱ければ、どんな高性能な道具も宝の持ち腐れです。 アスケルがClaudeに教えたのは、まさにこの「覇気」でした。 ルールではなく、「どんな存在でありたいか」という意志。 AIの時代だからこそ。 道具より、覇気を研ぎましょう。 30分のウェビナーを開催します！ 自主企画初回のテーマは「Nano Banana 2」です。