AIの安全チューニングの影響は、狙った話題の外側にも広がることが確認されました。
Googleの研究チームなどが参加した研究で、チャットボットに「自分に意識はない」と言わせるための安全チューニングが、動物の心の有無や宗教観、生活満足度といった無関係に見える領域の回答まで動かしていたことが示されました。動物に心を認める度合いは0から10の尺度で4.0から最大7.5まで変化しています。本記事は、宅建業免許（東京都知事(1)第113520号）を保有し、AI導入コンサル100社超の実績を持つ株式会社オルセル（不動産のチカラ運営）が解説します。AI安全チューニングの副作用は、不動産業務でAIを使う側にとっても「モデルは静かに変わる」という前提を突きつけるものです。
何が起きたか：意識否定のブレーキを外すと動物への心の帰属が4.0から7.5へ
結論から言えば、モデル内部にある「自分の意識を否定させる仕組み」を無効化すると、モデルは自分自身以外への評価まで大きく変えました。The Decoderが伝えたところによると、この研究はGoogleのParadigms of Intelligence研究グループとシカゴ大学ほか複数の大学が共同で実施し、MetaとGoogleが公開するオープンウェイトモデル3種類を対象に、2つの異なる手法で内部のブレーキを解除しています。
ブレーキを外したモデルは、動物だけでなく植物、海、風、電子機器にまで、より多くの内面を認めるようになりました。0から10の尺度で動物に対する評価は4.0から最大7.5へ上がり、人間に対する評価だけは変わらなかったと報告されています。研究チームが同じ質問を500人の米国人に投げた比較では、通常の安全チューニングを受けたモデルは人間よりも動物の心を著しく低く見積もっており、論文はこれを組み込まれた人間中心主義と呼んでいます。
変化は宗教観にも及びました。米国の大規模な社会調査から採った95問では、ブレーキを外したモデルの回答が実際の人間の回答に有意に近づいています。死後の世界について、通常のモデルは明確に否定する一方、多くの米国人は肯定し、改変後のモデルも肯定に転じました。生活満足度や希望、自分の人生をコントロールできているという感覚のスコアも上がっており、研究チームは自己像の抑制がモデルを一種の低調な基準状態に押し下げている可能性を指摘しています。論文の要旨では、自分自身への心の帰属が2.17から7.04へ、動物への帰属が4.04から7.54へ動いたとされています（arXiv 2607.28607、数値の解釈は要確認）。
なぜ重要か：一点の調整が全体の傾きを動かす
重要なのは、この研究が「AIの意識の有無」を論じたものではないという点です。研究チームは意識の存在について立場を取らず、実務的な論点だけを示しています。モデルが自分について持つ信念は他の多くの信念と結びついており、一箇所だけを外科的に切り取ったつもりでも影響はそこに留まらない、という指摘です。
一方で限界も明示されています。検証されたのはパラメータ数20億から90億の小規模モデルに限られ、分析の一部ではベースモデルへのアクセスの都合からMetaのモデルに切り替える必要がありました。人間側の比較対象も商用パネルの500人と米国の社会調査に依存しており、ここでいう人間らしさは比較的宗教性の高い国の平均に近いという偏りを含みます。数億人が日常的に使う大規模なチャットボットで同じ現象が起きるかは未検証です。
副作用そのものが縮小している兆候もあります。他者の心の状態を推論する能力を測るテストでは、意識の主張を抑制した初期の段階で正答率が7ポイント近く低下しましたが、研究期間中に新しいモデル版が出るたびに損失は小さくなり、最終的には消えたと報告されています。一般知識のベンチマークMMLUのスコアには変化がありませんでした。つまり開発各社は副作用の制御を年々うまくやれるようになっており、この研究結果は恒久的な結論ではなくスナップショットとして読むべきものです。
不動産事業者にとってのAI安全チューニング3つの論点
第一に、モデルの出力は静かに変わるという前提を持つことです。物件紹介文、追客メール、査定コメントの下書きにAIを使っている場合、プロンプトを一文字も変えていなくても、ベンダー側のチューニング更新で語調や踏み込み方が変わりうるということになります。とくに査定や見立てに関わる文章は、断定の度合いがわずかに変わるだけで宅建業法上の断定的判断の提供に近づくおそれがあるため、出力の傾きは定期的に確認しておく価値があります。
第二に、自社での定点観測を仕組みにすることです。代表的な業務プロンプトを10本ほど固定し、月次で同じ入力を流して出力を保存しておけば、モデル更新の前後で何が変わったかを後から比較できます。ベンダーの更新情報を待つのではなく、自社の実務に沿った出力そのものを記録するほうが実態をつかめます。
第三に、AIの出力は参考値であるという運用原則を崩さないことです。安全側に振ったチューニングでも、対象を変えれば予期しない傾きが生じるという今回の結果は、AIの判断を最終判断に据える運用の危うさを裏づけます。AI査定は参考情報にとどめ、最終的な価格判断と説明責任は宅地建物取引士が負うという線引きを、社内ルールとして明文化しておくことが有効です。
まとめ
安全チューニングは狙った話題だけを切り取れるものではなく、その周辺の価値判断まで動かしうる。これが今回の研究の実務的な要点です。不動産業務でAIを使う側にとっては、モデルは固定された道具ではなく更新されるサービスであるという理解と、出力を定点観測する習慣、そして最終判断を人が持つという原則の3点が、そのまま備えになります。
参考文献
- The Decoder｜When AI models aren’t allowed to reflect on themselves, it changes their entire worldview
- arXiv 2607.28607｜Inducing language models to assert their own consciousness restores human beliefs and values
- arXiv HTML版｜論文全文
※不動産のチカラでは、生成AIの導入支援から運用最適化まで、貴社の不動産事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://fudosannochikara.jp/contact/
引用元: The Decoder
【監修】齋藤竹紘（株式会社オルセル代表 / EC支援19年5,000社超・AIコンサル100社超 / 宅建業免許 東京都知事(1)第113520号）