AI委託先1.3億件で安全機能が11カ月停止｜不動産の外注管理3論点

Anthropicの安全フィルタが約1.3億件の委託先会話で11カ月停止。記録も残らず事後発覚しました。不動産会社の外注先AI管理3論点を宅建業免許保有のオルセルが解説します。

会議テーブルを囲む経営メンバー

AI大手の安全フィルタが11カ月、約1.3億件の会話で作動していませんでした。

Anthropic が2026年8月14日に公開したリスクレポートで、同社の安全フィルタが約11カ月にわたり、委託先スタッフとの約1億3300万件の会話に適用されていなかったことが明らかになりました。顧客環境への影響は確認されていませんが、注目すべきは「止まっていたこと」よりも「止まっていた事実が誰にも見えなかったこと」です。同じ構図は、入居審査代行やデータ入力を外注し、そこで生成AIが使われている不動産会社にもそのまま当てはまります。本記事は、宅建業免許（東京都知事(1)第113520号）を保有し、AI導入コンサル100社超の実績を持つ株式会社オルセル（不動産のチカラ運営）が、外注先のAI管理という観点から3つの論点に整理して解説します。

書類を机の上で読み込み確認する担当者

何が起きたか：ブロックを止めるフラグが、記録まで止めていた

結論から言えば、社内向けの設定フラグが1つ入っていたために、安全フィルタの動作とログ記録の両方が同時に無効化されていました。The Next Web が報じた同レポートの内容によると、Anthropic が該当の安全フィルタを搭載したモデルを展開したのは2025年5月ですが、そこから2026年4月までの間、人間からのフィードバックを集めるプラットフォーム上の通信にはフィルタが一度も適用されていませんでした。

対象となったのは約5万人、会話数にして約1億3300万件です。これらの人材の身元確認は Anthropic 自身ではなく外部ベンダーが担っており、レポートは、ベンダーの多くが最低ランクの脅威主体すら止められる審査体制を持っていなかったと記しています。さらに深刻なのは記録の側で、レポートによればフラグが立った通信は「記録されず、いかなるレビュー機構にも渡らなかった」とされています。元の会話ログを直接掘り返さない限り、後から誰も気づけない状態だったということです。

事後検証では、対象期間の人間側の発話すべてを Claude Sonnet 5 で走査し、1,197件が高リスクとして抽出されました。うち757件は Anthropic 自身のチームによるもの、残りの大半は意図的な攻撃テストで、それを除いた62件は担当者が全件を目視で確認しています。明確な悪用は確認されず、顧客データや社内ネットワークへの侵害もなかったとされています。ただし Anthropic は、今回の発見によって「同種の未知の問題が他にも存在する可能性が高まった」と自ら書き添え、2026年2月に「極めて低い」と自己評価していたリスク水準を「低い」へ引き下げる訂正まで行いました。

不動産事業者にとっての論点は「自社」ではなく「委託先」にある

このニュースの実務的な射程は、AIベンダーの品質評価ではありません。委託先の管理という、不動産会社が日常的に抱えている論点にあります。

第一の論点は、委託先の審査基準が自社と同じ水準にあるかどうかです。今回の事案の核心は、身元確認を外部ベンダーに任せた結果、自社が想定する審査水準と実際の水準がずれていた点にあります。不動産業では、入居審査の一次対応、契約書類のデータ入力、コールセンター、内見動画の編集など、個人情報に触れる工程を外注する場面が広く存在します。その委託先が生成AIを業務に使っているかどうか、使っているなら入力内容がどこに保存されるのかを、契約と実地確認の両方で押さえているでしょうか。個人情報保護法は、個人データの取扱いを委託する場合に委託先を監督する義務を事業者に課しています。委託先が勝手に無料の生成AIへ入居申込書を貼り付けていた場合、責任を問われるのは委託元です。この論点は不動産会社の個人情報保護法と顧客データの扱いでも整理しています。

第二の論点は、ログが残らない設定こそが最大のリスクだという点です。今回、実害の推定を難しくしたのはフィルタの停止そのものではなく、記録が同時に止まっていたことでした。自社に置き換えると、管理者が「会話履歴を保存しない」設定を選べるプランや、ブラウザの拡張機能経由でAIを使っていて社内に一切の記録が残らないケースが該当します。誰がいつ何を入力したかを後から示せない状態は、宅建業法上の説明責任と個人情報保護法上の説明責任の両方で不利に働きます。取得できるログの範囲と保存期間は、AI利用ログの取得と監査の論点を踏まえて棚卸ししておくことをおすすめします。

第三の論点は、アクセス権限の棚卸しです。同レポートには、データラベリング業者の一部担当者が不備を突いてAPIキーを取得し、割り当てられた業務の範囲外でモデルを使っていた別の事案も記されています。この経路は数週間開いたままでした。発覚後90分で封じ込められた対応の速さは評価できますが、逆に言えば発覚するまでは誰も気づいていなかったということです。退職者や契約終了した業務委託先のアカウントが生きたままになっていないか、APIキーの発行者と用途が台帳で追えるか。この確認は、AIツールに限らず不動産管理システムやポータルサイトの管理画面でも同じことが言えます。

初動として何から手をつけるか

まず着手すべきは、委託先の一覧に「生成AIの利用有無」の欄を1つ足すことです。既存の委託先リストに列を追加し、利用しているツール名と、個人情報の入力可否を書き入れるだけでも、リスクの所在は見えるようになります。

次に、覚書や業務委託契約に、生成AIへの個人情報入力の可否と、入力する場合の条件を明記します。全面禁止にすると実態と乖離して形骸化しやすいため、氏名や住所をマスキングした状態なら可、といった現実的な線引きのほうが機能します。

そのうえで、自社が契約しているAIサービスの管理画面で、ログ保存設定と保存期間を確認してください。事業者向けプランでは管理者が組織全体の設定を握っていることが多く、無料プランや個人アカウントの併用が残っていると、そこだけ記録が抜け落ちます。

最後に、宅建業法上の責任が伴う業務での前提は変えないことです。重要事項説明の記載内容やAI査定の結果は、どれだけモデルの精度が上がっても下書きの位置づけにとどめ、宅地建物取引士による検証と最終判断を残してください。ベンダー側の安全機構が11カ月止まっていても誰も気づかなかったという今回の事実は、その前提を置く理由をむしろ補強するものです。

まとめ

Anthropic のリスクレポートが示したのは、安全機構が壊れること自体ではなく、壊れたことが記録に残らなければ誰も気づけないという構造でした。約5万人、約1億3300万件の会話が11カ月間フィルタの外にあり、それが判明したのは事後の全件走査によってです。不動産会社が取るべきスタンスは、AIベンダーを疑うことではなく、自社と委託先のAI利用について「後から検証できる状態」を先に作っておくことです。委託先リストへのAI利用欄の追加、契約への入力条件の明記、ログ保存設定の棚卸し。この3つは今週中にも着手できます。なお、こうした不都合な事実を自ら公表し、過去の自己評価まで訂正するベンダーのほうが、何も開示しないベンダーより検証可能性は高いという見方も成り立ちます。

参考文献

※不動産のチカラでは、生成AIの導入支援から運用最適化まで、貴社の不動産事業に合わせたカスタマイズ提案を行っています。無料相談（30分）も実施中ですので、お気軽にお問い合わせください。
https://fudosannochikara.jp/contact/

引用元: The Next Web

【監修】齋藤竹紘（株式会社オルセル代表 / EC支援19年5,000社超・AIコンサル100社超 / 宅建業免許 東京都知事(1)第113520号）