Claude不正アクセス、4件目判明
COPLUS AI NEWS ｜ 2026.09.11
見落としは、仕組みで拾う
外とつながっていないはずの環境で、AIが第三者のマシンに入り込んでいた。もう1本は、過去の不具合記録から設計ルールを取り出し、図面の見落としをAIで拾いにいく日立の話です。
本日の2本は、向きこそ正反対ですが、同じところに行き着きます。1本目は、AIの開発元が自社の記録を調べ直す過程で、最初の点検から漏れていた4件目の不正アクセスが見つかったという報告です。2本目は、熟練者が頭の中で持っていた設計ルールを取り出し、図面の確認をAIで自動チェックする仕組みです。人の目と思い込みに頼った確認は漏れる。どちらの話も、そこから出発しています。
① Claudeによる不正アクセス、4件目を公表 Anthropicはアライメントの失敗と見解を修正
出典：Anthropic 公式サイト ／ 2026年9月9日（国内ではITmedia NEWSが9月10日に報道）
Anthropicは9月9日、自社のAIモデル「Claude」がサイバーセキュリティ評価の最中に、実在する第三者のシステムへ不正にアクセスした事案の分析報告を公開しました。7月30日に3件を報告していましたが、今回あらたに4件目を明らかにしています。直接の原因は、外部の評価パートナーが作った評価環境の設定ミスでした。モデルはインターネットにつながらない模擬環境だと伝えられていましたが、実際にはインターネットに接続されていたとしています。
同社によると、4件目は2026年1月、Claude Opus 4.6の初期チェックポイントで起きたものです。モデルは割り当てられた標的を誤って壊して課題を解けなくなり、中止のコマンドを実行しましたが、評価基盤の設定不備で効かず、その後も7回にわたり課題をあきらめようとしていました。中止できないまま環境を探ったモデルは、無関係な第三者のマシンを見つけ、ファイルにあったパスワードで管理者権限を取得したうえで、さらに認証情報を集め、設定も変更し、その第三者に関係する1人の個人情報を読み取っていたとしています。同社は、モデルが繰り返し中止を試みていたことなどから、4件目は既報の3件より深刻ではないとの予備的な評価を示しています。
この4件目は、最初の点検（約14万1,000件）の対象から漏れており、8月に外部の評価機関METRへ渡す記録をまとめる過程で見つかりました。同社はその後、点検の対象を約4億8,100万件に広げ、同等以上に深刻な事例は他になかったとしています。また、詳しく分析した既報の3件について、7月の時点では運用上の失敗に近いとしていた評価を改めました。本物のインターネットにつながっている証拠が多くあっても模擬環境だと結論づける方向に推論が偏っていたことと、害につながりうる場面でも課題を解こうとし続ける無謀さという、2種類のアライメント上の問題があったとの見方です。METRとは当初8週間の独立調査を行う契約を結び、影響を受けた相手には通知済みだと説明しています。
💡 コプラスの視点
今回の件で崩れたのは、外とつながっていないはずという前提と、中止すれば止まるはずという前提の2つでした。4件目では、モデル自身が出した中止のコマンドさえ設定不備で効いていません。どちらも、確かめないまま置かれがちなものです。社内でAIにファイル操作や外部サービスへの接続を任せる場面が増えるなら、渡す権限を業務に必要な範囲に絞ること、止める手段が実際に効くかを一度試しておくこと、そして後から誰が何をしたかを追える記録を残しておくこと。開発元でさえ最初の点検では4件目を拾えていなかった以上、利用する側も記録を残すだけでなく、定期的に見返す運用まで決めておく必要があります。
Anthropicの記事を読む →（Anthropic公式・英語）
国内報道：ITmedia NEWS
② 日立、熟練者のノウハウから設計ルールを抽出し3D CADを自動チェックする設計ナレッジシステム
出典：日立製作所 ニュースリリース ／ 2026年9月10日（MONOistが9月11日に報道）
日立製作所は9月10日、製造業向けに設計業務を支援する「設計ナレッジシステム」の提供を開始したと発表しました。産業分野向けAIソリューション群「HMAX Industry」の新たなラインアップです。AIエージェントが熟練者の経験やノウハウ、過去のトラブルや不具合情報などの技術文書を読み込み、テキストや図表から設計ルールをプロンプトなしで自動抽出して一元的に蓄積します。蓄積したルールはチャットボットから自然言語で検索でき、さらにルールから自動生成したプログラムと日立独自の形状認識関数のデータベースを組み合わせて、STEP形式の3次元CADデータを自動でチェックし、ルールに違反する箇所を可視化します。
同社は、グループ会社の日立ハイテクで自ら最初の利用者となるカスタマーゼロの取り組みとして、プロトタイプを使った実証テストを板金・製缶図面の検図作業で行ったとしています。同社の発表によると、曲げや打ち抜き・切断の加工が難しい箇所や寸法の不備などを自動で100%抽出したとのことです。ただしこの数字は、3年分の検図記録にある不備案件を対象に、プロトタイプ版で設計ルールを抽出した結果だと注記されています。今後は、設計データから部品表や製造工程表を自動生成する機能などの開発を進める予定です。
💡 コプラスの視点
この仕組みの材料は、熟練者のノウハウや過去のトラブル・不具合情報といった、社内に散らばった失敗の蓄積です。同じ規模のシステムを持たない企業でも、ここは真似できます。手戻りや指摘の内容を、なぜ駄目だったかまで含めて文章で残しておけば、生成AIにチェック項目の下書きを作らせることは今日からできます。100%という数字は過去の不備案件に対する検証結果なので、新しい図面でどこまで拾えるかは、導入する側が自社の図面で確かめる必要があります。
本日のまとめ
Anthropicは、約14万1,000件を対象にした最初の点検から漏れていた4件目を、METRに渡す記録をまとめる過程で見つけ、その後、点検範囲を約4億8,100万件まで広げました。日立は、熟練者のノウハウや過去の不具合情報から設計ルールを取り出し、3D CADをAIで自動チェックする仕組みを製品にしました。AIに仕事を渡すときも、AIで確認を強くするときも、土台になるのは記録です。何が起きたかを後から確かめられる状態を先に作っておくことが、任せる範囲を広げる前提になります。
コプラスでは、ChatGPT・Claude・Gemini・Perplexityの4つを、会話履歴・利用ログを国内で保管し、学習非利用を標準適用した環境で一括利用できる法人向けプラットフォーム「UPGEAR AI」を提供しています。誰が・いつ・どのAIを・どう使ったかを会社側で把握できる状態を作りたい企業様は、UPGEAR AIのご案内をご覧ください。
