存在しない病名、医師44%が採用
COPLUS AI NEWS ／ 2026.08.31
AIの間違いは、詳しい人にしか見えない
今日のAIニュースまとめ（5本）
AIが混ぜ込んだ嘘を見抜けるかどうかは、使う人がその分野をどれだけ知っているかで決まる——フランスの大学病院が、それを数字で示しました。経験の浅い医師の7割近くが存在しない病名を受け入れた一方、経験を積んだ医師は1人も引っかからなかったという結果です。今日はこの検証を軸に、パナソニックHDと横浜ゴムの社内体制づくり、日本IBMが語る業務プロセスの作り直し、そしてAIシステムそのものを狙う攻撃まで、5本を取り上げます。いずれも「AIを入れる」より「入れたあとをどう回すか」の話です。
① AIが出した存在しない病名、医師の44%が鑑別リストに採用
ITmedia NEWS ／ 2026年8月31日
フランスのリール大学病院の研究チームが、大規模言語モデルを使った診断支援システムに実在しない病名を意図的に紛れ込ませ、脳MRI画像を読影する医師41人がどう反応するかを検証しました。結果は、41人中18人（44%）が、その存在しない病名を自分の鑑別診断リストに含めたというものです。ただし18人のうち15人は正しい診断を1位に置いたうえで2位か3位に入れており、その病名への確信度も37%と、主診断の80%より大きく低い水準でした。
差がはっきり出たのは経験年数です。神経放射線科の経験が6カ月以下の医師では26人中18人（69%）が受け入れた一方、6カ月を超える医師は1人も引っかかりませんでした。研究チームは、AIが生んだ誤りが人間の推論に間接的に入り込むこの現象を「hallucination by proxy」と呼んでいます。なお、AI支援そのものは診断精度を52%から61%へ引き上げており、支援の有効性まで否定されたわけではない点も報告されています。
💡 コプラスの視点
AIの誤りは、その分野に詳しい人にしか見えません。だとすれば、AIを任せてよいのは詳しい人が確認できる業務であって、社内に知見がない領域ほど危ないという順序になります。新人にAIを持たせて即戦力化する、という発想が最も危ういのはこのためです。まずは経験者の手元に置いて時間を短縮する使い方から始めるのが安全です。
② パナソニックHD、AI・ロボティクス研究開発本部を新設
MONOist ／ 2026年8月31日
パナソニックホールディングスが、10月1日付でAI・ロボティクス研究開発本部を新設する組織再編を発表しました。トップにはグループCAIO（最高AI責任者）を務める榊原氏が就きます。これまで事業部門ごとに分かれていたAIとロボティクスの研究開発を一つの本部に束ね、グループ横断で進める体制に切り替える狙いです。
注目したいのは、AIとロボティクスを別々ではなく同じ本部に置いた点です。生成AIの活用と現場の自動化を切り離さず、ソフトとハードをまとめて扱う前提の組織になっています。CAIOという役職を置き、そこに開発本部の責任を紐づけた形も、AIを担当者任せにしない意思の表れといえます。
💡 コプラスの視点
大企業がAIを個人の工夫から組織の機能へ移し替えているという話です。中小企業に本部は要りませんが、決めることは同じで、誰がAIの利用範囲とルールに責任を持つかが決まっていないと、部署ごとに別々のツールが増えていきます。専任者を置けなくても、兼任で構わないので担当を1人決めるところから始められます。
③ 横浜ゴム、社内の技術情報に基づくRAG生成AIをタイヤ開発に
MONOist ／ 2026年8月31日
横浜ゴムが8月28日、RAG（検索拡張生成）を活用した生成AIシステムを開発したと発表しました。社内に蓄積してきたタイヤ開発の技術情報や文書を検索対象とし、技術者が置かれた状況や目的に沿った回答を返す仕組みです。汎用のチャットAIに聞いても出てこない自社固有の知見を、その場で引き出せるようにすることを狙っています。
同社は、人とAIが協奏しながら知を生み出すという「HAICoLab」の考え方を以前から掲げており、今回のシステムもその延長線上に位置づけられています。技術者が必要な情報を探し回る時間を減らし、開発の意思決定を早めることが目的です。
💡 コプラスの視点
RAGは、社内の文書をAIに読ませてから答えさせる仕組みです。効果を左右するのはAIの賢さより、読ませる文書が整っているかどうかで、版が入り乱れたマニュアルや個人フォルダに散った資料をそのまま渡すと、古い答えが自信満々で返ってきます。導入前に、正としてよい文書がどれかを決める作業がほぼ必ず発生すると考えておくのが現実的です。
④ 日本IBM、AI時代に必要なのは業務プロセスの作り直し
ITmedia ビジネスオンライン ／ 2026年8月31日
AI時代には業務の再設計が必要——その言い回しはDXのときも聞いた、本当にできるのか。この問いに日本IBMの幹部が答えたインタビューが公開されました。同社の説明は、ツールを配るだけでは足りず、業務プロセスそのものを作り替えなければ成果は出ないというものです。
そのうえで、どの業務を作り直すか、AIにどの社内知識を渡すか、人とAIの役割をどう分けるか、投資対効果をどう測るか、という4点を管理する枠組みを示しています。IBM自身は全社490の業務プロセスのうち約70をAI前提に作り替え、4000を超えるAIエージェントを動かして約4億5000万ドルの削減効果を見込むとしています。なおこれらの数値は同社の自己申告であり、独立した検証を経たものではありません。
💡 コプラスの視点
490のうち約70という比率のほうが、削減額より参考になります。全業務の1割強に絞って作り替えたということで、全部やろうとしていない点が実務的です。自社に置き換えるなら、繰り返し発生していて、手順が決まっていて、間違えても取り返しがつく業務から選ぶことになります。そこが決まらないうちにツールを増やしても、使われないまま契約だけが残ります。
⑤ AIシステムを狙う攻撃が増加、Microsoftが挙げる本当の狙い
ITmedia エンタープライズ ／ 2026年8月30日
Microsoftが、AIシステムを狙う攻撃について、標的になっているのはモデルそのものではなく、利用者・アプリケーション・データ・モデルをつなぐ経路や制御点だと指摘しています。実際に確認された手口として挙げられたのは、LiteLLM、RAGFlow、Kestraといったオープンソースのツールを狙ったものでした。
攻撃者の狙いは、外部のAIサービスを使うためのAPIキーの窃取、つながった先のデータベースへの侵入、サーバー上での不正なコマンド実行、認証情報や設定情報の持ち出しだとしています。悪用された弱点は、Webフレームワークの設定不備による情報の露出、入力検証の甘さによる権限昇格、鍵の管理不足の3つです。対策としては、鍵の一元管理、アクセスを監視する仕組みの導入、露出した認証情報の即時更新が挙げられています。
💡 コプラスの視点
危ないのはAIそのものではなく、その周りの配管という指摘です。社内でAIを試すとき、APIキーが設定ファイルや共有フォルダに平文のまま置かれていないか、退職者が発行したキーが生きていないか。この2点を確認するだけでも、記事に挙がった被害の多くは避けられます。自社で作らずサービスを使う場合も、鍵を誰が持っているかは必ず把握しておくべき項目です。
明日への展望
今日の5本は、AIを配る段階の話が1本もありませんでした。誰が責任を持つか、どの文書を読ませるか、どの業務から作り替えるか、鍵をどう管理するか。話題が体制と運用に移っているということは、成果の差もそこで開いていくということです。9月は下期の計画づくりが始まる時期でもあり、AIの利用範囲と担当を決める話を、この機会に議題へ載せられるかどうかが分かれ目になりそうです。
今日のまとめ
AIの誤りは詳しい人にしか見えない、というのが今日いちばんの示唆でした。だからこそAIは、社内に知見がある業務に、確認できる人の手元で使うのが基本になります。パナソニックHDの本部新設も、横浜ゴムのRAGも、IBMの業務再設計も、突き詰めれば同じ問いへの答えです。自社の何を、誰の責任で、どの資料をもとにAIに任せるのか。
コプラスは、複数のAIを国内サーバー・学習オフの環境でまとめて使えるUPGEAR AIを提供しています。社内のAI利用を1本に整理したい企業さまは、お気軽にお問い合わせください。
生成AIの情報漏洩リスクと対策
実際に起きた事例と、5つの防ぎ方
生成AIの社内ガイドラインの作り方
盛り込むべき10項目とひな形
中小企業の生成AI導入ステップ
何から始めるか・つまずく場所・使える補助金
社内のAI利用を会社が把握できる形に整えたい場合は、国内サーバー・学習オフで4種のAIを一括利用できるUPGEAR AIをご覧ください。
