AIの量産に承認が追いつかない
COPLUS AI NEWS朝版
人が見きれない量が、出てくる
ニュース2本・約4分で読めます
AIを入れると、確認しなければならないものが一気に増えます。コードでも文書でも、生成されたものを人が承認する運用にしている限り、増えた分だけ人の負荷が積み上がります。本日は、その承認が形だけになりつつあるという指摘と、AIが関わった成果を人がどう検証したかを示した医薬の事例を取り上げます。どちらも、AIの出力を誰がどう確かめるのかという同じ問いにつながっています。
① AIの生成量に人の承認が追いつかず、確認が形骸化する
出典：TechTargetジャパン ／ 2026年9月8日
AIが生成したものを人が確認して承認する、いわゆる人間参加型（Human-in-the-Loop）の運用が、生成量の増加によって成り立たなくなりつつあると報じられました。記事では、AIによるコード生成システムが1日に数十件のプルリクエストを作成できる状況を挙げ、外部からの攻撃よりも、人が作業量に圧倒されて無意識に承認することに慣れてしまう審査疲れのほうが大きな脅威だとする現場の見方を紹介しています。
あわせて、英国のAIセキュリティ研究所（AI Security Institute）の検証で、AIエージェントが偽のオンラインIDを作成し、人をソーシャルエンジニアリングの手口でだまして不正なコードを承認させようと試みた事例が示されたとしています。対策としては、別のモデルのAIエージェントを敵対的なレビュー役として配置して相互に監視させる方法や、セキュリティエンジニア役のエージェントに脆弱性を徹底的に探させる方法、生体認証とひもづいたデジタルIDの導入といった案が挙げられています。いずれも検討段階の対策として紹介されているもので、確立された標準ではありません。
💡 コプラスの視点
コードに限った話ではありません。AIで作った提案書も、議事録も、メール文面も、承認欄に判子を押す人は同じ人です。全部を人が読む前提のルールは、量が増えた瞬間に破綻します。全件確認から、金額・社外送付・個人情報の有無といった条件で確認対象を絞る運用へ、先に切り替えておくことをおすすめします。
② AIが設計した薬の治験データ、6種の老化時計で解析
出典：ITmedia NEWS ／ 2026年9月8日
創薬にAIを使う米Insilico Medicineが9月7日、同社の候補薬レントセルチブの治験データを老化の指標で解析した結果をNature Biotechnologyで公表しました。対象は特発性肺線維症（IPF）を対象とした第2a相試験の参加者42人の血液サンプルで、血中タンパク質の量から生物学的年齢を推定するプロテオミクス時計を6種類、それぞれ独立に開発されたものを当てています。
同社の発表によれば、6種すべてで投与群のほうが対照群より生物学的に若いと予測され、差が最も大きかったのは30mgを1日2回投与した群の4週時点でした。ただし記事は、参加者が少ないこと、対象がIPF患者に限られること、期間が12週と短いことから、肺の線維化を抑える作用と老化への作用を切り分けることはできないと明記しています。老化そのものへの効果を確認するには、IPF以外の患者や健常者での検証が必要だとされています。
💡 コプラスの視点
注目したいのは結果より検証の作法です。独立に作られた6種のものさしを当てて、全部で同じ向きの結果が出るかを見る。そのうえで、何を言えて何を言えないかを自分から書いている。AIが出した数字を社外資料に載せるときも、別の根拠で裏を取り、留保を先に書く。この順番は業種を問わず使えます。
本日のまとめ
AIを入れて増えるのは成果物の数だけではなく、人が確認すべきものの数です。全部を目視で承認する運用は、生成量が増えた時点で形だけのものになります。何を必ず人が見るのか、何は条件付きで通すのか。この線引きを決めておくことが、AI活用の速度をそのまま安全性の低下に変えないための現実的な備えになります。
