Hugging Faceに攻撃、防御もAIで
今日の夕方に押さえておきたいのは、AIの話題が性能競争から守りと運用コストへはっきり移ってきたことです。AI開発の中心地であるHugging Faceが攻撃を受け、その防御にもAIが使われました。あわせて、学習データの出所、エージェントの統制、API料金の改定、肖像のなりすまし対策と、いずれも導入企業の実務に直結する動きが並んでいます。
①Hugging Faceが攻撃被害、防御側もAIで応戦
AIモデルの共有基盤として世界中の開発者が使うHugging Faceのインフラの一部が、サイバー攻撃を受けたと報じられました。報道によれば、攻撃者はAI関連のエージェント機構を悪用してアクセス権を取得し、利用者のデータや学習データが露出した可能性があるとされています。同社は不正アクセスされたノードの修復、テンプレートインジェクションの修正、ガードレール管理の強化、認証トークンの確認などの対応を進めたと伝えられています。解析にあたって商用モデルが対応を拒否したため、オープンウェイトのGLMを用いて調査を行った点も報じられました。
外部のモデル配布サイトからファイルを取得して社内に取り込む運用は、いまや一般的です。取得元が侵害された場合に何が起きるかを、一度は棚卸ししておく価値があります。少なくとも、どのモデルをどこから入れたかの記録は残しておきたいところです。
②Suno流出コードに200万件超の収集記録
音楽生成AIのSunoが不正アクセスを受け、流出したソースコードから学習データの収集記録が明らかになったと報じられています。報道では、YouTube Musicから200万件を超えるクリップが収集されていたほか、Deezer、Genius、Pond5などからの取得記録も含まれていたとされます。収集にはスクレイピング用のプロキシサービスが使われ、アクセス制限を回避していた可能性が指摘されています。米国では保護技術の意図的な回避がDMCAに抵触しうるとされ、法的な論点として報じられています。なお、これらは流出データに基づく報道段階の内容であり、同社による確認発表ではありません。
生成物を商用で使うなら、そのモデルが何を学習したのかは無関係ではいられません。契約前に、学習データの出所と免責の範囲がどう書かれているかを確認する。この一手間が、後の紛争コストを大きく左右します。
③TrendAIとPwC、13モデル2,600件で脆弱性を実証
トレンドマイクロの法人向けブランドTrendAIとPwCコンサルティングが、AIエージェントのセキュリティに関する共同研究の結果を公表しました。Anthropic、OpenAI、Google、DeepSeekの4ベンダー計13モデルに対し、200種類の攻撃プロンプトで合計2,600件のテストを実施。複数ベンダーのモデルで保存型プロンプトインジェクションが成立したと報告されています。これは特定製品の欠陥ではなく、データと命令を区別しづらいというAI共通の構造的な課題とされます。あわせてPwCは、本番投入に必要な統制水準を共通言語で議論するための枠組みとしてAI-CALを提唱しています。
エージェントに社内システムの操作権限を渡す計画があるなら、この結果は重く受け止めるべきです。読み取りだけの範囲から始め、書き込みや送信を伴う操作には人の承認を挟む。当面はこの線引きが現実的な落としどころだと考えています。
④DeepSeek、API料金にピーク時間の割増
DeepSeekがV4系への移行を進めるなかで、API料金にピーク時間帯の割増を導入すると報じられました。報道によれば、北京時間の午前9時から12時、午後2時から6時が割増対象で、日本時間ではおおむね午前10時から午後1時、午後3時から7時にあたります。オフピーク帯は現行水準の据え置きとされています。さらに、旧モデル名のエンドポイントは日本時間7月25日未明に廃止予定とされ、利用中の場合はモデル名の更新が必要になります。
時間帯で単価が変わる料金は、これから他社にも広がる可能性があります。夜間にまとめて回せるバッチ処理と、即時性が要る対話処理を分けておくと、料金体系が変わっても慌てずに済みます。エンドポイント廃止の周知は見落としやすいので、通知の受け取り先もあわせて確認しておきたいところです。
⑤TikTok、AIによる顔のなりすまし検出をテスト
TikTokが、クリエイター本人の顔を模倣したAI生成コンテンツを検出する仕組みのテストを、米国の一部利用者を対象に始めたと報じられました。AIかどうかを一般的に判定するものではなく、本人確認を済ませた特定の人物を対象に、無断で生成・改変された動画を照合して見つけ出す設計とされています。本人確認は自撮りと身分証を用いて行われ、検出された内容は本人が確認して通報できるとされます。YouTubeが先行して同種の仕組みを導入しており、TikTokがこれに続く形です。一方で、守るために顔と身分証を預ける構図への懸念も指摘されています。
経営者や広報担当が動画に出る機会が増えるほど、なりすまし動画のリスクも上がります。自社の代表者名で偽の発信がされていないか、定期的に検索して確認する習慣を持ちたいところです。プラットフォーム側の対策が整うまでは、人の目による点検が最後の砦になります。
明日への展望
今日の5本に共通するのは、AIを攻める側にも守る側にもAIが立っているという構図です。当面の注目は、エージェントへの権限付与をどこまで認めるかという各社の判断と、学習データの出所を巡る法的な整理がどう進むかの2点。国内では中小企業向けのデジタル化・AI導入補助金の締切が明日に迫っており、駆け込みの申請動向もあわせて見ておきたいところです。
AIの導入判断は、できるかどうかから、任せてよいかどうかへ移りつつあります。権限の範囲、データの出所、費用の見通し。この3つを決めておけば、次に何が起きても対応の軸はぶれません。
コプラス株式会社では、AIの業務活用に向けた社内ルールづくりから、実際の導入・定着支援までをお手伝いしています。何から手をつけるべきか迷われている段階でも、お気軽にご相談ください。
