OpenAI、自らを攻撃するAIを公開
COPLUS AI NEWS朝版
攻めのセキュリティと、誰でも使える開発ツール AI活用「守り」と「現場」の二本柱
ニュース2本・約3分で読めます
AIの導入が進むほど、テーマは「使ってみる」から「安全に使う」「誰でも使える」へと移っています。今週は、AI自身に弱点を探させて防御を固めるOpenAIの新しい取り組みと、専門知識なしでWebやアプリを作れるCanvaの新機能が注目を集めました。守りと現場、両面のニュースを2本お届けします。
① OpenAI、AIの弱点を自動で突く社内モデル「GPT-Red」
OpenAIは、自社AIの弱点を攻撃者の視点から自動で探し出す社内専用モデル「GPT-Red」を公開しました。攻撃役と防御役のAIを同時に競わせながら学習させる仕組みで、人間の専門家による攻撃成功率が13％だった環境で、GPT-Redは84％のシナリオで攻撃に成功したと報告されています。ここで見つかった弱点をもとに最新モデルの防御を鍛え直し、外部から不正な指示を紛れ込ませる「プロンプトインジェクション」への耐性を大きく高めたとしています。
業務でAIを使う際に最も心配されるのが、情報漏洩や不正な指示への悪用です。作り手側がAI同士を戦わせてまで弱点を潰し始めた事実は、安全性が付け足しではなく製品の核心になってきた証拠と言えます。導入検討時は、機能だけでなくこうした安全対策の取り組みも比較材料に加えるのがおすすめです。
② Canva、自然言語でWeb・アプリを作る「Canvaコード 2.0」を無料開放
デザインツールのCanvaは、自然言語の指示だけでWebサイトやアプリ、操作できるランディングページを作れる「Canvaコード 2.0」を、無料アカウントを含む全ユーザーに提供開始しました。生成したものはCanvaの編集画面で色や文字を通常のデザインと同じように調整でき、テンプレートや既存のHTMLからも作り始められます。生成時間は従来比で大幅に短縮され、チームでのリアルタイム共同編集にも対応しています。
プログラミングは専門職の仕事という前提が崩れつつあります。普段使いのツールに開発機能が組み込まれたことで、簡単なキャンペーンページや社内向けツールを現場担当者が自作できる時代に近づきました。まずは外部公開しない社内用途から試すと、リスクを抑えつつ効果を体感できます。
本日のまとめ
AIは安全に鍛える技術と、誰でも触れる裾野の広さが同時に進んでいます。守りを固めつつ、現場が小さく試せる環境を整えることが、これからのAI活用の分かれ道になりそうです。
生成AIの情報漏洩事例
実際に起きた事例と、5つの防ぎ方
生成AIセキュリティ対策チェックリスト30項目
自社の現在地を30項目で点検する
野良AI（シャドーAI）とは？意味・リスク・対策
社員が個人アカウントで使っている状態を、会社としてどう扱うか
社内のAI利用を会社が把握できる形に整えたい場合は、国内サーバー・学習オフで4種のAIを一括利用できるUPGEAR AIをご覧ください。
