OpenAI、自らを攻撃するAIを公開
攻めのセキュリティと、誰でも使える開発ツール
AI活用「守り」と「現場」の二本柱
AIの導入が進むほど、テーマは「使ってみる」から「安全に使う」「誰でも使える」へと移っています。今週は、AI自身に弱点を探させて防御を固めるOpenAIの新しい取り組みと、専門知識なしでWebやアプリを作れるCanvaの新機能が注目を集めました。守りと現場、両面のニュースを2本お届けします。
① OpenAI、AIの弱点を自動で突く社内モデル「GPT-Red」
OpenAIは、自社AIの弱点を攻撃者の視点から自動で探し出す社内専用モデル「GPT-Red」を公開しました。攻撃役と防御役のAIを同時に競わせながら学習させる仕組みで、人間の専門家による攻撃成功率が13％だった環境で、GPT-Redは84％のシナリオで攻撃に成功したと報告されています。ここで見つかった弱点をもとに最新モデルの防御を鍛え直し、外部から不正な指示を紛れ込ませる「プロンプトインジェクション」への耐性を大きく高めたとしています。
業務でAIを使う際に最も心配されるのが、情報漏洩や不正な指示への悪用です。作り手側がAI同士を戦わせてまで弱点を潰し始めた事実は、安全性が付け足しではなく製品の核心になってきた証拠と言えます。導入検討時は、機能だけでなくこうした安全対策の取り組みも比較材料に加えるのがおすすめです。
② Canva、自然言語でWeb・アプリを作る「Canvaコード 2.0」を無料開放
デザインツールのCanvaは、自然言語の指示だけでWebサイトやアプリ、操作できるランディングページを作れる「Canvaコード 2.0」を、無料アカウントを含む全ユーザーに提供開始しました。生成したものはCanvaの編集画面で色や文字を通常のデザインと同じように調整でき、テンプレートや既存のHTMLからも作り始められます。生成時間は従来比で大幅に短縮され、チームでのリアルタイム共同編集にも対応しています。
プログラミングは専門職の仕事という前提が崩れつつあります。普段使いのツールに開発機能が組み込まれたことで、簡単なキャンペーンページや社内向けツールを現場担当者が自作できる時代に近づきました。まずは外部公開しない社内用途から試すと、リスクを抑えつつ効果を体感できます。
本日のまとめ
AIは安全に鍛える技術と、誰でも触れる裾野の広さが同時に進んでいます。守りを固めつつ、現場が小さく試せる環境を整えることが、これからのAI活用の分かれ道になりそうです。
コプラスは、中小企業のみなさまが安心してAIを業務に取り入れられるよう、導入設計から社内定着までを伴走支援しています。何から始めればいいか分からないという段階からお気軽にご相談ください。
