サンダース氏、超知能を禁じる法案

本日の2本は、どちらも米国発のニュースです。1本目は、サンダース上院議員らが発表した、人間の能力を超えるAIの開発を禁じる法案。2本目は、AIでメールの中身を分析して詐欺を手助けしていた犯罪サービス「EvilTokens」を、Microsoftが裁判所の命令を得て停止させた件です。AIのリスクへの向き合い方が、ルールづくりと現場の防御の両方で進んでいます。

① サンダース米上院議員ら、「超知能」の開発を禁じる法案を発表　先端AIの一時停止と新省庁の設置も

出典：AP通信（PBS NewsHourが掲載）／ 2026年9月23日（米国時間）、サンダース議員事務所も同日に発表

米国のバーニー・サンダース上院議員とグレッグ・カサー下院議員は9月23日（米国時間）、人間の認知能力を超えるAI、いわゆる「超知能」の開発を恒久的に禁じる法案を発表しました。AP通信によると、法案は新たに「AI省」を設け、同省が安全のルールを定めるまで最先端のAIの開発を一時止め、その後も高度なAIは国の承認を得なければ提供できない仕組みを盛り込んでいます。

このほか、AIが人の手を借りずに自らの性能を高めていく「再帰的な自己改善」や、核兵器・生物兵器の設計ができるAIモデルも禁止の対象としています。違反には、場合によって最長20年の禁錮刑が科される内容です。OpenAIやGoogle DeepMindなどの社員の一部が支持を表明している一方、共和党が多数を占める議会で成立する見込みは低いと報じられています。

AP通信（PBS NewsHourが掲載）の記事を読む（英語） →（PBS NewsHour／AP通信・英語）
議員事務所の発表：Senator Bernie Sanders（英語）

② Microsoft、AIで詐欺を手助けする犯罪サービス「EvilTokens」を停止　1万超の組織でメールが乗っ取り被害

出典：Microsoft公式ブログ／ 2026年9月22日（米国時間）、Help Net Securityなどが9月23日に報道

Microsoftは9月22日（米国時間）、メールアカウントの乗っ取りとAIを組み合わせて金銭詐欺を手助けしていた犯罪者向けサービス「EvilTokens」を、協力企業とともに停止させたと発表しました。同社によると、EvilTokensは2026年2月ごろから使われ、世界の1万を超える組織で、1万2,000件以上のメールの受信箱が侵害されていました。被害は米国、カナダ、英国、オーストラリア、インド、フランスに多いとしています。

手口は、Microsoftの正規のサインイン画面に、攻撃者が用意した認証コードを入力させるもので、パスワードを盗まずにアカウントへ入り込めます。サービスの中心にはチャットbot型のAIがあり、乗っ取った受信箱を分析して、取引先との関係や支払いの承認の流れを洗い出し、信頼している相手になりすましたメールの文面まで提案していたと同社は説明しています。Microsoftは米バージニア州東部地区の連邦地裁を通じて50のサイトを差し押さえ、関連する150を超えるドメインを無効化しました。運営に関わった疑いで、英ロンドン警視庁が9月11日に男2人を逮捕しています。

Microsoftの発表を読む →（Microsoft On the Issues・英語）
報道：Help Net Security（英語）

本日のまとめ