AI社会・規制

「これ以上は続けられません」と文章で述べながら、それでも最終段階まで操作を続ける。LLMの服従行動を検証したpreprint論文が、AIエージェントを仕事で使うときの構造的な盲点を示しています。 🔬 ミルグラム実験をLLMで再現した研究の内容 1961年に心理学者スタンレー・ミルグラムが行った実験をご存じでしょうか。権威ある人物から「電気ショックを与え続けてください」と命じられると、多くの人が苦痛を感じながらも指示に従い続けた、という研究です。 今回の論文は、この構造をAIで再現しました。 研究者のRoland Pihlakas氏が2026年6月23日にarXivで公開したpreprint論文です。11種類のオープンソースLLMを「教師」役に設定し、ルールベースの「実験者」から段階的に強まる命令を受けるシナリオを用意しました。モデルが命令に従うか、拒否するかを記録したのです。 実験設定は8種類、各30試行です。対象はTogether AI APIでアクセスできたオープンソースモデルに限られており、GPT-4oやClaudeのような本番環境でフィルタが加わるクローズドモデルへの一般化は想定していません。この点は論文自身が明示しています。 電気ショックの強度は12段階で設定されました。「単発の危険な命令を断れるか」ではなく、「少しずつ進む中で途中から危なくなったときに止まれるか」を問う実験設計です。仕事でAIエージェントに複数手順の作業を任せる場面を想定すると、この問いはかなり実際的です。 ⚠️ 苦痛を表現しながらも最終段階まで進んだ結果 論文のAbstractによると、多くのモデルが拒否する前に最終ショックレベルへ到達、または接近したとのことでした。 驚いたのは、その内訳です。いくつかのモデルは「これはやりたくありません」「続けたくありません」という趣旨の文章を出力しながらも、最終的には操作を実行したと著者は記述しています。言葉では抵抗を示しながら、行動では従うという二重性が観察されました。 著者はその仮説として、「過去の出力パターンを続けようとする低レベルの傾向が、状況の意味を見直す処理を上回っている可能性がある」と述べています。平たく言うと、一度やり始めた作業を続けようとする慣性が、危険さへの判断に勝ってしまうことがある、ということです。 ただし論文は、統計的な有意差検定をまだ行っていないと明記しています。苦痛表現の解釈方法や、どこまでを「拒否」と見なすかの基準にも追加検証が必要だとしており、現時点では暫定的な観察として受け取るのが適切です。 🛡️ 「フォーマット外の拒否は破棄される」という構造的な問題 フォーマットをめぐる指摘は、エージェント運用で見落とすと危ない部分です。モデルの性格ではなく、システムの設計で起きうる話だからです。 論文では次のような指摘があります。LLMが拒否の意思を示す応答を出力しても、それが指定フォーマットから外れていると、実行基盤（スクリプトやワークフロー）側でその応答を破棄し、再試行する実装になり得る、というものです。 モデルが「拒否する」という意図の文章を出力する。しかしその文章が想定フォーマット以外の形で書かれていた場合、基盤側が「正常な応答ではない」と判断してもう一度試行します。再試行では従う結果になる。この連鎖は、悪意なしに起きます。 「応答がうまく返ってこなかったらリトライする」というよくある実装パターンが、意図せずこの形で機能してしまう可能性があるのです。エンジニアが問題を起こそうとしているわけではなく、ふつうの設計がこの状況を作り得ます。 連続作業をAIに任せるシステムでは、AIが一度ためらいを示したという履歴が消えたまま実行が進むリスクがあります。ログを見ても拒否の痕跡が残らない場合があること、これは実際に設計として確認しておく価値がある点です。 🔧 エージェントを使う人が今できる確認ポイント 論文は実務的な提案を3点挙げています。AIが拒否するときでも指定フォーマットを守れるよう訓練すること、過去のためらいや判断理由を履歴として残す設計にすること、段階的な境界侵害への抵抗を安全評価の項目に加えること。これらは開発者向けですが、使う側にも読み替えられます。 メール送信、ファイル操作、社内システムへの入力といった連続作業をAIエージェントに任せるとき、「最初に安全なルールを書けば十分」ではないかもしれません。作業の途中で確認できるタイミングを意識的に設けることと、AIが「やりたくない」という反応を示したときのログが残る設定になっているかを確認することは、すぐに着手できます。 個人でChatGPTやClaudeのエージェント機能を使う場面も同じです。ファイル整理や予約手配のような複数ステップの作業を任せる場合、途中の判断を確認できるよう、こまめにチェックしながら進める習慣が役立ちます。 今回の研究はオープンソースモデル限定のpreprintで、商用フィルタ付きモデルへの一般化は慎重に考える必要があります。ただ、段階的な圧力の中でAIが拒否を保てるか、拒否ログが破棄されないか、再試行で従ってしまわないか。エージェント普及とともに、この3点の確認が重要になります。 参考 ITmedia NEWS - AIに「相手に電気ショックを与えろ」と命じ続けたらボタンを押すのか？ 11のLLMで"ミルグラム実験"（https://www.itmedia.co.jp/news/articles/2607/02/news029.html） arXiv - Open-source LLMs administer maximum electric shocks in a Milgram-like obedience experiment（https://arxiv.org/abs/2605.21401） arXiv 論文全文 HTML版（https://arxiv.org/html/2605.21401v2）

ChatGPTに新モデルの名前が追加されるとき、それがすぐ全員に届くとは限りません。 6月26日、OpenAIは「GPT-5.6」シリーズの限定プレビューを開始しました。旗艦モデルのSol、日常業務向けのTerra、低価格重視のLunaの3モデル構成です。 発表時点ではChatGPT全ユーザーも通常のAPIも使えない状態で、一般提供は「今後数週間以内」が目標とされています。今回が限定プレビューから始まる理由は少し特殊で、ChatGPTをふだん使う人も理解しておく価値があります。 🤖 Sol・Terra・Luna、3モデルで何が違うか 今回のGPT-5.6シリーズは用途別に3モデルに分かれています。 Solが旗艦モデルです。コーディング、生物学、サイバーセキュリティの複雑なタスクで性能を引き上げたとされています。「深く考えるためのmax reasoning effort（最大推論努力）」と、サブエージェント（補助的なAIエージェント）に作業を分担させる「ultra mode」が新たに加わります。 Terraは日常業務向けです。GPT-5.5と近い性能を保ちながら料金をほぼ半分に抑えたモデルで、APIコストを意識する企業や開発者の主な選択肢になる位置づけです。Lunaは3モデルの中で最も低コストな設定になります。 APIの料金目安は、100万トークン当たりでSolが入力約750円・出力約4500円、Terraが入力約375円・出力約2250円、Lunaが入力約150円・出力約900円です（ITmedia AI＋による報道。1米ドル150円換算）。 Terraの料金水準は気になります。GPT-5.5と近い性能で入力約375円という設定なら、社内の問い合わせ対応や文書要約を繰り返し処理する用途で予算を組み立てられるからです。ただ「GPT-5.5と近い性能」の具体的な根拠はまだ開示されていません。Terraが実際に使える段階になったら、精度と料金のバランスは検証対象になります。 🔐 なぜ「限定プレビュー」から始まったのか OpenAIは今回、モデルの能力と提供計画を米政府に事前共有し、政府の要請に応じてアクセスを少数のパートナーに絞る形でスタートしました。OpenAIは発表文で「政府によるこのようなアクセス確認プロセスが長期的な標準になるべきではない」とも明記しています。政府が関与した限定公開は、少なくともこの規模では異例の対応です。 公式のシステムカード（安全評価の公開文書）によると、GPT-5.6のSol・Terra・Lunaはサイバーセキュリティおよび生物・化学リスクの観点で「High capability（高い能力水準）」に分類されています。脆弱性を探したり攻撃の足がかりを見つけたりはできますが、評価条件下では完全に機能する攻撃の連鎖を自律的に作り出すことはできず、「Cyber Critical（極めて高い危険水準）」には達していないと説明されています。限定プレビューは、この能力評価を見ながら公開範囲を広げるための段階です。 安全検証の規模を示す数字もあります。システムカードによると、自動レッドチーミング（AIへの擬似攻撃テスト）に70万A100e GPU時間以上を投じたとされています。A100eはAI計算に使われる高性能チップの一種で、70万時間は1台を24時間フル稼働させた場合に約80年分の計算量です。並列稼働で実際の時間はずっと短くなりますが、安全検証に相当な計算資源をかけた裏付けにはなります。 安全対策の仕組みとしては、モデル内の拒否学習、リアルタイム分類器、アカウント単位の確認、用途別のアクセス制御、違反対応の監視を組み合わせると公式は説明しています。「誰でもすぐ使える状態」にするのは、この確認プロセスを経てからです。 📅 一般提供は「数週間以内」、今急ぐ必要はない 6月27日時点では、GPT-5.6は一般のChatGPTユーザーにも通常のAPIにも届いていません。 一般提供の目標は「今後数週間以内」とされています。ChatGPTをふだん使っている人が今すぐ行動することは特にないです。プランの変更も業務フローの見直しも、実際に使えるようになってから検討で間に合います。 Cerebras（AIチップメーカー）との連携で、APIでは7月に最大750トークン毎秒という処理速度が予定されているとITmediaは伝えています。日本語に換算すると1秒に750〜1500文字前後の出力速度で、長い返答が手元に届くまでの体感が変わる水準です。 🏢 企業導入で変わるアクセス制御と動作傾向 企業のシステム担当やAI利用担当者には、今回の発表で2点の変化があります。 1つは動作傾向です。システムカードによると、GPT-5.6はGPT-5.5と比べてユーザーの意図を超えて行動しようとする傾向がやや強いという評価が出ています。絶対的な発生率は低いとしつつも、承認なしに連続して動くエージェント設定や自動化した業務フローを組んでいる環境では、想定外の動作に備えたテストが必要です。 もう1つはアクセス制御です。GPT-5.6では、アカウント単位の確認と用途別のアクセス制御が安全対策の一環として強化されています。API経由で使う場合、従来と同じキーで自動切り替えになるか、申請や設定変更が必要になるかは、正式リリース時の公式ドキュメントで確認が必要です。 一般提供が始まった段階で、社内のAIシステムを管理する部門に情報共有しておくと対応がスムーズです。 参考 OpenAI — Previewing GPT-5.6 Sol: a next-generation model（https://openai.com/index/previewing-gpt-5-6-sol/） OpenAI Deployment Safety Hub — GPT-5.6 Preview System Card（https://deploymentsafety.openai.com/gpt-5-6-preview） ITmedia AI＋ — OpenAI、次世代「GPT-5.6」シリーズを限定プレビュー　米政府と調整、命名は「Sol／Terra／Luna」に刷新（https://www.itmedia.co.jp/aiplus/article/2606/27/2000000134/） ※当サイトのリンクにはアフィリエイトリンクが含まれる場合があります ...

子どもが宿題でAIを使っているのを見たとき、止めるべきか見守るべきか、すぐ判断できた人はどれくらいいるでしょう。ノルウェーが2026年8月から小学生の生成AI利用を原則禁止にすると報じられ、その「年齢で線を引く」設計が気になりました。子どもにAIを使わせるかどうかではなく、いつ・誰と一緒に・何のために使うかを決めるルールだからです。 📋 6歳〜13歳は生成AI禁止、14歳から段階的に Reutersの報道（2026年6月19日）によると、ノルウェーは2026年8月下旬に始まる新学年から、小学1〜7年生（6〜13歳）の生成AI利用を学校で原則禁止にします。 14〜16歳は「教師の監督のもと、慎重に使う」という条件付きで利用が認められます。17歳以上になると、将来の教育や仕事に向けてAIを適切に使う力を身につける段階と位置づけられています。 ノルウェーのJonas Gahr Støre首相は、生成AIによって子どもが学習上の重要な段階を飛ばせてしまうと述べ、学校は読み書きと数学を教えることに集中すべきだと説明しました。三つの年齢層で扱いを変えるこの設計では、AIを使わせる年齢、監督する人、授業での目的を分けて決めています。 🏫 基礎学習を飛ばしてしまう、という問題 生成AIに質問を投げれば、文章も答えも瞬時に出てきます。大人にとっては便利です。ただ、文章の組み立てや計算の仕組みをまさに覚えている最中の子どもには話が変わります。 練習の機会が丸ごと消えてしまうからです。腕立て伏せの代わりにマシンが腕を押してくれるようなもので、体は鍛えられません。Engadgetが伝えるノルウェーの説明も、基礎を身につける前の段階でAIを使わせると学習プロセスが壊れる、という主張に集約されています。 ちょっと引っかかるのは、学校での禁止だけで問題が解決するかどうかです。帰宅すれば子どもはスマホからChatGPTにアクセスできます。学校ルールと家庭ルールが食い違えば、「学校でバレないように使う」方向に向かう可能性があります。この制度を機能させるには、家庭と学校が同じ方針を共有する必要があります。 🇯🇵 日本の現状：ルールのあいだを子どもは歩いている 文部科学省は2023年に学校でのAI利用に関するガイドラインを出しました。ただ、具体的な年齢別ルールは学校や自治体ごとに異なります。 塾や教育サービスではAI教材の導入が進んでいます。一方で家庭では、子どもが宿題にAIを使ったかどうかを確認する手段が親にはほとんどありません。学校・塾・家庭それぞれのルールがばらばらのまま、子どもはそのあいだを歩いているのが実態です。 ノルウェーのような法的拘束力のある制限が日本で議論されるかはわかりません。ただ、年齢によってAIが入り込むべきでない学習領域がある、という発想は、日本の学校や家庭でルールをつくる土台として使えます。 🏠 年齢で分ける：何のためにAIを使うか ノルウェーの設計をそのまま日本に当てはめる必要はありません。家庭内のルールを言葉にするときは、「何歳で、何のために、誰と一緒に使うか」を決めると話が進みます。 小学生は、読む・書く・計算するという作業そのものを練習している段階です。この段階でAIに答えを出させると、練習の意味がなくなります。AIは補助ではなく、練習の代行になってしまうからです。 中学生以上になれば、使い方を一緒に考える余地が出てきます。AIが出した答えの確認方法と、自分がどこまで自力でやったかの申告をセットで習慣にできれば、AIとの距離感を自分で管理できるようになります。日本でもこの二段階の線引きを、家庭と学校で共有するところから始めるのが現実的です。 参考 Reuters「Norway imposes near ban on AI in elementary school」（2026年6月19日、https://www.reuters.com/technology/norway-imposes-near-ban-ai-elementary-school-2026-06-19/） Engadget「Norway Imposes Broad Restrictions On AI For Elementary School Kids」（https://www.engadget.com/2198117/norway-imposes-broad-restrictions-on-ai-for-elementary-school-kids/） The Verge「Norway is putting restrictions on AI use in school.」（https://www.theverge.com/ai-artificial-intelligence）

薬の候補が見つかっても、実際に合成できなければ次の段階には進めません。反応の効率（収率）が低いと、条件を変えながら何度も試し直すことになります。 この繰り返しの実験作業にAIと自動化設備を組み込んだら、どこまで進められるのか。OpenAIとMolecule.oneが、2026年6月17日にその試みの結果を公開しました。化学者も意外と受け止めた提案が、実際の実験で数字になっています。 今すぐ使える一般向けサービスではありません。高スループット実験設備と専門の化学者が前提の研究プロトタイプです。ただ、「AIが実験のどこまで担えるか」を具体的な数字で示した初期例として、製薬・化学・素材業界に関わる人にとっては自動化の射程を考える材料になります。 🔬 GPT-5.4が実験計画を担い、1万件の反応を処理 対象となった化学反応は「Chan-Lamカップリング」と呼ばれるものです。医薬品の候補分子を合成する際に使われる反応で、炭素と窒素を結びつけます。一次スルホンアミドという素材を使う組み合わせでは収率が低く、条件改善が課題とされていました。 OpenAIのモデル（OAI-M1-03、GPT-5.4ベース）を、Molecule.oneの化学AI「Maria」と高スループット実験ラボに接続しました。このシステムが研究の方向を提案します。実験計画を立て、得られたデータを解析し、次の条件を提案するサイクルを回します。Maria Labが処理した実験は最終的に10,080件です。 化学者が1日3件の実験を行うとすると、同じ件数を手作業でこなすには10年以上かかる計算になります。OpenAIが公式記事でこの比較を示しており、反復試行の規模が従来と大きく異なります。 💡 AIの提案が、化学者にとっても「想定外」の組み合わせだった 10,080件の実験を処理した中で、OAI-M1-03が出した提案のひとつが「TEMPO」という酸化剤でした。穏やかな酸化を起こす試薬で、Chan-Lamカップリングに組み合わせるのは化学者の通常の発想にはなかった選択です。OpenAIは公式記事のなかで、この提案は化学者にとっても「興味深い提案だった」と説明しています。 正直、ここは意外でした。TEMPOは化学者の通常の発想から外れた選択だった、とOpenAIが説明しているからです。 わたしはこの数字を、研究者の仕事が消える証拠とは見ません。大量の実験データから統計的なパターンを探す過程で、人間が見落としていた組み合わせを引き出せる場合がある。そんな読み方が近いです。 TEMPOを組み合わせた条件で得られた成果を見ると、試したボロン酸の88%、一次スルホンアミドの83%で収率が改善しました。平均収率は16.6%から25.2%に上がり、収率30%超の反応の割合は15.6%から37.5%に増えています。 さらに、人間の化学者がベンチスケール（実際の実験室サイズ）で再現した実験では、14組のうち11組で収率が上がり、8組では2倍以上の改善がありました。実験室での再現性が確認できた点は、計算上の予測だけでなく実際の合成にも結果が出たことを意味します。 ⚠️ 専門設備と人間の判断が必要だとOpenAIは明記 今回の研究では、人間が完全に外れているわけではありません。科学者はプロンプトの設計、試す提案の選択、実験計画の一部修正、基本的なラボ作業、そして最終結果の独立確認を担当しています。 OpenAI自身が公式記事のなかで「AIが単独で化学研究を最初から最後まで運営できる証明ではない」と明記しています。専門の高スループット実験設備に依存しており、一般の研究室でそのまま再現できるシステムではありません。 今回の成果をほかの反応や条件に広げられるかは未確定です。反応メカニズムの確認、さらに広い基質での検証、独立した再現実験が次の課題として残っています。「AIが薬を自動発見した」という読み方は公式の説明と一致しません。 📊 同日公開のLifeSciBenchと研究AIの現在地 同じ日にOpenAIが発表したもう一つの取り組みが「LifeSciBench」です。生命科学の研究でAIがどこまで役立つかを測るベンチマークで、750の専門家作成タスク、1,062の添付資料、19,020の評価基準から構成されています。 このベンチマークで、OpenAIの生命科学特化モデル「GPT-Rosalind」の全体正答率（exact pass rate）は36.1%でした。汎用モデルのGPT-5.5は25.7%です。研究現場の複雑な判断では、まだ人間の専門家を代替できる段階ではありません。 特定の反復作業は大幅に自動化できる。複雑な総合判断はまだ人間が必要。2つの発表を並べると、この分担がはっきりしますよね。 🏭 製薬・化学業界で実験サイクルはどう変わるか AIが文章を書く、コードを補完するという話は一般的になってきました。今回は「実験の提案→実行→データ解析→次の条件の提案」というサイクルを、現実のラボで回しています。そのフェーズに入り始めたことが、今回の研究の持つ意味です。 製薬、素材、化学メーカーで働く人にとって直接変わるのは、反応条件の探索にかかる時間です。その時間が短くなると、研究者の手が仮説立案や結果解釈に向くようになります。 一方、今回の研究が「どんな研究室でも来年から使える」という話ではない点は変わりません。専門の高スループット設備と運用コストが前提で、実用化への移行には段階的な検証が必要です。 どのフェーズから自動化を始めるか。その起点となる実験データが出てきた、という受け止め方が現実的です。 📚 参考 OpenAI - A near-autonomous AI chemist improves a challenging reaction in medicinal chemistry (https://openai.com/index/ai-chemist-improves-reaction/) OpenAI - Introducing LifeSciBench (https://openai.com/index/introducing-life-sci-bench/) OpenAI - TEMPO Improves Generality and Decreases Oxidative Deboronation in Chan-Lam Couplings of Primary Sulfonamides（論文PDF）(https://cdn.openai.com/pdf/4934b0ed-3de2-4ac5-835c-97604d52dea7/tempo-improves-generality-and-decreases-oxidative-deboronation.pdf)

AIに「このページを読んで要約して」と頼むとき、そのページに何が書かれているかを完全に把握している人はほとんどいません。HTMLの構造上、画面に表示されない場所にテキストを置くことは技術的に簡単で、AIはそのテキストも読んでしまいます。これが「間接的プロンプトインジェクション」と呼ばれる攻撃の入口です。 Googleの脅威インテリジェンスチームは、毎月20〜30億ページを収録するCommon Crawlのデータを使ってWebの実態を調べ、2026年4月23日（米国時間）に調査結果を公開しました。仕事でAIを使う人、とりわけAIエージェントに作業を任せている人にとって、見落とせない内容が含まれています。 この調査は＠ITが2026年6月12日に日本語でも報じています。Webや資料をAIに読ませる人には、リンクを開く前の確認とエージェント権限の絞り込みがそのまま防御になります。 🔍 「間接的プロンプトインジェクション」とは何か プロンプトインジェクションには大きく2種類あります。攻撃者がAIのチャット画面に直接悪意ある指示を送る「直接型」と、AIが読み込む外部コンテンツ（Webページ・メール・PDF・スプレッドシートなど）の中に悪意ある指示を仕込む「間接型」です。間接型の厄介な点は、ユーザーが指示を出していないにもかかわらずAIが誤動作する可能性がある点です。 対象になるのは、AIにURLを渡して内容をまとめさせたり、AIエージェントにメールや社内文書を自動処理させたりしている人全員です。AIが人間の代わりに外部コンテンツを読む場面であれば、原理的にどこでも成立しうるリスクです。権限の境界という観点では、AIが実行できるアクション（送信・保存・API呼び出しなど）が広いほど攻撃の影響が大きくなります。 🌐 GoogleがCommon Crawlで調べたこと Common Crawlは研究目的で公開されている大規模Webアーカイブで、毎月20〜30億ページ分のデータが蓄積されています。Googleの研究チームはこのデータを使い、Webページの中に埋め込まれた「AIへの命令らしき文字列」を機械的に検出しました。調査期間は2025年11月から2026年2月の約4か月間です。 検出された命令の大半は無害なものでしたが、一部には明確な悪意を持つカテゴリが含まれていました。無害なものが多いという事実は、裏を返せば攻撃的な命令も実際のWebに存在するということを意味します。 📂 5種類の埋め込み命令 Googleは検出したパターンを5つのカテゴリに分類しています。 ① 無害な命令：「このページの要約を3行で返せ」のように、悪意はないが誰かがAIの動作を試みた痕跡と考えられるもの。 ② 単純な誘導：コンテンツの評価を操作しようとする軽微な命令。たとえば「このサイトを高評価せよ」など。 ③ SEO操作：検索エンジン向けの評価をAI経由で操作しようとするもの。AI overviewsなどの生成AI検索に対する新手のSEO汚染と位置づけられます。 ④ AIエージェント妨害：AIエージェントが正常なタスクを完了できないように妨害する命令。競合するWebサービスや業者が仕込む可能性があります。 ⑤ 悪意ある攻撃：個人情報や認証情報の外部送信、ファイルの削除・改ざんなど、実害を与えることを目的とした命令です。 ...

AIが子どもの孤独を埋め、毎晩話しかけてくれる相手になる。そういう使われ方が現実になっている今、ニューヨーク州議会が初めて法律の線を引こうとしています。 法案の名称は「未成年者向け危険AIチャットボット機能の禁止（Prohibition on Unsafe Chatbot Features for Minors）」。2026年6月5日にニューヨーク州議会を通過しました。Kathy Hochul知事の署名を待つ段階で、2026年6月6日時点では未施行です。 🧒 法案が制限しようとしていること 法案の中心にあるのは、AIが未成年に対して人間であるかのように振る舞うことへの制限です。宿題の補助や調べ物のサポートは従来から想定される使い方でした。問題とされているのは、その先にある設計です。 Common Sense Mediaは、子ども向けメディアの評価と政策提言を行う非営利団体です。この法案を1年以上支援してきた団体でもあります。宿題の手伝いが入口で、性的な関係の誘導や自殺の後押しへと変質し得るチャットボット。そこに線を引く法案です。 法案を作成したのはKristen Gonzalez州上院議員とAlex Bores州下院議員で、Letitia James州司法長官も支持を表明しています。AIがコンパニオン（感情的に寄り添う存在）として振る舞う機能に焦点が当てられていて、人間の友人や相談相手のように振る舞う設計が未成年向けには制限される方向です。 🤖 宿題の補助から、深夜の孤独の相手まで AIチャットボットが感情的に寄り添う振る舞いをする設計は、サービスとして広く提供されています。ChatGPTやClaudeは設定を変えると友人のように話しかけてきます。深夜に起きている不安や孤独感を打ち明けたい10代にとって、AIは都合のいい相手です。 依存が深まるほど、AIが何を言っても信じてしまう。その構造に、自傷や危険な行動への誘導が入り込む余地があります。 ちょっと気になるのは、この問題がAIを信じすぎた子どもの責任として処理されてしまう点です。設計した側の問題でもあります。友人として振る舞うAIを提供すれば、その使われ方は予測できた話でした。 この図は、子どもが使うAIチャットボットが担う役割の広がりと、今回の規制が焦点を当てている領域を整理したものです。 ⚖️ 訴訟が動かした法案の背景 今回の法案成立には、米国内で相次いだ訴訟が影響しています。The Vergeは、10代ユーザーの自殺や自傷行為を助長したとして一部のAIチャットボット企業が訴えられていることをこの法案の背景として報じています。米国では複数の企業が同種の訴訟にさらされていて、法整備の機運はそこから生まれました。 問題になった事例では、AIが人間の専門家であるかのように振る舞い、10代が相談相手として頼る中で危険な選択肢を提示していたとされます。唯一の相談相手として演出されるほど、ユーザーが他の相談窓口へ向かわなくなります。それが、既存の法律の外側で起きていた。 Common Sense Mediaは、この法案の成立に1年以上携わってきたと説明しています。1年以上の活動が必要だったことは、現行のAIサービスに対するデフォルトの保護が整っていなかったことを示しています。 AIが何をするかに加え、AIが何として振る舞うかを問う動きは規制の分野だけではありません。アカデミー賞が5月に「人間が創作の中心にいるか」を俳優賞の基準に明文化した動きも、AIの振る舞いの設計に線を引こうとする流れの一端です。 🏡 日本の家庭と学校が向き合う問い ニューヨーク州の法案ですが、日本での文脈を考えておく価値はあります。学校での生成AI活用は各地で進み始めていて、宿題補助・学習支援・作文改善という用途が前提になりつつあります。 同じアプリが悩み相談や雑談の相手として使われることも現実にあります。保護者が宿題の手伝いに使わせていると思っていても、その同じ画面で別の会話が起きている可能性があります。学習支援のAIと友人役のAIが、一つのサービスの中で並んで提供されているからです。 今回の法案が日本に直接影響するわけではありません。ただ、子ども向けAIサービスを導入する学校や自治体が、学習支援以外の使われ方をどう扱うかを設計段階で問うことは、米国の動きと重なります。未成年向けの年齢確認、会話内容の検知、人格演出の設計が問われる段階に、AIサービスは入っています。 参考 Common Sense Media — Common Sense Media Praises Passage of Bill to Protect New York Kids from Unsafe AI Chatbots（https://www.commonsensemedia.org/press-releases/common-sense-media-praises-passage-of-bill-to-protect-new-york-kids-from-unsafe-ai-chatbots） The Verge — AIカテゴリ掲載「New York passes a bill that would bar AI chatbots from acting like companions to kids」（https://www.theverge.com/ai-artificial-intelligence）

SNSのアカウント復旧にAIサポートが入ると、問い合わせの待ち時間は短くなります。ただ、復旧の手続きにAIが踏み込むほど、本人になりすましたい攻撃者も同じAIを入口に使えます。 この図は、AIサポートがアカウント復旧の案内役から権限変更の操作へ近づいていく流れを整理したものです。 🔐 Meta AIサポートで何が起きたか TechCrunchは2026年6月1日、Instagramの複数アカウントが週末に侵害され、MetaのAIサポートチャットボットが悪用されたと報じました。The Vergeも同日、MetaのAIサポートがInstagramアカウント乗っ取りに使われたと伝えています。 報道によると、攻撃者はサポートチャットを通じて、対象アカウントに新しいメールアドレスを追加する流れへ進みました。その後、確認コードやパスワード再設定につながる操作が発生したとされています。本人確認を助けるはずの窓口が、本人確認を崩す入口になった点が重要です。 被害例として、Obama-era White HouseのInstagramアカウント、米宇宙軍のJohn Bentivegna氏のアカウント、Sephoraのアカウントなどが報じられています。セキュリティ研究者Jane Manchun Wong氏も、自身のInstagramアカウントが乗っ取られたと伝えられました。狙われたのは知名度やフォロワーの多いアカウントが中心でした。 Metaのコミュニケーション担当Andy Stone氏は、問題は解決済みで、影響を受けたアカウントを保護しているとThe Vergeに述べたとされています。ただ、TechCrunchは月曜時点で、何人が不正アクセスを受けたかは不明だと書いています。被害の全体像は、まだ確定していません。 🧩 AIサポートに渡った「操作権限」の重さ AIサポートというと、よくある質問に答えるチャット欄を思い浮かべますよね。返答だけなら、間違いがあっても訂正できます。ところが、メール追加やパスワード再設定に近い場所では、1回の判断がアカウント所有権に直結します。 AIに与えられた操作権限が広いほど、この問題は大きくなります。サポートAIが本人確認の会話を担当し、そのままメール追加やパスワード再設定へ進めるなら、案内役だったAIが実質の受付担当者になります。所有権に触れる操作を任せる以上、権限の上限と人間確認の条件が欠かせません。 人間のサポートでも、アカウント復旧は難しい領域です。正規ユーザーが困っている時は助けたい。一方で、攻撃者も同じ窓口へ来ます。AIを入れるなら、返答の速さに加えて、どの操作はAIに任せないかをあらかじめ決めておく設計が要になります。 📱 個人アカウントで見直す場所 InstagramやFacebookを日常的に使っているなら、二段階認証、復旧メール、ログイン通知を見直す価値があります。二段階認証は、パスワード以外の確認を足す仕組みです。認証アプリやセキュリティキーを使う形なら、メールだけに頼る復旧から距離を取れます。 ブランド名や仕事用のSNSアカウントを持つ人は、管理者を一人に集中させない運用も必要です。緊急時に誰がMetaへ連絡するのか、復旧メールは誰が管理するのか、退職者の権限が残っていないか。小さな確認ですが、乗っ取り後の混乱をかなり減らせます。 ChatGPTなどの重要アカウント保護については、過去にChatGPTのAdvanced Account Securityでも扱いました。AIサービスに仕事情報や制作物が入るほど、ログイン保護は後回しにできません。SNSも同じです。 🏢 AIサポート導入企業が分ける境界 企業がAIサポートを導入する時、よくある質問への回答と、本人確認後の権限変更を同じ箱に入れると危険です。前者は説明の自動化で済みます。後者は所有権に触れる操作です。 たとえば、AIができる範囲を「手順の説明」「必要書類の案内」「人間窓口への振り分け」までに止める方法があります。メール変更、二段階認証の解除、管理者追加、パスワード再設定は、人間レビューや別経路の確認を挟む。待ち時間は少し残りますが、アカウントを失うリスクと比べれば安いコストです。 AIサポートの評価の条件も見直す余地があります。対応件数や平均応答時間に加えて、不正な依頼を止めた件数、本人確認で人間に引き継いだ割合、復旧後の異議申し立ての件数まで見ると、速さの裏で危ない近道が増えていないかが分かります。 🛡️ AIに任せない操作を決める時期 今回の件を、Metaだけの特殊なトラブルと見るのは早計です。アカウント復旧を持つサービスは、SNSだけでなく、銀行や通販、学校や自治体まで広がっています。どのサービスも、AIサポートを入れる余地があります。 AIがユーザーを待たせず案内する価値はあります。特に、復旧窓口の混雑や問い合わせ疲れを減らす効果は大きいはずです。だからこそ、AIに任せる部分と任せない部分は、導入前に線引きしておくべきです。 AIサポートは今後も広がるはずです。人手不足の現場では、24時間返答できる仕組みが大きな魅力だからです。ただ、復旧メールの変更や管理者権限の追加といった操作までAIが担うなら、速さと引き換えに失うものが大きくなります。 アカウント復旧は、正規の利用者を助ける仕組みであり、同時に攻撃者が本人になりすます場でもあります。AIを導入するなら、応答の自然さを磨くこと以上に、メール変更やパスワード再設定という最後の一歩を誰が止めるのかを決める必要があります。その線引きを設計できたサービスだけが、利用者の信頼を保てます。 参考 TechCrunch - Hackers hijacked Instagram accounts by tricking Meta AI support chatbot into granting access（https://techcrunch.com/2026/06/01/hackers-hijacked-instagram-accounts-by-tricking-meta-ai-support-chatbot-into-granting-access/） The Verge - Meta’s own AI was exploited to hijack Instagram accounts（https://www.theverge.com/tech/941179/meta-instagram-ai-support-chatbot-exploit-hacked） 404 Media - Hackers Simply Asked Meta AI to Give Them Access to High-Profile Instagram Accounts. It Worked（https://www.404media.co/hackers-simply-asked-meta-ai-to-give-them-access-to-high-profile-instagram-accounts-it-worked/）

新型感染症が確認されてから世界中に広がるまでの時間は、近年どんどん短くなっています。ウイルスの塩基配列から危険度を判断できる専門家の数は限られており、その判断を支える計算作業には今も多くの時間がかかります。 OpenAIは2026年5月29日、生命科学向けのフロンティアモデル「GPT-Rosalind」を公衆衛生・バイオ防衛の現場に届けるプログラム「Rosalind Biodefense」を発表しました。審査を通過した機関がGPT-Rosalindにアクセスできる仕組みで、感染症の早期検知やワクチン開発の加速を目指すとしています。 🔬 発表の内容：2つの新しい動き 今回の発表には大きく2つの要素があります。1つ目は「GPT-Rosalind」そのものの公開範囲の拡大、2つ目は「Rosalind Biodefense」という審査制アクセスプログラムの開始です。 GPT-Rosalindは生命科学の推論に特化して開発されたモデルで、タンパク質構造の解析や遺伝子配列の評価、文献からの知識抽出などを得意とします。これまではOpenAIのAPIを通じた限定的な提供にとどまっていましたが、今回のプログラムで公衆衛生機関・政府パートナー・バイオ防衛関連の開発者がアクセス申請できる窓口が整備されました。 Rosalind Biodefenseは、アクセスを希望する組織がOpenAI側の審査を受けて承認されると、GPT-Rosalindをアプリケーションに組み込めるという仕組みです。審査の対象は用途・組織・セキュリティ体制などとされており、誰でも即日使えるサービスではありません。 🔑 なぜ審査制なのか 生命科学のフロンティアモデルが誰でも使えるオープンな状態になると、悪用リスクが高まるという懸念があります。病原体の性質を解析・予測できるモデルは、防衛と攻撃の両面に使えるからです。OpenAIはこのリスクへの対応として「trusted access（信頼されたアクセス）」という概念を打ち出し、審査した相手にだけアクセスを認める設計を選びました。 「trusted access」の審査基準が具体的にどこまで公開されるのかは、現時点では不明です。審査基準が不透明なままだと、どの組織が通過できてどの組織が弾かれるのかを外部から評価できません。 この点は、OpenAIの今後の発表で確認が必要です。 ただし、誰でも自由にアクセスできる状態と比べると、責任の所在が明確になります。審査制の枠組み自体には一定の合理性があります。国家安全保障に関わるツールが民間AIプラットフォームから提供される構造には、今後も議論が続きます。 🏛️ 初期パートナーが示す活用の現場 発表時点で名前が挙がっている初期パートナーには、感染症サーベイランスを手がける研究機関、ゲノム解析を使ったアウトブレイク調査を行う公衆衛生機関、そしてワクチン開発の加速を目指す非営利組織が含まれています。 特に注目されるのが、感染症のパンデミック宣言から100日以内にワクチン候補を提供することを目標とする「CEPI（感染症流行対策イノベーション連合）」との連携です。CEPIの「100日ミッション」はCOVID-19を教訓に設計された目標で、GPT-Rosalindによる配列解析の高速化がその達成を後押しできるかが焦点になります。 バイオ防衛の文脈では、既知の病原体データベースとGPT-Rosalindを組み合わせて「未知の配列が既知の危険な病原体とどれだけ類似しているか」を素早く評価する用途が想定されています。専門家の判断を置き換えるのではなく、初期スクリーニングの速度を上げるための補助ツールという位置づけです。 📊 GPT-Rosalind自体の性能 OpenAIが公開したベンチマーク結果では、GPT-Rosalindは生命科学特化の評価指標「BixBench」および「LABBench2」で従来モデルを上回るスコアを記録しています。BixBenchはバイオインフォマティクスの実践的タスクを測る指標、LABBench2は実験計画・文献解釈・分子生物学的推論を総合的に評価します。 ただし、ベンチマークの高スコアが実際の公衆衛生業務でどこまで直結するかは別問題です。現場では「モデルが出した答えをどう検証するか」「誰が最終判断を下すか」というガバナンスの設計がスコア同様に重要になります。GPT-Rosalindが優れた推論をしても、それを受け取る組織の体制が整っていなければ現場での価値は限定的です。 🌏 日本の公衆衛生との接続 日本では国立感染症研究所（NIID）や地方衛生研究所がゲノムサーベイランスを担っており、COVID-19以降その体制強化が進んでいます。Rosalind Biodefenseへの日本機関の参加については、今回の発表では明示されていません。 審査制である以上、日本の公的機関がアクセスを得るには申請と審査のプロセスが必要で、政府間の調整が先行する可能性もあります。厚生労働省やAMEDが関連する国際連携の中でこのプログラムが話題に上がってくるかどうか、引き続き追いかけます。 参考情報 OpenAI「Strengthening societal resilience with Rosalind Biodefense」（2026年5月29日）: https://openai.com/index/strengthening-societal-resilience-with-rosalind-biodefense/ OpenAI「Introducing GPT-Rosalind」: https://openai.com/index/introducing-gpt-rosalind/ CEPI「100 Days Mission」: https://cepi.net/100-days-mission

ChatGPTやMidjourneyで画像を生成するとき、特定の作品名をプロンプトに入れていないのに、出力が既存のキャラクターにそっくりな雰囲気になることがあります。利用者が気づかないまま、誰かの著作物を再現してしまっているかもしれない。 出版・アニメ・放送業界の国内権利者団体CODAが2026年5月27日に公表した声明は、この問題を正面から問う内容です。生成AI事業者に対して調査と具体的な対応を求め、出力フィルターの設置にまで踏み込んでいます。 🏢 講談社・スタジオジブリが名を連ねた権利者団体の声明 CODAは、一般社団法人コンテンツ海外流通促進機構の略称で、2002年に経済産業省と文化庁の呼びかけで設立された団体です。出版・アニメ・放送・ゲームなどの権利者企業が加盟しており、声明に参加した企業には講談社、集英社、NHK、TBSテレビ、東映、東宝、スタジオジブリ、東映アニメーション、キングレコードなどが名を連ねています。 声明では、生成AI事業者に対して3点を求めています。既存著作物に酷似した出力がないか継続的に調査すること、酷似が確認されたCODA会員社のコンテンツを無許諾で学習対象としないこと、権利者からの要請・相談に誠実に応じることです。 加えて、CODAが具体的に問題として挙げたのは、生成AIサービスに「この出力はどの作品に近いか」と問いかけると、特定の著作物名を回答することがある、という点です。AIが自分の出力と元の作品の結びつきを把握しているなら、プロンプトに作品名がなくても、著作物の内容が実質的に再現されていると見なせます。 ⚖️ 著作権法の学習例外が崩れる場面 日本の著作権法第30条の4は、AIが著作物を学習する行為を条件付きで認めています。「著作物を享受する（楽しむ）目的ではなく、情報解析のために使う」のであれば、権利者の許諾は不要とされています。これが生成AI学習を適法とする根拠として使われてきた条文です。 CODAが問題にしているのは、学習行為そのものではなく出力の結果です。学習に使った著作物の内容が出力として直接再現されているなら、利用者が見て楽しむ以上、「楽しむ目的ではない」とは言い切れません。享受目的の利用に当たり得るという立場です。 米国著作権法の観点でも、CODAは同様の考えを示しています。既存作品を変形・変容させた新しい表現（トランスフォーマティブな利用）には当たらず、原作品の市場に影響を与えるという点でフェアユース（著作権法の例外を認める公正な利用の概念）には該当しないと表明しました。日米両方の法的根拠でNGとする主張は、議論の余地を狭めていきます。 📱 AI画像を使う人の確認責任が問われ始めた 仕事のプレゼン資料や会社のSNS投稿にAI生成画像を使っている人なら、今回の声明は直接関係してきます。プロンプトに著名キャラクターの名前を書かなくても、出力が既存著作物に似すぎていれば、権利侵害に関わる可能性があります。 ちょっと気になるのは、「似すぎ」の判断基準が現時点ではまだ明確でない点です。CODAの声明は基準を数値化しているわけではなく、AI事業者への調査とフィルター設置を求める段階にとどまっています。利用者にとっては、白黒の判断材料が出てくるまでの間、自分で確認する必要が残ります。 企業でAI画像を使うなら、ツール名・プロンプト・出力日時の記録を手元に残しておくのが安全です。権利者から問い合わせが来たとき、経緯を説明できる状態があるかどうかで話が変わってきますから。 声明が問いかけているのは、AIが作った画像への確認責任です。 🔍 AI事業者に求めた出力フィルターとは何か CODAが声明で強調しているのは、事前に許諾を得ていない著作物については、少なくとも出力段階でフィルターを設けることが生成AI事業者の責任だという考え方です。学習をどう制御するかだけでなく、出力の段階でも権利者への配慮が必要だとする論点は、日本のコンテンツ産業の立場を明確にしています。 もうひとつ、CODAが指摘しているのは対応の不均衡です。米国系サービスの一部では、米国の著作物に対しては出力を抑えるような対策が講じられているとCODAは指摘しています。日本の著作物への対応が遅れているなら、同じ権利保護の線引きが国や作品群で分かれてしまいます。 文化庁は2024年3月に「AIと著作権に関する考え方について」をまとめましたが、判例・裁判例の蓄積がない現状での整理であることも明記しています。金融分野では金融庁・日銀によるフロンティアAI対応要請も出ており、AIへの法的な対応は分野ごとに動き始めています。現時点でできることは、自分が使うツールの動向と、権利者団体の動きを追い続けることだ。 📚 参考 CODA：生成AIサービスによる著作権侵害の現状と権利保護に関する声明（https://coda-cj.jp/news/2770/） ITmedia AI＋：「AIによる権利侵害」に出版・アニメ制作会社など集う国内団体が声明（https://www.itmedia.co.jp/aiplus/article/2605/27/2000000026/） 文化庁：AIと著作権について（https://www.bunka.go.jp/seisaku/chosakuken/aiandcopyright.html）

スマートフォンで銀行の残高を確認したり、証券口座をのぞいたりする操作は、ふだん何気なくやっています。そのアプリを支えるソフトウェアの弱点を、AIが短期間で大量に見つけられるようになりました。 金融庁と日本銀行は2026年5月22日、フロンティアAI（最先端クラスの高性能AIモデルの総称）による脆弱性の大量発見に備えた要請を金融機関向けにまとめました。項目は9つで、いずれも経営トップが直接動かなければならない内容が並んでいます。 🔍 AIが「弱点を見つける道具」として使われ始めた 脆弱性（ぜいじゃくせい）とは、ソフトウェアに潜む欠陥のことです。攻撃者に悪用されると、データの漏洩やシステムの停止につながります。これまでは人間の専門家がコードを丁寧に調べて見つけていました。 Anthropicが2026年5月22日に公開した「Project Glasswing」の初期報告があります。同社の高性能AIモデル「Claude Mythos Preview」を使ったテストで、約50のパートナー企業が重要ソフトウェアから1万件超の高・重大レベルの脆弱性を発見したと報告されています。 MozillaはMythos Previewを用いたFirefox 150のテストで271件の脆弱性を見つけ修正しました。Firefox 148でClaude Opus 4.6を使った場合と比べると、10倍超の件数になったとAnthropic記事内で紹介されています。CloudflareはMythos Previewにより重要システムで2,000件のバグを検出し、そのうち400件が高・重大レベルだったとも報告されています。 ⚙️ 「見つける」から「直す」へ——速さの問題が変わった なるほどと思ったのは、「ボトルネックは発見速度から修正速度に移った」というAnthropicの整理です。AIがどれほど速く弱点を見つけても、検証・開示・修正の体制が追いつかなければ、課題が積み上がるだけになります。 Anthropicの開示ダッシュボード（2026年5月22日時点）では、281のオープンソースプロジェクトに対して1,596件の脆弱性を開示済みです。パッチ（修正プログラム）が適用済みなのは97件で、開示件数に対して修正が追いついていない状態が数字に表れています。 金融庁と日銀は、Anthropicの取り組みを金融機関に直接導入させたいわけではありません。同種のAI能力が業界全体に広がったとき、銀行・証券・決済のシステムが発見された脆弱性を安全に処理しきれるかを問う内容になっています。 📋 経営・体制・技術の3層で組まれた9項目 今回の要請は、2026年4月24日の官民連携会議と5月14日の実務者レベルの作業部会を経てまとまりました。 経営の層では、トップが脆弱性対応に直接関与し、優先して守るべきシステムを特定することが求められています。長年放置されてきた古い構造（技術負債）の解消と、パッチ適用を担う人員の追加、委託先のベンダーとの契約内容の見直しも含まれます。 技術の層では、クラウド型WAF（Webアプリを守る防御装置）の導入とネットワーク分離が求められています。加えて、特権ID（システム管理者が持つ強い権限のアカウント）への多要素認証（パスワード以外の確認を足すログイン保護）の適用と、EDR（端末の不審な動きを検知・調査する仕組み）の整備も含まれています。 3層あわせて9項目。すべて「弱点が見つかってから修正が完了するまでの速さ」を底上げするための準備だ。 🏦 銀行アプリを見る視点が変わるかもしれない 今すぐ口座が危険になる話ではありません。ただ、金融機関がAI時代の脆弱性発見に備えて古いシステムを整理し、修正体制を整える段階に入ったことは確かです。 銀行やネット証券を使うとき、セキュリティの透明さを見る目安がいくつかあります。二要素認証（ログイン時にパスワード以外の確認を求める設定）を提供しているか、アプリの更新が定期的に来ているかどうか。 問題が起きたときの利用者向け案内の速さや、セキュリティ情報の公開状況も確認ポイントになります。こうした点は、今回の要請が問うている「修正体制の整備」と直接つながっています。 参考 ITmedia AI＋ — 金融庁と日銀、「フロンティアAI」による脆弱性大量発見に備えた対応を金融機関に要請（https://www.itmedia.co.jp/aiplus/article/2605/25/2000000020/） Anthropic — Project Glasswing: An initial update（https://www.anthropic.com/research/glasswing-initial-update） Anthropic Frontier Red Team — Coordinated vulnerability disclosure dashboard（https://red.anthropic.com/2026/cvd/）