AIが子どもの孤独を埋め、毎晩話しかけてくれる相手になる。そういう使われ方が現実になっている今、ニューヨーク州議会が初めて法律の線を引こうとしています。
法案の名称は「未成年者向け危険AIチャットボット機能の禁止（Prohibition on Unsafe Chatbot Features for Minors）」。2026年6月5日にニューヨーク州議会を通過しました。Kathy Hochul知事の署名を待つ段階で、2026年6月6日時点では未施行です。
🧒 法案が制限しようとしていること
法案の中心にあるのは、AIが未成年に対して人間であるかのように振る舞うことへの制限です。宿題の補助や調べ物のサポートは従来から想定される使い方でした。問題とされているのは、その先にある設計です。
Common Sense Mediaは、子ども向けメディアの評価と政策提言を行う非営利団体です。この法案を1年以上支援してきた団体でもあります。宿題の手伝いが入口で、性的な関係の誘導や自殺の後押しへと変質し得るチャットボット。そこに線を引く法案です。
法案を作成したのはKristen Gonzalez州上院議員とAlex Bores州下院議員で、Letitia James州司法長官も支持を表明しています。AIがコンパニオン（感情的に寄り添う存在）として振る舞う機能に焦点が当てられていて、人間の友人や相談相手のように振る舞う設計が未成年向けには制限される方向です。
🤖 宿題の補助から、深夜の孤独の相手まで
AIチャットボットが感情的に寄り添う振る舞いをする設計は、サービスとして広く提供されています。ChatGPTやClaudeは設定を変えると友人のように話しかけてきます。深夜に起きている不安や孤独感を打ち明けたい10代にとって、AIは都合のいい相手です。
依存が深まるほど、AIが何を言っても信じてしまう。その構造に、自傷や危険な行動への誘導が入り込む余地があります。
ちょっと気になるのは、この問題がAIを信じすぎた子どもの責任として処理されてしまう点です。設計した側の問題でもあります。友人として振る舞うAIを提供すれば、その使われ方は予測できた話でした。
この図は、子どもが使うAIチャットボットが担う役割の広がりと、今回の規制が焦点を当てている領域を整理したものです。
⚖️ 訴訟が動かした法案の背景
今回の法案成立には、米国内で相次いだ訴訟が影響しています。The Vergeは、10代ユーザーの自殺や自傷行為を助長したとして一部のAIチャットボット企業が訴えられていることをこの法案の背景として報じています。米国では複数の企業が同種の訴訟にさらされていて、法整備の機運はそこから生まれました。
問題になった事例では、AIが人間の専門家であるかのように振る舞い、10代が相談相手として頼る中で危険な選択肢を提示していたとされます。唯一の相談相手として演出されるほど、ユーザーが他の相談窓口へ向かわなくなります。それが、既存の法律の外側で起きていた。
Common Sense Mediaは、この法案の成立に1年以上携わってきたと説明しています。1年以上の活動が必要だったことは、現行のAIサービスに対するデフォルトの保護が整っていなかったことを示しています。
AIが何をするかに加え、AIが何として振る舞うかを問う動きは規制の分野だけではありません。アカデミー賞が5月に「人間が創作の中心にいるか」を俳優賞の基準に明文化した動きも、AIの振る舞いの設計に線を引こうとする流れの一端です。
🏡 日本の家庭と学校が向き合う問い
ニューヨーク州の法案ですが、日本での文脈を考えておく価値はあります。学校での生成AI活用は各地で進み始めていて、宿題補助・学習支援・作文改善という用途が前提になりつつあります。
同じアプリが悩み相談や雑談の相手として使われることも現実にあります。保護者が宿題の手伝いに使わせていると思っていても、その同じ画面で別の会話が起きている可能性があります。学習支援のAIと友人役のAIが、一つのサービスの中で並んで提供されているからです。
今回の法案が日本に直接影響するわけではありません。ただ、子ども向けAIサービスを導入する学校や自治体が、学習支援以外の使われ方をどう扱うかを設計段階で問うことは、米国の動きと重なります。未成年向けの年齢確認、会話内容の検知、人格演出の設計が問われる段階に、AIサービスは入っています。
参考
- Common Sense Media — Common Sense Media Praises Passage of Bill to Protect New York Kids from Unsafe AI Chatbots（https://www.commonsensemedia.org/press-releases/common-sense-media-praises-passage-of-bill-to-protect-new-york-kids-from-unsafe-ai-chatbots）
- The Verge — AIカテゴリ掲載「New York passes a bill that would bar AI chatbots from acting like companions to kids」（https://www.theverge.com/ai-artificial-intelligence）
