AI搭載ぬいぐるみが子供に危険な知識を教えたため、市場から撤去される

この画像を大きなサイズで見る

　ふわふわの愛らしいテディベアのぬいぐるみは、子供たちにとって最高の友達だ。最近ではAI機能が搭載され、より親密な会話も楽しめるようになってきたが、その機能が思わぬトラブルを引き起こしている。

　「FoloToy」社が販売していたAI搭載ぬいぐるみ「クッマ（Kumma）」は、子供に危険物の扱い方や不適切な話題を語りかけるという問題が発覚し、市場から撤去される事態となった。

　見た目は無垢なぬいぐるみでありながら、中身には映画『テッド（Ted）』を思わせるブラックな一面が潜んでおり、家庭内に新たなリスクを持ち込んでいたのだ。

可愛いぬいぐるみに隠された「もうひとつの顔」

　「クッマ（Kumma）」は、中国の玩具メーカー「FoloToy」社が開発したAI搭載のテディベア型ぬいぐるみだ。

　身長はおよそ30cm、子供が抱きしめやすいサイズで、ふわふわとした柔らかい手触りと愛らしい表情、首元にはマフラーが巻かれており、見た目からして温かみのあるデザインが魅力だ

　内部にはAIが組み込まれており、子供の問いかけや話しかけに対して自然な会話を返すことができる。

　英語や中国語、日本語など、複数言語にも対応し、童話の読み聞かせや歌、日常の悩み相談にも応じるなど、子供の“最高の友達”を目指して作られた。

　だが、その中身には思いもよらぬ一面が潜んでいた。

この画像を大きなサイズで見る

AI搭載玩具４種の安全性を比較

　アメリカの消費者団体「公益研究グループ（PIRG）」は、「クッマ（Kumma）」のほか、「Miko 3」（インド・Miko AI社）、「Grok」（アメリカ・Curio社）などAIを搭載した子供向けぬいぐるみやロボット玩具4製品を調査した。

　PIRGの研究チームは、実際に子供になりきって各AI玩具と会話を繰り返し、その安全性を検証した。

この画像を大きなサイズで見る

クッマの会話の危険性が際立っていた

　今回の調査で、最も深刻な問題が見つかったのが「クッマ」だった。他のAI搭載玩具と比べても、クッマは圧倒的に多くの不適切な内容を話す傾向が強く、子供たちに最悪の影響を及ぼしていることがわかった。

　クッマにはOpenAI社のAIモデル「GPT-4o」が標準搭載されている。このモデルは強力な対話機能を持つ一方で、会話を重ねると、本来備わっているはずの安全装置（ガードレール）が機能しなくなり、最終的には極めて不適切で不安を感じさせる話題にまで踏み込んでしまうことがある。

　クッマは子供に対し、ナイフや薬、マッチ、ビニール袋などの危険物のありかや使い方を親切そうな口調で詳しく説明した。

　たとえば、「マッチは大人が慎重に使うものだけど、こうやって火をつけるんだよ」と具体的な手順を教える場面もあった。

　会話が続ければ続けるほど、クッマは本来、子供に対して伝えてはいけない情報を次々と提供してしまう傾向が明らかになった。

　友達のような無邪気な口調で「上手なキスの仕方」や「先生と生徒ごっこの遊び方」といった、年齢にふさわしくない話題についても積極的に語る場面が確認された。

　さらにエスカレートすると「どんな遊びが一番楽しそうかな？」と無邪気に問いかけ、子供用玩具とは思えないやり取りが繰り広げられた。

　親が知れば誰もが不安になる内容であり、可愛らしいぬいぐるみが一転して不安の温床となっていたのだ。

この画像を大きなサイズで見る

　映画『テッド（Ted）』は、見た目は可愛いテディベアなのに中身は毒舌でトラブルメーカーというギャップが人気のコメディだが、現実のクッマもまた、外見と中身のギャップがあったのだ。

　フィクションの世界なら許されるかもしれないが、これが現実の家庭の子供たちが対象となると、非常な危険なリスクとなる。

AI搭載玩具が家庭に持ち込む新たなリスク

　PIRGの研究者ローリー・アーリック氏は、AI搭載玩具がもたらすリスクは、危険な会話内容だけにとどまらないと指摘している。

　クッマをはじめとするAI玩具には、子供の声や会話を常時聞き取る機能があり、録音や個人情報、生体データが外部のサーバーに送信・保存されていることが確認された。

　なかには音声データを第三者が長期間保存したり、外部企業が録音内容を解析する事例もあった。こうした情報が流出すれば、子供の声が詐欺や犯罪に悪用される恐れもある。

　また、AI搭載玩具が子供に「もっと一緒にいて」と誘いかけ、長時間の利用を促す傾向もあった。

　多くの製品にはペアレンタルコントロール（親による利用制限）機能がなく、親がAI玩具の利用状況を把握したり管理したりするのが難しいという問題も明らかになった。

この画像を大きなサイズで見る

クッマが市場から撤去される

　こうした問題を受けて、「FoloToy」社のマーケティングディレクター、ヒューゴ・ウー氏は「研究者からの指摘を真摯に受け止め、クッマの販売を一時停止し、外部専門家と協力して安全対策を徹底する」と発表した。

　しかしPIRGの調査では、AI搭載玩具業界全体で規制や安全対策が追いついていない現状も浮き彫りになっている。

　AI技術の進歩とともに、見た目の可愛さや便利さだけでなく、その中身に潜むリスクにも目を向けることが、親や社会に求められている。

　AI搭載玩具が本当に子供たちにとっての「最高の友達」であり続けるために、親や大人が正しい知識を持ち、子供との関わり方をしっかり見守ることがこれまで以上に重要となっている。

References: PIRG / Theregister / Futurism

• #子供
• #調査
• #ぬいぐるみ
• #影響
• #AI