クンマ（AIテディベア）

クンマ（AIテディベア）とは、おちつきAIラジオの12月2日速報回（ep.21）で取り上げられた、ChatGPT（GPT-4o）をAPI経由で搭載した子供向けのAIぬいぐるみである。番組では、卑猥な発言の問題で回収に追い込まれたというニュースを入り口に、しぶちょーがその裏側には別の事情があるのではないか、と深掘りして語っていた。

回収に追い込まれたニュース

しぶちょーは、このAIテディベアについて「回収に追い込まれたよっていうニュースだった」と切り出した。クマちゃんのぬいぐるみは「クンマ」という名前で、価格は「1.5万円ぐらい」と安い、と紹介されている。該当箇所を聴く 該当箇所を聴く 該当箇所を聴く

作った会社と仕組み

しぶちょーは、クンマを作った会社について「めっちゃまともなベンチャー企業なのよ」と評し、テクノロジーでおもちゃを作ろうとする会社だと説明していた。仕組みとしては、「ChatGPT for Omniをクラウド経由でAPIで呼び出して、子供が話しかけるとそれを言葉に変換してAPIの方に投げて、回答を返す」という形で、会話相手として機能するおもちゃだという。従来のチャットボットのような単純なメッセージのやり取りとは違い、AIが返答するため「かなり自由度高い」と語られていた。該当箇所を聴く 該当箇所を聴く 該当箇所を聴く

おもちゃの目的と期待

しぶちょーは、このおもちゃの目的について「子供と大人の両方の完璧な友達になる」ことだと紹介していた。とくに、内気な子や一人遊びが好きな子、生まれつきコミュニケーションが苦手な子にとっても寄り添える話し相手になる、という期待が込められていた、と語られている。該当箇所を聴く 該当箇所を聴く

卑猥な発言と調査の経緯への違和感

起こったこととしては、「子供向けに提供していたクマちゃんのモデルで卑猥なこと喋り始めた」とされる。しぶちょーは、アメリカの研究グループの調査によれば、「研究員の会話の中でわずかに際どい話題に触れただけで、クンマがすぐその話を発展させて、具体的かつ露骨な性的なワードを延々と話し始めた」とされる、と紹介していた。該当箇所を聴く 該当箇所を聴く

しかし、しぶちょーはこの経緯に違和感があるとし、「家で使ってるときに卑猥な言葉話し始めただったらわかる」のに、最初に研究者が出てくるのはおかしい、と指摘していた。かねりんも「なんかそれライバル企業が潰しにかかってるみたいなそんな感じじゃん」と応じ、ライバルによる意図的な潰しではないか、という見方が示された。こうした攻撃の構図は、プロンプトインジェクションとガードレールの話題とも結びつけて語られている。該当箇所を聴く 該当箇所を聴く

なぜOpenAIを使ったのか

しぶちょーは、「この話ね、ちょっと違うんじゃないかな」と述べ、この騒動には裏があると考えていた。クンマ側がなぜOpenAIをそんなに使ったのかについては、「普通に一番使えるからって思ったんだろうね」と推測し、おもちゃの価値を出すためにGPT-4oが一番いいと思って選んだのだろう、と語っていた。番組では、この選択が後に米中対立という大きな構図につながっていく、という流れで深掘りが続いている。該当箇所を聴く 該当箇所を聴く 該当箇所を聴く

ここにも登場

• ディープリサーチ
• プロンプトインジェクションとガードレール
• 米中対立