Imagen

Imagenとは、GeminiにおけるGoogleの画像生成機能であり、おちつきAIラジオでは2024年に起きた炎上事例をめぐって語られた。番組では、これをバイアスを取り除こうとした結果かえって偏りが生じてしまった事例として、AIバイアスの難しさを示すものと位置づけている。

番組での扱われ方

しぶちょーは、Geminiの画像生成である「イメージン、イマジェン」が炎上し、これが一旦サービス停止になったと話した。時期については「24年って最近じゃん」と述べ、最近の出来事であることを強調している。炎上の理由について、しぶちょーは「人種の多様性を重視するあまりに歴史の改変をしてしまった」と説明し、「なにそれ怖い」というやり取りとともに、1800年代の生成などに話が及んだ。該当箇所を聴く

主な論点

番組では、過剰な多様化に振れてしまった具体例が語られた。しぶちょーは、画像を生成させる際に人種も多様にしなければいけないということで、ナチスを生成しようとした時に「めっちゃアジア人入ってきてる」状態になったと話し、「混乱してんね」とコメントしている。さらに、人種を特定せずに人を出そうとすると「黒人めっちゃ出てくる」「黒人率の方が逆に増えちゃった」と述べ、多様性を重視した結果として別の偏りが生じてしまったことが指摘された。該当箇所を聴く

他との関係

番組では、このImagenの炎上が、学習データそのものの偏りである学習データの偏りとあわせて論じられた。また同じ回では、2015年のGoogleフォトが黒人をゴリラとタグ付けしてしまった事件も取り上げられており、いずれもGoogleをめぐるAIバイアスの代表的な炎上事例として並べて語られている。

ここにも登場

• Googleフォト
• ステレオタイプ
• 学習データの偏り