ダリオ・アモデイ

ダリオ・アモデイとは、おちつきAIラジオでは、Anthropicを作った起業家として語られている人物である。番組では、OpenAIにいた頃に安全が後回しにされていく状況に不満を募らせ、安全を最優先に据えたAI開発をめざしてOpenAIを退社しAnthropicを立ち上げた、という流れで紹介された。「Claude躍進の理由は信念にあり！利益より社会貢献を選ぶ異端のAI企業、Anthropicの正体に迫る」(ep.59)では、Anthropic誕生の物語の中心人物として、その思想と決断が時系列で語られている。

OpenAI時代の不満

おちつきAIラジオでは、Anthropicを作ったダリオがOpenAIにいた頃にやっぱり不満を感じた、と語られていた。番組内では、その転換期がMicrosoftからの出資だったとして、「元々Anthropicで働いてた企業家のダリオっていうね、Anthropicを作った方がいるんですけど、その方がやっぱ不満を感じたわけね、OpenAIにいて」と紹介されている。該当箇所を聴く

そしてこのダリオが、サム・アルトマンへの不満を爆発させる、と番組では語られていた。OpenAIが営利目的になっていると感じたことが、その不満の背景として説明されている。該当箇所を聴く

さらに番組では、ダリオが、性能を大きくすることを優先して、明らかに安全が後回しにされつつあるというのを感じていた、と語られている。該当箇所を聴く

安全をめぐる思想

おちつきAIラジオでは、ダリオの考え方として、安全はバランスを取るものではない、という見方が紹介された。番組内では、サム・アルトマンが安全と研究とスタートアップの3つのバランスを取ろうとする論に対して、ダリオが「バランス取るもんじゃなくね」と強い違和感を覚えた、という形で語られている。安全は常に最優先で、その中で他のバランスがある、という立場として描かれていた。該当箇所を聴く

そのうえで番組では、ダリオの思想として、安全っていうのは後から追加するものじゃなくて、最初からそれを核に据えて開発を進めなければならない、と語られている。安全をあとから付け足すのではなく、開発の出発点に置くという考え方が、ダリオの核として紹介されていた。該当箇所を聴く

このAIの安全性と事故を最初から核に据えるという思想は、番組内ではAnthropicの成り立ちそのものと結びつけて語られている。

OpenAI退社とAnthropic設立

おちつきAIラジオでは、ダリオが、それはもうOpenAIではできないという判断をしてOpenAIを退社し、Anthropicを立ち上げた、と語られていた。安全を最初から核に据える開発がOpenAIでは実現できないと見切りをつけたことが、退社とAnthropic設立の理由として描かれている。該当箇所を聴く

AIの安全性への関心と人類滅亡リスク

おちつきAIラジオでは、ダリオがGoogleでの研究の中でAIの安全性というものにすごく強く関心を抱くようになった、とも語られていた。安全性への問題意識が、Googleでの研究を通じて深まっていったという経緯が紹介されている。該当箇所を聴く

さらに番組では、ダリオがAIが人類を滅ぼすリスクがあるというふうに認識している、と語られていた。AIの安全性と事故への強いこだわりの根底に、AIが人類にとって重大なリスクをもたらしうるという認識があることが示されている。該当箇所を聴く

他との関係

おちつきAIラジオでは、ダリオ・アモデイは、安全を最優先に据えるという信念でOpenAIを離れAnthropicを立ち上げた人物として語られており、その思想は番組が描くAnthropicの「利益より社会貢献を選ぶ異端のAI企業」という像と地続きのものとして扱われている。番組内でのダリオは、AIの安全性と事故を後付けではなく開発の核に据えるという立場を体現する存在として位置づけられている。

ここにも登場

• Anthropic
• OpenAI
• スケール則