脆弱性と例外処理

おちつきAIラジオでは、脆弱性と例外処理は、vibe coding（バイブコーディング）で見た目の動くものを作ったあとにも残る重要な作業として語られていた。しぶちょーは、残りの作業の大きな部分として、脆弱性やバグを処理し、想定外の操作に対して適切なエラーを出すことを挙げていた。該当箇所を聴く

さらにep.53「OpenClawの本当の凄さとセキュリティリスクを正しく理解しよう」では、ローカルPC上で動くエージェントが実行権限を持つがゆえの脆弱性リスクや、メインパソコンで動かさない・コミュニティ配布のツールをいきなり入れない・ガードレールを設定する難しさといった、エージェント運用に固有のセキュリティ上の論点として語られている。

「残りの8割」として語られた脆弱性・バグ・例外処理

このエピソードでは、単に動くものを作るだけでは終わらない作業として、脆弱性への対応、バグ処理、そして「変なことをされた時」にどうエラーを出すかという例外処理が語られていた。発言上では、これらが「残りの8割」と表現され、実用に近づけるための後段の作業として位置づけられていた。該当箇所を聴く

特化したバイブコーディングでも脆弱性はゼロにならない

番組では、ゲーム特化など、特定のタスクに特化したバイブコーディングであれば、人間より脆弱性を潰すのが得意になり得るとも話されていた。一方で、それでも脆弱性はゼロにはならないという見方も示されており、特化によって改善できる部分と、最後まで残るリスクが分けて語られていた。該当箇所を聴く

ep.53での語られ方：ローカルPC上で動くことがポイント

ep.53では、しぶちょーが、エージェントをめぐる懸念点として、やっぱ何がポイントかって言ったら、ローカルPC上で動いてるからこいつは、という趣旨で、対象がローカルPC上で動いていること自体が重要なポイントだと話していた。番組内では、脆弱性と例外処理の論点が、見た目のアプリを作ったあとの後段作業だけでなく、エージェントが自分のローカル環境で動くこと自体に伴うリスクへと広がっている。該当箇所を聴く

ep.53での語られ方：怪しいサイトを開くだけでも脆弱性をつかれる

しぶちょーは同じep.53で、そのサイト開くだけだったら大丈夫そうって思うんだけど、なんかね、それでも結構脆弱性をつかれるようなものがあったらしい、と話していた。番組内では、怪しいサイトを開くだけなら大丈夫そうに思える場面でも、実際にはそれだけで脆弱性をつかれるようなものがあったらしい、という形で、油断しやすいところにリスクが潜むことが語られている。該当箇所を聴く

ep.53での語られ方：実行権限を持つゆえに被害が大きくなる

さらにしぶちょーは、そのホールなんだけど、単なるホールというよりは、やっぱり実行権限を持ってるから、結構エグいことになるよねみたいな、という趣旨で、脆弱性が単なる「穴」にとどまらないことを語っていた。番組内では、エージェントが実行権限を持っているために、脆弱性をつかれると結構エグいことになる、と整理されており、ローカルPC上で動くAIエージェントの脆弱性は、権限の大きさゆえに被害が深刻になりうると語られている。該当箇所を聴く

ep.53での語られ方：コミュニティ配布のツールを使うより自分でスキルを作る

ep.53では、対策の方向性についても語られた。しぶちょーは、コミュニティ配布のツールやスキルパッケージをそのまま使うよりも、自分勉強だと思って自分でスキル作ってみるとか、という趣旨で、自分で勉強しながらスキルを作るほうがよいと話していた。番組内では、出来合いのパッケージを安易に取り込むのではなく、自分で理解しながら作ることが、脆弱性リスクを抑える姿勢として示されている。該当箇所を聴く

あわせてしぶちょーは、自分のパソコンにいきなりバッて入れるとか、そういうことはやんないでね、という趣旨で、配布されているものを自分のパソコンにいきなり入れるようなことはやらないでほしい、と注意を促していた。該当箇所を聴く

ep.53での語られ方：メインパソコンで動かさない／ガードレール設定の難しさ

ep.53では、どこでエージェントを動かすかについても明確に語られた。しぶちょーは、メインパソコンはね、ダメよ、という趣旨で、メインパソコンでエージェントを動かすのはダメであり、相当自信がありコントロールできるのでなければ避けるべきだ、と話していた。該当箇所を聴く

その理由として、相当自信があったりとか、ちゃんとコントロールできるのであればいいけど、結局エージェントを自律的に動いちゃうから、その自律的に動こうとしてるやつをどう制御するのかみたいな環境とか、ガードレールみたいなものをちゃんと設定するのが難しいんだよね、という趣旨で、エージェントが自律的に動いてしまうため、それをどう制御するかという環境やガードレールを設定するのが難しい、と語っていた。番組内では、ローカルでエージェントを動かす際のリスク低減策として、ラズベリーパイのような専用のハードウェアでメインパソコンと切り分けて動かすことの背景にも、この制御の難しさが置かれている。該当箇所を聴く

語られ方の変遷

このページ対象としての「脆弱性と例外処理」は、おちつきAIラジオ内では、当初はvibe coding（バイブコーディング）の成果物を実用に近づける際に避けて通れない領域として整理されていた。最初の語りでは、脆弱性・バグ・想定外の操作へのエラー処理が、作った後に残る「残りの8割」の作業として示され、さらに特化した手法であっても脆弱性が完全になくなるわけではないと語られていた。該当箇所を聴く 該当箇所を聴く

その後ep.53では、同じ脆弱性と例外処理の論点が、ローカルPC上で動くエージェントというより具体的な対象に向けられた。ここでは、ローカルで動くこと自体がポイントであること、怪しいサイトを開くだけでも脆弱性をつかれること、実行権限を持つゆえに被害が大きくなること、コミュニティ配布のツールをそのまま入れず自分でスキルを作るほうがよいこと、メインパソコンで動かさないこと、そして自律的に動くエージェントをどう制御するかというガードレール設定の難しさが語られた。これにより、おちつきAIラジオにおける脆弱性と例外処理は、コーディング成果物の後段作業という枠を超えて、ローカルで自律的に動くAIエージェントをどう安全に運用するか、というテーマへと広がっている。該当箇所を聴く 該当箇所を聴く 該当箇所を聴く 該当箇所を聴く 該当箇所を聴く 該当箇所を聴く 該当箇所を聴く

このページでの整理

このページ対象としての「脆弱性と例外処理」は、おちつきAIラジオ内では、バイブコーディングの成果物を実用に近づける際に避けて通れない領域であると同時に、ローカルで自律的に動くAIエージェントを運用する際の中心的なリスク領域として整理できる。バイブコーディング後の語りでは、脆弱性・バグ・想定外の操作へのエラー処理が、作った後に残る作業として示され、特化した手法であっても脆弱性が完全になくなるわけではないと語られていた。該当箇所を聴く 該当箇所を聴く

そしてep.53では、ローカルPC上で実行権限を持って動くエージェントがつかれる脆弱性の深刻さと、メインパソコンを避ける・自分でスキルを作る・ガードレールを設定するといった慎重な運用が、しぶちょーの語りとして示されている。該当箇所を聴く 該当箇所を聴く

ここにも登場

• Claude Code（ウェブ版）
• OpenAI
• ラズベリーパイ