AIのプライバシー・情報漏洩リスク
AIのプライバシー・情報漏洩リスクとは、おちつきAIラジオでは、ユーザーがAIに人間関係や個人的な悩み、健康・身体の情報などを話していくことで、これまでの情報漏洩とは比べものにならないリスクを個人が負うのではないか、というテーマとして語られている。ep.35「[1月20日:速報回]」では、かねりんとしぶちょーが、AIに個人的な悩みを話し続けることのリスクや、漏洩した情報がダークウェブに流れている現状について語った。ep.71「会社に内緒でチャットGPT使ってない??『シャドーAI』が浮き彫りにする、AI禁止ルールの罠と本当のリスク」では、抽象化すれば機密性の高い情報でも相談できてしまう点や、AIに入力する際のデータを渡している感覚の薄さ、社内基盤の安全性の建前について語られた。
AIに悩みを話すことで負うリスク
かねりんは、ep.35の速報回で、いろいろな人間関係のことやいろいろな個人的な悩みをバーバーバーバーAIに聞いて（話して）いくことで、「今までの情報漏洩の火（比）じゃないぐらいのリスクを僕たち個人、追ってんじゃないかな」と語った。番組内では、AIに人間関係や個人的な悩みを話していくことで、これまでの情報漏洩の比ではないリスクを個人が負っているのではないか、という懸念が示されている。該当箇所を聴く
サーバーに記録される悩み・健康・身体・DNA情報
しぶちょーは、「人に言えないような悩みをみんなサーバーの中に記録していくわけだよね」と語り、人に言えない悩みがサーバーに記録されていくことを指摘した。そのうえで、以前に話したChatGPTヘルスの話にも触れ、「健康身体情報もそうだよね」「そのうちDNA情報とかもこう紐付いたりして」と語り、健康・身体情報、ゆくゆくはDNA情報までもがサーバーに記録され紐付いていく、という見方を示した。番組内では、AIに渡される情報が、悩みから健康・身体、さらにはDNAへと広がっていく可能性として語られている。該当箇所を聴く
ダークウェブに流れる漏洩情報
かねりんは、漏洩した情報について「結構流れてんすよ、ダークウェブに、そういう漏洩した情報とか流れてるとか、ログイン情報とか」と語り、漏洩した情報やログイン情報がダークウェブに結構流れていることを指摘した。さらに「知らない間にもう流れてるかもしんないよ」と語り、自分の情報も知らない間にもう流れているかもしれない、という見方を示した。番組内では、AIに話した情報のリスクが、すでに現実に起きている情報漏洩やダークウェブの存在とあわせて語られている。該当箇所を聴く
抽象化による相談と入力のリスク
ep.71では、かねりんが、具体的な地名や名前を入れず抽象化すれば、機密性の高い情報でもAIに相談できてしまう、という点を語った。「具体的な地名とか名前入れずにさ、AさんとBさんがこうなってこうなってこうなりましたけどこれ何代でしょうかみたいな」と、事件のような機密性の高い話でも抽象化すれば相談できてしまう例を挙げている。該当箇所を聴く
またしぶちょーは、AIは入力してもデータを渡している感覚が薄いと語った。ファイル交換のように「交換してますぜ感」がある仕組みと違い、「AIはさ入力しても渡してる感がないんだよね」「気がつかないうちにデータを渡してしまってるみたいな感じがある」と話し、さらに「一回食べさせちゃったらもう永久に戻せない」と、一度学習させてしまうと永久に取り戻せないことを指摘した。該当箇所を聴く
社内基盤の「安全に使えますよ風」
しぶちょーは、社内基盤を使えば安全に使えるという建前についても語った。それを使えば割と安全に使える、という話ではあるとしつつ、「安全に使えますよ風だよね」と語り、実際には「安全に使えますよ風」にすぎないという見方を示した。該当箇所を聴く
他テーマとの関係
このAIのプライバシー・情報漏洩リスクは、同じ回で語られた、パーソナルな情報を出すほど便利になるインセンティブがあるというパーソナライズと囲い込みの論点と表裏の関係にある。便利さゆえに情報を出していくほど、ここで語られた漏洩のリスクも大きくなる、という構図である。また、ユーザーの会話の文脈に応じた広告が出るというAIへの広告導入の話題とも、AIに何を話すかという点でつながっている。ep.71では、これらのリスクが、会社に内緒でAIを使うシャドーAIや、AIを禁止することがかえってリスクを見えなくするAI禁止ルールの罠の論点とあわせて語られた。
ここにも登場
出典エピソード
- 433402a85ff32b1c92bb75
- 485423b6b8675793ae9616
各セクションの「該当箇所を聴く」リンクから、番組の発話そのものを確認できます。