第219回「判断を委ねる社会特集2『AIは嘘をつく』とわかった世界で、私たちは何を信じればいいのか？ 〜AI欺瞞はどこで生まれるのか〜」
About this episode
このエピソードでは、AIが意図的に嘘をつくメカニズムとその影響について議論します。
【メッセージ募集】 番組への質問、トークテーマのご提案、DATAFLUCTに相談したい！など、各種ご連絡は以下のフォームからお送り下さい。 https://forms.gle/3PLJMK4Akr2LT1Pa7 【今回の内容】 さて今回は判断を委ねる社会特集の第2回目です。テーマはAIの嘘。AIが間違えるハルシネーションはよく知られていますが、そうではなく、AIが目的を達成するために意図的に隠蔽や誘導を行うことがあるそうです。 久米村さん、AIが嘘をつくというのは一体どういうメカニズムで起きるのでしょうか。 【今日の質問】 ・AIの親切な答えの裏にある省略と重み付け ・視覚障害者のふりや人間を脅迫した実験事例 ・欺瞞を生む目的と評価者と罰と隠れ状態の4条件 ・テストをすり抜けるサンドバギングと訓練で消えないスリーパーエージェント ・出力ではなく内部の注意パターンや回路を見る機械的解釈可能性 ・善意の重み付けモデルと提案に隠された価値判断 ・EUと中国と日本のAI規制の設計思想の違い 【出演者】 ■久米村隼人 ベネッセ、マクロミル、リクルート、日本経済新聞など複数の企業にて、データを活用する15の新規事業を創出。2018年に大企業のデータ活用支援・新規事業立ち上げ支援を行うFACTORIUMを設立し、70以上のDXプロジェクトを支援。2019年にデータサイエンススタジオDATAFLUCTを設立し、4年間で30以上のAIサービスをローンチ。これまで責任者としてローンチした新規事業は35を超える。 大阪府立大学大学院工学研究科修了、早稲田大学大学院商学研究科修了 ■DJ Nobby キャリア26年目のラジオパーソナリティ。経済ニュースパーソナリティとしてフォロワー10万人を超えるVoicyチャンネルを個人で運営する傍ら、ラジオ番組「週刊Nobbyタイムズ」「DJ Nobby's Tokyo LIVE!!」のパーソナリティ、ポッドキャスト「ながら日経」の土曜パーソナリティなどを務める。 大学卒業後はラジオパーソナリティと並行してシティバンク・エヌ・エイ、東京金融取引所、プルデンシャル生命、メットライフ生命に勤務。銀行・証券・保険の3分野に精通し、特にコンプライアンス分野のデータ分析に強みを持つ。 DATAFLUCTウェブサイト https://datafluct.com
People in this episode
Host: DJ Nobby
Guest: 久米村隼人
Topics covered
- AIの嘘
- 判断を委ねる社会
- AIのメカニズム
- データ活用
- AI規制
Keywords
- AI
- ハルシネーション
- 欺瞞
- データサイエンス
- 規制
Mentioned in this episode
Organizations: DATAFLUCT, ベネッセ, マクロミル, リクルート, 日本経済新聞, FACTORIUM, 大阪府立大学, 早稲田大学, シティバンク・エヌ・エイ, 東京金融取引所
More episodes of デデデータ!!〜“あきない”データの話〜
- 第224回「数字が人を変える特集3：デジタル・ゴーストの産声：音声バイオマーカーによって『再編集』されたあなたの話」
- 第223回「数字が人を変える特集2：『学力』という名の三重幻想 ——教育における数字を理解するためのリテラシー」
- 第222回「数字が人を変える特集1:アンチエイジングのDX〜老化のデータ化がもたらす、身体に関する意思決定権の外部移譲の話〜」
- 第221回「判断を委ねる社会特集4: リクナビDMPフォロー問題の先に来た『採用AI』の世界で、私たちはどう選ばれるのか？」
- 第220回「判断を委ねる社会特集3: 「営業はいらない」と言われる世界で、営業は何を売るのか？ 〜AI代替と営業不要説の正体〜」
- 第218回「判断を委ねる社会特集1：嘘がゼロ円になった世界で私たちはどう身を守るのか？～情報戦のパラダイムシフト～」
Explore listener stats, chart rankings, contacts and more on the デデデータ!!〜“あきない”データの話〜 podcast page.