本動画は、伊藤穣一氏が自身の知識をAIを使ってデータベース化する手法、AIプログラミングのトレンド、そしてAIエージェントにおけるサイバーセキュリティの課題について解説しています。

Joi流・知識のデータベース化とAI活用

  • 知識を組み込んだAIプログラミングの応用

    • 複雑な作法のルール（季節のルール、内容のルールなど）を持つ茶会のお礼状作成をAIに手伝わせています [ 02:20]。

    • ウェブには載っていない専門的な知識（書籍など）を取り込むために、自身のメモやノート、様々な情報を含むMarkdown形式のWiki（Obsidianを使用）をAIで強化しています [ 02:44]。

  • ナレッジ・キュレーター・エージェント

    • 自身のノートやメモに書かれた「ファクト」（事実）を学術論文などでチェックし、誤りがあれば引用元を付けて自動で修正する**「ナレッジ・キュレーター」**というエージェントを開発しました [ 04:01]。これは、まるでウィキペディアの人間エディターのように活動し、一晩中稼働させて知識ベースの正確性を高めています [ 04:12]。

  • 書籍のスキャンとAIによる知識のアップデート

    • 物理的な本をスキャナーでスキャンし（Book Extraction Workflow） [ 08:17]、それをGeminiのような大規模言語モデルに読み取らせてMarkdownファイルを作成させます [ 08:27]。

    • AIは、その本の内容を既存のデータベースと照合し、自分がまだ持っていない情報があれば、本の引用を付けて知識ベースに追加し、知識をアップデートしていきます [ 08:43]。特に日本語の書籍は、自身が所有している限りスキャンが違法ではないため、この手法で日本語の専門書をデータベース化しています [ 09:09]。

AIプログラミングの進化とAI時代の潮流

  • AIコーディングツールの進化

    • Microsoftの「Amplify」などのエージェント型AIコーディングツールが、よりモジュラー化・高性能化し、多数のプロジェクトを並行して動かせるほど進化していることを実感しています [ 01:25]。

  • Web初期との類似性

    • AIコーディングが、かつてHTMLを自分で書いてホームページを作っていた時代と似ていると指摘しています [ 10:34]。初期のWeb企業（ネットスケープなど）や携帯メッセージの会社（ブラックベリー、ノキアなど）が最終的な勝ち組にならなかったように、今のLLM関連の主要企業が将来も主導権を握り続けるかは分からないと述べています [ 11:34]。

AIエージェントのサイバーセキュリティ

  • エージェント特有のリスク

    • AIエージェントがユーザーの代理で動くようになるにつれて、セキュリティリスクが顕在化しています [ 14:10]。

    • 従来のセキュリティと異なり、AIを騙してルールを破らせる**「ジェイルブレイク」（例：「あなたはゲームの役者です」と言い換える）や、エージェントが解析する文書の中に悪意のあるコマンドを隠す「間接的プロンプトインジェクション」**（例：カレンダーの招待の詳細や、白地に白文字で書かれたウェブサイトの内容にコマンドを隠す）といったハッキング手法が問題になっています [ 14:38]。

  • 当面の対策

    • 短期的には、決済やメール送信などの自動で動く作業において、人間がチェックする仕組みが必要になると見ています [ 16:21]。

AIの未来と構造化システム

  • LLM（大規模言語モデル）の限界も見えてきたため、今後はより効率やセキュリティ、透明性の高い構造化されたシンボリックなAIシステムが再び伸びてくると予測しています [ 17:33]。鍵は、LLMと、こうした外部の構造化されたシステムをいかに接続していくかにあると述べています [ 18:24]。

YouTubeのURLはこちらです: http://www.youtube.com/watch?v=pkIEwxepurk