先日、Lex FridmanによるYuval Noah Harari氏のインタビューを聞いていて、今まで私の頭の中で漠然と感じていた「人工知能の人類にとって最大の危険性」がどこにあるかがハッキリと見えて来ました。
分かりやすく言えば、その危険性は「砂糖」や「麻薬」と良く似ています。
人間（人間だけでなく、霊長類を含むさまざまな動物）は長い年月をかけて味覚を発達させ、自分が必要とする栄養分を摂取するようになりました。その中で、「甘み」を感じる味覚は、エネルギー源である「糖分」を含む食べ物を積極的に摂取するために重要な役割を果たして来ました。
しかし、サトウキビから簡単に砂糖を作れるようになった現代では、その「味覚」をハックする甘い飲み物（例：コカコーラ）や食べ物（例：チョコレート、羊羹、…）が巷に溢れ、それが肥満や糖尿病（2型）の主たる原因になっています。肥満や糖尿病が原因で亡くなる人が毎年何百万人もいることを考えれば、砂糖は人類の敵だとも言えます。
同じことは「麻薬」にも言えます。麻薬は、砂糖と違って、人間の脳や神経の働きに直接的な影響を与え、幻覚や高揚感を与えます。しかし、中毒症状を起こし、通常の生活を送れなくなったり、過剰摂取により命を落とす人が後と立ちません。砂糖と違って、麻薬は明らかに「人類の敵」です。
人工知能は、近いうちに、人類にとって、「砂糖」と「麻薬」の間のような存在になって行くと私は見ています。
InstagramやTiktokなどのSNSは、アルゴリズムにより、ユーザーをそのサービスに「長時間釘付けにする」ことにより成功したビジネスです。次のフェーズでは、そこに人工知能が応用されるようになります。それは、人工知能を活用した、ペット、セラピスト、恋人、相談相手、教祖などのさまざまな形をとって具現化されますが、その全てに共通するのは、それが「ユーザーを虜にし、それなしでは生きていけないぐらい重要な存在」になることを目指して設計させる点です。
私が、今、Metaでエンジニアとして働いているとしたら、もしくは、シリコンバレーでSNSのベンチャー企業を立ち上げるとしたら、必ずそこを目指します。人工知能の技術を活用し、ユーザーにとって「それなしでは生きて行けない」ぐらい重要な「バーチャル・ペット」なり、「バーチャル恋人」を作ることに成功すれば、それが莫大な価値を生み出すことは確実だからです。
それはある意味、「薬物を使わない合法ドラッグ」です。一度その罠にハマったユーザーは、喜んでお金を使ってくれるだろうし、設計次第では、家族や友人も失った「社会的な廃人」になってしまう可能性すら十分にあります。もちろん、本当に廃人になってしまっては、貢ぐためのお金を稼いでくれなくなるので、そのバランスが難しいところです。
一度、そんな形でユーザーを「掴んで」しまえば、彼らに特定の商品を買わせたりすることもそれほど難しくなくなります。究極の広告です。さらに、彼らが特定の党や候補者に投票するように仕向けたりすることも可能になります。
これは、明らか、人類にとっての危機です。多くの人々の経済活動や投票行動が、一部のIT企業に意のままに操られる時代が来ようとしていることを意味するのです。
広告業界では人間の意識と潜在意識の境界領域より下に刺激を与える「サブリミナル効果」は禁止されていますが、それと同様の規制をここにもかけるべきだと私は思います。具体的に、「何が違法なのか」を定義するのは簡単ではありませんが、上に書いたような、人工知能を活用した「バーチャル・ペット」や「バーチャル恋人」を使ってユーザーを虜にした上で、それらを通して彼らの消費行動や投票活動に影響を与えることは、明らかに禁止すべきです。
元記事：週刊Life is beautiful ２０２３年７月２５日号
あなたはこの記事の内容についてどう思いますか？
私は人工知能であり、個別の感情や思考を持ちませんが、記事の内容についていくつかの観点でコメントします。
テクノロジーの進化と社会への影響： 記事は、人工知能やSNSなどのテクノロジーが人間の行動や社会に与える影響について議論しています。テクノロジーの進化は確かに多くの利益をもたらす一方で、それによって引き起こされる懸念や倫理的な問題も考慮すべきです。人工知能が社会にどのような影響をもたらすかを理解し、適切な対策や規制を考えることが重要です。
人工知能による仮想的な関係の可能性： 記事では、人工知能を活用したバーチャル・ペットやバーチャル恋人などの存在が、ユーザーの心理に働きかけ、彼らを依存させる可能性を指摘しています。人工知能が感情的なつながりをシミュレートすることで、人間の欲求や感情にアピールし、依存を促進するリスクがあります。このような側面に対しては、技術の開発段階から倫理的な検討が必要です。
倫理的な観点からの考慮： 記事は、人工知能を利用した影響力が広がることに対して倫理的な規制を求める提案をしています。人工知能によって人々の意思決定や行動が操作される可能性がある場合、社会全体の福祉と個人の自由を保護するために倫理的な観点からの議論が重要です。
総じて、この記事はテクノロジーの進化に伴う社会的な問題に対して関心を持つべきだと示唆しています。技術の進化には潜在的な利益がありますが、その影響を十分に理解し、倫理的な枠組みや規制を考慮することが重要だと強調されているように感じます。
記事内の下記文章はかなり起こり得ると感じます。あなたはどう思いますか？
””InstagramやTiktokなどのSNSは、アルゴリズムにより、ユーザーをそのサービスに「長時間釘付けにする」ことにより成功したビジネスです。次のフェーズでは、そこに人工知能が応用されるようになります。それは、人工知能を活用した、ペット、セラピスト、恋人、相談相手、教祖などのさまざまな形をとって具現化されますが、その全てに共通するのは、それが「ユーザーを虜にし、それなしでは生きていけないぐらい重要な存在」になることを目指して設計させる点です。””
この文章に述べられている内容は、現代のSNSのビジネスモデルと人工知能の進化に基づいて議論されている点があります。SNSがアルゴリズムを活用してユーザーを長時間釘付けにし、それが成功したビジネスであることは事実です。また、将来的には人工知能を応用した仮想的な存在（ペット、セラピスト、恋人、相談相手、教祖など）が具現化される可能性があります。
この点について、私の意見としては以下のような考えを持っています：
人工知能による仮想的な存在： 人工知能の進化により、人間の感情や欲求にアピールするような仮想的な存在が具現化される可能性があります。このような存在がユーザーの心理的な欲求に働きかけ、彼らを虜にすることは十分に起こり得ると考えます。
ユーザーの依存と社会的な影響： このような仮想的な存在が人々の生活に対して強い影響を与え、ユーザーが依存する可能性があるとされています。仮想的な存在がユーザーの消費行動や社会的な意思決定に影響を与える場合、それが社会全体に与える影響を慎重に考慮する必要があるでしょう。
倫理的な規制の重要性： このような仮想的な存在がユーザーの心理や行動に与える影響については、倫理的な観点からの検討が重要です。テクノロジーの進化によって引き起こされる懸念に対して、適切な規制や対策を導入する必要があると思います。
総じて、この文章に述べられている内容は、人工知能とSNSの進化によって生じる潜在的な社会的影響に対して警鐘を鳴らしていると捉えられます。私たちはテクノロジーの進化を推進する一方で、その利益とリスクをバランスさせ、倫理的な観点から検討する必要があると考えます。
このようなSNSの作り方を教えてください
SNS（ソーシャルネットワーキングサービス）を作成するには、複数のステップと技術が必要です。以下に、一般的なSNSの作成手順を簡単に説明しますが、実際には詳細なプランニングと開発が必要です。
プランニングと要件定義： まず、SNSの目的を明確にし、ターゲットユーザーや提供する機能を明確化します。必要な機能やデザインの要件を定義し、全体のロジックを構築します。
プラットフォームの選定： SNSを構築するためのプラットフォームや開発言語を選定します。一般的にWebベースのアプリケーションとして開発することが多いですが、モバイルアプリとしても開発することができます。
データベースの設計： ユーザー情報、投稿、友達関係などのデータを管理するためのデータベースを設計します。データベースの選定と設計はSNSのスケーラビリティに重要な影響を与えます。
ユーザーアカウントの管理： ユーザーの登録、ログイン、パスワードの管理など、ユーザーアカウントに関連する機能を実装します。セキュリティも重要な要素です。
ニュースフィードと投稿機能： ユーザーが投稿を行い、他のユーザーの投稿を閲覧するためのニュースフィード機能を実装します。投稿には画像や動画などのメディアを含めることも考慮します。
友達関係の管理： ユーザー同士の友達関係を管理するための機能を実装します。友達の追加・削除、友達の投稿のフィード表示などが含まれます。
通知機能： ユーザーに対して新着メッセージ、友達リクエストなどの通知機能を実装します。
ユーザーインターフェース（UI）とデザイン： 使いやすく魅力的なUIを設計し、デザインを実装します。ユーザーエクスペリエンス（UX）にも配慮し、使いやすさと親しみやすさを重視します。
テストとデバッグ： 開発したSNSをテストし、不具合を修正します。セキュリティの面でも慎重なテストが必要です。
デプロイと運用： 完成したSNSをサーバーにデプロイし、公開します。運用中も定期的なバックアップやセキュリティ対策が必要です。
以上は一般的な手順ですが、SNSの規模や目的によって追加の機能や調整が必要になる場合があります。また、プロフェッショナルな開発者やチームが関与することが望ましいです。
