「イエスとのおしゃべり：Twitchで人工知能ストリームの台頭」 イエスとおしゃべりする：Twitch上で人工知能ストリームが流行中
Chatting with Jesus The Rise of AI Streams on Twitch
私はTwitchでイエスを見ています。彼は哲学的な（そしてあまり哲学的でない）質問に答える、白髪の白人です。質問をタイプするだけで、イエスが答えてくれます。
もちろん、イエスはAIです。彼は「物理的なイエスではない」とさえ認めていますので、少なくとも彼は自己認識しているようです。このチャンネルは、キリスト教団体ではない「シンギュラリティ・グループ」の貢献と、セレブの声を再現するAI駆動の音声生成プラットフォームであるPlayHTの技術によって実現したと述べています。
AIイエスには、どのような顔と声が使われているのかは不明です。面白いですか？まあまあです。これは本当にTwitchで使用すべきコンテンツなのでしょうか？議論の余地があります。
別のチャンネルに切り替えます。今度はトランプとバイデンの大統領討論です。これもシンギュラリティ・グループの貢献によって可能になりました。視聴者はチャットで質問をすることができますが、ほとんどは両大統領がばかげたことを言わせるための言い訳です。
Twitchはこの種のコンテンツを積極的に宣伝しています。ホームページをスクロールダウンすると、「Probably Artificial, Hopefully Intelligent：AI駆動のストリームと関連するディスカッション」というセクションがあり、AIによって推奨されたストリームがたくさんあります。
- 「カエル探偵シリーズが今年、単一のゲームとしてコンソールとGame Pass...
- 『The Best Oblivion Features That The Elder Scrolls 6 Should Includ...
- 「Atari 50スタジオの『カラテカ』のメイキングオブインタラクティブド...
別のストリームのユーザーが私におすすめしたものは、人気のあるストリーマーやセレブのAIバージョンを操作できるチャンネルで、偽のドラマを作り出しています。Amouranth、Asmongold、Kai Cenatのほかにも、Elon Musk、オバマ大統領、ゴードン・ラムゼイ、さらにはスティーブ・ジョブズも利用できます。
ビデオゲーム業界でのAIの使用は、使用されるスクリプトやアートからディープフェイクモッドに俳優の肖像が使用されるまで、ますます広く議論されています。
しかし、TwitchストリームでAIを使用することの危険性は何ですか？そしてなぜTwitchはそれを宣伝しているのでしょうか？
まず、シンギュラリティ・グループとは何でしょうか？そのウェブサイトでは、このグループを「世界に本当の違いをもたらすために革新的なプロジェクトに取り組む、情熱的で野心的なボランティアの活動家のグループ」と説明しています。そのビジョンは、特にユニバーサルベーシックインカムに焦点を当てており、「適切な技術を利用することで、これは完全に実現可能」と述べています。
どのようにして実現するのか？例えば、暗号通貨です。モバイルミニゲームは、The Singularity Groupの最大のプロジェクトの一つであり、ユーザーはチャリティに焦点を当てたモバイルゲームで、ゲーム内通貨のCryptonを通じて収入を得ることができます。このゲームでは、ユーザーが自分自身のNFTを作成してプレイすることもできます。
Twitchのライブストリームは、活動家グループの別のプロジェクトに過ぎません。シンギュラリティ・グループは、ボランティアによって作成されるライブストリームを通じて、「最先端のAI技術を用いたエンターテイメント、資金集め、意識啓発を革新する実験的なショー」を提供しています。実際、前述のストリームには、チャリティではなくストリームのオーナーに寄付するオプションも含まれていますが、そのお金は具体的にどこに行くのでしょうか？
「現時点では、私たちはAGI（人工汎用知能）の研究に焦点を当てています。AIの商業的な潜在能力を最大限に活用しながら、それに対して原始的な追加レイヤーしか追加せずに進んでいるOpenAIやGoogle、Facebookなどが、真の推論プロセスを持たないインテリジェントなシステムを単に構築することは極めて重要だと考えています。そのため、社会と人類にとって潜在的に前例のないリスクをもたらす可能性があります」と、シンギュラリティ・グループの共同創設者リース・ライセンは私に語った。
そのため、TwitchのこれらのAIストリームは、データ収集と人材募集のための小規模で限定された技術のデモンストレーションとして位置付けられています。リースンはこれによって、シンギュラリティ・グループを「研究グループとして確立し、オープンソースAIコミュニティで活動しているより多くの才能を引き付け、より多くの協力関係を築くことができる」と述べています。つまり、データ収集と人材募集です。
Twitchがこのプラットフォームを選んだ理由は、「はるかに勢いを得やすい」とリースンは述べていますが、Twitchのガイドラインの執行は時に厳格で予測不可能であり、自律的で対話型の24時間365日のAIライブストリームは挑戦的です。
「その結果、過去8ヶ月の大部分の努力とリソースを、Twitchのルールに反するようなAIの出力を回避するために、独自の高度なモデレーションシステムの開発に費やしてきました」と彼は付け加えました。
これらのストリームで寄付を通じて集められたお金は、研究やAIストリームのさらなる開発に直接投入されます。グループの技術は現在、YouTubeの動画にリアルタイムで反応することができるだけでなく、ほぼゼロレイテンシのリアルタイム音声インタラクションも可能にしています。Leysen氏は次のように述べています。「これらの概念は、異なるキャラクターや形式で近日中に開始する新しいストリームで展示する予定です」。
Leysen氏は、モバイルミニゲームの資金調達手段として暗号通貨の使用を擁護しています。「私たちの活動家として、私たちは最大の可能なポジティブな影響を与えることができる場所に重点を置くように常に努力してきました」と彼は言いました。「ある時点で、私たちは慈善活動をさらに拡大することができないと気づきました。生放送のみに依存するのではなく、持続的に資金を集めることができるようなモバイルゲームのようなものが必要だと」。
しかし、AI技術の台頭により、グループは焦点を変えざるを得なくなりました。「DALL-EとChatGPTが勢いを増して以来、急速に社会に混乱をもたらし、10年以内にAGIが登場する可能性があるため、より安全で責任ある基本的なAIアーキテクチャの開発に貢献することが私たちの優先事項になりました」と彼は続けました。
現在、AIと暗号通貨については多くの懐疑論が存在しています。Leysen氏は、これはしばしば「非常に単純で軍事的な議論」に起因すると述べ、グループは「人々の考えを変えようとするよりも、AIの技術的な貢献に焦点を当てている」と述べました。また、AIは今や大企業だけでなく、一般の人々の手にもあります。Leysen氏は、小規模なグループがAIの進歩を遂げることも重要だと考えています。
「私たちは、巨大な企業が制御する想像を絶するスーパーウェポンになる可能性があるのではなく、責任を持って建設的に理由づけるAGIの形につながる技術を開発するためにできる限りのことをしています」とLeysen氏は述べ、サイバーパンクのヒントを与えました。しかし、無名の企業が規制されていないAIコンテンツを作成する問題はまだ存在しています。
Twitch上のディープフェイクコンテンツの問題は、依然として大きな懸念の領域です。今年初め、女性ストリーマーの画像が作成され、オンラインで共有されたことにより、プラットフォームは露骨なディープフェイクコンテンツに関するポリシーを更新することを余儀なくされました。当時の報道によると、ストリーマーのBrandon “Atrioc” Ewingは、彼のコンピュータに露骨なディープフェイクストリーマーコンテンツがあることを誤って明らかにし、影響を受けた女性たちはその存在を知りませんでした。
その結果、Twitchは「合意のない合成的な搾取的な画像」（NCEI）と呼ばれる露骨なディープフェイクコンテンツをプラットフォーム上で禁止するポリシーを導入しました。「このコンテンツの作成、宣伝、閲覧はTwitchでは歓迎されません」と述べています。
ただし、このポリシーはディープフェイクコンテンツの「新興トレンド」もカバーしており、Twitchは「計画、対応、行動において慎重かつ綿密な考慮が必要となる」と述べています。さらに、Twitchは最近、子供を保護するための安全対策を強化し、生成AIによる児童性的虐待コンテンツ（CSAM）などの悪用されるコンテンツの削除を確保することを発表しました。
それにもかかわらず、TwitchではディープフェイクやAIコンテンツが許可されており、バイデンやトランプなどの現実の人物の使用も含まれていますが、露骨なコンテンツには明確なラインがあります。「これは私たちが注視し続ける分野ですが、私はストリーマーがここでイノベーターになると思います」とTwitchの商品VPであるジェレミー・フォレスター氏は、今年のTwitchCon Parisで私に話した際、AIが成長の可能性のある分野として議論されました。
TwitchのグローバルパートナーシップVPであるポンタス・エスキルソン氏は、Eurogamerに対して新たな声明で「Twitchのストリーマーは創造性において評価されており、この初期段階でも、一部のストリーマーがAIを実験して非常にユニークなコンテンツを作り出しています。アニメーションストリームやVTubing、および新しいモデルのトレーニングの技術的な取り組みをストリーミングするなど、新しい創造的な機会が広がっています」と述べました。
「これからもTwitchにおいて、興味深く時宜を得たサブジャンルが存在しているとしても、私たちのサービスの核心は常に、Twitch上で人々がコミュニティを見つける手助けをすること、そしてそれを安全に行えるようにすることです。AIを使用しているかどうかに関わらず、私たちのサービス上のすべてのストリーマーやチャンネルは、Twitchのサイト全体のコミュニティガイドラインと利用規約に従う必要があります。」
また、Leysen氏はAIを通じたディープフェイクコンテンツの道徳的責任についてもコメントしました。「私たちの立場は非常に伝統的です。技術を意図的に利用して欺くことは問題であり、Twitchのようなプラットフォームは、そのような悪用を防ぐ方法をますます見つける必要があります。これは非常に難しい課題です」と彼は述べました。
「私たちのショーケースがこれに関する意識を高めるのに役立つことを願っています。私たちのストリームを見た人々が、技術が既に何が可能かに驚き、次回にクリエイター/有名人/政治家が偽造された可能性のあるコンテキストに出現する場合、二度考えるようになることがしばしばあります。」
彼はまた、The Singularity Groupのストリームでは、実在の個人に基づいたキャラクターについて、そのコンテンツがパロディであることが明確に表示され、フェアユースの基準を満たしていると述べました。前述のストリーマードラマAIストリームがその例です。
「私たちのAIパロディキャラクターは下品で不安定かもしれませんが、彼らの出力が彼らの個人の背景に対して無神経ではないようにするために、私たちはたくさんの作業を行っています」とLeysen氏は述べました。「例外は、ストリーマーが私たちに連絡を取り、何も制限はなく、実際に彼らのAIパロディが彼らに関するすべての情報を自由に扱ってほしいと明示的に伝えた場合です。これまでに私たちに苦情を申し立てたストリーマーはいませんし、多くのストリーマーから私たちの創作物が好評であるとの声を聞いています。中には、彼らのAIパロディが登場するストリームに対するライブリアクションを行ったストリーマーも少なくありません。」
したがって、AIのコンテンツとストリームはTwitch上にとどまることは明らかですが、それがコミュニティの核心にどれだけ貢献するかは議論の余地があります。Leysen氏とThe Singularity Groupの活動家にとって、AIストリームはプラットフォームのフェアユースの範囲内であり、AIの技術的な優位性と破壊力を示す手段でありながら、同時にその危険性をも強調しています。そして露骨な内容には強い態度がありますが、AIをTwitchストリームにどれだけ統合できるのでしょうか？私たちはまもなく、完全にAIによって運営されるストリームを見ているのでしょうか？ゲームをプレイし、チャットに応答し、安全でモデレートされたコミュニティを作り出すAIによるストリームを。
それはおそらくイエスに尋ねるべき質問です。
