「コンパートメント化拡散モデル（CDM） 異なるデータソース上で異なる拡散モデルまたはプロンプトをトレーニングするためのAIアプローチ」

「AI approach for training different diffusion models or prompts on different data sources in compartmental diffusion models (CDM)」

最近の技術の進歩と人工知能の分野における発展により、多くの進展がありました。有名なChatGPTモデルを使用したテキスト生成やテキストから画像生成など、あらゆることが現実的になりました。Diffusionモデルは、簡単な言語的な示唆やスケッチを使って人々が目を引くビジュアルを作成できる能力があるため、多くの関心を集めています。大量のトレーニングデータのため、各画像の出所を確認することは困難であり、そのためこれらのモデルは生成された写真の出典を正確に特定することについての疑問を引き起こしています。

これに対処するため、トレーニングサンプルの影響を使用する前に制限する、使用後に不適切に含まれたトレーニング例の影響を解決する、サンプルの影響をトレーニング出力に制限するなど、いくつかの戦略が提案されています。また、モデルのトレーニングに最も大きな影響を与えたサンプルを特定することは、トレーニングデータと類似した画像を作成することを避けるための目標です。しかし、これらの保護策は、Diffusionモデルでは特に大規模な環境では効果が示されていません。これは、モデルの重みが複数のサンプルからのデータを組み合わせているため、アンラーニングなどのタスクを行うことが困難になるためです。

それを克服するために、AWS AI Labsの研究者チームが最新の手法であるCompartmentalised Diffusion Models（CDM）を紹介しました。この手法では、さまざまなデータソースでさまざまな拡散モデルやプロンプトをトレーニングし、推論段階でシームレスに組み合わせる方法を提供します。この方法を使用すると、各モデルは個別に異なる時間および異なるデータセットやドメインでトレーニングすることができます。これらのモデルは組み合わせて、すべてのデータを同時にトレーニングした理想的なモデルと同等のパフォーマンスを提供できます。

• AdaTape 適応計算とダイナミックな読み書きを持つ基礎モデル
• 「ダウンフォール」の欠陥が世代を超えたインテルチップで貴重なデータを公開します
• パンダのコピー・オン・ライトモードの詳細な調査：パートI

CDMの特異性は、各個別のモデルがトレーニング中に露出した特定のデータのサブセットについてのみ知識を持っているという点にあります。この特性により、トレーニングデータを保護するさまざまな方法が生まれます。拡散モデルの文脈では、CDMは選択的な忘却と継続的な学習の両方を可能にする初めての手法として際立っています。その結果、モデルの個々のコンポーネントを変更したり忘れたりすることができ、モデルが時間とともに変化し発展するための柔軟で安全な方法が提供されます。

CDMは、ユーザーのアクセス権限に基づいてユニークなモデルを作成する利点もあります。これにより、モデルを特定のユーザー要件や制約に合わせて変更でき、実用性を高めながらデータのプライバシーを保持できます。これらの特性に加えて、CDMは特定のデータサブセットが特定のサンプルを生成する上でどのような重要性を持つかを理解する洞察を提供します。これは、モデルが特定の結果に最も大きな影響を与えるトレーニングデータの部分に関する情報を提供できることを意味します。

結論として、Compartmentalised Diffusion Modelsは、さまざまなデータソースで異なる拡散モデルをトレーニングし、それらをシームレスに統合して結果を生成するための強力なフレームワークです。この方法はデータを保護し、柔軟な学習を促進し、拡散モデルの能力をさまざまなユーザー要件に合わせて拡張するのに役立ちます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!