新しい技術の詳細なコース：AWS上の生成AIの基礎

AWS上の生成AIの基礎'の新技術コース

『Generative AI Foundations on AWS』は、AWSをはじめとする環境で最先端のファンデーションモデルを事前トレーニング、微調整、展開するための概念の基礎、実践的なアドバイス、そして実際の手引きを提供する新しい技術的な詳細なコースです。AWSのGenerative AIの世界的なファウンデーションリードであるエミリー・ウェバーによって開発され、この無料の実践的なコースとサポートするGitHubのソースコードはAWSのYouTubeを通じて公開されました。ファンデーションモデルについてのトップリソース、コンセプト、ガイダンスを網羅した厳選された再生リストを探している方は、このコースをお見逃しなく。

この8時間の詳細な掘り下げでは、ファンデーションモデルを基礎から理解するのに役立つ主要な技術、サービス、トレンドについて紹介します。これは、理論、数学、抽象的なコンセプトを分解し、実践的な応用のための機能的な直感を得るためのハンズオン演習を組み合わせたものです。コース全体を通じて、私たちは進行的に複雑な幅広いジェネラティブAI技術に焦点を当て、最高のパフォーマンスを実現するために自分自身のモデルを理解、設計、適用するための強力な基盤を提供します。まず、ファンデーションモデルの再キャプチャー、その起源、動作方法、ジェネラティブAIとの関連性、カスタマイズ方法について学びます。次に、自分のユースケースに合わせた適切なファンデーションモデルの選び方について学びます。

ファンデーションモデルのコンテキストを理解し、それを使用する方法についての強力な理解を得たら、このコースの中核的なテーマである新しいファンデーションモデルの事前トレーニングについて学びます。なぜそれを行いたいのか、どのように、どこで競争力を持つのかを学びます。さらに、スケーリング法則を使用して適切なモデル、データセット、計算サイズを選ぶ方法も学びます。AWS上で大規模なトレーニングデータセットの準備、適切なインスタンスとストレージ技術の選択についても説明します。ファンデーションモデルの微調整、最近の技術の評価、これらをスクリプトとモデルで実行する方法についても詳しく説明します。さらに、人間のフィードバックによる強化学習にも深く入り、スキルを持ってスケールアップしてファンデーションモデルのパフォーマンスを最大限に引き出す方法を探求します。

最後に、新しいファンデーションモデルをAmazon SageMakerに展開するための理論を実践に応用する方法を学びます。これには、複数のGPUを使用したり、検索増強生成やチェーン型対話などのトップデザインパターンを使用したりします。さらに、Stable Diffusionの詳細な解説、プロンプトエンジニアリングのベストプラクティス、LangChainの立ち上げなども説明します。

• 「LLMの内部構造：言語モデルアーキテクチャの詳細な解説」
• このAIニュースレターは、あなたが必要とするすべてです ＃57
• 「AIフィードバックループ：AI生成コンテンツの時代におけるモデルの製品品質の維持」

もっと読書派ですか？私の15章からなる書籍『Pretrain Vision and Large Language Models in Python: End-to-end techniques for building and deploying foundation models on AWS』（Packt Publishing、2023年5月31日発売）をAmazonで入手できます。コードに直接飛び込みたいですか？私もそうです。ビデオはすべて、キーコンセプトとビジュアルの概要を45分間説明した後、ハンズオンの部分を15分間歩きます。すべてのサンプルノートブックとサポートコードは、公開リポジトリで提供されますので、独自に進めることができます。VoAGI、LinkedIn、GitHub、またはAWSチームを通じてお気軽にお問い合わせください。AWSでのジェネラティブAIについてもっと学びましょう。

楽しい学習を！

コース概要

1. ファンデーションモデルの紹介

大規模な言語モデルとは何か、そしてどのように動作するのか それらはどこから来るのか 他の種類のジェネラティブAIは何か ファンデーションモデルをカスタマイズする方法 ジェネラティブモデルを評価する方法 Amazon SageMakerでのファンデーションモデルのハンズオンウォークスルー

レッスン1のスライド レッスン1のハンズオンデモリソース

2. 適切なファンデーションモデルの選び方

適切なファンデーションモデルを選ぶことの重要性 サイズを考慮すること 精度を考慮すること 使いやすさを考慮すること ライセンスを考慮すること 業界でこのモデルがうまく機能している事例を考慮すること 外部のベンチマークを考慮すること

レッスン2のスライド レッスン2のハンズオンデモリソース

3. 事前学習済みの基礎モデルを使用する：プロンプトエンジニアリングとファインチューニング

事前学習済みの基礎モデルを使用する利点 プロンプトエンジニアリング： ゼロショット シングルショット フューショット 要約 分類 翻訳 ファインチューニング クラシックなファインチューニング パラメータ効率のファインチューニング Hugging Faceの新しいライブラリ SageMakerでのプロンプトエンジニアリングとファインチューニングの実践

レッスン3のスライド レッスン3の実践デモリソース

4. 新しい基礎モデルの事前学習

なぜ新しい基礎モデルを作成したり必要としたりするのか？ 事前学習とファインチューニングの比較 事前学習のためのデータセットの準備 SageMakerでの分散トレーニング：ライブラリ、スクリプト、ジョブ、リソース 新しいスクリプトをSageMakerの分散トレーニングに適応する理由と方法

レッスン4のスライド レッスン4の実践デモリソース

5. データの準備と大規模なトレーニング

AWSで大規模なデータの準備オプション CPUインスタンスでのSageMakerジョブの並列処理の説明 SageMaker Trainingへのデータ送信のモードの説明 FSx for Lustreの紹介 SageMaker TrainingでのFSx for Lustreの大規模利用 実践的な手順：SageMaker TrainingのLustreの設定

レッスン5のスライド レッスン5の実践デモリソース

6. 人間のフィードバックを用いた強化学習

この技術とその重要性 主観性と客観性の問題をスケールで人間の選好のランキングを用いて解決する方法 どのように機能するのか？ SageMaker Ground Truthを使用した方法 更新された報酬モデリング 実践的な手順：SageMakerでのRLFH

レッスン6のスライド レッスン6の実践デモリソース

7. 基礎モデルの展開

モデルの展開の目的 AWSでのFMの展開オプション 展開のためにモデルを最適化する方法 大規模モデル展開コンテナの詳細 SageMakerでFMを展開するためのトップの設定のヒント 基礎モデルの呼び出しのためのプロンプトエンジニアリングのヒント ハロシネーションを緩和するための検索拡張生成の使用 実践的な手順：SageMakerでのFMの展開

レッスン7のスライド レッスン7の実践デモリソース

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!