「LangChainとOpenAIを使用して、自己モデレートされたコメントシステムを作成する」

Creating a self-moderated comment system using LangChain and OpenAI

私たちはOpenAIの利用可能な2つのモデルをLangChainで連結させて、自己モデレートされたコメント応答システムを作成します。システムが荒らされるのを防ぎます。

免責事項として、この記事はLangChainツールの動作を示すために作成された例であることをお伝えしておきます。自己モデレートされたコメントシステムを作成する方法はさまざまあります。この記事では非常に基本的な解決策を探求します。

基本的なアイデアは、最終的に応答を公開するモデルをユーザーの入力から分離することです。

つまり、ユーザーのテキストを解釈するモデルを応答を公開する最終的な権限として許可しません。これにより、ユーザーによる潜在的な悪用試みからシステムを保護します

モデレーションシステムが暴走したり、無礼になったりするのを防ぐために、LangChainチェーンが以下の手順を実行します:

  • 最初のモデルはユーザーの入力を読み取ります。
  • 応答を生成します。
  • 2番目のモデルが応答を分析します。
  • 必要に応じて修正し、最終的に公開します。

ご覧の通り、2番目のモデルは応答を公開できるかどうかを決定する責任があります。そのため、ユーザーの入力とは直接関係を持たせないようにします。

ソースコード。

この記事は、2つの異なるOpenAIモデルを使用したノートブックに基づいています。ただし、Hugging Faceモデルでも同じ解決策を実装した2つの補完的なノートブックがあります。そのうち1つでは、EleutherAI/gpt-j-6bモデルを使用し、もう1つでは、Metaがリリースした有名なLLAMA-2モデルファミリーの一部であるmeta-llama/Llama-2–7b-chat-hfモデルを使用しました。

これらのすべてのノートブックは、Large Language ModelsコースのGitHubリポジトリで見つけることができます。

  • Llama2–7Bノートブック:https://github.com/peremartra/Large-Language-Model-Notebooks-Course/blob/main/HF_LLAMA2_LangChain_Moderation_System.ipynb

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

機械学習

ユニバーサルシミュレータ(UniSim)をご紹介します:生成モデリングを通じたリアルワールドの対話をインタラクティブにシミュレートするシミュレータ

生成モデルは、テキスト、画像、動画のコンテンツ作成を変革しました。次のフロンティアは、人間とエージェントのアクション...

データサイエンス

MetaのAIが参照メロディに基づいて音楽を生成する方法

2023年6月13日、Meta(以前のFacebook)は、生成音楽モデルであるMusicGenをリリースし、音楽とAIコミュニティに衝撃を与えま...

人工知能

OpenChatのご紹介:カスタムチャットボットを数分で構築するための無料でシンプルなプラットフォーム

PDF、ウェブサイト、Notion、Confluence、Office 365などのリソースに接続して、チャットボットに任意のトピックを教えること...

AI研究

ペンシルバニア大学の研究者は、RNNベースのリザーバーコンピュータを設計およびプログラムするための代替AIアプローチを紹介しました

人間の脳は、自然が創り出した中で最も複雑なシステムの一つです。ニューロンは再発するニューラルリンクを形成し、インパル...

機械学習

「SEINEをご紹介します:シーン間のスムーズでクリエイティブなトランジションがある高品質な拡張ビデオのためのショートトゥロングビデオ拡散モデル」

テキストから画像を生成する拡散モデルの成功を受けて、ビデオ生成技術が急速に発展し、この領域での興味深い応用が見られる...

機械学習

「Amazon SageMakerの最新機能を使用することで、モデルのデプロイコストを平均で50%削減します」

組織がモデルを本番環境に展開するにつれて、彼らは常に最新のアクセラレーター(AWS InferentiaやGPUなど)で実行される基盤...