「LangChainとOpenAIを使用して、自己モデレートされたコメントシステムを作成する」

Creating a self-moderated comment system using LangChain and OpenAI

私たちはOpenAIの利用可能な2つのモデルをLangChainで連結させて、自己モデレートされたコメント応答システムを作成します。システムが荒らされるのを防ぎます。

免責事項として、この記事はLangChainツールの動作を示すために作成された例であることをお伝えしておきます。自己モデレートされたコメントシステムを作成する方法はさまざまあります。この記事では非常に基本的な解決策を探求します。

基本的なアイデアは、最終的に応答を公開するモデルをユーザーの入力から分離することです。

つまり、ユーザーのテキストを解釈するモデルを応答を公開する最終的な権限として許可しません。これにより、ユーザーによる潜在的な悪用試みからシステムを保護します。

• 「Azure OpenAIを使用して、会社独自の安全でプライベートなChatGPTを展開しましょう」
• 「AIモデルと化学者の洞察を組み合わせて、一度のステップで逆合成を予測する」
• 「トップのGPTとAIコンテンツ検出器」

モデレーションシステムが暴走したり、無礼になったりするのを防ぐために、LangChainチェーンが以下の手順を実行します：

• 最初のモデルはユーザーの入力を読み取ります。
• 応答を生成します。
• 2番目のモデルが応答を分析します。
• 必要に応じて修正し、最終的に公開します。

ご覧の通り、2番目のモデルは応答を公開できるかどうかを決定する責任があります。そのため、ユーザーの入力とは直接関係を持たせないようにします。

ソースコード。

この記事は、2つの異なるOpenAIモデルを使用したノートブックに基づいています。ただし、Hugging Faceモデルでも同じ解決策を実装した2つの補完的なノートブックがあります。そのうち1つでは、EleutherAI/gpt-j-6bモデルを使用し、もう1つでは、Metaがリリースした有名なLLAMA-2モデルファミリーの一部であるmeta-llama/Llama-2–7b-chat-hfモデルを使用しました。

これらのすべてのノートブックは、Large Language ModelsコースのGitHubリポジトリで見つけることができます。

• Llama2–7Bノートブック：https://github.com/peremartra/Large-Language-Model-Notebooks-Course/blob/main/HF_LLAMA2_LangChain_Moderation_System.ipynb

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!