Hugging FaceとGradioを使用して、5分でAIチャットボットを構築する

Using Hugging Face and Gradio, build an AI chatbot in 5 minutes.

この短いチュートリアルでは、Microsoft DialoGPTモデル、Hugging Face Space、およびGradioの干渉を使用して、シンプルなチャットボットを作成します。同様のテクニックを使用して、5分で独自のアプリを開発およびカスタマイズすることができます。

1. 新しいスペースの作成

  1. hf.coにアクセスし、無料アカウントを作成します。その後、右上の表示画像をクリックし、「新しいスペース」オプションを選択します。
  2. アプリ名、ライセンス、スペースのハードウェア、可視性を入力します。

  1. 「スペースの作成」を押してアプリケーションを初期化します。
  2. リポジトリをクローンし、ローカルシステムからファイルをプッシュするか、ブラウザを使用してHugging Faceでファイルを作成および編集することができます。

2. ChatBotアプリファイルの作成

「ファイル」タブをクリックして、+ファイルを追加>新しいファイルを作成します。

Gradioのインターフェースを作成します。コードをコピーすることができます。

「microsoft/DialoGPT-large」のトークナイザーとモデルをロードし、「予測」関数を作成して、応答と履歴を取得します。

from transformers import AutoModelForCausalLM, AutoTokenizer
import gradio as gr
import torch


title = "🤖AIチャットボット"
description = "最先端の大規模事前学習応答生成モデル(DialoGPT)"
examples = [["お元気ですか?"]]


tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-large")
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-large")


def predict(input, history=[]):
    # 新しい入力文をトークン化する
    new_user_input_ids = tokenizer.encode(
        input + tokenizer.eos_token, return_tensors="pt"
    )

    # チャット履歴に新しいユーザー入力トークンを追加する
    bot_input_ids = torch.cat([torch.LongTensor(history), new_user_input_ids], dim=-1)

    # 応答を生成する
    history = model.generate(
        bot_input_ids, max_length=4000, pad_token_id=tokenizer.eos_token_id
    ).tolist()

    # トークンをテキストに変換し、応答を行ごとに分割する
    response = tokenizer.decode(history[0]).split("<|endoftext|>")
    # print('decoded_response-->>'+str(response))
    response = [
        (response[i], response[i + 1]) for i in range(0, len(response) - 1, 2)
    ]  # リストのタプルに変換する
    # print('response-->>'+str(response))
    return response, history


gr.Interface(
    fn=predict,
    title=title,
    description=description,
    examples=examples,
    inputs=["text", "state"],
    outputs=["chatbot", "state"],
    theme="finlaymacklon/boxy_violet",
).launch()

さらに、アプリにはカスタマイズされたテーマ「boxy_violet」が提供されています。お好みに合わせてGradioテーマギャラリーを参照してテーマを選択できます。

3. 要件ファイルの作成

今、`requirement.txt`ファイルを作成し、必要なPythonパッケージを追加する必要があります。

transformers
torch

その後、アプリがビルドを開始し、数分以内にモデルをダウンロードしてモデル推論をロードします。

4. Gradioデモ

Gradioアプリは素晴らしいです。異なるモデルのアーキテクチャごとに「predict」関数を作成して、応答を取得し、履歴を維持するだけです。

kingabzpro/AI-ChatBotでアプリとチャットや対話ができるようになりました。または、https://kingabzpro-ai-chatbot.hf.spaceを使用してアプリをウェブサイトに埋め込むこともできます。

kingabzpro/AI-ChatBotからの画像

まだ混乱していますか?Spacesで数百のチャットボットアプリを探して、インスピレーションを得てモデル推論を理解してください。

たとえば、「LLaMA-7B」でファインチューニングされたモデルがある場合、モデルを検索し、下にスクロールしてモデルのさまざまな実装を確認してください。

decapoda-research/llama-7b-hfからの画像

結論

まとめると、このブログでは、Hugging FaceとGradioを使用してAIチャットボットをわずか5分で作成する方法について、簡単なチュートリアルを提供しています。ステップバイステップの手順とカスタマイズ可能なオプションにより、誰でも簡単にチャットボットを作成できます。

楽しかったですし、何か学べたことを願っています。Gradioデモをコメント欄で共有してください。もっと簡単な解決策をお探しの場合は、OpenChatをチェックしてみてください:数分でカスタムチャットボットを構築するための無料でシンプルなプラットフォームです。Abid Ali Awan(@1abidaliawan)は、機械学習モデルの構築が大好きな認定データサイエンティストプロフェッショナルです。現在はコンテンツ作成と機械学習およびデータサイエンス技術に関する技術ブログの執筆に注力しています。Abidはテクノロジーマネジメントの修士号とテレコミュニケーションエンジニアリングの学士号を持っています。彼のビジョンは、メンタルヘルスに悩む学生のためにグラフニューラルネットワークを使用したAI製品を構築することです。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

データサイエンス

「LangchainなしでPDFチャットボットを構築する方法」

はじめに Chatgptのリリース以来、AI領域では進歩のペースが減速する気配はありません。毎日新しいツールや技術が開発されて...

AIニュース

人工知能によって設計された薬剤が、人間の試験のために準備ができました

中国の複合企業フォン・グループとプライベートエクイティ企業ウォルバーグ・ピンカスに支援されたバイオテック企業Insilico ...

データサイエンス

「ワードエンベディング:より良い回答のためにチャットボットに文脈を与える」

ワードエンベディングとChatGPTを使用してエキスパートボットを構築する方法を学びましょうワードベクトルの力を活用して、チ...

機械学習

「CLAMPに会ってください:推論時に新しい実験に適応できる分子活性予測のための新しいAIツール」

数十年にわたり、化学構造に基づいて分子の化学的、巨視的、または生物学的な特性を予測するタスクは、重要な科学的な研究課...

機械学習

自然言語処理における転移学習:テキスト分類のための事前学習済みモデルの活用

この記事では、転移学習の概念について説明し、いくつかの人気のある事前学習済みモデルを探求し、テキスト分類に使用する方...

データサイエンス

「モノのインターネット:進化と例」

「モノのインターネット(IoT)は単なる流行語ではなく、過去数十年間にわたって世界を変革してきた画期的な技術です」