「LMQLに出会ってください：大規模言語モデル（LLM）との対話のためのオープンソースプログラミング言語とプラットフォーム」

Introducing LMQL an open-source programming language and platform for interacting with large language models (LLM).

大規模言語モデルは、人工知能コミュニティに大きな影響を与えています。最近のその影響は、医療、金融、教育、エンターテイメントなど、さまざまな業界に貢献しています。GPT、DALLE、BERTなどのよく知られた大規模言語モデルは、非凡なタスクを実行し、生活を容易にします。DALLE 2は、単純なテキストの説明に応じて画像を作成できますし、GPT-3は優れたエッセイを書いたり、コードを完成させたり、長いテキストの段落を要約したり、人間のように質問に答えたり、短い自然言語のプロンプトだけでコンテンツを生成したりすることができます。これらのモデルは、人工知能と機械学習を急速にパラダイムシフトさせるのに役立っています。

最近、研究チームがLMQLというオープンソースのプログラミング言語とプラットフォームを導入しました。LMQLは、プロンプト、制約、スクリプトを組み合わせることで、大規模言語モデル（LLM）の機能を向上させます。Pythonに基づく宣言的なSQLのような言語であるLMQLは、制御フロー、制約によるデコーディング、ツールの拡張を可能にします。この種のスクリプティングにより、非常に少量のコードで複数のパートからなるプロンプトフローを簡素化することができます。

研究者は、LMQLを使用してLMP（言語モデルプログラミング）を可能にしました。これにより、LMPのプロンプトから制約と制御フローを取り込んで、効率的な推論手順を生成することができます。これらの高度な制約は、生成時に厳密に強制されるいくつかの評価セマンティクスの助けを借りて、トークンマスクに変換されます。

• 「セマンティック-SAMに会ってください：ユーザーの入力に基づいて任意の粒度でオブジェクトをセグメント化および認識する、万能な画像セグメンテーションモデル」
• 「AudioGPTをご紹介します：ChatGPTとオーディオファウンデーションモデルを結ぶマルチモーダルAIシステム」
• 「DISCOに会おう：人間のダンス生成のための革新的なAI技術」

チームは、生成されたテキストの再クエリと検証の高いコストを回避するためにLMQLを導入しました。これにより、LMQLは後続の反復を必要とせずに、最初の試行で望ましい出力に近いテキストを生成することができます。また、LMQLの制約により、ユーザーは生成されたテキストが特定の文法的または構文的なルールに従うこと、あるいは特定の単語やフレーズが回避されていることを確認するなど、テキスト生成プロセスをガイドまたは制御することができます。

研究者は、LMQLが既存のAPIでは実装が難しい対話型フローなど、さまざまな最先端のプロンプト手法をキャプチャできることを示しました。評価によると、LMQLは多数の下流タスクで精度を維持または向上させながら、使用料が発生するAPIの計算やコストを大幅に削減し、13〜85%のコスト削減が実現されています。

LMQLは、ユーザーが一般的なプロンプト技術や高度なプロンプト技術を簡単かつ簡潔に表現できるようにします。Hugging FaceのTransformers、OpenAI API、Langchainと統合されています。同様の開発者リソースはlmql.aiで利用可能であり、ブラウザベースのPlayground IDEも実験用に利用できます。

要約すると、LMQLは効率性と精度を向上させる強力なツールであり、言語モデルプログラミングを容易にする有望な開発です。これにより、ユーザーはより少ないリソースで望ましい結果を達成しやすくなります。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!