CarperAIは、コードと自然言語の両方で進化的な検索を可能にするために設計されたオープンソースライブラリ、OpenELMを紹介します

CarperAI introduces OpenELM, an open-source library designed to enable evolutionary search in both code and natural language.

自然言語処理は、人工知能の主要な分野の一つであり、非常に速いペースで進化しています。言語を話す方法や書く方法と同じようにコンピュータが人間の言語を理解する能力を持つことで、NLPにはさまざまなユースケースがあります。そのような進展の一つが、自然言語処理、自然言語理解、自然言語生成に基づくトレーニングされたディープラーニングモデルである大規模言語モデルの導入です。これらのモデルは、質問に答える、正確なテキストコンテンツを生成する、コードを補完する、長いテキストのパラグラフを要約する、言語を翻訳するなど、人間を模倣します。

最近、AI研究のリーディングカンパニーであるCarperAIは、進化的な探索の領域を変革することを約束するオープンソースのライブラリOpenELMを発表しました。ELMは大規模モデルによる進化という意味で、OpenELMは大規模言語モデルの力を進化的アルゴリズムと組み合わせて、多様かつ高品質なテキストとコードの生成を可能にします。OpenELMバージョン0.9は、開発者や研究者にとって複雑な問題を解決するための優れたツールを提供することを目的として提案されました。また、チームはGPTP 2023での論文も発表しました。

大規模言語モデル（LLM）による進化的な改善、批判、および出力の向上の方法を示すELMは、言語モデルの問題解決能力を向上させるために使用することができ、言語とコードの両方に対して知的な探索演算子としての潜在能力を示します。ELMの中心的なアイデアは、LLMが進化的アルゴリズムの変異の知的な演算子として機能することです。OpenELMは、この潜在能力を活用して言語モデルの問題解決能力を向上させ、トレーニング中にモデルが見たことのない領域で多様な高品質なコンテンツの作成を可能にします。チームはOpenELMに以下の4つの主要な目標を設定しました。

• AIによる生産性向上 生成AIが様々な産業において効率の新たな時代を開く
• 「機械学習支援コンピュータアーキテクチャ設計のためのオープンソースジムナジウム」
• 「脳のように機能するコンピュータビジョンは、人々が見るように見ることができます」

1. オープンソース – OpenELMはELMとそれに関連する差分モデルのオープンソースリリースを提供し、開発者がライブラリを自由に使用し、貢献することができるようにします。

1. モデルの統合：OpenELMは、商用API（OpenAI APIなど）でのみ使用できるクローズドモデルと、ローカルまたはColabなどのプラットフォームで使用できるオープンソースの言語モデルの両方とスムーズに連携するように構築されています。

1. 使いやすいインターフェースとサンプル環境：OpenELMは、簡単なユーザーインターフェースとさまざまな進化的探索のサンプル環境を提供することを目指しています。

1. 進化の可能性 – OpenELMは、巨大な言語モデルの可能性を活用した進化との組み合わせを示し、知的な変異演算子が特に平文のコード作成や創造的な文章作成などの分野で進化的アルゴリズムを支援する方法を示します。

MAP-Elites、CVT-MAP-Elites、Deep Grid MAP-Elitesなどの品質多様性（QD）メソッドに焦点を当てたOpenELMは、機能が豊富なライブラリとして、よく知られた進化的技術とスムーズに連携します。これにより、特化領域ごとに最も優れた個体を保持しつつ多様性を促進し、高品質で多様な解決策を作成することが可能となります。結論として、OpenELMは大規模言語モデルの潜在能力を活用して多様な高品質なテキストとコードを生成することで、進化的探索の分野で重要なマイルストーンを示しています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!