キャンドル：Rustでのミニマリストな機械学習

キャンドル：Rustでの機械学習

Rustで独自の機械学習モデルを構築するためのガイド

人工知能（AI）企業のHugging Faceは、最近Rustプログラミング言語向けに設計された新しい最小限の機械学習（ML）フレームワークであるCandleを導入しました。この革新的なフレームワークは、既にGitHubで7.8千のスターと283のフォークを集めるなど、大きな注目を集めています。

Hugging Faceは、30万以上のオープンソース機械学習モデルの範囲を拡大するために、開発者向けのエコシステムを拡充することに取り組んでいます。スタートアップの製品・成長責任者であるJeff Boudier氏によれば、「大局的には、開発者のためのエコシステムを開発し、それを行うための非常に多くのトラクションを見ています」とのことです。

これは、Google、Amazon、Nvidia、Salesforce、AMD、Intel、IBM、Qualcommなどの業界の巨人からの支援を含む2億3500万ドルの資金調達に続いています。

Candle: RustでのMLフレームワーク

ほとんどのMLフレームワークは、従来はPythonで書かれ、PyTorchなどのライブラリに依存しています。これらのフレームワークはしばしば大きく、クラスターでのインスタンス作成が遅くなることがCandleのFAQでも指摘されています。

• 「Flash-AttentionとFlash-Attention-2の理解：言語モデルの文脈長を拡大するための道」
• 4/9から10/9までの週のためのトップ重要なコンピュータビジョンの論文
• ディープラーニングを使用した自動音楽生成

Candleは、サーバーレス推論をサポートすることで他とは異なります。サーバーレス推論は、インフラストラクチャを管理せずにMLモデルを実行する方法です。これは、軽量のバイナリのデプロイを可能にすることで実現されます。バイナリは、特定の環境でアプリケーションを実行するために必要なすべてのリソースを含んだ実行可能ファイルです。

さらに、Candleを使用すると、Pythonを製品のワークロードから排除し、Pythonのパフォーマンスオーバーヘッドやグローバルインタープリターロック（GIL）に関する懸念を解消することができます。GILは有益ですが、CPythonが完全なマルチコアパフォーマンスを達成するのを妨げることがあります。

Candleの始め方

Rustベースの機械学習プロジェクトでCandleを使用したい方々には、オープンソースのデータセットを使用して線形回帰モデルを構築する方法の例があります：

extern crate…

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!