AIをトレーニングするために雇われた人々が、AIに仕事を外注している…

People hired to train AI are outsourcing work to AI.

AIモデルのトレーニングに支払われる人々のかなりの割合が、自分たちの仕事をAIにアウトソーシングしている可能性があることが、新しい研究で明らかになりました。

特定のタスクを正確かつ信頼性の高い方法で実行するために、AIシステムをトレーニングするには、信じられないほどの量のデータが必要です。多くの企業は、CAPTCHAの解決、データのラベリング、およびテキストの注釈付けなど、通常自動化が困難なタスクを完了するために、Mechanical Turkなどのプラットフォーム上のギグワーカーに支払いを行います。このデータは、AIモデルにフィードされ、それらをトレーニングします。これらの労働者は報酬が低く、多くのタスクを非常に迅速に完了することが期待されています。

大型言語モデルにはセキュリティ上の脆弱性がたくさんありますが、それらは広範囲にわたるテック製品に埋め込まれています。

だからこそ、彼らの収益を最大化するためにChatGPTのようなツールを使っている人がいるかもしれません。しかし、その数はどのくらいですか？スイス連邦工科大学（EPFL）の研究者チームは、医学研究論文から16の抜粋を要約するために、ギグワークプラットフォームAmazon Mechanical Turkで44人を雇いました。その後、研究者たちは、単語選択の多様性の欠如など、ChatGPTの出力の兆候を探す自分たちでトレーニングしたAIモデルを使用して、回答を分析しました。また、労働者たちのキーストロークを抽出して、回答がコピー＆ペーストされたものであるかどうかを判断しました。それは、彼らが自分たちの回答を別の場所で生成したことを示す指標です。

• ジョン・イサザ弁護士、FAI氏によるAIとChatGPTの法的な土壌を航行する方法
• プロンプトの旅：プロンプトエンジニアリングを通じた生成型AIシステムのライフサイクル
• マルチヘッドアテンションを使用した注意機構の理解

MIT Technology Reviewからフル記事を見る

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!