マシンラーニングにとっての「最悪のシナリオを防ぐ競争」

Preventing worst-case scenarios in machine learning competition.

Dave Willner氏は、インターネット上で最悪なものの進化を間近で見てきました。

彼は2008年にFacebookで働き始め、ソーシャルメディア企業がルールを作りながら進んでいた時代からの参加者でした。コンテンツポリシーの責任者として、彼は約10年前にFacebookの最初の公式コミュニティスタンダードを書いた人物です。それは、主に「ヒトラーと裸の人物」の禁止に集約された非公式な1ページのリストだったと彼は言いますが、現在では、Metaのすべてのプラットフォームで禁止されている中傷、犯罪、およびその他の異様なものの豊富なカタログになっています。

そこで、昨年、サンフランシスコの人工知能研究所OpenAIは、数語で説明するだけで誰でも瞬時に画像を作成できるツールであるDall-Eを立ち上げる準備をしていたとき、同社は信頼性と安全性の責任者にDave Willner氏を任命しました。最初は、Dall-Eのフィルターが潜在的な違反としてフラグ付けしたすべての画像とプロンプトを選別し、違反者が成功しないようにする方法を考えることでした。

しかし、彼がその仕事に就いて間もなく、彼は馴染みのある脅威を考えるようになりました。

• 理論から実践へ：k最近傍法分類器の構築
• なぜ無料のランチがあるのか
• 自動化、Ansible、人工知能

出典：The New York Timesの記事全文

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!