マシンラーニングにとっての「最悪のシナリオを防ぐ競争」

Preventing worst-case scenarios in machine learning competition.

非営利団体ThornのデータサイエンスディレクターであるRebecca Portnoff氏は、10年以上にわたり機械学習と児童安全に取り組んでいます。 ¶ クレジット:Kristian Thacker / The New York Times

Dave Willner氏は、インターネット上で最悪なものの進化を間近で見てきました。

彼は2008年にFacebookで働き始め、ソーシャルメディア企業がルールを作りながら進んでいた時代からの参加者でした。コンテンツポリシーの責任者として、彼は約10年前にFacebookの最初の公式コミュニティスタンダードを書いた人物です。それは、主に「ヒトラーと裸の人物」の禁止に集約された非公式な1ページのリストだったと彼は言いますが、現在では、Metaのすべてのプラットフォームで禁止されている中傷、犯罪、およびその他の異様なものの豊富なカタログになっています。

そこで、昨年、サンフランシスコの人工知能研究所OpenAIは、数語で説明するだけで誰でも瞬時に画像を作成できるツールであるDall-Eを立ち上げる準備をしていたとき、同社は信頼性と安全性の責任者にDave Willner氏を任命しました。最初は、Dall-Eのフィルターが潜在的な違反としてフラグ付けしたすべての画像とプロンプトを選別し、違反者が成功しないようにする方法を考えることでした。

しかし、彼がその仕事に就いて間もなく、彼は馴染みのある脅威を考えるようになりました。

出典:The New York Timesの記事全文

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

データサイエンス

「研究データ管理の変革:AIの役割によるデベロッパーのエンパワーメント」

「人工知能(AI)は、開発者にとって便利な友達のような存在ですAIは大量のデータの中から情報を見つけることを簡単にします」

機械学習

『周期的な時間特徴のエンコード方法』

多くの予測タスクでは、モデルの入力として時間情報が必要です小売会社のレモネードの売上を予測するための回帰モデルを考え...

データサイエンス

「『メジャーな第2波』をAIが探知、NVIDIAのCEOがiliadグループ幹部とのファイヤーサイドチャットで語る」というテキストです

新たなAIインフラストラクチャーの世代がスタートアップ企業を大いに後押しする予定だと、NVIDIAの創設者兼CEOであるジェンセ...

人工知能

バードの未来展望:よりグローバルで、よりビジュアル的で、より統合されたもの

「Bardのウェイトリストを終了し、より多くの地域をサポートするようになり、画像を導入し、パートナーアプリと連携すること...

機械学習

「Amazon Bedrockを使用した生成型AIアプリ:Go開発者のための入門ガイド」

「AWS Go SDKとAmazon Bedrock Foundation Models(FMs)を使用して、コンテンツ生成、チャットアプリケーションの構築、スト...

人工知能

ダイナミックAIプロジェクト見積もり' (Dainamikku AI purojekuto mitsumori)

現在、ほとんどの人が見積もりを使用しています顧客は、プロジェクトの結果を使用するタイミングを計画し制御するためにそれ...