「作者の正体を暴く:AIか人間か?IBMの革新的なテキスト検出ツールを用いたAIフォレンジックスの出現を探る」

AI vs. Human Unmasking the Author - Exploring the Emergence of AI Forensics with IBM's Innovative Text Detection Tool

急速に進化するAIの時代において、注目すべき課題が存在します。それは、生成AIの透明性と信頼性です。IBMの研究者たちは、世界にAI検出と帰属のツールを提供することで、生成AIの認識方法を変えることを目指しています。しかし、複雑なことに、LLMは自分が書いたコンテンツを検出したり、チューニングされたモデルのソースを追跡するのにはあまり優れていません。日常のコミュニケーションを再構築し続ける中で、研究者たちは、生成AIをより説明可能で信頼性のあるものにするための新しいツールに取り組んでいます。

研究者たちは、現代の時代の基盤となる信頼性のあるAIツールキットを適応させることで、これらの進化し続けるテクノロジーに対して責任と信頼性を確保することを目指しています。IBMとハーバードの研究者は、最初のAIテキスト検出器の1つであるGLTRを作成しました。GLTRは単語間の統計的関係を分析したり、生成テキストの特徴的な手がかりを探したりします。IBMの研究者は、AI検出器を欺くためにパラフレーズされたAI生成テキストを特定するのに役立つ画期的なツールであるRADARを開発しました。RADARは、テキストをパラフレーズするモデルとAI生成されたかどうかを判定するモデルとを対決させます。チャットGPTのようなサードパーティモデルへの従業員のアクセスを制限することで、クライアントデータの漏洩を防止するための安全対策が実施されています。

生成AIの世界では、テキストを生成したモデルとそのテキストの起源を特定することが課題となっています。これは帰属として知られる分野を通じて行われます。IBMの研究者たちは、応答を比較し関連するモデルを明らかにするためのマッチングペア分類器を開発しました。機械学習を用いた自動のAI帰属は、特定のモデルの起源や他の数多くの要素を特定するのに研究者たちを支援しています。これらのツールは、モデルの基盤を追跡し、その振る舞いを理解するのに役立ちます。

IBMは、説明可能で信頼性のあるAIの推進者として長年の歴史があります。彼らはバイアスの緩和と説明可能性を製品に取り入れたAI Fairness 360ツールキットを導入しました。そして、Watsonx.governanceの11月リリースにより、彼らはAIワークフローの透明性を向上させています。IBMは、透明性のツールのアクセシビリティを誰にでも提供するという使命に固執しています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

機械学習

一緒にAIを学びましょう−Towards AIコミュニティニュースレター#5

おはようございます、AI愛好家の皆さん!今週のポッドキャストのエピソードは必聴で、これまでの24エピソードの中でも一番優...

データサイエンス

AdaTape 適応計算とダイナミックな読み書きを持つ基礎モデル

Googleの研究インターンであるFuzhao Xueと研究科学者であるMostafa Dehghaniによって投稿されました。 適応的計算とは、機械...

AIニュース

「6人の女性が気候変動との戦いをリードしている」

「私たちは、気候科学のパイオニアであるユニス・ニュートン・フット博士と、女性が率いるGoogle.orgの6つの恩恵を受ける組織...

機械学習

AIの脅威:自動化された世界における見えない課題

この記事では、2023年に現れるAIの脅威、AIシステムのセキュリティーの複雑さ、そしてAI駆動の防御、規制、教育の重要性につ...

人工知能

ChatGPTを使ってコーディングする方法' (ChatGPTをつかってコーディングするほうほう)

イントロダクション 人工知能を現代のプログラミングに取り入れることで、効率とイノベーションの新時代が到来しました。Open...

AIニュース

スナップチャットの不具合がパニックを引き起こす:私のAIが謎のストーリーと画像を投稿します

人気のあるソーシャルメディアプラットフォームであるSnapchatは、最近、AIを搭載したチャットボット「My AI」に関する技術的...