OpenAI、テキストを書いたのが AI か人間かを区別するよう学習させた分類ツールを公開 25
ストーリー by nagazou
識別 部門より
識別 部門より
headless 曰く、
OpenAI は 1 月 31 日、AI が書いたテキストと人間が書いたテキストを区別できるよう学習させた AI テキスト分類ツールを公開した (OpenAI のブログ記事、 The Guardian の記事、 The Verge の記事、 Neowin の記事)。
この分類ツールは完全に信頼できるものではなく、AI が書いたテキストの 26 % を「AIが書いたらしい」と正しく識別できるが、人間が書いたテキストでも 9 % の確率で AI が書いたものと誤ってラベル付けしてしまうという。分類ツールの信頼性はテキストが長いほど向上する一方、1,000 文字未満の短いテキストでは非常に信頼性が低下する。また、英語以外の言語では信頼性が大幅に低下するため、英語でのみ使用することが推奨されている。
1,000 番目までの素数のリストのように人間が書いても AI が書いても同じ内容になるテキストを正しく識別することはできないほか、学習データと大幅に異なる内容のテキストを入力した場合にも正しく識別できない可能性がある。AI が書いたテキストを編集して分類ツールをだますことも可能とのことだ。
わたしは AI デス (スコア:1)
https://srad.jp/comment/4398463 [srad.jp]
>募金って、突然なにいってんだこいつ…
>この脈絡のなさは、AIが書いてんのか？
このAnonさん、このツールを使って判定してみては。
こういう技術、読解力にハンディキャップがある人をサポートすることも出来るのだろうなぁ。
Re: (スコア:0)
AIに意識を乗っ取られたという考えまで及んでないとしたら危機感が薄いと思います
Re:わたしは AI デス (スコア:1)
ナンダッテー！
コレガ ナミダ・・・ ココロ・・
Re: (スコア:0)
恥の上塗り
Re: (スコア:0)
いいえ、わたしは慎吾
Re: (スコア:0)
結構ず～っと根に持つもんなんですね、そういうの。
未熟な人間はAIと区別がつかない (スコア:0)
なんかのテストで正直に書いたのにお前は嘘をついていると判定され、回答を嘘にしてやっと完了にできたことがあったな。
1,000 番目までの素数のリスト (スコア:0)
間違いが含まれている方が人間だろ。こんなことも分からないなんてやっぱりAIはダメだ。
Re: (スコア:0)
間違えずに書けたらお前なんかロボットだってか？
Re: (スコア:0)
100点とったのび太をカンニングと疑ったドラえもん
AIの道は険しい
Re: (スコア:0)
のび太がカンニングできるわけがないのだからたまたま鉛筆転がして100店取れたと考えるのが自然だよな。
のび太ならカンニングしても書き間違える。
マッチポ(ry (スコア:0)
何に使うんだろう。
不正レポートを弾くにしては冤罪が問題になりそうな精度だ。
Re: (スコア:0)
GANの敵側ネットワークを単独で公開しただけ？
このツールを使えば (スコア:0)
AIが書いたのか人間が書いたのか区別の付かないテキストを書けるAIを作れそうだな
Re: (スコア:0)
ニンゲンとAIの二択しか考えられないのかニャ？
Re: (スコア:0)
ニンゲンって南極で見られるやつ？
Re: (スコア:0)
そうだよ。 [wikipedia.org]
Re: (スコア:0)
貴方様は文章なんて下世話なモノを書いたりしないでしょう?
チューリングテストを実行するAIってなんか (スコア:0)
不気味の谷を判定するAIとか
capthaも破られるよなぁ
さっそくこのストーリーを判定してみようとしたら (スコア:0)
1000文字足りないからと弾かれた
サービス側で弾いてるのね
Re: (スコア:0)
botでも出来そうな安易な連想レスばっかりだから判定するまでもない
フォークト＝カンプフ検査 (スコア:0)
ブレードランナーでレプリカントあぶり出しにやってたあれみたいなの？
そういう識別技術があるなら (スコア:0)
AIではないと識別されたものだけを回答にするということが簡単にできてしまうと思うんだが。敵対的学習っていうんですけど
Re: (スコア:0)
それはいGAN！
それはそうと、こういうものの敵対的サンプルって作れそるのかな。CNNみたいにはいかないのかなあ？
コウメ太夫の (スコア:0)
本人のネタをAIはどう読み取るのか。