パスワードを忘れた? アカウント作成
16491400 story
人工知能

OpenAI、テキストを書いたのが AI か人間かを区別するよう学習させた分類ツールを公開 25

ストーリー by nagazou
識別 部門より
headless 曰く、

OpenAI は 1 月 31 日、AI が書いたテキストと人間が書いたテキストを区別できるよう学習させた AI テキスト分類ツールを公開した (OpenAI のブログ記事The Guardian の記事The Verge の記事Neowin の記事)。

この分類ツールは完全に信頼できるものではなく、AI が書いたテキストの 26 % を「AIが書いたらしい」と正しく識別できるが、人間が書いたテキストでも 9 % の確率で AI が書いたものと誤ってラベル付けしてしまうという。分類ツールの信頼性はテキストが長いほど向上する一方、1,000 文字未満の短いテキストでは非常に信頼性が低下する。また、英語以外の言語では信頼性が大幅に低下するため、英語でのみ使用することが推奨されている。

1,000 番目までの素数のリストのように人間が書いても AI が書いても同じ内容になるテキストを正しく識別することはできないほか、学習データと大幅に異なる内容のテキストを入力した場合にも正しく識別できない可能性がある。AI が書いたテキストを編集して分類ツールをだますことも可能とのことだ。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
typodupeerror

計算機科学者とは、壊れていないものを修理する人々のことである

読み込み中...