パスワードを忘れた? アカウント作成
16342683 story
プログラミング

Stack OverflowがChatGPTによる回答を禁止、大量のもっともらしい回答に対処できず 55

ストーリー by nagazou
会話の流暢さと内容の正確性は別機能 部門より
あるAnonymous Coward 曰く、

複雑な問いかけにも回答するチャットAI「ChatGPT」がテスト公開され注目が集まっているが、プログラミングの質問・回答サイト「Stack Overflow」は6日、早くもこのChatGPTを使った回答を禁止する方針を発表した(Stack Overflowの発表ITmediaGIGAZINEZDNet Japan)。

ChatGPTは正しい回答もするが、開発元のOpenAIも認めているように「もっともらしく聞こえるが、不正確な回答や意味不明な回答」をすることも多々あるという。Stack Overflowでは「一番の問題は、ChatGPTが生成する回答は不正確である確率も高いのに、適切であるように思われることが多く、回答が非常に容易に生成されることだ」といった議論の末、サイトとユーザーにとって「おおむね有害」であると結論。ChatGPTを使用した投稿を一律禁止することを決定したとのこと。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 質問: srad の画面を開いても「もうない」って出ます。どうしたらいいですか?

    人間:えっとまずブラウザ何使っているの?あと時間帯は?
    質問者:Firefox です。昼も深夜もです。
    人間:うーん。じゃぁ混んでいるからというわけでもないか・・。一応 Chrome でもやってみて・・ (と、正しい解決のためにやりとりがある。知恵袋なんかと違って)

    ChatGPT: 複数の可能性があります。srad はサービスを終了したか、技術的問題があるかsrad がホスティングに十分な料金を払ってないかです。お金を払っていなければサービス提供中でも画面は真っ白になります。
     と、一回で答えようとするのがまず問題。
    Yahoo知恵袋はまだ混乱していないのかな。

    • by Anonymous Coward on 2022年12月07日 18時58分 (#4376884)

      実際のやりとりから類推するならともかく、架空のやりとりから変な想像するのやめなよ
      Q&Aサイトだって一回で答えようとする人は多いしChatGPTだって対話によって答えを導くことはできるよ

      ちなみにChatGPTに上記の質問文を投げるとこうなる

      「sradという名前のプログラムやアプリケーションがわかりませんので、具体的な解決方法をお伺いすることができません。お手数ですが、もう少し詳しく説明をお願いします。例えば、どの種類のデバイスで表示される画面ですか?その画面にはどのような内容が表示されていますか?その画面を開こうとした際に、どのような操作をしましたか?」

      親コメント
    • by Anonymous Coward on 2022年12月08日 5時12分 (#4377078)
      「もうない」って、ユーザーを離れさせる手段になってしまっている。
      トップディスカッションを最近のディスカッションに変えれば解決するとは思うのだが。
      親コメント
    • by Anonymous Coward

      srad「糞して寝ろ」

    • by Anonymous Coward

      その内、精度上げるためにどういった情報が必要か提示してくるようになりそうだな

  • by Anonymous Coward on 2022年12月07日 20時26分 (#4376956)

    文体は一見整ってて流暢だけど致命的な誤訳を平然と含んでたりするから笑って済ませられるような用途にしか使えない

  • by Anonymous Coward on 2022年12月07日 18時49分 (#4376877)

    不正確である確率も高いのに、適切であるように思われることが多く、非常に容易に投稿される
    というのが理由を挙げられるということは高尚なユーザーコミュニティである宣言ですね
    とsradのACは思う次第でございます

    • by Anonymous Coward

      その点スラドは、もっともらしく聞こないし、実際不正確な内容や意味不明な内容だから。
      ある意味良心的と言える(言えない

      • by Anonymous Coward

        他にヤジ飛ばしてるだけの底辺サイトなのに
        自尊心だけは高いんだよな>すらど

  • by Anonymous Coward on 2022年12月07日 19時40分 (#4376922)

    AI自身が回答したQ&Aサイトの問答でトレーニングしたら・・・
    どんなことになるだろう

    • by Anonymous Coward

      いつものヒトラー支持botみたいになって公開停止になるんでしょ。カニエ・ウエストみたいに。

    • by Anonymous Coward

      わからないまま曖昧にぼかす度合いがどんどん先鋭化しそう

    • by Anonymous Coward

      AI同士で喋らせてたら独自言語(便宜上の呼び方)作り出したとかなかったっけ。
      AI自身は正しいかどうかの判断出来ないから人間の介入なしなら学習結果が壊れてくだけだと思う。

      • by Anonymous Coward

        旦那さんが外国へ出張
        出張前にその国の言葉の勉強に使ってた教科書を置いていったんで嫁さんと姑さんがどうせならとそれで勉強
        どうにか二人でその外国語で会話できるようになる
        旦那さんが帰国して二人の会話を聞いて
        「なに、その謎言語?」

  • by Anonymous Coward on 2022年12月07日 19時43分 (#4376927)

    英語での生成文がどうなのかは知らないけど、日本語のはまわりくどくていらつく文章が多い。
    しかしChatGPT禁止ってどうやるんだろう。
    イライラする回答を見つけたら「おまえChatGPTだろ!」って認定してマイナスモデするのかな。

    • by Anonymous Coward on 2022年12月07日 20時09分 (#4376941)

      人間が書いた文章とChatGPTが書いた文章を判定するAIでも導入したらいいんじゃない?

      記事から記者を推定するAIが昔あったのを思い出した
      (※センシティブな内容を含みます)
      http://hanarchy.biz/blog/2017/01/08/detect_wjn_author/ [hanarchy.biz]

      親コメント
      • by Anonymous Coward

        AI作るのって意外に大変だから。ChatGPTの書いた文章をどう用意するかが問題になる。

    • by Anonymous Coward

      いま面白がってあちこちで晒されてるようなのは
      「わからないならわからないと言えばいいのに」
      ってぐらいしつこく曖昧な文章ですね。

      学生時代、数学の大問がまったくわからなくて
      せめて部分点を…と悪あがきしてたあの感じを思い出す。

      • by Anonymous Coward

        大学の数学科もしくはそれに近い学科での試験か、大学の工学系など、道具としての数学の試験か、大学入試での試験かが
        わかりませんが、数学科での試験であれば、全然不正解でもそれなりの論述ができていればある程度の点数はもらえる
        ような気がします。工学系での試験はよくわからない。大学入試でも記述式なら少しは点数もらえるんじゃないかな。

    • by Anonymous Coward

      単に間違った回答は禁止じゃアカンのだろうか。

    • by Anonymous Coward

      >日本語のはまわりくどくていらつく文章が多い。
      なぜだか安部さん論法を学習させて故人を悼みたいとおもいました。

      • by Anonymous Coward

        悼むと言いつつまた名前間違っとりますが・・・

        「悼」の方が変換ミスか

  • by Anonymous Coward on 2022年12月07日 19時57分 (#4376935)

    禁止すると言っても取り締まる方法を色々考えるのも面倒くさいだろうし、むしろ逆に、全ての質問に対する解答に「ChatGPTの回答です」枠を自動で付けるようにした方が手っ取り早いのでは? と思った。そうすればわざわざ手動でやろうとする面倒くさいユーザを牽制出来るし。

    けど、それをやるとサイトの存在意義が損なわれちゃうから出来ないわけか。

    Stack Overflowなら、人間による珍回答も多いし、数打ちゃ当たるで検索キーワードを変えてる内によりマシな情報に当たったらめっけもん、ぐらいの使い方しかできないサイトだという感覚なのでノイズが増えても特には困らない気がする。

    • by Anonymous Coward on 2022年12月07日 20時12分 (#4376946)

      > Stack Overflowなら、人間による珍回答も多いし
       
      でもスラドと違ってモデレーションが機能しており、高得点の回答見ればいいので助かります。

      親コメント
      • by Anonymous Coward

        何年も前の新規コメントを閉じてない質問に、意味不明な英語でインド人やパキスタン人が重複回答を書き込んで荒らされるサイトのどこがいいんだ。スラドみたいにすぐに閉じろ。

    • by Anonymous Coward

      お前は何を言ってるんだ。

      単に禁止しして、有害な回答をしたアカウントを全部削除すればいいだけのことだろう。

    • by Anonymous Coward

      stackoverflowでその感覚ってエアプかな

      • by Anonymous Coward

        エアプっちゃあエアプかな。正しい使い方してないと言われたら否定出来ない。

        C++言語仕様のエッジケースについてググったり、あんまり一般敵でないOSSツールのややこしいエラーメッセージについてググったりしてるときに、検索ヒットの上から5~10番目ぐらいに出てきてて、正解とか正解へより近づくのに有用な検索キーキーワードを拾ったりできるので名前を覚えたサイト、ぐらいの印象。次点がreddit。

        • by Anonymous Coward

          ChatGPTに汚染されると別の嘘キーワードを教え込まれる訳。

          • by Anonymous Coward

            それで困るわけでもないだろ、と言いたかったんだけどね。

            どうせそのまま盲目的に信じるわけがなく、マニュアルなり仕様書なりで裏取りはするんだし、答えが確実にあると確信出来る問題ばかりを調べるわけでも無いし。

            • by Anonymous Coward

              検証コストを安く見積りすぎでは?
              それで困らないなら、そうなんだとしか言えないけど。

            • by Anonymous Coward

              貴方が最初に調べた時点で、Stack OverflowがChatGPTで汚染された状態だったら、

              「正解とか正解へより近づくのに有用な検索キーキーワードを拾ったりできる」

              に該当しなかったのでは。
              挙げられていた回答が、裏取りした結果全部ゴミだったら、そんなサイトにはもう近づかないでしょう?

    • by Anonymous Coward

      まあ人間の回答も一見それっぽく書いてあるけど実際は間違ってるのが多いよね。
      酷いとサンプルコードがついてても間違ってる…

    • by Anonymous Coward

      絵でもそうなんだけど、承認欲求に目が眩んでるアホに真っ向から対抗すると
      「せや!嘘吐いて騙せばええんやな!それ以外にワイの生きる道はない」と敵対し始めるから…

      SNSで「シャドウ」バンが度々問題になるのも同じ理由で人間は正直に追い出すと逆ギレするから
      正直に出禁と言わずうんうん頷いて全部無視するってシステムに進化したって感じの経緯
      そうしたら誤BAN対処が余計に面倒になって運営も頭がおかしくなり始めたっていうオチがあるんだけど

    • by Anonymous Coward

      Stack Overflowは、スラドと違ってモデレーションが有効に機能してるので、よい回答はだいたい上位にある。
      AIが回答してもいい感じにモデレートされて人間の回答と共存できそうだが、大量にやられると追いつかずに破綻するかもね。

      不思議なのはほぼ内容が同じ回答を投稿する無意味なことをしてるやつもめちゃくちゃ多いこと。
      あれは転職の時の材料にするために、Stack Overflowに回答して"いいね"たくさんもらってます!とか言うため?

      • by Anonymous Coward

        AIモデレータがすべてを…破壊するのか解決するのか…

        • by Anonymous Coward

          歴史をつなぐのかピリオド打つのか

typodupeerror

ナニゲにアレゲなのは、ナニゲなアレゲ -- アレゲ研究家

読み込み中...