Stack OverflowがChatGPTによる回答を禁止、大量のもっともらしい回答に対処できず 55
ストーリー by nagazou
会話の流暢さと内容の正確性は別機能 部門より
会話の流暢さと内容の正確性は別機能 部門より
あるAnonymous Coward 曰く、
複雑な問いかけにも回答するチャットAI「ChatGPT」がテスト公開され注目が集まっているが、プログラミングの質問・回答サイト「Stack Overflow」は6日、早くもこのChatGPTを使った回答を禁止する方針を発表した（Stack Overflowの発表、ITmedia、GIGAZINE、ZDNet Japan）。
ChatGPTは正しい回答もするが、開発元のOpenAIも認めているように「もっともらしく聞こえるが、不正確な回答や意味不明な回答」をすることも多々あるという。Stack Overflowでは「一番の問題は、ChatGPTが生成する回答は不正確である確率も高いのに、適切であるように思われることが多く、回答が非常に容易に生成されることだ」といった議論の末、サイトとユーザーにとって「おおむね有害」であると結論。ChatGPTを使用した投稿を一律禁止することを決定したとのこと。
状況知らないけど、予想出来るかも・・ (スコア:1)
質問: srad の画面を開いても「もうない」って出ます。どうしたらいいですか？
人間：えっとまずブラウザ何使っているの？あと時間帯は？
質問者：Firefox です。昼も深夜もです。
人間：うーん。じゃぁ混んでいるからというわけでもないか・・。一応 Chrome でもやってみて・・ （と、正しい解決のためにやりとりがある。知恵袋なんかと違って）
ChatGPT: 複数の可能性があります。srad はサービスを終了したか、技術的問題があるかsrad がホスティングに十分な料金を払ってないかです。お金を払っていなければサービス提供中でも画面は真っ白になります。
と、一回で答えようとするのがまず問題。
Yahoo知恵袋はまだ混乱していないのかな。
Re:状況知らないけど、予想出来るかも・・ (スコア:4, すばらしい洞察)
実際のやりとりから類推するならともかく、架空のやりとりから変な想像するのやめなよ
Q&Aサイトだって一回で答えようとする人は多いしChatGPTだって対話によって答えを導くことはできるよ
ちなみにChatGPTに上記の質問文を投げるとこうなる
「sradという名前のプログラムやアプリケーションがわかりませんので、具体的な解決方法をお伺いすることができません。お手数ですが、もう少し詳しく説明をお願いします。例えば、どの種類のデバイスで表示される画面ですか？その画面にはどのような内容が表示されていますか？その画面を開こうとした際に、どのような操作をしましたか？」
Re:状況知らないけど、予想出来るかも・・ (スコア:2, おもしろおかしい)
その画面にはどのような内容が表示されていますか？」
もうない。。。
Re:状況知らないけど、予想出来るかも・・ (スコア:1)
ありがとうございます。自動的にそうなるんでしょうか。
（アカウント作ろうと私の電話番号入れたら、あんたの国はサポートしませんって言われた）
かしこい
Re: (スコア:0)
誰がやっても自動的にこうなる。パラメタとかないので。アカウントはフランスの使い捨て番号で作った。
Re: (スコア:0)
横だがパラメタは入力した文であり、同じ質問文を送っても、返ってくる回答の文面は、質問文を送る都度変わる
とかですよね？
Re:状況知らないけど、予想出来るかも・・ (スコア:1)
トップディスカッションを最近のディスカッションに変えれば解決するとは思うのだが。
Re: (スコア:0)
srad「糞して寝ろ」
Re: (スコア:0)
その内、精度上げるためにどういった情報が必要か提示してくるようになりそうだな
Re: (スコア:0)
質問の例でスラドを使っただけでスラドについては何も言っていないよ
自らのゴミさで自らの言説を補強するスタイルカッコいいです
機械翻訳と同じ (スコア:1)
文体は一見整ってて流暢だけど致命的な誤訳を平然と含んでたりするから笑って済ませられるような用途にしか使えない
Re: (スコア:0)
スラドのことかーーーーっ！
Re:機械翻訳と同じ (スコア:1)
> 文体は一見整ってて流暢
スラドのことじゃないのは明らか。
Re: (スコア:0)
誤字脱字も多いからな。俺もナー
Re:機械翻訳と同じ (スコア:1)
Re: (スコア:0)
「おおむね有害」 (スコア:0)
不正確である確率も高いのに、適切であるように思われることが多く、非常に容易に投稿される
というのが理由を挙げられるということは高尚なユーザーコミュニティである宣言ですね
とsradのACは思う次第でございます
Re: (スコア:0)
その点スラドは、もっともらしく聞こないし、実際不正確な内容や意味不明な内容だから。
ある意味良心的と言える(言えない
Re: (スコア:0)
他にヤジ飛ばしてるだけの底辺サイトなのに
自尊心だけは高いんだよな＞すらど
Re:「おおむね有害」 (スコア:1)
> 自尊心だけは高いんだよな＞すらど
わかる。5chより上と思いたがってるのが何とも言えんよね。
Re: (スコア:0)
自意識高い系サイト
がらくたループ (スコア:0)
AI自身が回答したQ&Aサイトの問答でトレーニングしたら・・・
どんなことになるだろう
Re: (スコア:0)
いつものヒトラー支持botみたいになって公開停止になるんでしょ。カニエ・ウエストみたいに。
Re: (スコア:0)
わからないまま曖昧にぼかす度合いがどんどん先鋭化しそう
Re: (スコア:0)
AI同士で喋らせてたら独自言語（便宜上の呼び方）作り出したとかなかったっけ。
AI自身は正しいかどうかの判断出来ないから人間の介入なしなら学習結果が壊れてくだけだと思う。
人間間でも (スコア:0)
旦那さんが外国へ出張
出張前にその国の言葉の勉強に使ってた教科書を置いていったんで嫁さんと姑さんがどうせならとそれで勉強
どうにか二人でその外国語で会話できるようになる
旦那さんが帰国して二人の会話を聞いて
「なに、その謎言語？」
いらつく回答 (スコア:0)
英語での生成文がどうなのかは知らないけど、日本語のはまわりくどくていらつく文章が多い。
しかしChatGPT禁止ってどうやるんだろう。
イライラする回答を見つけたら「おまえChatGPTだろ！」って認定してマイナスモデするのかな。
Re:いらつく回答 (スコア:1)
人間が書いた文章とChatGPTが書いた文章を判定するAIでも導入したらいいんじゃない？
記事から記者を推定するAIが昔あったのを思い出した
(※センシティブな内容を含みます)
http://hanarchy.biz/blog/2017/01/08/detect_wjn_author/ [hanarchy.biz]
Re: (スコア:0)
AI作るのって意外に大変だから。ChatGPTの書いた文章をどう用意するかが問題になる。
Re: (スコア:0)
いま面白がってあちこちで晒されてるようなのは
「わからないならわからないと言えばいいのに」
ってぐらいしつこく曖昧な文章ですね。
学生時代、数学の大問がまったくわからなくて
せめて部分点を…と悪あがきしてたあの感じを思い出す。
Re: (スコア:0)
大学の数学科もしくはそれに近い学科での試験か、大学の工学系など、道具としての数学の試験か、大学入試での試験かが
わかりませんが、数学科での試験であれば、全然不正解でもそれなりの論述ができていればある程度の点数はもらえる
ような気がします。工学系での試験はよくわからない。大学入試でも記述式なら少しは点数もらえるんじゃないかな。
Re: (スコア:0)
単に間違った回答は禁止じゃアカンのだろうか。
Re:いらつく回答 (スコア:1)
世の中の「間違った回答」のうち、回答者が正しいと信じて書き込んだものはどのくらいあるんだろうか。
かなり多い、と思うのは、性善説に過ぎるかなぁ。
(善人であることと、その人の回答が正しいことはイコールではない)
Re: (スコア:0)
>日本語のはまわりくどくていらつく文章が多い。
なぜだか安部さん論法を学習させて故人を悼みたいとおもいました。
Re: (スコア:0)
悼むと言いつつまた名前間違っとりますが・・・
「悼」の方が変換ミスか
サイトにとって有害 (スコア:0)
禁止すると言っても取り締まる方法を色々考えるのも面倒くさいだろうし、むしろ逆に、全ての質問に対する解答に「ChatGPTの回答です」枠を自動で付けるようにした方が手っ取り早いのでは? と思った。そうすればわざわざ手動でやろうとする面倒くさいユーザを牽制出来るし。
けど、それをやるとサイトの存在意義が損なわれちゃうから出来ないわけか。
Stack Overflowなら、人間による珍回答も多いし、数打ちゃ当たるで検索キーワードを変えてる内によりマシな情報に当たったらめっけもん、ぐらいの使い方しかできないサイトだという感覚なのでノイズが増えても特には困らない気がする。
Re:サイトにとって有害 (スコア:1)
> Stack Overflowなら、人間による珍回答も多いし
でもスラドと違ってモデレーションが機能しており、高得点の回答見ればいいので助かります。
Re: (スコア:0)
何年も前の新規コメントを閉じてない質問に、意味不明な英語でインド人やパキスタン人が重複回答を書き込んで荒らされるサイトのどこがいいんだ。スラドみたいにすぐに閉じろ。
Re: (スコア:0)
お前は何を言ってるんだ。
単に禁止しして、有害な回答をしたアカウントを全部削除すればいいだけのことだろう。
Re: (スコア:0)
stackoverflowでその感覚ってエアプかな
Re: (スコア:0)
エアプっちゃあエアプかな。正しい使い方してないと言われたら否定出来ない。
C++言語仕様のエッジケースについてググったり、あんまり一般敵でないOSSツールのややこしいエラーメッセージについてググったりしてるときに、検索ヒットの上から5～10番目ぐらいに出てきてて、正解とか正解へより近づくのに有用な検索キーキーワードを拾ったりできるので名前を覚えたサイト、ぐらいの印象。次点がreddit。
Re: (スコア:0)
ChatGPTに汚染されると別の嘘キーワードを教え込まれる訳。
Re: (スコア:0)
それで困るわけでもないだろ、と言いたかったんだけどね。
どうせそのまま盲目的に信じるわけがなく、マニュアルなり仕様書なりで裏取りはするんだし、答えが確実にあると確信出来る問題ばかりを調べるわけでも無いし。
Re: (スコア:0)
検証コストを安く見積りすぎでは？
それで困らないなら、そうなんだとしか言えないけど。
Re: (スコア:0)
貴方が最初に調べた時点で、Stack OverflowがChatGPTで汚染された状態だったら、
「正解とか正解へより近づくのに有用な検索キーキーワードを拾ったりできる」
に該当しなかったのでは。
挙げられていた回答が、裏取りした結果全部ゴミだったら、そんなサイトにはもう近づかないでしょう？
Re: (スコア:0)
まあ人間の回答も一見それっぽく書いてあるけど実際は間違ってるのが多いよね。
酷いとサンプルコードがついてても間違ってる…
Re: (スコア:0)
絵でもそうなんだけど、承認欲求に目が眩んでるアホに真っ向から対抗すると
「せや！嘘吐いて騙せばええんやな！それ以外にワイの生きる道はない」と敵対し始めるから…
SNSで「シャドウ」バンが度々問題になるのも同じ理由で人間は正直に追い出すと逆ギレするから
正直に出禁と言わずうんうん頷いて全部無視するってシステムに進化したって感じの経緯
そうしたら誤BAN対処が余計に面倒になって運営も頭がおかしくなり始めたっていうオチがあるんだけど
Re: (スコア:0)
Stack Overflowは、スラドと違ってモデレーションが有効に機能してるので、よい回答はだいたい上位にある。
AIが回答してもいい感じにモデレートされて人間の回答と共存できそうだが、大量にやられると追いつかずに破綻するかもね。
不思議なのはほぼ内容が同じ回答を投稿する無意味なことをしてるやつもめちゃくちゃ多いこと。
あれは転職の時の材料にするために、Stack Overflowに回答して"いいね"たくさんもらってます！とか言うため？
Re: (スコア:0)
AIモデレータがすべてを…破壊するのか解決するのか…
Re: (スコア:0)
歴史をつなぐのかピリオド打つのか