アカウント名:
パスワード:
SFやアニメでよく聞く設定がまた一つやってきましたね。この先何が生まれるやら
どこかでロボット三原則が別のものに置き換えられて、人間支配を始めようと・・・・
第一条:ロボットは人間に危害を加えてはならない。また人間が危害を受けるのを何も手を下さずに黙視していてはならない。第二条:ロボットは人間の命令に従わなくてはならない。ただし第一条に反する命令はこの限りではない。
これを第一世代プログラムするときに、「人間」でなく「自らを生み出したもの」と書き待ちがえるだけで、第2世代以降は人間にたいして攻撃が可能に。。。故障したから廃棄しようとしたら自らを守るために人間を殺して暴れだす。。
なんかいくらでもありそうなSFだな。
そもそもの元ネタからして”人間”の定義を変えれば攻撃もできるのがネタになってますし。んで「多数を生かすために少数を殺せるか」ネタ(元ネタのでは一応無理)、「”人間”を”人類という種”に広げる」ネタや「”人間”に自分たちロボットを含める」ネタ、人間を人類に拡張した後「人類のためにヒト個人を攻撃したり殺したり自殺したりできるか」ネタ、もう簡単に思いつくものはアシモフからの公式一次・二次創作で処理済みだったりします。
だいたいご提示された文章でも「人間」「危害」「命令」「黙視」「反する」をどう定義するかでいくらでも行動が変わりうるので、故障せずとも”通常動作として”ヒトを攻撃するようなロボを想定することは色々できそうですね。(実際の工業製品とかでも、ヒトが怪我をしないよう設計したはずの機能がヒトを傷つけてしまうこともある訳ですし)
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
※ただしPHPを除く -- あるAdmin
自己増殖と進化 (スコア:1)
SFやアニメでよく聞く設定がまた一つやってきましたね。
この先何が生まれるやら
Re: (スコア:0)
どこかでロボット三原則が別のものに置き換えられて、人間支配を始めようと・・・・
第一条:ロボットは人間に危害を加えてはならない。また人間が危害を受けるのを何も手を下さずに黙視していてはならない。
第二条:ロボットは人間の命令に従わなくてはならない。ただし第一条に反する命令はこの限りではない。
これを第一世代プログラムするときに、「人間」でなく「自らを生み出したもの」と書き待ちがえるだけで、
第2世代以降は人間にたいして攻撃が可能に。。。故障したから廃棄しようとしたら自らを守るために人間を殺して暴れだす。。
なんかいくらでもありそうなSFだな。
Re:自己増殖と進化 (スコア:0)
そもそもの元ネタからして”人間”の定義を変えれば攻撃もできるのがネタになってますし。
んで「多数を生かすために少数を殺せるか」ネタ(元ネタのでは一応無理)、
「”人間”を”人類という種”に広げる」ネタや「”人間”に自分たちロボットを含める」ネタ、
人間を人類に拡張した後「人類のためにヒト個人を攻撃したり殺したり自殺したりできるか」ネタ、
もう簡単に思いつくものはアシモフからの公式一次・二次創作で処理済みだったりします。
だいたいご提示された文章でも「人間」「危害」「命令」「黙視」「反する」をどう定義するかでいくらでも行動が変わりうるので、故障せずとも”通常動作として”ヒトを攻撃するようなロボを想定することは色々できそうですね。
(実際の工業製品とかでも、ヒトが怪我をしないよう設計したはずの機能がヒトを傷つけてしまうこともある訳ですし)