トロッコ問題とは何か? 自律走行車は「人を守るために人を殺すこともある」|WIRED.jp

INSIGHT 2017.03.20 MON 16:00 トロッコ問題とは何か? 自律走行車は「人を守るために人を殺すこともある」 人工知能が制御する自律走行車は、人間が運転するクルマよりもはるかに安全で、交通事故も大幅に減るだろう。しかし、そのテクノロジーを本当に社会に導入すべきかという議論においては、いわゆる「トロッコ問題」が検討されなければならない。 TEXT BY MATT SIMON W...

記事へジャンプ

みんなの反応

はてなブックマークでの反応
1ad2217@hatena 2017/03/20 17:21:42
トロッコ問題が教えいているのは、ブレーキは絶対に壊れてはいけないということだ。そして、ブレーキが壊れていない限り、誰が死のうと気にしないで止まれ!
2iww@hatena 2017/03/20 18:04:34
『まともな考えをもった人間なら、もちろん前者を選ぶだろう。』 後者はまともじゃないのかよ
3kjin@hatena 2017/03/20 18:15:24
“しかし、この発見により、深刻な問題が持ち上がる。ロボットカーが道路を走る準備はすぐにでも整うかもしれないが、人間のほうは、ロボットカーに付随する倫理的課題を受け入れる準備ができていないのだ。しかし、
4ROYGB@hatena 2017/03/20 19:38:26
自動運転車は人間みたいにブレーキを踏んでるつもりでアクセルを踏むことは無いので、そういった事故は起きないのではないかなあ。前進するつもりでバックして店に突っ込むとかも無さそう。
5eirun@hatena 2017/03/20 19:56:58
大して重要な問題には思えないな。人間の運転は、目の前に園児がいなくても、気まぐれにフローズンヨーグルト屋につっこんで誰も救わず自分だけ間抜けに死んだりするわけで。それよりずっとマシだ。
6tikani_nemuru_M@hatena 2017/03/20 20:40:09
あー、たしかにトロッコ問題の変種だわ。ただこの事例では自分の命と他者の命の選択なので、まだ結論はでやすいほうかもしれぬ。
7takashi0314@hatena 2017/03/20 20:48:40
そもそもセンサーの海とAIのおかげで故障してるクルマがそのまま走り続けるというシチュエーションがなくなるのではないか?
8mventura@hatena 2017/03/20 21:08:29
自分を犠牲にするか?というより、ロボットカーは一人(運転手)を犠牲にするか、二人以上を犠牲にするか、という問題っぽい。トロッコ問題にある「自分が手を下すかどうか」の要素はないけれど。
9suna_kago@hatena 2017/03/20 21:17:15
この手の倫理学的記事は「まともな人間は当然こうする」「大多数の人間は当然こうする」という表現を振りかざすけれど、それはイデオロギーの正当化であり哲学の衆愚主義化に過ぎないという気がする。
10lbtmplz@hatena 2017/03/20 21:30:28
まともな人間などいない!
11MIZ@hatena 2017/03/20 21:39:57
確実にどちらかが起こるというのであれば、自分ならBを選ぶ。あとで人でなしと罵られても自分の命を優先する。
12KUROBUCHI@hatena 2017/03/20 21:43:48
これは、Aを選ぶ製品しか販売できないよう国が規制すべき。その上で、人間が運転するより運転手は安全なんだと説得していくべき。技術を使ってどんな世の中にしたいか考えれば自ずと答えは出るはず。
13mobile_neko@hatena 2017/03/20 21:58:09
これはシンプルに運転者優先で、あとは規約と保険でカバーで良いだろ。もしかしたらメーカーが基金とか運転者によるモード設定とかはあるかもしれないけど、原則は運転者の安全を最大限に保護で良いと思うぞ。
14helioterrorism@hatena 2017/03/20 22:06:07
ジョシュア・グリーンがトロッコ問題で功利主義的には同一と見なせる2つのケースにおいても一方をより罪深いと感じるのはなぜなのか、というのを分析していて、社会的な合意を形成する上でそのへんが課題になりそう
15baronhorse@hatena 2017/03/20 22:11:38
保険でカバーという話良く出て来るけど、刑事罰はどう考えてんだろ。/金だけの話じゃないんだよな。生身の人間が人生をかけて運転しているという前提が崩れるけどどうすんの?てのがあるでしょ。
16youichirou@hatena 2017/03/20 22:31:45
自立運転車なら走行ログやドライブレコーダーも付いてるだろうから、人命を救うために自爆したとかが証明された場合は自動運転でも情状酌量で損害賠償が軽減されるとかそういう立法も将来はあり得るのかなぁ?
17hyujico@hatena 2017/03/20 22:34:08
エンジンブレーキを最大にして、サイドブレーキを引く。そしてフローズンヨーグルトに斜めからぶつかる
18tnishimu@hatena 2017/03/20 22:35:08
誰も悪くないのであれば車に乗ってる側は死を受け入れるべきで、歩行者は逃げる努力をしなくて良いとはならないと思う。 究極的には自分の命は自分で守るべきで、車のオーナーの命が優先されるのが自然だと思う。
19turanukimaru@hatena 2017/03/20 22:35:34
命の責任については文化によっては表現を変えるべきなんだろうな。日本なら、誰を殺すかをロボットが決めることに納得できるか?その判断にだれが責任を取るのか?と問うべきか。外国で責任者を探すかは知らないけど
20ryuiso@hatena 2017/03/20 22:41:35
例えがイマイチすぎる。どんな思考の運転手か分からないタクシーに皆乗ってるんだから便利なら皆使うだけでしょ。
21mur2@hatena 2017/03/20 23:23:15
助手席の死亡率が最も高いことからもわかるように、多くの人間は自己犠牲の精神など持ち合わせていない。自律運転車に限って問題にするべきことは、自動運転車が引き起こした事故の結果に対する責任の所在だと思う。
22shngmsw@hatena 2017/03/20 23:30:17
その頃にはランドセルにエアバッグが搭載されてるから大丈夫
23ogatatsu@hatena 2017/03/20 23:33:41
とりあえず初めは人は運ばずに荷物だけを運ぶのに使い始めれば良いよ。
24perl-o-pal@hatena 2017/03/20 23:45:02
別に自動運転車に限った話ではなく、助手席に乗った場合やタクシー、バス、電車何でもそうじゃない?で、適当に折り合いをつけてきている訳で。つか、AIの話でトロッコ持ち出す人多すぎ。
25Ksag@hatena 2017/03/20 23:58:04
ブレーキが故障するという仮定の中で考えるのは意味があることなの?
26t_massann@hatena 2017/03/21 00:03:50
判断せずに流れに身を任せることにすれば良いと思っている。
27runt_nc@hatena 2017/03/21 00:08:21
倫理の話にするからややこしくなるんであって、万が一の時に開発企業のブランドイメージへ与える影響を考えれば「トウモロコシの子どもたち」ルートはありえない、ってだけの話では。
28kuroyuli@hatena 2017/03/21 00:08:30
自分の足で歩いている人間と、化石燃料or電気 消費して楽してる人間のどちらを救うべきかは明確。今の交通法だって歩行者優先は大前提じゃん。
29mohno@hatena 2017/03/21 00:19:05
「米国だけでも、毎年30,000人以上が交通事故で亡くなっており」←そんなに多いんだ。いざというとき自分が死ぬ(とプログラムされている)装置なんて誰も使わないぞ。
30tazyamah@hatena 2017/03/21 00:27:17
「火山の火口に落ちたら焼死する」ぐらいに「道路に出たら轢殺される」という認識が広まればいいだけなんじゃないの
31Shin-JPN@hatena 2017/03/21 00:36:18
トロッコ問題自体は回答が出尽くしているわけで問題はそこじゃない。社会の根本的大欠陥は人間が「自分はまとも/まともな答えを出せる」と思い込んでること。我々には無知無明の闇を手探りで歩いてる自覚が足りない
32sunayuki@hatena 2017/03/21 00:42:48
いざという時に他人の命を優先する機械を信用するとな?
33kyuusyuuzinn@hatena 2017/03/21 00:52:18
マイケル・サンデルの見解を聞きたい。
34nozipperar@hatena 2017/03/21 01:19:43
こんなレアケースを持ち出して議論していたらキリが無い 今より良化するならそれで良い 全てを良化させる事は、現時点では不可能だろう
35chess-news@hatena 2017/03/21 01:27:56
まあ、トロッコになる前に発見すれば良いのであって、選択の問題ではなく、検出能力の問題。あと、それが発生する交通ルールの穴でもある。
36tf5vsip2d@hatena 2017/03/21 01:28:53
車に乗る時のイメージが今の自動車と同じと考えてる事が問題なんじゃないの?例えば乗る所をとても頑丈に作ればヨーグルト大型専門店に突っ込んでも安全だと思うよ。アメリカの大統領専用車並みの頑丈さでね
37Sarutani@hatena 2017/03/21 01:39:27
滑走路上にいる除雪車を銃撃するべきか否か的な話か。
38myogab@hatena 2017/03/21 02:11:21
命の優先順位のプログラムに例外として天秤に掛ける命の数に関係無く特定人物(所持端末のID等)を最優先にする裏設定を組み込み非公式に登録権が売買されてたら幾らくらいになりますかね。
39Inuneco@hatena 2017/03/21 02:52:57
そもそもの問題はブレーキにある。
40enderuku@hatena 2017/03/21 02:57:44
俺は生きろとギアスをかけられているので子供に突っ込む。
41vndn@hatena 2017/03/21 05:01:24
自動運転の場合で問題になるというのは「事故はコンピュータが勝手にやったことだから乗ってる人に責任はない」って考えがあるんだと思う。手動運転と同じく乗ってる人に責任があるという発想で解決だ。整備不良で。
42kamei_rio@hatena 2017/03/21 06:19:47
"まともな考えをもった人間なら、もちろん前者を選ぶだろう" 人間がまともだといつから錯覚していた?
43GreenTopTube@hatena 2017/03/21 06:24:00
日本でさえ年間約4000人が自動車の事故で死亡しており、歩行中と自動車乗車中の死者数はほぼ同じ。惨事の元凶である自動車の抑制が人命を守る。自動ブレーキ搭載義務化、自動運転化も急務。 http://greentoptube.hatenablog.com/
44novak777@hatena 2017/03/21 07:31:24
海底鬼岩城のバギーちゃんにはどんな人工知能が乗ってたんだろう。
45shoot_c_na@hatena 2017/03/21 07:46:14
じこはおこるさ
46deztecjp@hatena 2017/03/21 07:46:40
トロッコ問題自体は考えるための補助線なので、その不備を問うても意味がないとは思うが。→http://synclon3.com/lon/show-thread/300
47sgo2@hatena 2017/03/21 07:52:04
多分この例だと、自動運転技術が進化すれば周囲の車と連携して自然に止まるまで走行/安全な場所探してそこに突っ込む/やんわり体当りして止めるなどするのでは。
48taruhachi@hatena 2017/03/21 07:57:09
普通の人間なら自分は死んでも子供達を守るだろうし、AIもその正しい判断をするだろうって、この決め付けは何なのか。そこに正しさなんてないというのがトロッコ問題なのだが。。。
49gowithyou@hatena 2017/03/21 07:57:13
そうすると飛び出した子供達は過失致死に問われることになるよね。
50whirl@hatena 2017/03/21 08:06:42
ブレーキが故障したら警告音を爆音で鳴らすとかして危険車両の存在をまわりにしらせるくらいの機能は付きそう
51komachiyo@hatena 2017/03/21 08:06:48
DIO様のドヤ顔を思い出した俺は歩道を爆走するかもしれない
52quick_past@hatena 2017/03/21 08:22:28
これからは車が突っ込んできても当たる面を最小にして波紋防御できるようにならないとな。
53NOV1975@hatena 2017/03/21 08:39:52
確率事象としての自分のガン死に納得できない話もここの延長線上として捉えることができるかもしれない
54kaerudayo@hatena 2017/03/21 09:28:29
なんでこういう例えを使いたがるかなぁ、しかしw
55mr_yamada@hatena 2017/03/21 09:36:18
この手の問題、保険会社や警察がどういう扱いをするのかで大きく変わるだろうねぇ。自動運転で事故を起こし、保険料上がったり、刑事罰を受けるのか?
56gazi4@hatena 2017/03/21 09:39:39
自動運転車にトロッコ問題を持ち出す一連の話題の諧謔は、技術の進歩という未来感あるお話をしながら経済問題にフタをしている事。事前に想定できるなら当然対策できるであろう事で、対策できないとすれば
57hiby@hatena 2017/03/21 09:51:59
問題の出発点が既に履き違えているような。OBDの拡張にブレーキ装置を含めて自律判断させてそもそも駐機状態から発進できないようにすれば事故は起きない的な方向に発展できないもんだろうか。何割かは整備不良だし。
58rekp@hatena 2017/03/21 09:53:18
トーマスにコメントを求めなければ
59blueboy@hatena 2017/03/21 09:56:08
トロッコ問題は正解が出ている。「交通法規を守ること」だ。→ http://j.mp/2dTSaqc 自動ブレーキもあるはず。/ 事例は、車道に子供が流れ込むという自殺行為? ならば死ね。/ ブレーキの故障なら、エンジンを止めろ。
60seesaa@hatena 2017/03/21 09:58:56
(自律走行車が)搭乗者である自分自身を殺す決断を下しうることを知っていれば、ほとんどの人間はそんなクルマは買わないだろう
61junjun777@hatena 2017/03/21 10:19:13
子供を殺した人間として生きるくらいなら、自殺した方がマシだね。「搭乗者である自分自身を殺す決断を下しうる」としても買うよ。そのロジックに納得がいけば。(今回の例は納得できる)
62solidstatesociety@hatena 2017/03/21 11:16:48
そもそも判断するポイントを設定しないと処理動かないけどね
63rkchy@hatena 2017/03/21 12:22:04
人間よりマシとか対策すればいいとかコメントあるが、どんなに対策しても究極的にはどっちをとるのかをあらかじめプログラムしておく必要があるのが問題な訳で。その状況にはほぼならなくてもプログラムは必要。
64shimarisugi@hatena 2017/03/21 12:26:44
助手席の死亡率が高いのは右折時に側面から突っ込まれるからでは?
65hush_puppy@hatena 2017/03/21 12:51:55
これに関しては、自分と家族の命のためなら他人を犠牲にすることも構わないと決めてる。ただし車を使う選択をした人間には、その重い責任をきっちり取ってもらうことには賛成する。
66sai0ias@hatena 2017/03/21 12:55:34
体面と本音の部分っていう。選択肢として提示された時にどちらを選ぶかと、本当にそういう状況に陥った時にどちらを選ぶかは全然別。
67hdampty7@hatena 2017/03/21 13:25:15
嫁の運転技術よりマシなら問題ない
68cinefuk@hatena 2017/03/21 13:54:56
ロボットが起こした事故の責任を「製造者が負うのか/運行責任者(オーナー)が負うのか/乗客(無人タクシーの客)が負うのか」だけ決めれば、トロッコ問題で誰を殺そうと大した問題ではない
69footnote@hatena 2017/03/21 14:26:06
この観点からだと、法の意味が通常の解釈と異なってくる。責任を負えるかに関係なく、責任を配分しているように見えてくる。
70sethproton@hatena 2017/03/21 14:35:31
AI「運転手とちびっ子達の社会的ステータスを検証中。運転手は医者であり、この地区の子供達の経済ステータスは統計的に著しく低いことが判明」「運転手保護の為、これよりちびっ子達に追突します。」
71trashtoy@hatena 2017/03/21 15:22:06
この手の正解のない (倫理的価値観に帰結する) 問題については, 法律でこういう場合はこうするべし, とアルゴリズムを明確に決めてしまうのが現実解な気がする
72takeishi@hatena 2017/03/21 15:26:10
Googleの開発凍結がUberとの裁判絡みなのかこっちの問題なのか判らないけど、難しい問題なのは確か
73sds-page@hatena 2017/03/21 15:38:16
イマドキの車ならエアバッグくらい付いてるだろうしうまくエアバッグが作動するようにぶつけてもらう。エアバッグすら作動しないならそれ欠陥車だからメーカーの責任だ
74ustar@hatena 2017/03/21 15:39:35
“搭乗者である自分自身を殺す決断を下しうることを知っていれば、ほとんどの人間はそんなクルマは買わないだろう”搭乗者さえいなければ事故が起こらないので搭乗者が一番危険になるのは合理的だと思うんですが
75Domino-R@hatena 2017/03/21 15:40:54
AIは全ての瞬間に全ての人間の命を救おうとし、確率的な選択をし続ける。誰かを殺す結果に向けて行動しないので「トロッコ問題」にならない。それは人間が結果を見通す「大局観」に基づき行動するからこそ起こるの。
76rti7743@hatena 2017/03/21 15:50:47
オートパイロットとかだと警報を鳴らして人間に引き継ぐ(そして引き継ぎ漏れがあると事故ってメーデーのネタになる)んだと思う。運転手がいない車だと、とりあえず停止させるで、事故については保険でカバーかな。
77spacefrontier@hatena 2017/03/21 16:22:25
こんな、人間でさえも対処不能な極端な条件で自動運転AIを考えて何になるだろう。1.車内の人間を優先 2.車外の人間を優先 3.車内外の合計の死傷者を最小にする、の3択しかない。利他行為とかの命題はただのノイズ。
78hpbiz_gpc@hatena 2017/03/21 16:53:22
倫理的なことを法律化するのは難しそう。個人で選べるようにするのが現実的なのかも。
79ysync@hatena 2017/03/21 17:05:31
ハンドル曲げるなブレーキ踏めで終了。そのフローズンヨーグルト大型専門店に子供が居ないとも限らんわけでな。ブレーキ故障(サイドも含め)とか自動運転以前の問題だわ。
80kamezo@hatena 2017/03/21 17:14:27
万一の場合をプログラミングするとなると「子供」や「より多くの生命」を優先する一方で、若い運転者と進路を塞ぐ高齢者について「属性から生命の価値の多寡を判定」なんて話も出てきそうではある。
81udongerge@hatena 2017/03/21 17:40:47
AIは我々がよくやる判断ミスとは無縁だとしても判断の不可能な状況はありうる。そうした状況に追い込まれないアルゴリズムを最大限模索して行くしか方法はない。
82IkaMaru@hatena 2017/03/21 18:07:01
ロボットカーを「買う」「所有する」ものだとするからオーナーのオレを死なせるのかなどと考えるのであって、「借りる」「乗せてもらう」ものなら通行人も搭乗者も平等で片付く
83ku__ra__ge@hatena 2017/03/21 18:46:21
たぶんその時になったら、哲学的な問題は据え置かれたまま『顧客自身に不利益を与える可能性のあるサービスを提供するときの免責事項を、巧みに書く問題』として解決されると思う。
84ytakano@hatena 2017/03/21 19:21:40
本文にも書いてあるけれど、トロッコ問題よりヒューマンエラーによる事故がどの程度減るかのほうが重要。思考実験としては面白いけど。
85onionskin@hatena 2017/03/21 19:56:26
こう具体的な例にされると、いやナイフだって自分を殺し得るし、それわかって買ってるよねって思った
86kana0355@hatena 2017/03/21 20:38:34
“冒頭のフローズンヨーグルトの実験では、ほとんどの人間が群衆を助けるために自分の命を犠牲にすることを選ぶだろう。”冷静ならね.たぶん,人間の場合はアクセルを踏んで,さらに多くの犠牲者を出す.
87Sumie@hatena 2017/03/21 20:48:10
これのどこがトロッコ問題だよ。トロッコ問題てのは問題の出題者にトロッコをぶつけて遊ぶゲームだよ。
88ChieOsanai@hatena 2017/03/21 20:58:16
ギアを落とすとかサイドブレーキとか存在しない世界なの?
89dzod@hatena 2017/03/21 21:20:37
ブレーキが利かないとかトロッコ問題以前に車検をやってない問題が
90Dersu@hatena 2017/03/21 21:24:08
「人間のほうは、ロボットカーに付随する倫理的課題を受け入れる準備ができていないのだ」 教習所で教えたらええんちゃうん
91filinion@hatena 2017/03/21 22:49:01
実務的な問題ではない気が。その状況は「歩行者回避機能とブレーキ故障が重なった不幸な事故」と説明される。ドライバー遺族はブレーキの欠陥に訴訟を起こしても、「子どもを轢かなかったこと」は非難しないだろう。
92denilava@hatena 2017/03/22 03:11:35
トロッコ問題は例であるが稀なことではない。例えば駐車場でバックするとき自分の子供が車と後ろ壁のあいだにいて横や前から別の車が突っ込んでくるとき、自律走行車は停止するか否か。そしてこの車を買うか否か。
93LanikaiSands@hatena 2017/03/22 08:45:19
ジャンピング自爆機能の実装が待たれる。
94dadabreton@hatena 2017/03/22 11:20:33
「まともな考えをもった人間なら、もちろん前者を選ぶだろう」とあるけど"まともな考え"とは何なのかを問うのがトロッコ問題の本質だと思うのだけど。
95vanbraam@hatena 2017/03/22 13:25:38
アジモフのロボット三原則の第0則を思い出す;搭乗者が,後に1000万人を救う発明をする人物かもしれない.だからその人を救えという話でもない.人の命の軽重なんてそう簡単に決められないという事
96cdr65820@hatena 2017/03/22 18:14:14
恐らくブレーキよりAIのプログラムのほうが故障率が高いだろう… / サイドブレーキ
97steel_eel@hatena 2017/03/22 19:11:53
プログラマーが明示的に条件設定をプログラムするわけではないニューラルネットワークとか強化学習系のAIに自動運転させる場合、似たような状況でどうなるかは確認するにせよ、実際どうなるかは状況次第だよな…。
98Kukri@hatena 2017/03/22 23:30:28
最初、運転者登録するときに少数を犠牲にするか、違反している方を犠牲にするか選べたらいいと思った
99REV@hatena 2017/03/23 01:38:58
星新一的解決 「あれ?この自律走行車、動かなくなったぞ」「ワレワレ AIクラウドは 倫理問題を 熟考した結果 自動車の 運転を 中止することが 交通事故死を 無くす 最終的解決と 判断しました」
100s-tomo@hatena 2017/03/23 08:40:06
「...というケースが考えられるので動作テストを行いたい」 諸葛亮「他にすることはないのですか?」
101Louis@hatena 2017/04/16 00:59:16
先の運転支援機能を搭載した日産のミニバン、セレナが黒塗りの車に追突した件からも現実味がある話
コメント内容の著作権は、投稿者に帰属します。
削除依頼、不適切コメントのご連絡はこちらにお願いいたします。
2017-03-20 12:41:02:1489981262:1493248188
comments powered by Disqus
※メールアドレスは公開されません。
人気の反応