自動運転とロボット（雑感その２）
（2016.7.20作成）
≪事故責任≫少し前、ネットで自動運転における事故の責任所在についての記事を見ました。
自動運転なのに人側に責任の有無を考えるなんて、良く分からない話でした。自動運転？で事故を起こしたらしいテ？？とかいう会社も、自動運転中の事故でも人（運転手？）側の責任だ、と言っていたような．．．。
ハンドルから手を放して運転できる車で、事故だけ乗車人に責任とらされるなら、私はそんな車使いません（とても怖くて使えません）。最も身近の、まあ完成された自動運転機であるエレベーター、運転経路とかの違いで見れば車とは比較にならないくらい単純ですが、それでも自動運転機です。そこで事故が起こった場合に乗車してる人の責任でしょうか？考えるまでもありませんね。まあ、自動運転の定義（メーカー側などでの呼称）がはっきりしてないというか、何でもかんでも自動運転みたいに言うから、迷ってしまうのでしょう。人の注意義務の要不要で、名称も責任所在も区別すればいいと思いますが、行政？がハッキリさせないから駄目なのでしょう。機能に自動運転とつけたら責任はメーカー側、付けなければ人側の責任であると（自動運転アシスト、なんて意味不明な呼称は禁止にすればいいんです）。
私が気になるのは、自動運転で危険を感じて人が操作（運転）に介在し、結局事故になってしまったような場合です。この場合、危険回避をしようとした運転（操作）者がどこまで責任を問われるか、という問題です。勿論逆のパターンで、人が運転中にヤバイと思って自動運転に運命を預ける、という場合もあるかも．．．（切替が可能な場合の話ですが）。
このような制御システム、コンピューターの中だけで動作して通常は外界に結果を見せない制御ソフトウェアも含めて、それらの（広義の）誤動作を解析するには、動作ログを残しておくのが不可欠（常套手段）です。飛行機のブラックボックスの様なものです。自動運転自動車にも、公道認可される前には、標準化されたブラックボックス相当の搭載を必須としてもらいたいですね。それには可能な限り自動運転で取り込んだ画像なども記録し、一旦事故（障害）が発生した場合にシミュレーターソフトで運転を再現できるようになっていれば、前記のようなトラブルの解決に大いに役立つのではと、思っていますが。
総理大臣の一言で、皆が早く公道運転を実現させようと頑張っておられるでしょうが、何となく自動で走れるようになった車が何となく認可されることがないよう祈りたいです。
≪協調運転≫
自動運転にも、最先端のAI”ディープラーニング”を利用しようとしてるようですが、ディープラーニングでチームプレイが学習できるんでしょうか？前に書いた狭い道での譲り合いの様な運転ができるのか？という（素人）疑問です。それに関連する豊富な実例を学習させれば、できそうな感じはありますが。それでも自分側が譲る（バックなどをして）のか、じっと相手が譲ってくれるのを待つのかの選択は、五分五分になってしまうかもしれません（実例でもそんな程度かも）。そうすると、自分も相手も”待つ”を選択してしまった場合にデッドロックとなってしまいます。人の場合は膠着状態になったら、どちらかが我慢してバック（譲り）を選択することになるでしょうが、ディープラーニングでは時間経過を含めた行動学習ができるのか、興味深いところです。そこまでできるのであれば、前に書いたコミュニケーション機能は不要かもしれません（人の運転でも相手と直接会話することは殆どありませんから）。
≪AI”ディープラーニング”≫
これまたどこぞのネット記事だったかTVニュースですが、ロボットが人へ危害を及ぼさないような仕組みが必要だ、などと語られていました。
ディープラーニングの様なAIは最早知能と呼んでも良いでしょう。自分で学習した結果をもとにして行動を決める訳ですから、それを開発？した人ですらその行動予測は不可能です。なので、開発者でなく生みの親とでも呼ばないといけないでしょう。
気になるのは、膨大な疑似ニューラルネットの多数決論理で行動選択するので、従来ソフトのようにどこかにIF文を入れて行動規制を一括で簡単に行う事ができないでしょう。そこで上記の話が真面目に気になります。遥か以前に科学トピックの読み物で見た『アシモフのロボット三原則』も思い出されます。
自動運転も含めた広い意味でのロボット、今後ディープラーニングの応用が一層広がることでしょう。怖いのは、報道されて無いですが軍事方面への利用です。自動車の自動運転などより遥かに巨額の予算で研究されてるはずですが、ある日不意に映画『ターミネーター』に登場したスカイネットの様なものが実用化されて、反乱（人側から見て）したらと考えたら眠れなくなってしまいます（否、今の所は睡眠は良くとれてます）。
この心配事、AI素人の戯言で終わるように祈ってます。
≪事故責任≫少し前、ネットで自動運転における事故の責任所在についての記事を見ました。
自動運転なのに人側に責任の有無を考えるなんて、良く分からない話でした。自動運転？で事故を起こしたらしいテ？？とかいう会社も、自動運転中の事故でも人（運転手？）側の責任だ、と言っていたような．．．。
ハンドルから手を放して運転できる車で、事故だけ乗車人に責任とらされるなら、私はそんな車使いません（とても怖くて使えません）。最も身近の、まあ完成された自動運転機であるエレベーター、運転経路とかの違いで見れば車とは比較にならないくらい単純ですが、それでも自動運転機です。そこで事故が起こった場合に乗車してる人の責任でしょうか？考えるまでもありませんね。まあ、自動運転の定義（メーカー側などでの呼称）がはっきりしてないというか、何でもかんでも自動運転みたいに言うから、迷ってしまうのでしょう。人の注意義務の要不要で、名称も責任所在も区別すればいいと思いますが、行政？がハッキリさせないから駄目なのでしょう。機能に自動運転とつけたら責任はメーカー側、付けなければ人側の責任であると（自動運転アシスト、なんて意味不明な呼称は禁止にすればいいんです）。
私が気になるのは、自動運転で危険を感じて人が操作（運転）に介在し、結局事故になってしまったような場合です。この場合、危険回避をしようとした運転（操作）者がどこまで責任を問われるか、という問題です。勿論逆のパターンで、人が運転中にヤバイと思って自動運転に運命を預ける、という場合もあるかも．．．（切替が可能な場合の話ですが）。
このような制御システム、コンピューターの中だけで動作して通常は外界に結果を見せない制御ソフトウェアも含めて、それらの（広義の）誤動作を解析するには、動作ログを残しておくのが不可欠（常套手段）です。飛行機のブラックボックスの様なものです。自動運転自動車にも、公道認可される前には、標準化されたブラックボックス相当の搭載を必須としてもらいたいですね。それには可能な限り自動運転で取り込んだ画像なども記録し、一旦事故（障害）が発生した場合にシミュレーターソフトで運転を再現できるようになっていれば、前記のようなトラブルの解決に大いに役立つのではと、思っていますが。
総理大臣の一言で、皆が早く公道運転を実現させようと頑張っておられるでしょうが、何となく自動で走れるようになった車が何となく認可されることがないよう祈りたいです。
≪協調運転≫
自動運転にも、最先端のAI”ディープラーニング”を利用しようとしてるようですが、ディープラーニングでチームプレイが学習できるんでしょうか？前に書いた狭い道での譲り合いの様な運転ができるのか？という（素人）疑問です。それに関連する豊富な実例を学習させれば、できそうな感じはありますが。それでも自分側が譲る（バックなどをして）のか、じっと相手が譲ってくれるのを待つのかの選択は、五分五分になってしまうかもしれません（実例でもそんな程度かも）。そうすると、自分も相手も”待つ”を選択してしまった場合にデッドロックとなってしまいます。人の場合は膠着状態になったら、どちらかが我慢してバック（譲り）を選択することになるでしょうが、ディープラーニングでは時間経過を含めた行動学習ができるのか、興味深いところです。そこまでできるのであれば、前に書いたコミュニケーション機能は不要かもしれません（人の運転でも相手と直接会話することは殆どありませんから）。
≪AI”ディープラーニング”≫
これまたどこぞのネット記事だったかTVニュースですが、ロボットが人へ危害を及ぼさないような仕組みが必要だ、などと語られていました。
ディープラーニングの様なAIは最早知能と呼んでも良いでしょう。自分で学習した結果をもとにして行動を決める訳ですから、それを開発？した人ですらその行動予測は不可能です。なので、開発者でなく生みの親とでも呼ばないといけないでしょう。
気になるのは、膨大な疑似ニューラルネットの多数決論理で行動選択するので、従来ソフトのようにどこかにIF文を入れて行動規制を一括で簡単に行う事ができないでしょう。そこで上記の話が真面目に気になります。遥か以前に科学トピックの読み物で見た『アシモフのロボット三原則』も思い出されます。
自動運転も含めた広い意味でのロボット、今後ディープラーニングの応用が一層広がることでしょう。怖いのは、報道されて無いですが軍事方面への利用です。自動車の自動運転などより遥かに巨額の予算で研究されてるはずですが、ある日不意に映画『ターミネーター』に登場したスカイネットの様なものが実用化されて、反乱（人側から見て）したらと考えたら眠れなくなってしまいます（否、今の所は睡眠は良くとれてます）。
この心配事、AI素人の戯言で終わるように祈ってます。