中ザワヒデキ Hideki Nakazawa
Japanese only | 中ザワヒデキ文献研究 | Home J E | Encoding: UTF-8
今回は第7回AI美芸研での中ザワ発表関連として、1998年に『InterCommunication』に書いた文献「単子的邪擬以 君主制とモナド」を読みます。次に第8回AI美芸研関連として、2003年に『美術手帖』に書いた文献「戦争と方法 芸術原理主義のリアリティ」等を読みます。余力あれば予習参考文献として米国の軍事AIレポートも一瞥したいです（が、量がありますので次回に跨がる形とするかもしれません）。
＜＜（前略）米軍が書いたキラーロボットのレポート他をお送りします。探すのに手間取ってしまい、しかも昔見たものと違うような気もするのですが、ともかくお送りします。
Defence science board, Summer Study on Autonomy, June 2016.
http://www.acq.osd.mil/dsb/reports/2010s/DSBSS15.pdf
内容を伝える記事
http://www.c4isrnet.com/articles/dod-releases-autonomy-study
https://www.jackpinetech.com/dod-releases-autonomy-study/
キラーロボット禁止を議論する国際条約の場は２つあります。
1. 特定通常兵器使用禁止制限条約
Convention on Certain Conventional Weapons: CCW
CCW締結国会議のサイト
http://www.unog.ch/80256EE600585943/(httpPages)/8FA3C2562A60FF81C1257CE600393DF6?OpenDocument
2013年第１回非公式専門家会合の様子を伝える外務省のサイト
http://www.mofa.go.jp/mofaj/gaiko/page24_000163.html
2017年から非公式専門家会合を公式の専門家会合に格上げするようです。
第１回は2017年８月２１－２５日のようですね。
http://www.mofa.go.jp/mofaj/dns/ca/page3_001931.html
http://www.unog.ch/80256EE600585943/(httpPages)/F027DAA4966EB9C7C12580CD0039D7B5?OpenDocument
これはHuman Rights Watchが仕掛けたキャンペーンのようです。対象は、索敵から発砲までを全自動で行うロボット。たとえば顔認識システムを搭載し、敵勢力の幹部の顔を入力して飛ばすと索敵し、見つけたら発砲・自爆するドローン。発砲前に「見つけました、発砲を許可願います」と許可を求めて発砲する兵器は対象外です。とはいえ、人間に許されるのは機械が推奨した行動を拒絶することだけで、しかも判断は0.5秒以内に行わねばならない拠点防衛システムなども実用化されているようで、‘meaningful human control (MHC)' の定義で揉めることになるようです。
日本では難民を助ける会 (AAR Japan)が中心となっていますが、パンフレットを見たら誤認識が多いことを問題の中心に据えており失望しました。逆上した兵士よりも的確に判断できるキラーロボットが実用化されたら、おまえらキラーロボットに賛成するのか？違うだろ？と思います。
2. ジュネーブ条約
こちらの動向はよく知りません。（後略）
＜＜よろしければ、下記も匿名情報としてお使いください。
- AAR Japanが作成したパンフレットのscanデータを添付します。
私的複製の範囲で利用いただければ幸いです。0712g.pdf
- 昔社内向けに書いたレポートの参考情報リストです。
2016年夏以降の情報は入っておりません。
[1] Autonomous Weapons: an Open Letter from AI & Robotics Researchers, announced at IJCAI 2015 conference on July 28, 2015.
http://futureoflife.org/open-letter-autonomous-weapons/
[2] Campaign to stop killer robots, https://www.stopkillerrobots.org/
[3] Human Rights Watch, UN: Hold International Talks on ‘Killer Robots’, October 21, 2013.
https://www.hrw.org/news/2013/10/21/un-hold-international-talks-killer-robots
[4] ヒューマン・ライツ・ウォッチ、国連：「殺人ロボット」に関する国際会議の開催を、2013年10月31日。
http://www.huffingtonpost.jp/human-rights-watch-japan/post_6027_b_4180058.html
[5] Human Rights Watch, Q&A on Fully Autonomous Weapons, October 21, 2013.
https://www.hrw.org/news/2013/10/21/qa-fully-autonomous-weapons
[6] 東京新聞、殺人ロボ兵器の歯止め模索へ 初の専門家国際会議を来年開催、2016年8月22日。
http://www.tokyo-np.co.jp/article/world/list/201608/CK2016082202000104.html
[7] Jin Kodama, 米テキサス州警察狙撃事件、キラーロボットで犯人制圧か, Roboteer, 2016.07.09.
https://roboteer-tokyo.com/archives/5002
[8] Human Rights Watch, Losing Humanity: The Case against Killer Robots, November 19, 2012.
https://www.hrw.org/report/2012/11/19/losing-humanity/case-against-killer-robots
[9] Human Rights Watch, Mind the Gap: The Lack of Accountability for Killer Robots, April 9, 2015.
https://www.hrw.org/report/2015/04/09/mind-gap/lack-accountability-killer-robots
[10] ヒューマン・ライツ・ウォッチ、「キラーロボット」はアカウンタビリティを欠く 法的責任追及にさまざまな困難、禁止が当然、2015年04月10日。
http://www.huffingtonpost.jp/human-rights-watch-japan/killer-robot_b_7038168.html
[11] 認定NPO法人 難民を助ける会 (AAR Japan)、Stop Killer Robots, 2016年3月の講演会で配布されたらしい小冊子 (2016年8月入手、版が違う可能性あり)。
[12] Rasha Abdul Rahim, Ten reasons why it’s time to get serious about banning ‘Killer Robots’, Amnesty International, 12 November 2015.
https://www.amnesty.org/en/latest/news/2015/11/time-to-get-serious-about-banning-killer-robots/
[13] ロボティア編集部、「殺人ロボットを規制すべき10の理由」、アムネスティが提言、2015.11.23.
https://roboteer-tokyo.com/archives/2067
[13] 外務省、特定通常兵器使用禁止制限条約（CCW）2013年締約国会議（概要と評価）、2013年11月25日。
http://www.mofa.go.jp/mofaj/gaiko/page24_000163.html
[14] UNOG (United Nations Office at Geneva), Background - Lethal Autonomous Weapons Systems.
http://www.unog.ch/80256EE600585943/(httpPages)/8FA3C2562A60FF81C1257CE600393DF6?OpenDocument
[15] 外務省、特定通常兵器使用禁止制限条約（CCW）自律型致死兵器システム（LAWS）非公式専門家会議（概要と評価）、2014年5月27日。
http://www.mofa.go.jp/mofaj/dns/ca/page24_000283.html
[16] 特定非営利活動法人 難民を助ける会, キラーロボット（殺傷ロボット）の規制に向けた初めての国際会議に参加、2014年05月22日。
http://www.aarjapan.gr.jp/activity/report/2014/0522_1510.html
[17] Statement by H.E. Ambassador Toshio SANO, Permanent Representative of Japan to the Conference on Disarmament Experts Meeting on Lethal Autonomous Weapons Systems to The Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have indiscriminate Effects, 13 May 14, Geneva.
http://www.unog.ch/80256EDD006B8954/(httpAssets)/C9406F3B0BB44225C1257CD7005D900D/$file/Japan_MX_LAWS_2014.pdf
[18] 外務省、特定通常兵器使用禁止制限条約（CCW）自律型致死兵器システム（LAWS）第2回非公式専門家会議、2015年10月9日。
http://www.mofa.go.jp/mofaj/dns/ca/page25_000146.html
[19] Harriet Grant, UN delay could open door to robot wars, say experts, the Guardian, 6 October 2015.
https://www.theguardian.com/science/2015/oct/06/autonomous-weapons-un-delay-robot-wars
[20] Owen Bowcott, UK opposes international ban on developing 'killer robots', the Guardian, 13 April 2015.
http://www.theguardian.com/politics/2015/apr/13/uk-opposes-international-ban-on-developing-killer-robots
[21] The Guardian view on robots as weapons: the human factor, Editorial, the Guardian, 13 April 2015.
https://www.theguardian.com/commentisfree/2015/apr/13/guardian-view-on-killer-robots-lethal-autonomous-weapons-systems
[22] ロボティア編集部、米・英が反対、キラーロボットの国際的規制の実施は暗礁に、2015.10.26。
https://roboteer-tokyo.com/archives/1627
[23] 外務省、特定通常兵器使用禁止制限条約（CCW）自律型致死兵器システム（LAWS）第3回非公式専門家会議、2016年4月19日。
http://www.mofa.go.jp/mofaj/dns/ca/page24_000593.html
[24] 特定非営利活動法人 難民を助ける会(AAR Japan), 「ロボットが人を殺す未来」を迎えないために―3月25日講演会開催報告、2016年04月06日。
http://www.aarjapan.gr.jp/activity/report/2016/0406_2015.html
[25] Samuel Gibbs, Musk, Wozniak and Hawking urge ban on warfare AI and autonomous weapons, the Guardian, 27 July 2015.
https://www.theguardian.com/technology/2015/jul/27/musk-wozniak-hawking-ban-ai-autonomous-weapons
[26] 「キラーロボットを作るな」とホーキング博士や研究者1000名以上が提言、Gigazine, 2015年07月28日。
http://gigazine.net/news/20150728-autonomous-weapons-open-letter/
- 実戦配備されている兵器も既に色々あるようです。
上記[9]ほかを基に社内レポートではこんな風に書きました。
例えば後述のC-RAMの場合、人間に許されるのは機械が推奨した行動を拒絶することだけで、しかも判断は0.5秒以内に行わねばならない
(中略)
具体例としては艦艇や拠点を守るものとして米国の艦艇防衛システムPhalanx、拠点防衛システムCounter Rocket, Artillery, and Mortar System (C-RAM)、そのイスラエル版であるIron Dome、ドイツがアフガニスタンの基地防衛のために開発したNBS Mantisが挙げられている。また歩哨ロボットとして韓国が非武装地帯哨戒に使っているSGR-1、イスラエルがガザ周囲に展開するSentry TechやGuardiumが挙げられ、その他飛翔体として米国のX-47B、SWARMS、英国のTaranis、イスラエルのHarpyが挙げられている。現在、Human-out-of-the-Loopに達した兵器はないが、韓国のSGR-1は機能としてはそれが可能とのことである。
意義深い授業となりますことを祈念いたします。
2017-07-13
- 昨日はおつかれさまでした。「戦争と方法」雑誌ノド部分： http://aloalo.co.jp/nakazawa/2017/0713a.jpg
- Twitter https://twitter.com/misonikomioden/status/885165948973367296
- Youtube 1/4 https://youtu.be/e8qZNrbwhn0
- Youtube 2/4 https://youtu.be/XrSsg4KQzXc
- Youtube 3/4 https://youtu.be/37Sdut9fPRw
- Youtube 4/4 https://youtu.be/G-ZAuMVPq9c
2017-07-11の2
- 【4】の後半部分を追加しました。匿名の先生に感謝申し上げます。
2017-07-11
- 本頁作成。
- .@bigakko @soonchee3the @icezukiatsumare @yukimaniwa @ezzspop @misonikomioden 明日7/12（水）は #文献研究 2017年度第04回「君主制とモナド、戦争と方法」。続けて講義用覚書URLを呟きます。
https://twitter.com/nakaZAWAHIDEKI/status/884624627556786176
- 【明日】美学校 中ザワヒデキ文献研究 2017年度第04回 正規受講者対象 7月12日（水）19-22時「君主制とモナド、戦争と方法」※講義用覚書 http://aloalo.co.jp/nakazawa/2017/0712a.html #文献研究
https://twitter.com/nakaZAWAHIDEKI/status/884624938463748097
Japanese only | 中ザワヒデキ文献研究 | Home J E | Encoding: UTF-8