دوفصلنامۀ بین‌المللی حقوق‌بشر

دوفصلنامۀ بین‌المللی حقوق‌بشر

استفاده نظامی از سیستم‌های تسلیحاتی خودمختار مبتنی بر هوش مصنوعی در مخاصمات مسلحانه؛ تعهدات حفاظتی دولتها در چارچوب حقوق بین‌الملل بشردوستانه

نوع مقاله : مقاله مروری

نویسنده
استادیار، گروه حقوق، دانشکده علوم انسانی و اجتماعی، دانشگاه کردستان، سنندج، ایران.
چکیده
هوش مصنوعی با ادغام در سیستم‌های تسلیحاتی نه تنها خودمختاری آنها را ارتقا داده بلکه همچنین با توجه به فقدان یا کنترل کمرنگ انسانی در کاربست آنها، مسئولیت دولتها در باب حفاظت از حقوق بشردوستانه را پررنگ‌تر نموده است. در نتیجه این پرسش مطرح می‌شود که آیا هم‌اکنون قواعدی در حقوق بین‌الملل بشردوستانه، برای محدودکردن کاربرد سیستم‌های تسلیحاتی خودمختار وجود دارد؟ نویسنده بر این باور است فناوری جدید لزوماً به قوانین جدید نیاز ندارد. اگرچه اینک معاهده بین‌المللی در زمینه کاربرد تسلیحات مبتنی بر هوش مصنوعی در مخاصمات مسلحانه وجود ندارد اما با توسل به اصول حقوق بین‌الملل بشردوستانه (اصل تفکیک، تناسب، اصل بشریت و منع آسیب غیرضروری) و اتکا به تعهدات عام دولتها برای تضمین اجرای حقوق بین‌الملل بشردوستانه و تعهدات خاص آنها (تعهد به بررسی‌ حقوقی سلاح‌های جدید، تعهد به انجام اقدامات احتیاطی و تعهد به کنترل تسلیحات) می‌توان به طراحی، توسعه بالقوه و کاربرد چنین تسلیحاتی در فضای مخاصمات پرداخت. با این‌ حال، درج اصول تفکیک، تناسب و اقدامات احتیاطی در یک هوش مصنوعی هنوز از نظر فنی امکان‌پذیر نیست که باعث می‌شود انطباق این سلاح‌ها با حقوق بشردوستانه همچنان به کنترل معنادار انسانی وابسته باشد. بر مبنای این واقعیت، حقوق بشردوستانه خواستار یک رویکرد انسان-محور برای طراحی، تولید، توسعه و استفاده از هوش مصنوعی نظامی در مخاصمات مسلحانه است.
کلیدواژه‌ها

موضوعات


عنوان مقاله English

The Military Use of Artificial Intelligence in Armed Conflict: States Protective Obligations Stemming from IHL

نویسنده English

Heidar Piri
Assistant Professor, Department of Law, Faculty of Humanities and Social Sciences, University of Kurdistan, Sanandaj, Iran.
چکیده English

Artificial intelligence (AI) by integrating into weapons systems not only increased the autonomy of these systems, but also due to the lack or poor human control of their use, has highlighted the responsibility of states to protect humanitarian laws. Therefore, the question arises as to whether there are any IHL rules to limit the use of autonomous weapons systems (AWS) in armed conflict. The author believes that new technology does not necessarily need new laws. Although there is no international treaty on the use of AWS in armed conflicts, it is possible to design, regulate and develop the use of AI-based weapons in armed conflicts by resorting to the IHL principles- i.e. the principles of distinction, proportionality, humanity and the prohibition of unnecessary suffering on the one hand and by relying on the general obligations of states to ensure respect for IHL and specific obligations to legal reviews of new weapons, precautions in attack and arms control on the other. However, incorporating the principles of distinction, proportionality and precautions into AI is not yet technically possible or imaginable. Thus, significant human control is necessary to ensure compliance of AWS with IHL. Based on this fact, humanitarian law demands a human-centered approach for the design, production, development and use of military AI in armed conflicts.

کلیدواژه‌ها English

AI
Armed Conflicts
Principle of Distinction
Principle of Proportionality
Martens Clause
Precautions in attack
Legal Reviews
سیاهه منابع
الف- منابع فارسی:
اسلامی، رضا، و نرگس انصاری. «به کارگیری روبات‌های نظامی در میدان جنگ در پرتول اصول حقوق بشردوستانه»، مجله حقوقی بین‌المللی 34، شماره 56 (بهار و تابستان، 1396): 139-162. 10.22066/CILAMAG.2017.25168.
زمانی، سیدقاسم، و سیدرضا رفیعی. «کاربرد سلاح‌های حاوی اورانیوم ضعیف شده از منظر حقوق بشردوستانه بین‌المللی»، مجله حقوقی بین‌المللی 30، شماره 49 (پاییز و زمستان 1392): 35-60. 10.22066/CILAMAG.2013.15822.
شریفی طرازکوهی، حسین، و جعفر برمکی. «چالش‌های حقوقی قابلیت‌های فضای سایبری در پرتو ماده 36 پروتکل یکم الحاقی 1977»، مجله حقوقی بین‌المللی 37، شماره 62 (بهار و تابستان، 1399): 119-144. 10.22066/CILAMAG.2019.84640.1491.
عرب‌چادگانی، رضا، و بهرام مرادیان. «مشروعیت بهکارگیری سامانه‌های نظامی هوشمند در مخاصمات مسلحانه»، فصلنامه مطالعات حقوق عمومی53، شماره 4 (زمستان 1402): 2035-2055. https://doi.com/10.22059/JPLSQ.2021.326075.2807.
محسنی‌جیهانی، فاطمه، و سید احمد طباطبایی. «کاربرد سلاح‌های خودمختار و اصول حقوق بشردوستانه»، پژوهشنامه ایرانی سیاست بین‌الملل7، شماره 2 (دی 1398): 265-286. https://doi.org/10.22067/jipr.v7i2.71350.
ب-منابع لاتین:
Arkin, Ronald. C. Governing Lethal Behavior in Autonomous Robots. Florida: Taylor & Francis Group, 2009.
Arms Trade Treaty, adopted 2 April 2013. 3012 UNTS (entered into force 24 December 2014).
Boothby, William H. Weapons and the Law of Armed Conflict. 2nd edition. Oxford: Oxford University Press, 2016.
Boulanin, Vincent, Lora SaalmanPetr TopychkanovFei Su, and Moa Peldán CarlssonArtificial Intelligence, Strategic Stability and Nuclear Risk. Stockholm: SIPRI, 2020.
Boulanin, Vincent. Mapping the Debate on LAWS at the CCW: Taking Stock and Moving Forward. Stockholm: SIPRI, Mar. 2016.
Brose, Christian. The Kill Chain: Defending America in the Future of High-Tech Warfare. New York: Hachette Books, 2020.
Commentary on the Additional Protocols of 8 June 1977 to the Geneva Conventions of 12 August 1949.
Council Regulation (EC) No 428/2009. OJ L 134 (29 May 2009).
Davison, Neil. “A Legal Perspective: Autonomous Weapon Systems under International Humanitarian Law,” United Nations Office for Disarmament Affairs, Occasional Paper, no. 30 (2018): 5-18.
Defence Trade Controls Act 2012 (Cth), as amended by the Defence Trade Controls Amendment Bill 2015.
Del Monte, Louis A. Genius Weapons: Artificial Intelligence, Autonomous Weaponry, and the Future of Warfare. New York: Prometheus, 2018.
Edited by Yves Sandoz, Christophe Swinarski, and Bruno Zimmermann. ICRC, Commentary on the Additional Protocols of 8 June 1977 to the Geneva Conventions of 12 August 1949. Geneva: Martinus Nijhoff Publishers, 1987.
Eric Talbot. Jensen. “Precautions Against the Effects of Attacks in Urban Areas.” International Review of the Red Cross 98, no. 1 (2016): 147-175.
Geneva Convention (IV), 1949.
Human Rights Watch, A/HRC/23/47, 2013.
Human Rights Watch, Losing Humanity: The Case against Killer Robots, 2012.
ICRC. “Artificial Intelligence and Machine Learning in Armed Conflict: A Human-Centred Approach.” Geneva: ICRC, 6 June 2019.
ICRC. “Ethics and Autonomous Weapon Systems: An Ethical Basis for Human Control?.” Report of an Expert Meeting. Geneva: ICRC, 3 April 2018.
ICRC. Commentary on the First Geneva Convention: Convention (I) for the Amelioration of the Condition of the Wounded and Sick in Armed Forces in the Field. 2nd edition. Cambridge: Cambridge University Press, 2016.
ICRC. ICRC Commentary on the “Guiding Principles” of the CCW GGE on “Lethal Autonomous Weapons Systems. Geneva: ICRC, July 2020.
ICRC. ICRC Report of IHL and the Challenges of Contemporary Armed Conflicts. Geneva: ICRC, 22 November 2019.
International Committee of the Red Cross. ICRC Position on Autonomous Weapons Systems. Technical Report. Geneva: ICRC, 2021.
John S. Mccain. National Defense Authorization Act for Fiscal Year 2019. Public Law, No: 115-232.
Kiaklayeh, Mahshid Talebian. “International Humanitarian Law and Artificial Intelligence: A Canadian Perspective.” Electronic Theses and Dissertations (2022). https://scholar.uwindsor.ca/etd/8714.
Kühn Ulrich. “Why Arms Control is (Almost) Dead.” Strategic Europe, Carnegie Europe (5 March, 2020). https://carnegieeurope.eu/strategiceurope/81209.
Lawand, Kathleen. “A Guide to the Legal Review of New Weapons, Means and Methods of Warfare: Measures to Implement Article 36 of Additional Protocol I of 1977.” ICRC 88, no. 864 (2006): 931-956.
Lee, Jaemin. Artificial Intelligence and International Law. Singapore: Springer Nature, 2022.
Legality of the Threat or Use of Nuclear Weapons. Advisory Opinion. ICJ Reports 1996.
Marsan, Nadia, and Steven Hill. “International Law and Military Applications of Artificial Intelligence.” The Brain and the Processor: Unpacking the Challenges of Human-Machine Interaction (2019): 55-62. https://www.jstor.org/stable/resrep19966.12.
Military and Paramilitary Activities in and against Nicaragua (Nicaragua v. USA) (Merits). ICJ Reports 1986.
Nasu, Hitoshi. “Artificial Intelligence and the Obligation to Respect and to Ensure Respect for International Humanitarian Law.” Exeter Centre for International Law, Working Paper Series, 2019.
Özdemir, Gloria Shkurti. “Artificial Intelligence Application in the Military: The Case of United States and China.” Seta Analysis, no. 51 (2019): 7-23.
Protocol Additional to the Geneva Conventions of 12 August 1949, and Relating to the Protection of Victims in International Armed Conflicts, 1977.
Roberts, Anastasia, and Adrian Venables. “The Role of Artificial Intelligence in Kinetic Targeting from the Perspective of International Humanitarian Law.” 13th International Conference on Cyber Conflict (2021).
Scherer, Matthew U. Regulating Artificial Intelligence System: Risks, Challenges, Competencies, and Strategies.” Harvard Journal of Law & Technology 29, no. 2 (2016): 353-400.
Takemura, Hitomi. “Unmanned Aerial Vehicles: Humanization from International Humanitarian Law.” Wisconsin International Law Journal 32, no. 3 (2019): 521-546.
UNGA Draft Resolution for Seizing the Opportunities on the Promotion of “Safe, Secure and Trustworthy” AI, 21 March 2024.
US Department of Defense, Law of War Manual (June 2015, as updated in December 2016).
ارسال نظر در مورد این مقاله
نام را وارد کنید.
نشانی پست الکترونیکی را به درستی وارد کنید.
وابستگی سازمانی را به درستی وارد کنید.
توضیحات را وارد کنید (حداقل 50 حرف)
CAPTCHA Image
شناسه امنیتی را به درستی وارد کنید.