อาวุธอัตโนมัติจะพูดว่า "ไม่" กับคำสั่งที่ผิดกฎหมายหรือไม่?

Baynazar Mohammad Nazar รู้สึกหมดสติบนโต๊ะผ่าตัดเมื่อเพดานเริ่มพังทลายลง พ่อของสี่ได้ตรวจสอบในโรงพยาบาลเมื่อวันก่อนหลังจากถูกยิงที่ขาและอยู่ระหว่างการผ่าตัดครั้งที่สองในอีกสองวันเพื่อแก้ไขอาการบาดเจ็บ เมื่อชาวอเมริกันเริ่มทำลายอาคารแพทย์ที่ทำงานกับเขาไม่มีทางเลือกนอกจากต้องหลบหนีด้วยตนเองอย่างเร็วที่สุดเท่าที่จะทำได้

Andrew Quilty เวลา นโยบายต่างประเทศ บอกเล่าเรื่องราวชีวิตและความตายของ Baynazar ในบทความที่มีรูปถ่ายของร่างของเขาปกคลุมไปด้วยเศษซากบนโต๊ะปฏิบัติการ Baynazar เป็นหนึ่งใน 31 คนที่สหรัฐฯถูกสังหารเมื่อถูกโจมตีโดยโรงพยาบาล Doctors Borders (หรือเรียกอีกอย่างว่า MSF) ใน Kunduz ประเทศอัฟกานิสถานเมื่อวันที่ 2 ตุลาคม

หลังจากการนัดหยุดงานประท้วงที่มีชื่อเสียงผู้ประท้วงพลเรือนและพลเรือนจำนวนมากนักการเมืองและผู้เชี่ยวชาญได้ถามว่าเหตุการณ์เช่นนี้จะเกิดขึ้นได้อย่างไรและจะทำอะไรได้บ้างเพื่อให้แน่ใจว่าจะไม่เกิดขึ้นอีก ในบรรดาผู้เสนอของระบบอาวุธอิสระบางครั้งเรียกว่า "หุ่นยนต์นักฆ่า" การโต้เถียงที่เป็นที่นิยมอย่างหนึ่งคือความผิดพลาดของมนุษย์ (หรือความอาฆาตพยาบาท) เป็นสาเหตุของอาชญากรรมที่เกิดขึ้นในช่วงสงคราม เป็นไปได้ในทางทฤษฎีพวกเขากล่าวว่าหุ่นยนต์อาจแม่นยำกว่าในการกำหนดเป้าหมายและมีแนวโน้มที่จะเกิดข้อผิดพลาดน้อยกว่ามนุษย์

“ ในความเป็นจริงการตัดสินของมนุษย์สามารถพิสูจน์ได้ว่าตัวบ่งชี้ทางเทคนิคมีความน่าเชื่อถือน้อยลงในช่วงที่มีการสู้รบ” Michael N. Schmitt ศาสตราจารย์แห่งวิทยาลัยทหารเรือแห่งสหรัฐอเมริกาเขียน “ ผู้ที่เชื่อเป็นอย่างอื่นไม่เคยมีประสบการณ์กับหมอกแห่งสงคราม”

การโจมตีทางอากาศของสหรัฐฯในโรงพยาบาลชายในอัฟกานิสถานที่เกิดจากความผิดพลาดของมนุษย์เป็นหลัก http://t.co/X9TGIA81aD pic.twitter.com/TUwit97206

- ข่าวโทรเลข (@TelegraphNews) 25 พฤศจิกายน 2558

จากนั้นคำถามก็คือคุณสามารถตั้งโปรแกรมเครื่องมือของสงครามเพื่อ จำกัด พฤติกรรมของมนุษย์เพื่อให้เกิดการประท้วงอย่างโรงพยาบาล Kunduz ที่เป็นไปไม่ได้หรือไม่อย่างน้อยก็เป็นไปได้

อาจไม่ - อย่างน้อยสำหรับอนาคตอันใกล้ แต่โปรแกรมเมอร์ปัญญาประดิษฐ์บางคนได้ออกแบบหุ่นยนต์ที่ไม่สามารถพูดกับมนุษย์ได้ การออกแบบการทดลองนั้นง่าย: มนุษย์บอกให้หุ่นยนต์เดินไปข้างหน้าจากโต๊ะซึ่งในตอนแรกหุ่นยนต์ปฏิเสธที่จะทำ เมื่อมนุษย์บอกหุ่นยนต์ว่าเขาจะจับได้หุ่นยนต์ก็ยอมรับคำสั่งนั้น

นั่นเป็นวิธีที่ไกลจากเฮลิคอปเตอร์จู่โจมกึ่งอิสระที่บอกลูกเรือของมนุษย์ว่ามันไม่สามารถทำการโจมตีทางอากาศกับโรงพยาบาลได้เพราะมันอาจจะเป็นอาชญากรรมสงคราม แต่หลักฐานส่วนใหญ่จะเหมือนกัน ดังที่คนอื่น ๆ ชี้ให้เห็นความวิตกกังวลของมนุษย์เกี่ยวกับการพัฒนาหุ่นยนต์แบบนี้เป็นเรื่องธรรมดาในนิยายวิทยาศาสตร์ - คิดว่า HAL-9000 บอกว่า "ฉันไม่สามารถทำอย่างนั้นได้เดฟ" เมื่อมันล็อคมนุษย์นอกสถานีอวกาศใน 2001: A Space Odyssey.

สำหรับข้อมูลเฉพาะของการโจมตี Kunduz ข้อเท็จจริงหลายประการในการโจมตียังคงเป็นที่แน่นอน MSF เรียกร้องให้มีการสอบสวนอย่างเป็นอิสระซึ่งรัฐบาลสหรัฐฯคัดค้านแทนที่จะสัญญาว่าจะดำเนินการตรวจสอบด้วยตนเอง

การตรวจสอบบางส่วนของสหรัฐฯถูกเผยแพร่สู่สาธารณะเมื่อต้นเดือนที่ผ่านมาและพบข้อผิดพลาดของมนุษย์และเครื่องจักรที่รับผิดชอบในการประท้วง แต่ก่อนหน้านี้ในสัปดาห์นี้มีสมาชิกบริการสองคนเข้ามาขัดแย้งกับข้อค้นพบของรายงาน พวกเขาบอกว่าการนัดหยุดงานไม่ใช่ข้อผิดพลาด ในการบัญชีของพวกเขารายงานครั้งแรกโดย AP กองกำลังปฏิบัติการพิเศษของสหรัฐอเมริกาเรียกการนัดหยุดงานเนื่องจากพวกเขาใช้โรงพยาบาลเป็นศูนย์บัญชาการและควบคุมตอลิบาน

ในรุ่นอย่างเป็นทางการความล้มเหลวทางกลนำไปสู่ลูกเรือของอาวุธ AC-130 ในขั้นต้นได้รับพิกัดสำหรับเขตข้อมูลที่ว่างเปล่า จากนั้นลูกเรือก็ค้นหาอาคารในพื้นที่ที่เหมาะสมกับคำอธิบายทางกายภาพที่ได้รับและเปิดไฟ เมื่อเครื่องมือของพวกเขาปรับเทียบแล้วพวกเขาก็ให้พิกัดที่ถูกต้องแก่เป้าหมาย แต่ลูกเรือยังคงยิงโรงพยาบาลต่อไป

หากบัญชีนี้เป็นจริง - คอมพิวเตอร์นั้นถูกต้องในที่สุดและมนุษย์เพิกเฉยมันก็ให้ความเชื่อถือกับผู้สนับสนุนอิสระในระบบอาวุธมากขึ้น ที่กล่าวว่าสงครามกับความหวาดกลัวของสหรัฐฯนั้นเป็นตัวอย่างของทหารหรือซีไอเอตีเป้าหมาย“ ถูกต้อง” และยังคงลงเอยด้วยการฆ่าพลเรือนจำนวนมาก ระบบอัตโนมัติจะไม่แก้ปัญหาสติปัญญาที่ไม่ดีและการพยายามตั้งโปรแกรมการประมาณค่าทางศีลธรรมจะไม่ยุติอาชญากรรมสงคราม

มีสิ่งล่อใจที่แข็งแกร่งในสหรัฐอเมริกาในการฆ่าเชื้อสงครามและระบบอัตโนมัติโดยการกำจัดคนอเมริกันออกจากทางที่เป็นอันตรายซึ่งถูกกำหนดให้เปลี่ยนนิยามของสงคราม การตั้งค่าของโอบามาสำหรับการฆ่าเสียงหึ่งๆและการรับรองที่ว่าโดรนนั้นเป็นอาวุธที่แม่นยำที่สุดเท่าที่เคยสร้างมาคือการแสดงออกที่ชัดเจนของเป้าหมายเหล่านั้น “ พวกเขาได้รับการนัดหยุดงานที่แม่นยำและแม่นยำกับอัลกออิดะห์และ บริษัท ในเครือ” โอบามากล่าวใน Google Hangout ปี 2555

อย่างไรก็ตามการศึกษาของรัฐบาลปี 2013 นั้นขัดแย้งกับข้อเรียกร้องเหล่านั้น พบว่าโดรนในอัฟกานิสถานส่งผลให้พลเรือนเสียชีวิตมากกว่ายานพาหนะไร้คนขับ 10 เท่า “ โดรนไม่ดีกว่าในการหลีกเลี่ยงพลเรือนอย่างเครื่องบินเจ็ตนักสู้” Sarah Holewinski ผู้ร่วมเขียนการศึกษากล่าว เดอะการ์เดียน. “ เมื่อนักบินเครื่องบินเจ็ตได้รับคำสั่งที่ชัดเจนและฝึกอบรมการคุ้มครองพลเรือนพวกเขาสามารถลดอัตราการเสียชีวิตของพลเรือนได้”

ทหารกำลังใช้เงินหลายล้านในการพัฒนาระบบการทำงานร่วมกับหุ่นยนต์ของมนุษย์ทำให้เส้นแบ่งระหว่างภารกิจที่ดำเนินการโดยอาวุธที่มีคนควบคุมหรือไร้คนขับเพิ่มขึ้น “ สิ่งที่เราต้องการทำในการรวมทีมการต่อสู้ของมนุษย์คือนำไปสู่อีกระดับเพื่อดูสิ่งต่าง ๆ เช่นยุทธวิธีการจับกลุ่ม” บ็อบเวิร์ครองปลัดกระทรวงกลาโหมกล่าวกับบล็อกของกระทรวงวิทยาศาสตร์อย่างเป็นทางการ “ F-35 สามารถต่อสู้กับนักบินอวกาศสี่คนได้หรือไม่?”

นักบินปีกเหล่านั้นจะไม่บอกว่าถ้านักบินมนุษย์สั่งให้พวกเขาคล้ายกับการเดินจากโต๊ะหรือไม่? สิ่งที่เกี่ยวกับคำสั่งที่จะทำลายโรงพยาบาลหรือโรงเรียน? หมอกแห่งสงครามจะถูกนำไปใช้ในทั้งสองกรณี และถ้าเราตัดสินใจที่จะแทนที่เครื่องจักรวลี "ความผิดพลาดของมนุษย์" จะเป็นหนึ่งในเงื่อนไขที่น่ากลัวมากขึ้นในความขัดแย้งในอนาคต