หุ่นยนต์นี้เรียนรู้ที่จะพูดว่า 'ไม่' กับความต้องการของมนุษย์

หุ่นยนต์เช่นเดียวกับมนุษย์ต้องเรียนรู้เมื่อต้องพูดว่า "ไม่" ถ้าคำขอเป็นไปไม่ได้จะก่อให้เกิดอันตรายหรือทำให้เสียสมาธิจากงานที่ทำอยู่ในมือมันจะเป็นประโยชน์สูงสุดของบอทและมนุษย์ของเขาเหมือนกัน สำหรับนักการทูต ไม่เป็นไรขอบคุณ เพื่อเป็นส่วนหนึ่งของการสนทนา

แต่เมื่อไรที่เครื่องควรตอบกลับ? และภายใต้เงื่อนไขอะไร? วิศวกรพยายามที่จะหาวิธีปลูกฝังความรู้สึกของวิธีและเวลาที่จะท้าทายคำสั่งซื้อในมนุษย์

ดูหุ่นยนต์หนาวนี้ปฏิเสธที่จะเดินไปข้างหน้าโดยรู้ว่าการทำเช่นนั้นจะทำให้เขาหลุดจากโต๊ะ:

สิ่งที่ง่าย แต่จำเป็นอย่างยิ่งสำหรับการทำหน้าที่ตรวจสอบข้อผิดพลาดของมนุษย์ นักวิจัย Gordon Briggs และ Matthias Scheutz จากมหาวิทยาลัย Tufts พัฒนาอัลกอริทึมที่ซับซ้อนซึ่งอนุญาตให้หุ่นยนต์ประเมินสิ่งที่มนุษย์ขอให้เขาทำตัดสินใจว่าควรทำหรือไม่และตอบสนองอย่างเหมาะสม การวิจัยได้นำเสนอในที่ประชุมล่าสุดของสมาคมเพื่อความก้าวหน้าของปัญญาประดิษฐ์

หุ่นยนต์ถามคำถามชุดที่เกี่ยวข้องกับตัวเองว่างานนั้นทำได้หรือไม่ ฉันรู้วิธีการทำ ตอนนี้ฉันสามารถทำมันได้จริงหรือ ปกติฉันจะสามารถทำมันได้หรือไม่? ฉันสามารถทำมันตอนนี้ได้หรือไม่? ฉันจำเป็นต้องทำตามบทบาททางสังคมของฉันหรือไม่? มันเป็นการละเมิดหลักการเชิงบรรทัดฐานหรือไม่?

ผลที่ได้คือหุ่นยนต์ที่ดูเหมือนจะไม่เพียงมีเหตุผล แต่วันเดียวฉลาด

สังเกตว่าหนาวเปลี่ยนความคิดของเขาเกี่ยวกับการเดินไปข้างหน้าหลังจากที่มนุษย์สัญญาว่าจะจับเขา มันง่ายที่จะจินตนาการสถานการณ์ที่แตกต่างออกไปซึ่งหุ่นยนต์พูดว่า“ ไม่ทางทำไมฉันต้องเชื่อคุณ”

แต่หนาวเป็นสัตว์สังคมที่ได้รับการออกแบบ เพื่อโปรดมนุษย์อยู่ใน DNA ของเขาดังนั้นเมื่อได้รับข้อมูลที่มนุษย์ต้องการที่จะจับเขา แน่นอนว่าถ้ามนุษย์จะหลอกลวงความไว้วางใจของเขาเขาก็จะถูกยั่วยุ แต่เขาก็ยังเชื่อใจอยู่ดี มันเป็นวิธีของหนาว

เมื่อสหายหุ่นยนต์มีความซับซ้อนมากขึ้นวิศวกรหุ่นยนต์จะต้องรับมือกับคำถามเหล่านี้ หุ่นยนต์จะต้องตัดสินใจไม่เพียง แต่รักษาความปลอดภัยของตัวเองเท่านั้น เกิดอะไรขึ้นถ้ามนุษย์ขอให้หุ่นยนต์ฆ่า? เพื่อหลอกลวง? เพื่อทำลายหุ่นยนต์ตัวอื่น

แนวคิดเรื่องจรรยาบรรณเครื่องจักรไม่สามารถแยกออกจากปัญญาประดิษฐ์ได้แม้กระทั่งรถยนต์ไร้คนขับของเราในอนาคตจะต้องได้รับการออกแบบมาเพื่อให้ทางเลือกในการตายหรือตายในนามของเรา การสนทนานั้นจะซับซ้อนกว่าการส่งคำสั่งเดินทัพ