โครงการ OpenAI ของ Elon Musk ระบุ 4 ปัญหาใหญ่สำหรับ AI

$config[ads_kvadrat] not found

द�निया के अजीबोगरीब कानून जिन�हें ज

द�निया के अजीबोगरीब कानून जिन�हें ज

สารบัญ:

Anonim

ปัญหาส่วนใหญ่ที่อาจเป็นผลมาจากปัญญาประดิษฐ์ที่ซับซ้อนมากขึ้นนั้นลึกซึ้งยิ่งกว่า SkyNet แต่นั่นไม่ได้หมายความว่า A.I ฉลาดกว่า ไม่ได้มาโดยไม่มีความเสี่ยง

นั่นเป็นสาเหตุที่ Elon Musk และ bigwigs คนอื่น ๆ ใน Silicon Valley ก่อให้เกิด Open AI ซึ่งเป็นกลุ่มที่อุทิศให้กับการแก้ปัญหาด้วย A.I ก่อนที่พวกเขาจะสามารถสร้างความเสียหายได้จริง กลุ่มนั้นเรียกว่า OpenAI และกำลังมองหาความช่วยเหลือเกี่ยวกับปัญหาเหล่านี้

“ OpenAI เป็น บริษัท วิจัยด้านปัญญาประดิษฐ์ที่ไม่หวังผลกำไร” กลุ่มกล่าวในหน้าเกี่ยวกับ “ เป้าหมายของเราคือการพัฒนาระบบดิจิตอลอัจฉริยะในแบบที่เป็นไปได้มากที่สุดที่จะเป็นประโยชน์ต่อมนุษยชาติโดยรวมโดยไม่จำเป็นต้องสร้างผลตอบแทนทางการเงิน”

การโพสต์งานปลอมตัวเป็นโพสต์บล็อกชื่อ“ โครงการพิเศษ” สรุป“ โครงการ” สี่อย่างเช่นปัญหาที่มี“ ความหมายกว้างมาก” หรือที่อยู่“ ผลลัพธ์สำคัญที่เกิดขึ้นใหม่ของการพัฒนา AI” จากนั้นผู้เขียน - Ilya Sutskever, Dario Amodei และ Sam Altman - เชิญผู้เชี่ยวชาญการเรียนรู้เครื่องจักรที่แข็งแกร่งเพื่อ“ เริ่มต้นความพยายามหนึ่งในปัญหาเหล่านี้ที่ OpenAI” เพียงแค่ส่งใบสมัครพวกเขาถาม นี่คือปัญหาใหญ่สี่ข้อที่เผชิญกับปัญญาประดิษฐ์:

การค้นหาระบบ AI แอบแฝง

สิ่งที่เลวร้ายยิ่งกว่า A.I ที่ชาญฉลาดมาก ที่สามารถใช้เพื่อวัตถุประสงค์ที่ไม่ถูกต้อง? A.I ฉลาดมาก ที่ใช้ไปเพื่อวัตถุประสงค์ที่ผิดโดยที่ไม่มีใครรู้ “ เมื่อจำนวนองค์กรและทรัพยากรที่จัดสรรให้กับการวิจัยของ AI เพิ่มขึ้นความน่าจะเป็นที่เพิ่มขึ้นที่องค์กรจะทำการพัฒนา AI ที่ไม่เปิดเผยและใช้ระบบสำหรับจุดประสงค์ที่อาจเป็นอันตราย” ทีมงาน OpenAI เขียนในบล็อกโพสต์ “ ดูเหมือนว่าสำคัญที่จะตรวจจับสิ่งนี้ เราสามารถจินตนาการได้หลายวิธีเช่นดูข่าวตลาดการเงินเกมออนไลน์ ฯลฯ ”

การสร้าง A.I ที่สามารถตั้งโปรแกรม

โปรแกรมเมอร์ที่ดีที่สุดบางคนขี้เกียจ ดังนั้นจึงสมเหตุสมผลที่ OpenAI ต้องการสร้าง A.I ความสามารถในการสร้างโปรแกรมด้วยตัวเอง ดีกว่าที่จะใช้เวลาในการทำ A. ฉลาดพอที่จะเขียนโค้ดทุกสิ่งที่คุณอาจต้องการในอนาคตมากกว่าเขียนโค้ดทุกสิ่งด้วยตัวคุณเอง นี่คือปี 2016 สำหรับการร้องไห้ออกมาดัง ๆ และผู้เข้ารหัสต้องหยุดพัก!

การใช้ A.I สำหรับการป้องกันไซเบอร์

“ การใช้งาน AI แบบเร็วจะเป็นการบุกเข้าสู่ระบบคอมพิวเตอร์” OpenAI เขียน “ เราชอบเทคนิค AI ในการป้องกันแฮ็กเกอร์ที่มีความซับซ้อนซึ่งใช้วิธีการ AI อย่างหนัก” นั่นฟังดูดีโดยเฉพาะอย่างยิ่งตั้งแต่ MIT เตือนเอไอปัจจุบันว่า อาศัยมนุษย์เพื่อป้องกันการโจมตีทางไซเบอร์

ทำแบบจำลองที่ซับซ้อนจริงๆ

“ เราสนใจที่จะสร้างแบบจำลองที่มีขนาดใหญ่มากพร้อมด้วยตัวแทนจำนวนมากที่สามารถโต้ตอบซึ่งกันและกันเรียนรู้เป็นเวลานานค้นพบภาษาและบรรลุเป้าหมายที่หลากหลาย” ทีมงาน OpenAI เขียน

เข้ามา. ตอนนี้พวกคุณแค่พยายามพิสูจน์ว่า Musk นั้นถูกต้องเกี่ยวกับพวกเราที่อยู่ในสถานการณ์จำลอง

$config[ads_kvadrat] not found