OpenAI ของ Elon Musk สามารถเป็นกล้ามเนื้อสำหรับการวิจัยปัญญาประดิษฐ์ที่ปลอดภัย

ในช่วงสุดสัปดาห์ Elon Musk, Sam Altman, และ Silicon Valley bigwigs คนอื่น ๆ ประกาศเปิดตัว OpenAI ซึ่งเป็น บริษัท ที่ไม่แสวงหาผลกำไรซึ่งอธิบายถึงเป้าหมายของมันว่า:“ เพื่อพัฒนาระบบดิจิตอลอัจฉริยะในแบบที่น่าจะเป็นประโยชน์ต่อมนุษยชาติโดยรวม ไม่ จำกัด โดยความต้องการสร้างผลตอบแทนทางการเงิน”

“ เนื่องจากการวิจัยของเราปราศจากภาระผูกพันทางการเงินเราจึงสามารถมุ่งเน้นไปที่ผลกระทบของมนุษย์ในเชิงบวก เราเชื่อว่าเอ ควรเป็นส่วนขยายของความรู้สึกนึกคิดของมนุษย์แต่ละคนและในจิตวิญญาณแห่งเสรีภาพที่มีการกระจายอย่างกว้างขวางและทั่วถึงเท่าที่จะทำได้”

มีประเด็นสำคัญสองประการจากการประกาศนี้ อย่างแรกคือมัสค์และ บริษัท เห็นเอไอ การวิจัยในขณะนี้มุ่งเน้นไปที่การบรรลุคุณค่าในทางปฏิบัติในระยะสั้นและพวกเขาต้องการที่จะช่วยผลักดันความพยายามที่จะใช้แนวทางที่ครอบคลุมและกว้างขึ้นเพื่อพัฒนา A.I ระบบ ข้อที่สองที่น่าสนใจเพิ่มเติมคือ Musk ยังคงกังวลเกี่ยวกับศักยภาพของ A.I. ที่จะสร้างความเสียหายหากเราพัฒนาและแนะนำระบบที่มีการอบครึ่ง Musk ได้เรียกก่อนหน้านี้ว่า A.I “ ภัยคุกคามที่มีอยู่มากที่สุดของเรา” และเสนอว่าการกำกับดูแลด้านกฎระเบียบอาจมีความจำเป็นเพื่อป้องกันอันตรายที่อาจเกิดขึ้น OpenAI อาจเป็นวิธีการให้การกำกับดูแลโดยไม่จำเป็นต้องมีสุนัขเฝ้าบ้านของรัฐบาลกลาง

Musk และเพื่อนร่วมงานของเขาทำอะไรที่แตกต่างจากสิ่งที่คนอื่นทำ หลังจากทั้งหมดโอเพ่นซอร์สเอเอ ไม่มีอะไรใหม่ Google สร้าง A.I ของตัวเอง ซอฟต์แวร์โอเพ่นซอร์สเมื่อเดือนที่แล้วและนี่เป็นขั้นตอนมาตรฐานที่ค่อนข้างเป็นธรรม แต่ด้วยเงินบริจาค 1 พันล้านดอลลาร์ OpenAI จึงเป็นหนึ่งในองค์กรที่ใหญ่ที่สุดที่ทำงานเกี่ยวกับ A.I การวิจัยและง่ายมากที่ไม่แสวงหาผลกำไร เป้าหมายของมันคือการทำให้ผลลัพธ์ของมันเปิดเผยต่อสาธารณชนและปลอดค่าลิขสิทธิ์ พวกเขามีแครอทและไม้และพวกเขาตั้งใจที่จะใช้มันเพื่อคัดท้ายอุตสาหกรรม

แนวคิดก็คือการใช้ OpenAI เป็นประเภทถ่วงให้แก่องค์กรขนาดใหญ่ห้องปฏิบัติการวิจัยส่วนตัวและแม้แต่รัฐบาลโลกที่มีเงินและทรัพยากรจำนวนมากอย่างไม่น่าเชื่อที่จะเทลงในเอไอของพวกเขาเอง การวิจัยที่ไม่อาจอุทิศเพื่อวัตถุประสงค์ที่เป็นมิตรและอาจนำไปสู่เทคโนโลยีที่มีแอปพลิเคชันที่เลวร้าย นักวิจัยที่ทำงานกับ OpenAI โดยทั่วไปจะดำเนินการตาม 'มิตร' 'โดยไม่มีแรงกดดันในการแสดงผลทันที อาจมีการพิจารณาที่ใหญ่กว่าสำหรับคุณลักษณะด้านความปลอดภัยและการออกแบบที่ธุรกิจเอกชนอาจไม่สนใจ จะไม่มีหอคอยสีขาวที่มีเพียงไม่กี่คนที่เลือกควบคุมเส้นทางของ A.I พัฒนาการ มันจะเป็นโลกแห่งการต้อนรับทุกคน

ในการสัมภาษณ์ด้วย Backchannel มัสค์ยังเน้นถึงความปรารถนาที่จะสร้างความหลากหลายของ A.I ระบบ “ เราต้องการ A. A. เพื่อให้แพร่หลาย "เขากล่าว “ เราคิดว่าอาจมีหลายคนที่ดี”

นั่นเป็นเรื่องสำคัญเพราะอาจแบ่งออกเป็นเหตุผลหลักที่มัสค์และอัลท์แมนต้องการทำให้เป็นประชาธิปไตย พวกเขาเชื่อว่า A.I ที่ดีที่สุด - ประเภทที่จะเป็นประโยชน์ต่อมนุษยชาติในทางบวกโดยไม่สร้างหุ่นยนต์ทับซ้อน - เป็นประเภทที่ทำหน้าที่เป็น "ส่วนขยายของความประสงค์ของมนุษย์แต่ละคน" ตามที่มัสค์วางไว้ เขาพูดต่อไปว่า:

“ ดังเช่นใน A.I. การขยายตัวของคุณเองเช่นว่าแต่ละคนมีความเป็น symbiotic กับ AI เป็นหลักซึ่งต่างจาก AI ที่เป็นหน่วยสืบราชการลับกลางที่มีขนาดใหญ่ ถ้าคุณคิดว่าคุณใช้พูดแอปพลิเคชันบนอินเทอร์เน็ตคุณได้รับอีเมลของคุณและมีโซเชียลมีเดียและแอพบนโทรศัพท์ของคุณ - พวกเขาทำให้คุณมีประสิทธิภาพเหนือมนุษย์และคุณไม่คิดว่ามันเป็น เป็นคนอื่นคุณคิดว่าพวกเขาเป็นส่วนเสริมของตัวเอง ดังนั้นในระดับที่เราสามารถชี้นำ AI ในทิศทางนั้นเราต้องการทำเช่นนั้น และเราพบวิศวกรและนักวิจัยที่มีใจเดียวกันจำนวนมากในสาขา AI ที่รู้สึกเหมือนกัน”

โดยพื้นฐานแล้ววิสัยทัศน์ของ OpenAI สำหรับ A.I การวิจัยเป็นชุมชนที่มีการกระจายอำนาจที่ช่วยเชื่อมโยงมนุษย์กับสิ่งอื่นและโลก

มัสค์ยังไม่ได้ระบุว่าพวกเขาจะป้องกันการวิจัยภายใน OpenAI ด้วยตัวเองหรือนำกลุ่มคนภายนอกมาใช้ในทิศทางที่เป็นอันตรายได้อย่างไร และมีสิ่งอื่นที่ควรค่าแก่การจดจำไว้ที่นี่: ระบบโอเพ่นซอร์สจะใช้งานได้ก็ต่อเมื่อข้อมูลที่ใช้ในการสร้างอัลกอริทึมการเรียนรู้ของเครื่องถูกแบ่งปันอย่างอิสระ ระบบอัจฉริยะจะต้อง เรียน ทำอย่างไรจึงจะฉลาดและสำหรับการทำเช่นนั้นจะต้องเรียนรู้จากข้อมูลและประสบการณ์ มันเหมือนกับการสร้างเขื่อน - คุณต้องการทั้งพิมพ์เขียว (อัลกอริทึม) และวัสดุก่อสร้าง (ข้อมูล) เพื่อสร้างสิ่งที่จะหยุดน้ำ

นั่นเป็นสาเหตุที่ผู้คนยังมีข้อ จำกัด ในสิ่งที่พวกเขาสามารถทำได้กับ TensorFlow ของ Google พวกเขายังไม่มีข้อมูลที่ Google มี และถ้าหากความร่วมมือที่สร้างขึ้นจาก OpenAI ไม่อนุญาตให้เข้าถึงข้อมูลเดียวกันกับที่นักวิจัยประจำทำงานอยู่วิสัยทัศน์ของมัสค์ไม่จำเป็นต้องรับรู้ - หรืออย่างน้อยก็ไม่ใช่ในวิธีที่เขาโปรโมต

Musk, Altman และผู้ก่อตั้งคนอื่น ๆ ของ OpenAI ได้เริ่มสิ่งที่จะมีอิทธิพลอย่างมากต่อการเติบโตของ A.I จากที่นี่ออก ในเวลาเดียวกันพวกเขาจะต้องตรงไปตรงมาในความมุ่งมั่นที่จะสนับสนุนชุมชนการวิจัยโอเพ่นซอร์สซึ่งหมายถึงการเปิดเผยต่อสาธารณะเกี่ยวกับแผนการของพวกเขาสำหรับ บริษัท ที่ไม่แสวงหาผลกำไรและเต็มใจที่จะแบ่งปันข้อมูล มิฉะนั้น OpenAI จะไม่แตกต่างจาก บริษัท ฝูงที่ออกแบบมาเพื่อฝูง