กลยุทธ์ Superintelligence: Eric Schmidt และ Alexandr Wang เตือนการแข่งขันอาวุธใหม่ใน AI
อดีตซีอีโอของ Google Eric Schmidt และ Scale AI ผู้ก่อตั้ง Alexandr Wang ได้ร่วมเขียนบทความสำคัญในชื่อ“ Superintelligence Strategy” ซึ่งเตือนรัฐบาลสหรัฐฯในการเปิดตัวโครงการแมนฮัตตันเพื่อข่าวกรองทั่วไป (AGI) ผู้เขียนยืนยันว่าการริเริ่มดังกล่าวอาจนำไปสู่ความเสี่ยงที่ไม่สามารถควบคุมได้ทั่วโลก หลักฐานกลางคือการสร้างโปรแกรม AI ที่ทรงพลังสามารถกระตุ้นการตอบโต้หรือการก่อวินาศกรรมจากศัตรูในฐานะประเทศที่มีความสามารถในการปกครองในความสามารถของ AI
ทบทวนการพัฒนา AI: การเรียกร้องให้ระมัดระวัง
Schmidt และ Wang สนับสนุนศักยภาพอันยิ่งใหญ่ของ AI เพื่อยกระดับความก้าวหน้าทางสังคมผ่านนวัตกรรมในการพัฒนายาและประสิทธิภาพในการทำงาน อย่างไรก็ตามพวกเขาแสดงความกังวลอย่างมากเกี่ยวกับวิธีที่รัฐบาลรับรู้ AI เป็นชายแดนใหม่ของการป้องกันประเทศ ทั้งคู่เตือนถึงการแข่งขันที่แข่งขันเพื่อพัฒนาอาวุธที่ขับเคลื่อนด้วย AI ด้วยอันตรายที่เพิ่มขึ้นโดยดึงความคล้ายคลึงกับข้อตกลงระหว่างประเทศที่ จำกัด การพัฒนาอาวุธนิวเคลียร์ พวกเขายืนยันว่ารัฐควรใช้วิธีการที่วัดได้มากขึ้นใน AI หลีกเลี่ยงการล่อลวงเพื่อสร้างระบบอาวุธ AI
ความขัดแย้งในภาคการป้องกัน: นวัตกรรมกับศีลธรรม
ในขณะที่สนับสนุนความระมัดระวังทั้ง Schmidt และ Wang ก็มีส่วนร่วมในการปรับใช้เทคโนโลยี AI สำหรับอุตสาหกรรมการป้องกัน White Stork ของ บริษัท Schmidt มุ่งเน้นไปที่เทคโนโลยีเสียงพึมพำแบบอิสระในขณะที่ Scale AI ของ Wang ได้รับความปลอดภัยเมื่อเร็ว ๆ นี้ สัญญา กับกระทรวงกลาโหมเพื่อพัฒนาตัวแทน AI สำหรับการวางแผนและปฏิบัติการทางทหาร เมื่อ Silicon Valley เข้าหาสัญญาการป้องกันที่มีกำไรความหมายทางจริยธรรมของกิจการเหล่านี้มาภายใต้การตรวจสอบข้อเท็จจริง
อันตรายของสงครามจลน์: มุมมองเกี่ยวกับสัญญาการป้องกัน
ผู้รับเหมากลาโหมทหารทั้งหมดเผชิญกับความขัดแย้งทางผลประโยชน์ที่อาจส่งเสริมสงครามจลน์ซึ่งมักจะไม่สามารถยุติธรรมได้ เหตุผลคือเนื่องจากประเทศอื่น ๆ มีความสามารถทางทหารอุตสาหกรรมสหรัฐฯต้องรักษาความได้เปรียบในการแข่งขัน ถึงกระนั้นการแข่งขันทางอาวุธนี้ส่งผลให้เกิดผลกระทบร้ายแรงสำหรับชีวิตผู้บริสุทธิ์ในฐานะที่เป็นเกมที่ทรงพลังจัดการกับเกมหมากรุกระดับโลก
AI Weaponry: การโต้แย้งของ Palmer Luckey สำหรับการป้องกันทางจริยธรรม
Palmer Luckey ผู้ก่อตั้ง บริษัท เทคโนโลยีกลาโหม Anduril เชื่อว่าการโจมตีด้วยเสียงพึมพำ AI อาจเป็นทางเลือกที่ปลอดภัยกว่าสำหรับการโจมตีด้วยนิวเคลียร์ขนาดใหญ่หรือเหมืองที่ดิน ในขณะที่ประเทศอื่น ๆ สร้างอาวุธ AI Luckey แย้งว่าสหรัฐฯจะต้องรักษาความสามารถที่เพียงพอสำหรับการยับยั้ง บริษัท ของเขาจัดหาโดรนให้กับยูเครนเพื่อกำหนดเป้าหมายอุปกรณ์รัสเซียข้ามแนวการต่อสู้ซึ่งแสดงให้เห็นถึงผลกระทบของโลกแห่งความเป็นจริงของ AI ในสงคราม
การอุทธรณ์วัฒนธรรม: วิธีการโฆษณาที่เป็นเอกลักษณ์ของ Anduril
แคมเปญโฆษณาล่าสุดของ Anduril ซึ่งแสดงวลี“ Work at Anduril.com” ข้ามด้วยคำว่า “ไม่” ในตัวอักษรสไตล์กราฟฟิตีที่สดใสรวบรวมแนวคิดของการทำงานภายในคอมเพล็กซ์อุตสาหกรรมทหารเป็นวัฒนธรรมในสังคมปัจจุบัน
องค์ประกอบของมนุษย์ในการตัดสินใจ AI: สาเหตุของความกังวล
ทั้ง Schmidt และ Wang เน้นความสำคัญของการกำกับดูแลของมนุษย์ในการตัดสินใจ AI-ASSISTED อย่างไรก็ตามรายงานล่าสุดระบุว่ากองทัพอิสราเอลใช้ประโยชน์ ระบบ AI ที่ผิดพลาด สำหรับการตัดสินใจที่ร้ายแรง นักวิจารณ์ยืนยันว่าโดรนสามารถทำให้ทหารรู้สึกถึงความเป็นจริงของการต่อสู้ ความแม่นยำของการจดจำภาพ AI ยังคงเป็นที่น่าสงสัยซึ่งนำไปสู่ความกลัวของโดรนนักฆ่าที่โจมตีเป้าหมายที่ไม่แน่นอน
เราประเมินความสามารถของ AI มากเกินไปหรือไม่? สมมติฐานของ Schmidt และ Wang
กระดาษจาก Schmidt และ Wang ขึ้นอยู่กับข้อสันนิษฐานว่า AI จะได้รับความเป็นผู้ยิ่งใหญ่ในไม่ช้ามนุษย์ก็มีประสิทธิภาพสูงกว่ามนุษย์ในเกือบทุกงาน อย่างไรก็ตามการเรียกร้องนี้สามารถมองเห็นข้อบกพร่องที่สำคัญใน AI ร่วมสมัยซึ่งยังคงก่อให้เกิดข้อผิดพลาดบ่อยครั้ง ความสามารถของ AI จำนวนมากมีลักษณะคล้ายกับการเลียนแบบของมนุษย์ดิบแสดงพฤติกรรมที่คาดเดาไม่ได้และมักจะแปลกประหลาด
การผลักดันสำหรับโซลูชั่น AI: Schmidt และ Wang เป็นผู้สร้างนวัตกรรมที่รับผิดชอบหรือไม่?
Schmidt และ Wang ส่งเสริมวิสัยทัศน์ของพวกเขาในโลกที่รัฐบาลควรจัดหาโซลูชั่น AI ของพวกเขาเพื่อลดภัยคุกคามที่อาจเกิดขึ้น วิธีการนี้ชวนให้นึกถึงการวิพากษ์วิจารณ์ที่เล็งเห็นถึง Sam Altman ของ Openai ผู้ซึ่งถูกกล่าวหาว่าใช้ประโยชน์จากอันตรายที่รับรู้ของ AI ที่จะมีอิทธิพลต่อนโยบายวอชิงตันในขณะเดียวกันก็เสนอเวอร์ชัน AI“ ปลอดภัย” ของรัฐบาล
อนาคตของกฎระเบียบ AI: คำเตือนของ Schmidt จะถูกละเว้นหรือไม่?
แม้จะมีคำเตือนของ Schmidt แต่การบริหารของสหรัฐอเมริกาในปัจจุบันดูเหมือนจะเคลื่อนไหวไปในทิศทางตรงกันข้าม ประธานาธิบดีทรัมป์ได้ย้อนกลับแนวทางความปลอดภัยของ Biden-era AI ซึ่งเป็นที่โปรดปรานในการปกครองแบบก้าวร้าวในเทคโนโลยี AI ดังที่แสดงโดยข้อเสนอของคณะกรรมาธิการรัฐสภาเมื่อเร็ว ๆ นี้สำหรับโครงการแมนฮัตตันที่เน้น AI ซึ่งเป็นศักยภาพในการแข่งขันทางอาวุธเป็นเรื่องจริง ชมิดท์เน้นถึงความเสี่ยงที่ประเทศอย่างจีนสามารถตอบสนองได้โดยการลดขนาดโมเดล AI หรือการกำหนดเป้าหมายโครงสร้างพื้นฐานความเป็นจริงที่ไม่มั่นคงเนื่องจากการบุกรุกไซเบอร์ในอดีตจากประเทศต่างๆเช่นจีนและรัสเซีย
ความร่วมมือระดับโลกสามารถ จำกัด การพัฒนาอาวุธ AI ได้หรือไม่?
ในที่สุดความเป็นไปได้ของการบรรลุฉันทามติระหว่างประเทศในการควบคุมการพัฒนาอาวุธ AI ยังไม่ชัดเจน ในบริบทนี้การพิจารณาการก่อวินาศกรรมของโครงการ AI ที่คุกคามอาจไม่ได้เป็นวิธีแก้ปัญหาที่ไกลออกไป
คำถามที่พบบ่อย: การทำความเข้าใจผลกระทบของ AGI และ AI ในการป้องกัน
หน่วยสืบราชการลับทั่วไป (AGI) เทียมคืออะไร?
AGI หมายถึงระบบอิสระสูงที่มีประสิทธิภาพสูงกว่ามนุษย์ในงานที่มีคุณค่าทางเศรษฐกิจมากที่สุดซึ่งอาจนำไปสู่อำนาจและการควบคุมภาคส่วนต่าง ๆ ที่ไม่เคยเกิดขึ้นมาก่อน
เหตุใด Schmidt และ Wang จึงกังวลเกี่ยวกับการแข่งขัน AI Arms ที่นำโดยสหรัฐฯ
พวกเขากังวลว่าวิธีการแข่งขันในการพัฒนา AI อาจนำไปสู่ความเสี่ยงที่เพิ่มขึ้นของการตอบโต้การก่อวินาศกรรมและการใช้งานทางทหารที่เป็นอันตรายคล้ายกับการแข่งขันอาวุธนิวเคลียร์สงครามเย็น
รัฐบาลควรเข้าหาการพัฒนา AI ตาม Schmidt และ Wang อย่างไร
พวกเขาแนะนำวิธีการที่ระมัดระวังมากขึ้นในการพัฒนา AI สนับสนุนการให้ความร่วมมือระหว่างประเทศและข้อตกลงคล้ายกับที่ได้ควบคุมการเพิ่มจำนวนอาวุธนิวเคลียร์
อะไรคือผลกระทบทางจริยธรรมของการจ้าง AI ในการปฏิบัติการทางทหาร?
การใช้ AI ในการปฏิบัติการทางทหารทำให้เกิดความกังวลเกี่ยวกับความรับผิดชอบการลดลงของทหารและผลที่ไม่ได้ตั้งใจจากการตัดสินใจอัตโนมัติซึ่งอาจนำไปสู่การบาดเจ็บล้มตายของพลเรือน
เทคโนโลยี AI มีอิทธิพลต่อกลยุทธ์ทางทหารในปัจจุบันอย่างไร
เทคโนโลยี AI กำลังรวมเข้ากับกลยุทธ์ทางทหารมากขึ้นทำให้การวางแผนการปฏิบัติงานเพิ่มขึ้นการกำหนดเป้าหมายและประสิทธิภาพ อย่างไรก็ตามสิ่งนี้ทำให้เกิดความกังวลด้านจริยธรรมเกี่ยวกับการเพิ่มความขัดแย้งและผลกระทบด้านมนุษยธรรมของเทคโนโลยีดังกล่าว
สนับสนุนการทำงานของเรา ❤️
หากคุณชอบบทความนี้ โปรดพิจารณาทิ้งทิปเพื่อช่วยให้เราสามารถเผยแพร่เนื้อหาคุณภาพต่อไปได้
