ในขณะที่ธุรกิจรวมปัญญาประดิษฐ์เข้ากับการดำเนินงานของพวกเขามากขึ้นการเลือกแบบจำลอง AI ที่จะนำมาใช้กลายเป็นสิ่งสำคัญ ในขั้นต้นโมเดลโอเพ่นซอร์สอาจปรากฏขึ้นเพื่อประหยัดค่าใช้จ่าย แต่การค้นพบล่าสุดชี้ให้เห็นว่าประโยชน์เหล่านี้สามารถลดลงได้อย่างรวดเร็วเนื่องจากข้อกำหนดการคำนวณที่สูงขึ้น
การศึกษาเมื่อเร็ว ๆ นี้โดยการวิจัยแบบ NOUS เน้นว่าแบบจำลอง AI โอเพ่นซอร์สใช้ทรัพยากรการคำนวณมากกว่าทางเลือกปิดแหล่งข้อมูลเมื่อเสร็จงานที่เหมือนกัน
1. ค่าใช้จ่ายของโมเดลโอเพนซอร์ซ
การศึกษาประเมินแบบจำลอง AI ต่าง ๆ รวมถึงจากผู้นำในอุตสาหกรรมเช่น Google และ Openai รวมถึงผู้เข้าแข่งขันโอเพนซอร์ซเช่น Deepseek และ Magistral นักวิจัยประเมินจำนวนโทเค็นคอมพิวเตอร์แต่ละรุ่นที่ใช้ในการจัดการงานสามประเภท: คำถามความรู้ง่ายๆสมการคณิตศาสตร์และปริศนาตรรกะ
2. การทำความเข้าใจประสิทธิภาพโทเค็น
ในโลกของ AI โทเค็นหมายถึงชิ้นส่วนของข้อความหรือข้อมูลที่แบบจำลองใช้สำหรับการตีความภาษา งานได้รับการประมวลผลและสร้างขึ้นบนพื้นฐานโทเค็นโดยโทเค็นซึ่งหมายความว่าการใช้โทเค็นที่มากเกินไปแปลว่ามีความต้องการการคำนวณมากขึ้นและเวลาในการดำเนินการที่ยาวนานขึ้น
โมเดลที่เป็นแหล่งปิดซึ่งมักจะซ่อนกระบวนการปฏิบัติงานของพวกเขาไว้นั้นวัดจากการบริโภคโทเค็น เนื่องจากโมเดลถูกเรียกเก็บเงินตามโทเค็นโดยรวมที่ใช้ในระหว่างการให้เหตุผลและผลลัพธ์สุดท้ายโทเค็นเหล่านี้ทำหน้าที่เป็นตัวบ่งชี้ที่เชื่อถือได้ของความพยายามที่เกี่ยวข้องในการสร้างคำตอบ
3. ความหมายสำหรับธุรกิจ
บริษัท ควรพิจารณาปัจจัยหลายประการก่อนที่จะเลือกแบบจำลอง AI:
- ต้นทุนโฮสติ้งที่ลดลงสำหรับรุ่นโอเพนซอร์ซอาจไม่ชดเชยการใช้โทเค็นที่เพิ่มขึ้น
- จำนวนโทเค็นที่สูงขึ้นอาจนำไปสู่การประมวลผลที่ยาวขึ้นและเวลาแฝงที่เพิ่มขึ้น
4. การเปรียบเทียบประสิทธิภาพ: เปิดเทียบกับรุ่นปิด
การวิจัยแสดงให้เห็นอย่างชัดเจนว่าแบบจำลองแบบเปิดมักจะต้องใช้โทเค็นมากกว่าคู่ปิดสำหรับงานเดียวกันโดยมีการใช้งานมากถึงสามเท่าในกรณีของคำถามความรู้ง่ายๆ ความแตกต่างลดลงสำหรับความท้าทายทางคณิตศาสตร์และตรรกะแม้ว่ารุ่นปิดยังคงทำงานได้ดีขึ้นโดยรวม
ในบรรดาโมเดลแบบเปิด LLAMA-3.3-Nemotron-Super-49B-V1 แสดงให้เห็นว่ามีประสิทธิภาพมากที่สุดในขณะที่โมเดลของผู้พิพากษาลดลงอย่างมีประสิทธิภาพ โมเดลของ Openai เช่น O4-Mini และ GPT-OSS แบบเปิดใหม่โดยเฉพาะอย่างยิ่งยอดเยี่ยมโดยเฉพาะอย่างยิ่งกับงานทางคณิตศาสตร์
5. มาตรฐานสำหรับการปรับปรุง
โมเดล GPT-OSS ของ Openai แสดงให้เห็นถึงการจัดการโทเค็นที่มีประสิทธิภาพผ่านการใช้เหตุผลอย่างกระชับ ประสิทธิภาพของพวกเขาสามารถใช้เป็นเกณฑ์มาตรฐานในการเพิ่มประสิทธิภาพโทเค็นในรุ่นโอเพนซอร์ซอื่น ๆ
อะไรคือประโยชน์ที่เป็นเอกลักษณ์ของทั้งโมเดลโอเพนซอร์สและซอร์ซซอร์ซ? โมเดลโอเพนซอร์ซนำเสนอความยืดหยุ่นและความสามารถในการปรับให้เข้ากับข้อกำหนดเฉพาะในขณะที่โซลูชันที่ปิดแหล่งข้อมูลโดยทั่วไปจะให้ประสิทธิภาพที่ดีที่สุด
โมเดล AI โอเพนซอร์ซมีราคาไม่แพงมากขึ้นหรือไม่? ไม่จำเป็นต้อง; ในขณะที่การตั้งค่าเริ่มต้นของพวกเขาอาจมีราคาไม่แพง แต่ค่าใช้จ่ายในการดำเนินงานสามารถเพิ่มขึ้นอย่างมากขึ้นอยู่กับการใช้ทรัพยากรการคำนวณ
ธุรกิจจะเลือกโมเดล AI ที่เหมาะสมได้อย่างไร โดยการประเมินไม่เพียง แต่ค่าใช้จ่ายล่วงหน้า แต่ยังรวมถึงค่าใช้จ่ายในการดำเนินงานระยะยาวที่เกี่ยวข้องกับการใช้โทเค็นและความต้องการการคำนวณ
โดยสรุปในขณะที่ บริษัท นำทางภูมิทัศน์ที่พัฒนาขึ้นของเทคโนโลยี AI การทำความเข้าใจความสมดุลระหว่างต้นทุนและประสิทธิภาพเป็นสิ่งสำคัญ สำรวจข้อมูลเชิงลึกและคำแนะนำเพิ่มเติมโดยไปที่ Moyens I/O สำหรับทรัพยากรและข้อมูลเพิ่มเติมเกี่ยวกับแอปพลิเคชัน AI ในธุรกิจ
สนับสนุนการทำงานของเรา ❤️
หากคุณชอบบทความนี้ โปรดพิจารณาทิ้งทิปเพื่อช่วยให้เราสามารถเผยแพร่เนื้อหาคุณภาพต่อไปได้
