คลาวด์รายหลักเปิดให้บริการ Llama 3.1 พร้อม Meta อนุญาตให้นำ output ไปฝึกโมเดลของตัวเองได้.

หลังจากเมื่อคืนที่ผ่านมา Meta เปิดตัว Llama 3.1 โมเดลปัญญาประดิษฐ์ บรรดาคลาวด์รายเล็กและรายใหญ่ก็ประกาศเปิดบริการ Llama 3.1 โดยพร้อมเพรียงกัน โดยบริการที่ครบถ้วนที่สุดคือ Microsoft Azure เปิดให้บริการพร้อมกับประกาศราคาออกมาพร้อมกันทั้งสามขนาด Google Cloud นั้นเปิดให้ใช้งานโมเดล 405B แล้วแต่ยังไม่ประกาศราคา ขณะที่ AWS นั้นประกาศราคาเฉพาะรุ่น 70B และ 8B โดยรุ่น 405B ต้องเปิดเคสขอใช้งาน

คลาวด์เฉพาะทางค่ายต่างๆ ก็ประกาศราคาและเปิดให้บริการออกมาเช่นกัน เช่น Together.AI ประกาศราคาต่ำสุดแต่เป็นรุ่น Turbo ที่ถูก quantized มาแล้วอ แม้บริษัทจะระบุว่าเทคโนโลยีการ quantize ของบริษัทนั้นมีความสามารถใกล้เคียงโมเดลเต็ม ขณะที่ Groq ผู้ให้บริการเฉพาะทางก็เปิดให้บริการรุ่น 70B และ 8B แต่ยังไม่ประกาศราคาออกมา อย่างไรก็ดีหากเทียบราคา Llama 3 ก่อนหน้านี้ก็จะพบว่าราคาถูกกว่าเจ้าอื่นๆ มากอยู่แล้ว

โครงการรัน LLM บนเครื่องส่วนตัวอย่าง Ollama ก็รองรับ Llama 3.1 เป็นที่เรียบร้อยแล้ว อย่างไรก็ดี รุ่น 405B นั้นมีเฉพาะแบบ quantized 4 bit เท่านั้น ไม่มีแบบ FP16 ทางด้าน NVIDIA ก็ประกาศรองรับ Llama 3.1 บน NVIDIA NIM โดยโชว์ว่ามีบริการ NVIDIA NeMo Retriever เต็มรูปแบบ ทำให้องค์กรสามารถสร้างแอปพลิเคชั่นแบบ retrieval-augmented generation (RAG) ได้ในองค์กรอย่างสมบูรณ์

ความพิเศษของ Llama 3.1 คือสัญญาอนุญาตเปลี่ยนไลเซนส์โดยอนุญาตให้ใช้เอาท์พุตของโมเดลไปใช้งานอื่นๆ ได้ ต่างกับโมเดลอื่นๆ เช่น OpenAI ห้ามนำเอาท์พุตไปใช้ฝึกโมเดลอื่นๆ ทำให้องค์กรสามารถออปติไมซ์การทำงานเพิ่มเติม เช่น สร้างชุดข้อมูลจาก Llama 3.1 405B แต่นำไปฝึกกับโมเดล LLM ที่ขนาดเล็กกว่า

ที่มา – NVIDIA, AWS, Google Cloud Blog, Azure Blog

ราคาของ Llama 3.1 ขนาดต่างๆ โดยคิดราคาต่อ 1 ล้านโทเค็น จากผู้ให้บริการคลาวด์ Google Cloud นั้นยังไม่เปิดเผยราคา ขณะที่ Together.AI นั้นเป็นโมเดลแบบย่อ และ Groq ก็ยังไม่เปิดเผยราคาเช่นกัน