Ollama เพิ่มฟีเจอร์การเอาท์พุตข้อมูลเป็น JSON แบบเดียวกับ LLM API ต่างๆ โดยกำหนด schema ของ JSON ได้โดยตรง และโดยรวมเอาท์พุตแน่นอนกว่า JSON mode

สำหรับไลบรารี Ollama ในภาษา Python จะสามารถกำหนด schema ได้ทั้ง Python dict และ Pydantic ซึ่งจะสามารถตรวจสอบเอาท์พุตก่อนใช้งานได้ด้วย ส่วนไลบรารีภาษา JavaScript ก็สามารถใช้ Zod ได้

ฟีเจอร์นี้สามารถใช้งานร่วมกับไลบรารี OpenAI ได้โดยตรง ทาง Ollama แนะนำว่าในพรอมพ์ควรระบุไว้เสมอว่าให้แสดงเอาท์พุตเป็น JSON

ที่มา - Ollama