API AI

Otari

เกตเวย์ LLM โอเพนซอร์สที่เข้ากันได้กับ OpenAI ซึ่งคุณสามารถรันเองได้ โดยให้จุดสิ้นสุดเดียวสำหรับผู้ให้บริการมากกว่า 40 ราย พร้อมคีย์เสมือน งบประมาณ และการติดตามการใช้งาน

Otari คืออะไร

Otari เป็นเซิร์ฟเวอร์พร็อกซีโอเพนซอร์สที่กำหนดเส้นทางคำขอ LLM จากแอปพลิเคชันของคุณไปยังผู้ให้บริการกว่า 40 รายผ่านจุดสิ้นสุดที่เข้ากันได้กับ OpenAI เพียงจุดเดียว จัดการการรับรองความถูกต้อง การบังคับใช้งบประมาณ และการบันทึกการใช้งาน

Otari เทียบกับเครื่องมือที่คล้ายคลึง

โมเดลราคาฟรีราคาที่กำหนดเองฟรีฟรี
เครดิตฟรี
ฟีเจอร์หลัก
  • จุดสิ้นสุดที่เข้ากันได้กับ OpenAI สำหรับผู้ให้บริการ LLM มากกว่า 40 ราย
  • คีย์ API เสมือนที่มีสิทธิ์แบบกำหนดขอบเขตและการเพิกถอน
  • การบังคับใช้งบประมาณก่อนคำขอต่อผู้ใช้และต่อคีย์
  • รันไทม์ระดับองค์กรที่มีความพร้อมใช้งานสูง
  • ข้อมูลประจำตัวและการเข้าถึงที่ยืดหยุ่น (SAML, OAuth)
  • การแยกผู้เช่าด้วยรันไทม์ ข้อมูลประจำตัว และเส้นทางการตรวจสอบที่แยกกัน
  • จำลอง API ของ Ollama, OpenAI และ llama.cpp
  • ส่งต่อโปร่งใสไปยัง API ที่เข้ากันได้กับ OpenAI ของ NVIDIA
  • การแคชการตอบสนองแบบเลือกได้พร้อม TTL และขนาดที่กำหนดค่าได้
  • การฉีดข้อมูลประจำตัวอย่างโปร่งใสสำหรับเอเจนต์ AI
  • การจัดเก็บความลับที่เข้ารหัส AES-256-GCM ในขณะพัก
  • การจับคู่โฮสต์และพาธสำหรับกำหนดเส้นทางความลับไปยังเอนด์พอยท์
ข้อดี
  • โอเพนซอร์สและโฮสต์เอง ช่วยให้คีย์ผู้ให้บริการและข้อมูลอยู่ในสภาพแวดล้อมของคุณ
  • จุดสิ้นสุดเดียวทำให้การรวมไคลเอ็นต์ข้ามผู้ให้บริการง่ายขึ้น
  • ความปลอดภัยและการกำกับดูแลระดับองค์กรในตัว
  • การแยกผู้เช่าแบบหลายผู้เช่าสำหรับผู้ให้บริการ SaaS
  • น้ำหนักเบาและปรับใช้ได้ง่ายผ่าน Docker
  • แคชการตอบสนองเพื่อลดการเรียก API และความหน่วง
  • โอเพนซอร์สและโฮสต์เอง ทำให้ควบคุมข้อมูลประจำตัวได้เต็มที่
  • ติดตั้งง่ายด้วยคำสั่งเดียวหรือ Docker
ข้อจำกัด
  • ต้องมีการตั้งค่าและบำรุงรักษาเซิร์ฟเวอร์ในเบื้องต้น
  • โหมดโฮสต์เองขาดการสำรองข้อมูลแบบจัดการหลายผู้ให้บริการ (มีให้ในโหมดไฮบริดกับบัญชี otari.ai)
  • ราคาไม่โปร่งใสและต้องติดต่อฝ่ายขาย
  • ต้องใช้ความเชี่ยวชาญทางเทคนิคในการตั้งค่าและกำหนดค่าเวิร์กโฟลว์
  • ส่งต่อเฉพาะ API ของ NVIDIA เท่านั้น ไม่รองรับผู้ให้บริการคลาวด์รายอื่น
  • ต้องมีคีย์ API NVIDIA ที่ถูกต้อง
  • ปัจจุบันจำกัดเฉพาะโหมดผู้ใช้คนเดียวในเครื่องเป็นค่าเริ่มต้น การตั้งค่า OAuth ต้องการการกำหนดค่าเพิ่มเติม
  • ต้องมีโครงสร้างพื้นฐานสำหรับโฮสต์เอง (Docker/PostgreSQL)
เหมาะสำหรับ
  • นักพัฒนาและทีมที่ต้องการเกตเวย์ API LLM แบบรวม
  • องค์กรที่ต้องการการควบคุมการเข้าถึงและการจัดการต้นทุนอย่างละเอียด
  • องค์กรที่ต้องการแพลตฟอร์มการรวมระบบที่ปลอดภัยและสามารถกำกับดูแลได้
  • บริษัท SaaS ที่ต้องการการรวมระบบแบบหลายผู้เช่าสำหรับลูกค้า
  • นักพัฒนาที่ผสานรวม LLM ของ NVIDIA เข้ากับเวิร์กโฟลว์ที่มีอยู่
  • ผู้ใช้ Open WebUI, curl หรือ SDK ที่ต้องการใช้ประโยชน์จากโมเดลของ NVIDIA
  • นักพัฒนาที่สร้างเอเจนต์ AI ที่ต้องการการเข้าถึง API อย่างปลอดภัย
  • ทีมที่จัดการการปรับใช้เอเจนต์ AI หลายตัวที่มีขอบเขตข้อมูลประจำตัวแตกต่างกัน

วิธีใช้ Otari

  1. 1ปรับใช้ Otari โดยใช้ Docker (เช่น docker run พร้อมคีย์ผู้ให้บริการและคีย์มาสเตอร์ของคุณ)
  2. 2สร้างคีย์ API เสมือนผ่านจุดสิ้นสุดการจัดการหรือคีย์เริ่มต้น
  3. 3ชี้ไคลเอ็นต์ OpenAI ไปที่ http://localhost:8000/v1 ด้วยคีย์เสมือน
  4. 4ส่งคำขอโดยใช้ผู้ให้บริการโมเดลใดก็ได้ (เช่น openai:gpt-4o-mini)
  5. 5ตรวจสอบการใช้งานและงบประมาณผ่านจุดสิ้นสุด /v1/usage

ฟีเจอร์หลักของ Otari

  • จุดสิ้นสุดที่เข้ากันได้กับ OpenAI สำหรับผู้ให้บริการ LLM มากกว่า 40 ราย
  • คีย์ API เสมือนที่มีสิทธิ์แบบกำหนดขอบเขตและการเพิกถอน
  • การบังคับใช้งบประมาณก่อนคำขอต่อผู้ใช้และต่อคีย์
  • การบันทึกการใช้งานและการใช้จ่ายพร้อมประวัติที่สอบถามได้
  • เครื่องมือในตัว: การรันโค้ดในสภาพแวดล้อมแซนด์บ็อกซ์และการค้นหาเว็บ
  • แนวทางป้องกันความปลอดภัยของอินพุต (เช่น การตรวจจับการแทรกคำสั่ง)
  • โหมดเดี่ยวหรือไฮบริดพร้อมการจัดการผ่านคลาวด์

เคสใช้งานของ Otari

  • รวมศูนย์การจัดการคีย์ API สำหรับผู้ให้บริการ LLM หลายราย
  • ควบคุมต้นทุนด้วยการกำหนดงบประมาณก่อนดำเนินการตามคำขอ
  • เปิดใช้งานการเข้าถึง LLM อย่างปลอดภัยโดยไม่เปิดเผยคีย์ผู้ให้บริการ
  • ติดตามการใช้งานในทีมและแอปพลิเคชันต่างๆ
  • รันแนวทางป้องกันและเครื่องมือที่กำหนดเองกับโมเดลใดก็ได้

ราคาและเครดิตฟรีของ Otari

Otari ใช้โมเดลราคาแบบ ฟรี

เครื่องมือนี้ใช้งานได้ฟรีทั้งหมด

โอเพนซอร์สที่โฮสต์เอง

Free

Otari เป็นโอเพนซอร์ส (Apache 2.0) และสามารถรันบนโครงสร้างพื้นฐานของคุณเองได้โดยไม่มีค่าใช้จ่าย

ข้อดีและข้อจำกัดของ Otari

ข้อดี

  • โอเพนซอร์สและโฮสต์เอง ช่วยให้คีย์ผู้ให้บริการและข้อมูลอยู่ในสภาพแวดล้อมของคุณ
  • จุดสิ้นสุดเดียวทำให้การรวมไคลเอ็นต์ข้ามผู้ให้บริการง่ายขึ้น
  • การบังคับใช้งบประมาณก่อนการเรียก ช่วยป้องกันค่าใช้จ่ายที่ไม่คาดคิด
  • การติดตามและบันทึกการใช้งานที่ครอบคลุม

ข้อจำกัด

  • ต้องมีการตั้งค่าและบำรุงรักษาเซิร์ฟเวอร์ในเบื้องต้น
  • โหมดโฮสต์เองขาดการสำรองข้อมูลแบบจัดการหลายผู้ให้บริการ (มีให้ในโหมดไฮบริดกับบัญชี otari.ai)
  • คุณสมบัติขั้นสูงบางอย่าง (เช่น เครื่องมือดั้งเดิมของผู้ให้บริการ) จำกัดเฉพาะบางโมเดล

Otari เหมาะกับงานแบบไหน?

  • นักพัฒนาและทีมที่ต้องการเกตเวย์ API LLM แบบรวม
  • องค์กรที่ต้องการการควบคุมการเข้าถึงและการจัดการต้นทุนอย่างละเอียด
  • ผู้ที่ต้องการหลีกเลี่ยงการผูกขาดผู้ขายและเก็บข้อมูลส่วนตัว

คำถามที่พบบ่อยเกี่ยวกับ Otari

ตัวเลือกฟรีทดแทน Otari

YAFL logo

เครื่องมือถ่ายโอนไฟล์ที่เน้นตัวแทน (agent-first) ที่ช่วยให้การแชร์ไฟล์ระหว่าง AI agent ด้วยการเรียก MCP อย่างปลอดภัยและเข้ารหัส โดยไม่ต้องมีมนุษย์เกี่ยวข้อง

ฟรี
TwelveLabs logo

TwelveLabs คือแพลตฟอร์มวิดีโออัจฉริยะที่ช่วยให้นักพัฒนาสามารถค้นหา วิเคราะห์ และทำความเข้าใจเนื้อหาวิดีโอโดยใช้โมเดล AI ที่ทรงพลังผ่าน API

ฟรี
Agentcard logo

Agentcard มอบโครงสร้างพื้นฐานการออกบัตรและการชำระเงินที่เหมาะกับเอเจนต์สำหรับ AI agent ช่วยให้ตั้งค่าได้ภายใน 5 นาทีและสามารถซื้อสินค้าแบบอัตโนมัติ

ฟรี
Opper AI logo

เกตเวย์ AI แบบรวมศูนย์ที่ให้การเข้าถึงโมเดลชั้นนำกว่า 300 รุ่นผ่าน API เดียวที่โฮสต์ในสหภาพยุโรปและเป็นไปตาม GDPR พร้อมอินเทอร์เฟซที่เข้ากันได้กับ OpenAI SDK

ฟรี
D

ไดค์คือเกตเวย์ปฏิบัติตามข้อกำหนดสำหรับผลิตภัณฑ์ AI ในสหภาพยุโรป โดยให้การบันทึกในระดับการตรวจสอบ การดูแลโดยมนุษย์ และการรายงานเหตุการณ์ผ่านพร็อกซีที่เรียบง่าย

ฟรี
Music0 AI logo

เครื่องกำเนิดเพลง AI ฟรีและตัวสร้างมิวสิควิดีโอที่สร้างเพลงต้นฉบับในทุกแนวเพลงและเปลี่ยนเป็นมิวสิควิดีโอที่สวยงามพร้อมภาพที่สอดประสานกัน

ฟรี
XSDR logo

โครงสร้างพื้นฐานการตรวจสอบเหตุการณ์แบบเรียลไทม์สำหรับ AI agent ที่ส่งสตรีมข้อมูลความหน่วงต่ำและการแจ้งเตือนผ่าน webhook เพื่อกระตุ้นเวิร์กโฟลว์อัตโนมัติ

ฟรี

ตัวเลือก AI ทดแทนที่ดีที่สุดสำหรับ Otari

Koodisi logo

Koodisi เป็นแพลตฟอร์ม iPaaS ระดับองค์กรและระบบอัตโนมัติของเวิร์กโฟลว์ที่เชื่อมต่อ API, เซิร์ฟเวอร์ MCP และเอเจนต์ AI พร้อมด้วยความปลอดภัย การกำกับดูแล และการแยกผู้เช่าในตัว

llmproxy logo

พร็อกซี LLM น้ำหนักเบา ประสิทธิภาพสูง สำหรับการแคช การเฟลโอเวอร์ การติดตามค่าใช้จ่าย และการผสานรวมระหว่างผู้ให้บริการ AI ในเครื่องและคลาวด์อย่างราบรื่น

OneCLI logo

เกตเวย์ข้อมูลประจำตัวแบบโอเพนซอร์สและห้องนิรภัยสำหรับความลับที่ช่วยให้เอเจนต์ AI เข้าถึง API โดยไม่ต้องเปิดเผยคีย์

YAFL logo

เครื่องมือถ่ายโอนไฟล์ที่เน้นตัวแทน (agent-first) ที่ช่วยให้การแชร์ไฟล์ระหว่าง AI agent ด้วยการเรียก MCP อย่างปลอดภัยและเข้ารหัส โดยไม่ต้องมีมนุษย์เกี่ยวข้อง

ฟรี
Millwright logo

Millwright เป็นเราเตอร์โอเพนซอร์สที่โฮสต์ด้วยตนเอง ซึ่งกำหนดเส้นทางคำขอ AI ไปยังผู้ให้บริการโมเดลที่ถูกที่สุดตามนโยบาย รักษาแคชพรอมต์และควบคุมค่าใช้จ่าย

TwelveLabs logo

TwelveLabs คือแพลตฟอร์มวิดีโออัจฉริยะที่ช่วยให้นักพัฒนาสามารถค้นหา วิเคราะห์ และทำความเข้าใจเนื้อหาวิดีโอโดยใช้โมเดล AI ที่ทรงพลังผ่าน API

ฟรี
FlexInference logo

เราเตอร์ LLM ที่คำนึงถึงกำหนดเวลา ซึ่งลดต้นทุนการอนุมาน AI โดยค้นหาระดับบริการที่ถูกกว่าโดยอัตโนมัติภายในกรอบเวลาที่ผู้ใช้กำหนด

Agentcard logo

Agentcard มอบโครงสร้างพื้นฐานการออกบัตรและการชำระเงินที่เหมาะกับเอเจนต์สำหรับ AI agent ช่วยให้ตั้งค่าได้ภายใน 5 นาทีและสามารถซื้อสินค้าแบบอัตโนมัติ

ฟรี