กรอบไมโครเซอร์วิสสำหรับตัวแทน AI แบบโมดูลาร์และการโฮสต์ส่วนตัว
Cheshire Cat Ai core, โดย Cheshire Cat Ai, เป็นกรอบงานแบบโอเพนซอร์สที่ให้บริการ 'สมอง' ของตัวแทนสำหรับการทำงานสนทนา มันทำงานเป็นเลเยอร์ไมโครเซอร์วิส Python ระหว่างผู้ใช้และโมเดลภาษาขนาดใหญ่ จัดการบริบท การจัดการเครื่องมือ และการเรียกคืนที่รู้เอกสารเพื่อมีอิทธิพลต่อผลลัพธ์ของโมเดล การออกแบบเน้นความสามารถในการขยายผ่านระบบปลั๊กอิน Python การรวม MCP ประเภทหน่วยความจำเวกเตอร์ GUI ผู้ดูแลระบบ และการปรับใช้ Docker มันมุ่งเป้าไปที่นักพัฒนา AI โปรแกรมเมอร์ Python นักวิจัย และบริษัทที่ต้องการพื้นฐานตัวแทนที่ยืดหยุ่น
คุณสามารถใช้มันทำงานอะไรได้บ้าง?
โครงสร้างพื้นฐานหลักเหมาะสำหรับการสร้างแบ็คเอนด์ตัวแทนเฉพาะทางสำหรับการศึกษา การวิจัย และการทำงานอัตโนมัติในองค์กร ซึ่งนักพัฒนาจำเป็นต้องควบคุมพฤติกรรมของตัวแทนอย่างเป็นโปรแกรม มันรองรับผู้ให้บริการท้องถิ่นเช่น Ollama และ LocalAI รวมถึง API ที่เป็นกรรมสิทธิ์เช่น OpenAI และ Groq และยอมรับการฝังสำหรับท่อการดึงข้อมูล กรณีการใช้งานรวมถึงผู้ช่วยที่เขียนสคริปต์ที่เรียกเครื่องมือภายนอก ผู้ช่วยที่รู้เอกสาร และการทำงานอัตโนมัติที่จัดการคำขอผ่านชั้นไมโครเซอร์วิส.
ความถูกต้องของการตอบสนองของตัวแทนที่สร้างขึ้นเปรียบเทียบกับความพยายามด้วยมือเป็นอย่างไร?
คุณภาพของการตอบสนองขึ้นอยู่กับโมเดลภาษาและการฝังที่เลือก; โครงสร้างพื้นฐานให้จุดขยายที่นักพัฒนาสามารถใช้เพื่อเพิ่มการตรวจสอบ การเรียกเครื่องมือ หรือการตรวจสอบรองก่อนที่จะส่งคำตอบ โครงการมีแนวทาง "vibe coding" ที่ใช้รูปแบบ Python ที่กระชับและอุปมาอุปไมยที่ตั้งชื่อ (เช่น Rabbit Hole และ Mad Hatter) เพื่อแมพความรับผิดชอบของหน่วยความจำและเครื่องมือ ซึ่งช่วยให้ทีมสามารถดำเนินการในขั้นตอนการประมวลผลที่คาดการณ์ได้แทนที่จะพึ่งพาผลลัพธ์จากโมเดลดิบเพียงอย่างเดียว.
มันเป็นการปฏิบัติที่เหมาะสมในการปรับใช้และบำรุงรักษาในกระบวนการทำงานของทีมหรือไม่?
การติดตั้งและการดำเนินงานมุ่งเป้าไปที่สภาพแวดล้อมที่มุ่งเน้นนักพัฒนา: การติดตั้ง Docker ด้วยคำสั่งเดียวหรือการตั้งค่าท้องถิ่นผ่านแพ็คเกจ uv Python รองรับ Windows, macOS และ Linux containers โครงการทำงานเป็นบริการ Python ที่ถูก Dockerize และเปิดเผย API สำหรับการรวมเข้าด้วยกัน การพัฒนาชุมชนมีความกระตือรือร้นและโครงการได้รับการดูแลโดยผู้มีส่วนร่วมที่นำโดย Piero Savastano ซึ่งทำให้การอัปเดตแบบวนซ้ำและการขยายชุมชนเป็นเส้นทางการบำรุงรักษาที่มีความเป็นไปได้.
core เป็นตัวเลือกที่ใช้งานได้จริงและมุ่งเน้นนักพัฒนาที่มีการแลกเปลี่ยนที่ชัดเจน
core เป็นตัวเลือกที่พร้อมสำหรับการผลิตและเป็นโอเพนซอร์สสำหรับนักพัฒนา AI ที่ต้องการพื้นฐานสำหรับแบ็กเอนด์ของตัวแทนที่กำหนดเอง คาดว่าจะต้องใช้เวลาของนักพัฒนาในการตั้งค่าบนพื้นฐาน Python และในการเลือกและปรับแต่งโมเดลภายนอก สถาปัตยกรรมที่กำหนดเองขั้นสูงต้องการความคุ้นเคยกับรูปแบบการขยายของเฟรมเวิร์ก โครงการนี้ให้รางวัลกับการลงทุนดังกล่าวด้วยฐานที่สามารถปรับเปลี่ยนได้ซึ่งทีมสามารถปรับให้เข้ากับผู้ช่วยหรือกระบวนการทำงานอัตโนมัติที่เฉพาะเจาะจงได้
