Technical Note
Karpathy新作LLMCouncil:多大模型协作本地AI问答系统详解
Andrej Karpathy利用周末实践VibeCoding了一个项目 LLMCouncil(大模型理事会),还挺有意思的。
可以下载来学习,看看大佬写的项目。里面有很多可以参考的点:Claude.md文件、backend/frontend 项目结构、后端项目、前端项目、项目启动sh....很标准。
LLMCouncil是一个可以本地部署的测试项目,多个LLM一起回答用户问题,并各自对其他模型的回答进行打分,排序,然后选一个最好的答案。
1. 用户提出问题后,这个系统会把问题同时发给多个LLM("理事会成员")。
2. 每个模型先给出自己的独立答复,用户可以分别查看。
想要查看完整笔记内容并体验 AI 智能整理功能吗?
免费注册 MeActLLMCouncil多大模型协作系统本地AI问答项目FastAPI React技术栈