🌟 LLM Council: на ваши запросы отвечает совет из языковых моделей.
Андрей Карпаты опять выходит на связь опубликовал очередной vibecode проект.
Его идея в том, что вместо того, чтобы задавать вопрос одной LLM, вы можете объединить их в «Совет моделей».
LLM Council – это простое локальное веб-приложение, с интерфейсом как у ChatGPT, но с той разницей, что запрос отправляется через Openrouter нескольким LLM. Полученные ответы перекрестно оцениваются и ранжируются, и, наконец, «модель-председатель совета» формирует окончательный ответ.
Более подробно процесс выглядит так:
🟢Этап 1: Сбор мнений.
Запрос отправляется всем моделям по отдельности, и их ответы собираются. Ответы каждой модели отображаются в отдельной вкладке, чтобы можно было их посмотреть вручную.
🟢Этап 2: Рецензирование.
Каждая модель получает ответы других моделей. При этом идентификаторы анонимизированы, чтобы исключить «игру в любимчиков» при оценке чужих результатов. На этом этапе ответы ранжируются их по точности и глубине анализа.
🟢Этап 3: Итоговый ответ.
Модель-председатель принимает все ответы моделей и компилирует их в единый окончательный ответ.
⚠️ Для использования нужен API-ключ OpenRouter. На платформе есть бесплатные модели
🖥Github
@ai_machinelearning_big_data
#AI #ML #LLMCouncil #Github
View Source
Просмотры: 253
