Ваши подписки на ИИ готовы к работе в WebBrain

Все остальное происходит на одной маленькой панели.

Нажмите на значок, чтобы открыть его. На одной странице содержится адрес WebBrain, все планы с остатками и две локальные модели; нажмите на строку, чтобы просмотреть подробную информацию, или на шестеренку, чтобы перейти к настройкам. Он соответствует вашей светлой или темной обстановке и говорит на английском и турецком языках.

• WebBrain Companion

  

• WebBrain Companion

  

• WebBrain Companion

  

Bonsai 2 27B, размер соответствует вашей машине

Разработано планировщиком компаньона из общей и свободной памяти; числа на вашем компьютере во время установки решают. На Apple Silicon пакет MLX имеет собственную обзорную башню, поэтому изображения всегда включены.

Модель принятия решений WebBrain вне браузера

curl http://127.0.0.1:8327/companion/v1/decide \
  -H "Content-Type: application/json" \
  -d '{"state": "Order #1042 is confirmed.",
       "questions": {"completion": {
         "type": "choice",
         "instructions": "Did the task finish?",
         "criteria": {"completed": "Confirmed",
                      "not_completed": "Failed or unfinished",
                      "unknown": "Not established"}}}}'

{"answers": {"completion": {
   "choice": "completed",
   "confidence": 0.99997,
   "probabilities": {"completed": 0.99997,
                     "not_completed": 0.000002,
                     "unknown": 0.000033}}},
 "diagnostics": {"runtime": "onnxruntime 1.31.0 (CPU)", …}}

Подключить WebBrain

Вы делаете это один раз. Приложениям на этом компьютере не нужен ключ API.

1. Установите компаньона и откройте его. Добавьте подписку в ее панели и завершите вход в браузере.
2. Адрес по умолчанию — http://127.0.0.1:8327/v1. Если порт изменился, скопируйте адрес, указанный в меню панели или лотка.
3. В WebBrain откройте страницу Providers (More… в меню модели боковой панели) и выберите WebBrain Companion. Сохраняйте адрес по умолчанию, если приложение не показывает другой порт. На этом компьютере не требуется ключ API.
4. Нажмите Загрузить модели, выберите модель Сохранить и запустите Test Connection перед активацией карты. Включайте зрение только для модели, которая принимает изображения.

Любой клиент OpenAI, Anthropic или Gemini на этом компьютере может использовать тот же адрес. Чтобы использовать его с другого устройства, включите доступ к сети в настройках панели; этому устройству затем потребуется ключ API, отображаемый на панели.

Скачать

Версия 0.1.2. Каждый пакет содержит одну программу; ваши настройки и логины хранятся в вашей пользовательской папке.

Контрольные суммы SHA-256Исходный кодВсе выпуски