WebBrain Companion

Langganan AI anda, sedia digunakan dalam WebBrain

WebBrain Companion tinggal dalam bar menu atau dulang sistem anda. Log masuk ke Claude, ChatGPT, Google, Grok atau Kimi sekali dan WebBrain mencapai kesemuanya di satu alamat pada komputer anda. Dulang menunjukkan jumlah baki setiap pelan dan bila ia ditetapkan semula.

Muat turun Versi 0.1.2 untuk macOS, Windows dan Linux. Percuma dan sumber terbuka.
Menu dihidupkan

Segala-galanya berlaku dalam satu panel kecil

Klik ikon untuk membukanya. Satu halaman mengandungi alamat untuk WebBrain, setiap pelan dengan apa yang tinggal, dan dua model tempatan; klik baris untuk butirannya atau gear untuk tetapan. Ia mengikut tetapan terang atau gelap anda dan bertutur dalam bahasa Inggeris dan Turki.

  • Panel: alamat http://127.0.0.1:8327/v1 dengan butang Salin, meter penggunaan untuk Claude Max, ChatGPT Pro, Google AI Pro dan SuperGrok, dan Bonsai 2 27B berjalan di sebelah model keputusan d1.

    Satu muka surat

    Alamat WebBrain perlukan, setiap pelan dengan had yang paling hampir habis, dan model tempatan dengan butang utamanya. Tiada kunci API pada komputer ini.

  • Penyenaraian helaian langganan tambah Claude, ChatGPT, Google, Grok dan Kimi, masing-masing dengan cara anda log masuk.

    Tambah langganan

    Log masuk pada halaman penyedia sendiri. Log masuk kekal pada komputer anda.

  • Butiran Bonsai 2 27B di atas panel: berjalan pada Apple GPU dengan input imej dihidupkan, 65,536 token konteks dan pilihannya.

    Model tempatan

    Klik Bonsai 2 27B untuk melihat di mana ia dijalankan dan sama ada imej sesuai, dan untuk menukar pilihannya. d1 membuka dengan cara yang sama.

Bonsai 2 27B, bersaiz pada mesin anda

PrismML Ternary Bonsai 2 27B mengemas 27 bilion parameter ke dalam 5.95 GB. Rakan itu memasangnya dengan projektor penglihatan Q8_0 dan llama.cpp binaan PrismML, atau sebagai pek MLX pada Apple Silicon dan menyenaraikannya di sebelah langganan anda sebagai bonsai-2-27b.

Sebelum apa-apa dimuat turun, ia berfungsi di mana model dijalankan dan sama ada input imej sesuai. Projektor penglihatan dihidupkan pada GPU apabila kira-kira 1 GB memori GPU ditinggalkan selepas model dan konteksnya, pada CPU apabila hanya sistem RAM yang mempunyai ruang, dan tidak berfungsi sebaliknya. Anda boleh mengatasi pilihan dalam panel.

Perkara yang dipilih oleh rakan pada mesin biasa
Mesinberjalan terusInput imejKonteks
MacBook Air, 8 GBApple GPU dengan Metal. Ia memerlukan lebih banyak memori daripada Mac, jadi harapkan pertukaran.MatiToken 8K
MacBook Pro, 16 GBApple GPU dengan MetalHidup, GPUToken 16K
Komputer riba dengan RTX 4060 (8 GB) dan 16 GB RAMCUDA, 57 daripada 64 lapisan pada GPUHidup, CPUToken 8K
Desktop dengan RTX 4090 (24 GB) dan 64 GB RAMCUDA, semuanya pada GPUHidup, GPUToken 64K
Desktop dengan Radeon RX 7600 (8 GB) dan 32 GB RAMVulkan, 61 daripada 64 lapisan pada GPUHidup, CPUToken 8K
PC tanpa kad grafik, 16 GB RAMCPUHidup, CPUToken 8K
PC tanpa kad grafik, 8 GB RAMCPU, dengan sedikit ruang untuk terluangMatiToken 8K

Diusahakan oleh perancang teman dari ingatan total dan bebas; nombor pada mesin anda pada masa pemasangan memutuskan. Pada Apple Silicon pek MLX membawa menara penglihatannya sendiri, jadi imej sentiasa dihidupkan.

Model keputusan WebBrain, di luar pelayar

Model d1 WebBrain menjawab ya/tidak, soalan pilihan dan skor tentang halaman dan sehingga empat tangkapan skrin, seperti sama ada tugasan telah selesai. Rakan itu menjalankannya pada ONNX Runtime dan menjawab melalui HTTP, jadi tab penyemak imbas tidak perlu memuatkan 1.9 GB. Port Gonya mengembalikan token dan kebarangkalian yang sama seperti penyesuai JavaScript WebBrain. d1 asli tersedia pada Windows, Linux dan Apple Silicon Mac; ia tidak tersedia pada Intel Mac.

Tanya

curl http://127.0.0.1:8327/companion/v1/decide \
  -H "Content-Type: application/json" \
  -d '{"state": "Order #1042 is confirmed.",
       "questions": {"completion": {
         "type": "choice",
         "instructions": "Did the task finish?",
         "criteria": {"completed": "Confirmed",
                      "not_completed": "Failed or unfinished",
                      "unknown": "Not established"}}}}'

Jawapan (273 ms pada masa jalan CPU)

{"answers": {"completion": {
   "choice": "completed",
   "confidence": 0.99997,
   "probabilities": {"completed": 0.99997,
                     "not_completed": 0.000002,
                     "unknown": 0.000033}}},
 "diagnostics": {"runtime": "onnxruntime 1.31.0 (CPU)", …}}

Sambungkan WebBrain

Awak buat ini sekali. Apl pada komputer ini tidak memerlukan kunci API.

  1. Pasang pendamping dan bukanya. Tambahkan langganan dalam panelnya dan selesaikan log masuk dalam penyemak imbas anda.
  2. Alamat lalai ialah http://127.0.0.1:8327/v1. Jika port berubah, salin alamat yang ditunjukkan dalam panel atau menu dulang.
  3. DalamWebBrain, bukaPembekalmuka surat (Lagi…dalam menu model panel sisi) dan pilihWebBrain Companion. Kekalkan alamat lalainya melainkan apl menunjukkan port lain. Tiada kunci API diperlukan pada komputer ini.
  4. Klik Muat Model, pilih model, Save, dan jalankan Test Connection sebelum mengaktifkan kad. Hidupkan penglihatan hanya untuk model yang menerima imej.

Mana-mana pelanggan OpenAI, Anthropic atau Gemini pada komputer ini boleh menggunakan alamat yang sama. Untuk menggunakannya daripada peranti lain, hidupkan akses rangkaian dalam tetapan panel; peranti itu kemudian memerlukan kunci API yang ditunjukkan oleh panel.

Muat turun

Versi 0.1.2. Setiap pakej memegang satu program; tetapan dan log masuk anda secara langsung dalam folder pengguna anda.

macOS

macOS 12 atau lebih baru, Apple Silicon dan Intel (d1 memerlukan Apple Silicon)

Sistem anda

Alihkan WebBrain Companion ke Aplikasi. Binaan itu tidak disahkan oleh Apple: kali pertama, benarkan dalam Tetapan Sistem, Privasi & Keselamatan (Buka Bagaimanapun). Pada macOS 14 dan lebih awal, Control-kliknya dan pilih Buka.

Windows

Windows 10 dan 11, x64 dan Arm64

Sistem anda

Jalankan pemasang: ia memasang untuk akaun anda, tanpa gesaan pentadbir dan menambah WebBrain Companion pada menu Mula. Sehingga pemasang ditandatangani kod, SmartScreen mungkin menyatakan "Windows melindungi PC anda": pilih Maklumat lanjut, kemudian Jalankan juga.

Linux

x64 dan Arm64

Sistem anda

Buka bungkusan dan jalankan webbrain-companion. Ikon memerlukan dulang StatusNotifierItem: KDE, XFCE atau GNOME dengan sambungan AppIndicator.

Jumlah semak SHA-256Kod sumberSemua keluaran

Sebelum anda log masuk

Perkara yang kekal pada komputer anda

  • Pada komputer ini tiada kunci API diperlukan: rakan hanya menjawab permintaan daripada 127.0.0.1 dan menolak halaman web, jadi tapak yang anda lawati tidak boleh membelanjakan rancangan anda. Sambungan penyemak imbas seperti WebBrain dan apl pada komputer ini boleh menggunakannya.
  • Peranti lain boleh bersambung hanya jika anda menghidupkan akses rangkaian dalam tetapan panel. Ia kemudian mendengar pada 0.0.0.0, dan mereka memerlukan kunci API yang ditunjukkan oleh panel.
  • Log masuk disimpan dalam folder pengguna anda dan dihantar hanya kepada pembekal milik mereka.
  • Tiada analitik. Selain daripada pembekal yang anda log masuk, ia hanya mengambil senarai model awam CLIProxyAPI dan, apabila anda memasang model, failnya daripada Hugging Face, GitHub dan, untuk MLX, PyPI.
  • Gesaan yang dihantar kepada langganan masih dihantar kepada pembekal tersebut. Hanya Bonsai 2 27B dan d1 yang dijalankan pada mesin anda.

Perkara yang diputuskan oleh pembekal anda

  • Langganan yang berfungsi melalui proksi tidak sama seperti yang dibenarkan oleh pembekal. Syarat pengguna Anthropic mengehadkan akses automatik di luar kunci API, dan syarat Gemini CLI Google mengatakan log masuknya mungkin tidak digunakan dengan alat pihak ketiga.
  • Semak syarat pelan dan wilayah anda sebelum anda menambahkannya. Jika akaun penting kepada anda, kunci API pembekal ialah laluan yang lebih selamat.
  • Matikan akses rangkaian pada Wi-Fi awam dan jangan sekali-kali memajukan port 8327 ke Internet. Kunci API bukan keselamatan gred internet.

Sambungkan WebBrain kepada Companion