अपने धैर्य, गोपनीयता ज़रूरतों और बजट के मुताबिक सेटअप चुनें।

त्वरित चुनाव

114 बिल्ट-इन प्रोवाइडर कार्ड

प्रोवाइडर पेज में 79 अतिरिक्त डायरेक्ट API और राउटर जोड़े गए हैं, जिनमें Azure AI Foundry, Vertex AI, Vertex Anthropic, Cerebras, Cohere, DeepInfra, Perplexity, Vercel AI Gateway, Venice और कई क्षेत्रीय कोडिंग प्लान शामिल हैं। पूरी सूची स्क्रॉल करने के बजाय प्रोवाइडर या मॉडल के नाम से खोजें।

ज़्यादातर कार्ड API कुंजी और OpenAI-संगत एंडपॉइंट उपयोग करते हैं। Vertex कार्ड Google Cloud परियोजना, लोकेशन और ऑथराइज़ेशन कुंजी उपयोग करते हैं; ग्लोबल लोकेशन Google के ग्लोबल एंडपॉइंट का उपयोग करती है, जबकि Vertex Anthropic us और eu मल्टी-रिजन होस्ट भी समर्थित करता है। Cloudflare वैकल्पिक AI Gateway ID स्वीकार करता है; @cf/ मॉडलों के लिए फ़ील्ड खाली छोड़ने पर स्वतः default गेटवे उपयोग होता है। जिन प्रोवाइडरों में स्ट्रीमिंग समर्थित है, वे इंटरैक्टिव Ask में जवाब रियल-टाइम में दिखाते हैं, और कनेक्शन जल्दी टूटने पर एक बार बिना स्ट्रीमिंग के स्वतः फिर कोशिश करते हैं। जब सेवा टोकन उपयोग लौटाती है तो वह सीधे दर्ज होता है; अन्यथा WebBrain एक सतर्क अनुमान दर्ज करता है, ताकि स्ट्रीमिंग अनुरोध लागत सीमा को पार न कर सकें।

कॉन्फ़िगर करने के चरण

1. प्रोवाइडर पेज खोलें। साइडबार के मॉडल मेनू में More… चुनें, या सेटिंग्स पेज के शीर्ष पर दिए Providers लिंक पर क्लिक करें। LLM टैब चैट प्रोवाइडरों की सूची दिखाता है।
2. प्रोवाइडर खोजें। Local, Cloud, Router या सर्च फ़ील्ड का उपयोग करें।
3. कार्ड खोलें और मान भरें। लोकल सर्वरों को आमतौर पर पता और मॉडल का नाम चाहिए; क्लाउड प्रोवाइडरों को API कुंजी भी चाहिए।
4. सेव करें। मौजूदा फ़ील्ड ब्राउज़र में स्टोर हो जाते हैं।
5. Test Connection दबाएँ। आगे बढ़ने से पहले पता, कुंजी, मॉडल या सर्वर की ग़लती ठीक करें।
6. Set Active करें। केवल टेस्ट सफल होने के बाद। सेव करना इस बात का मतलब नहीं कि वही प्रोवाइडर सक्रिय है।

फ़ील्ड्स का मतलब

लोकल मॉडल: अतिरिक्त कड़ियाँ

प्रॉम्प्ट टियर आसान भाषा में

क्लाउड प्रोवाइडर हमेशा Full उपयोग करते हैं; लोकल प्रोवाइडर डिफ़ॉल्ट रूप से Mid; Compact प्रोवाइडर Dev मोड उपयोग नहीं कर सकते।

जब Test Connection फेल हो

1. Connection refused: लोकल सर्वर चालू करें और पोर्ट की पुष्टि करें।
2. CORS/Origin: सर्वर में WebBrain एक्सटेंशन के ओरिजिन की अनुमति दें।
3. Unauthorized: सुनिश्चित करें कि कुंजी और Base URL एक ही प्रोवाइडर के हैं।
4. Model not found: मॉडल का सटीक ID कॉपी करें, या Load models उपयोग करें।
5. टाइमआउट: CPU पर चलने वाले बड़े लोकल मॉडलों के लिए “Settings → Budgets” में LLM request timeout बढ़ाएँ।
6. कुछ चक्करों के बाद फेल: वास्तविक कंटेक्स्ट विंडो की पुष्टि करें; प्रॉम्प्ट टियर घटाएँ या मॉडल को बड़े कंटेक्स्ट के साथ लोड करें।

वैकल्पिक सहायक मॉडल

सक्रिय प्रोवाइडर मुख्य बातचीत, प्लानिंग और अंतिम जवाब संभालता है। प्रोवाइडर पेज के अन्य टैब में विज़न मॉडल, स्पीच (speech-to-text) एंडपॉइंट, जेनरेटिव मीडिया, डीसिज़न मॉडल और SafeSocial अलग से कॉन्फ़िगर किए जा सकते हैं। ये सेटिंग्स प्रोवाइडर फ़िल्टर या बदलाव से प्रभावित नहीं होतीं।

विज़न और डीसिज़न मॉडल डिफ़ॉल्ट रूप से Auto होते हैं: Chrome में Compass VLD v6 2B के डाउनलोड हो जाने के बाद उसका उपयोग होता है (अगर केवल पुराना Compass VLD Tiny v5 डाउनलोड है तो Tiny v5; अगर दोनों नहीं हैं पर Ternary Bonsai 2 2B Vision या D1 डाउनलोड है तो स्क्रीनशॉट के लिए पहला और डीसिज़न के लिए दूसरा; जब WebBrain Cloud सक्रिय हो तो तब तक डीसिज़न Compass के मैनेज्ड डीसिज़न मॉडल से होते हैं जब तक इनमें से कुछ डाउनलोड न हो जाए), डाउनलोड से पहले कोई उपयोग नहीं। डीसिज़न मॉडल केवल “क्या यह टास्क पूरा हो गया?” जैसे हाँ/ना और मल्टीपल-चॉइस सवालों के जवाब देता है; On चुनने पर OpenRouter, TypeSafe, लोकल सर्वर, D1 या ब्राउज़र-इन मॉडल हर डीसिज़न का जवाब देते हैं, और Off चुनने पर कभी नहीं। मौजूदा अनुमतियाँ और पूर्णता जाँच लागू रहती हैं। कॉन्फ़िगरेशन और डेटा-शेयरिंग की जानकारी के लिए विज़न, स्पीच और डीसिज़न मॉडल देखें।