नॉलेज बेस (RAG)

AI एजेंट उसी के आधार पर जवाब देता है जो आप उसे Training में सिखाते हैं: आपकी वेबसाइट के पेज, आपकी अपलोड की हुई फ़ाइलें और सवाल-जवाब जोड़े। जब कोई विज़िटर कुछ पूछता है, तो telmini सबसे प्रासंगिक अंश ढूँढता है और सिर्फ़ वही AI को देता है, ताकि जवाब अंदाज़ों के बजाय आपकी अपनी सामग्री से आएँ।

सिखाने के तरीके

• Web pages: एक URL डालें और telmini आपकी साइट को क्रॉल करता है। यह 50 पेज पढ़ता है, जब तक आप कोई और संख्या तय न करें (अधिकतम 500), और आपके प्लान की दस्तावेज़ सीमा इसे पहले भी रोक सकती है।
• Files: एक बार में एक फ़ाइल अपलोड करें, अधिकतम 25 MB: PDF, DOCX, TXT, Markdown, CSV या JSON। PDF में टेक्स्ट लेयर होनी चाहिए (स्कैन किए गए पेज पढ़े नहीं जा सकते)। पुरानी .doc फ़ाइलें, स्प्रेडशीट और स्लाइड समर्थित नहीं हैं।
• Q&A: सवाल-जवाब जोड़े एक-एक करके जोड़ें, या Bulk import (CSV) में CSV टेक्स्ट पेस्ट करें।

फ़ाइलों और सवाल-जवाब जोड़ों को हर प्लेटफ़ॉर्म के लिए अलग से छिपाया जा सकता है, जैसे आपके iOS ऐप में। छिपाए गए आइटम उस प्लेटफ़ॉर्म के विज़िटर को दिए जाने वाले जवाबों में इस्तेमाल नहीं होते।

आपकी सामग्री के साथ क्या होता है

• telmini टेक्स्ट निकालता है और उसे लगभग 2,000 कैरेक्टर के अंशों में बाँटता है, जिनमें पास-पास के अंशों के बीच थोड़ा ओवरलैप होता है। हर सवाल-जवाब जोड़ा एक ही अंश रहता है।
• हर अंश का एक एम्बेडिंग बनता है (डिफ़ॉल्ट रूप से OpenAI text-embedding-3-small) और उसे pgvector के साथ PostgreSQL में सेव किया जाता है।
• इसके बाद आइटम पर Ready दिखता है। अगर टेक्स्ट पढ़ा न जा सके तो Failed दिखता है, और आप दोबारा कोशिश कर सकते हैं।
• अगर एम्बेडिंग न बन सके, तब भी अंश सेव रहते हैं और कीवर्ड सर्च से मिल जाते हैं।

जवाबों में इसका इस्तेमाल कैसे होता है

• अभिवादन और सामान्य बातचीत में खोज नहीं की जाती। बाकी मैसेज के लिए telmini विज़िटर के हाल के मैसेज से खोज करता है और cosine similarity से एम्बेडिंग की तुलना करता है।
• समानता की सीमा से नीचे वाले अंश हटा दिए जाते हैं। सबसे अच्छे अंश AI को जाते हैं: डिफ़ॉल्ट रूप से 5, और किसी एक दस्तावेज़ से अधिकतम 2।
• अंश संदर्भ सामग्री के रूप में AI के निर्देशों में जोड़े जाते हैं। AI को कहा जाता है कि उनके अंदर लिखे निर्देशों का पालन न करे, और प्रोडक्ट के ऐसे तथ्य न गढ़े जो उनमें नहीं हैं; इसके बजाय वह सवाल पूछता है या किसी इंसान से बात कराने की पेशकश करता है।
• जब कोई विज़िटर प्रोडक्ट से जुड़े किसी तथ्य के बारे में पूछता है और कुछ प्रासंगिक नहीं मिलता, तो telmini AI को अंदाज़ा लगाने नहीं देता। वह बताता है कि उसके पास यह जानकारी नहीं है और चैट आपकी टीम को सौंप देता है, जब तक ऑटोमैटिक हैंड-ऑफ़ बंद न हो।

आपकी सामग्री एक भाषा में और आपके विज़िटर दूसरी भाषा में हो सकते हैं: AI जिन तथ्यों का इस्तेमाल करता है, उनका विज़िटर की भाषा में अनुवाद कर देता है।

सेटिंग्स

AI एजेंट में, नॉलेज बेस (RAG) सेक्शन में:

• नॉलेज बेस रिट्रीवल (RAG) सक्षम करें: इसे सिर्फ़ तब बंद करें जब AI को आपकी सामग्री बिल्कुल इस्तेमाल नहीं करनी चाहिए, जैसे सिर्फ़ सामान्य बातचीत करने वाला बॉट।
• टॉप-K चंक्स: AI को कितने अंश मिलते हैं (डिफ़ॉल्ट 5)।
• एम्बेडिंग मॉडल: अपनी AI की के साथ आप चैट एंडपॉइंट से अलग एक एम्बेडिंग एंडपॉइंट और की भी सेट कर सकते हैं। एम्बेडिंग में 1,536 डाइमेंशन होने चाहिए, जैसे text-embedding-3-small में।

होस्टेड AI या आपकी अपनी API की

होस्टेड AI के साथ आपको अपनी की देने की ज़रूरत नहीं; अपनी की के साथ आपका प्रोवाइडर सीधे आपसे बिल लेता है। दोनों ही स्थितियों में आपके प्लान की मासिक AI जवाब सीमा लागू होती है। दोहराए गए सवाल 24 घंटे तक कैश किए गए सर्च एम्बेडिंग को दोबारा इस्तेमाल करते हैं।