अपडेट किया गया
C AI बिना फ़िल्टर विकल्प: अपना चैट बनाएं
एक AI गर्लफ्रेंड API चैट एप्लिकेशन के लिए एक समर्पित इंटरफ़ेस प्रदान करता है जो बड़े भाषा मॉडल का उपयोग करके रोमांटिक या साथी जैसी बातचीत का अनुकरण करता है। यह गाइड तकनीकी दृष्टिकोणों की तुलना करती है, जिसमें बिना सेंसर मॉडल शामिल हैं जो मानक सामग्री अस्वीकृतियों के बिना रोलप्ले कॉन्टेक्स्ट को संभालते हैं।

संक्षिप्त उत्तर
ऐप-शैली कैरेक्टर चैट आपको एक तैयार इंटरफ़ेस, तैयार-किए गए कैरेक्टर और एक समुदाय देती है। यह आपको ऐप के नियम भी देती है, और आप उन्हें बदल नहीं सकते। एक API इसे उलट देती है। आपको एक ओपन-वेट मॉडल से रॉ टेक्स्ट कंप्लीशन मिलता है जिसे कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड किया गया है, और बाकी सब कुछ आपका कोड है।
यह किसी मॉडल विक्रेता का आधिकारिक उत्पाद नहीं है। यह एक होस्टेड, स्वतंत्र डिप्लॉयमेंट है जिसमें एक ओपन-वेट मॉडल का OpenAI-शैली इंटरफ़ेस है। एक कड़ा नियम है: नाबालिगों से जुड़ी यौन सामग्री नहीं होनी चाहिए, और यह कॉन्फ़िगर करने योग्य नहीं है।
यदि आप केवल चैट करना चाहते हैं और कोड कभी नहीं छूना चाहते हैं, तो एक ऐप आसान है। यदि आप अपने खुद के किरदार, अपनी मेमोरी नियमावली, एक Discord बॉट या अपनी वेबसाइट चाहते हैं, तो आगे पढ़ें।
आप क्या छोड़ रहे हैं और आप क्या प्राप्त कर रहे हैं
| प्रश्न | चैट ऐप | API पर अपना बॉट |
|---|---|---|
| किरदार निर्माण | बिल्ट-इन एडिटर और सार्वजनिक लाइब्रेरी | एक सिस्टम प्रॉम्प्ट जिसे आप स्वयं लिखें और स्टोर करें |
| सामग्री नियम | ऐप द्वारा सेट किया गया | एक मॉडल जिसे कानूनी वयस्क उपयोग के लिए बिना अस्वीकृति के उत्तर देने के लिए ट्यून्ड किया गया है |
| मेमोरी | आपके लिए मैनेज किया गया | आप तय करें कि क्या रखें, ट्रिम करें या सारांश बनाएं |
| इंटरफ़ेस | शामिल | टर्मिनल, वेब पेज, Discord, कुछ भी |
| लागत मॉडल | फ्री टियर या सब्सक्रिप्शन | प्रीपेड क्रेडिट, टोकन प्रति भुगतान |
ईमानदाराना नुकसान प्रयास है। आपको एक छोटा लूप लिखना होगा, एक फ्रंट एंड चुनना होगा और अपना बकाया देखना होगा। फायदा यह है कि बीच में कुछ भी आपका प्रॉम्प्ट रीराइट नहीं करता या जवाब काटता नहीं।
पर्सोना को सिस्टम प्रॉम्प्ट के रूप में लिखें
एक चरित्र एक टेक्स्ट ब्लॉक है जिसे role: "system" के साथ पहला संदेश भेजा जाता है। छोटे, स्पष्ट चरित्र लंबी बायोग्राफी से बेहतर काम करते हैं। चार चीज़ें कवर करें: चरित्र कौन है, वह कैसे बात करता है, उसे क्या ज्ञान है, और जब उपयोगकर्ता दृश्य को नई दिशा दे तो उसे कैसे व्यवहार करना चाहिए।
PERSONA = (
"You are Mara, a dry-witted ship navigator in a space-opera story. "
"Speak in short, clipped sentences. Stay in character at all times. "
"Describe actions in italics between asterisks. "
"Never speak for the user. If the user changes the scene, follow it."
)
दो आदतें बहुत मदद करती हैं। पहला, मॉडल को बताएं कि क्या नहीं करना है ("कभी उपयोगकर्ता के लिए बोलना नहीं"), क्योंकि ओपन-वेट मॉडल अक्सर संवाद की दोनों भूमिकाएं लिखते हैं। दूसरा, सत्र भर चरित्र को स्थिर रखें और बदलते तथ्य, जैसे वर्तमान स्थान, बाद के संदेशों में डालें।
एक न्यूनतम किरदार चैट लूप
एंडपॉइंट https://api.nofilterai.top/v1 है और मॉडल ID uncensored है। कोई भी OpenAI SDK काम करता है। यह लूप इतिहास को रखता है, टोकन को प्रवाहित करता है जैसे ही वे आते हैं, और पुराने टर्न्स को काटता है ताकि प्रॉम्प्ट छोटा रहे।
from openai import OpenAI
client = OpenAI(
base_url="https://api.nofilterai.top/v1",
api_key="YOUR_KEY",
)
PERSONA = "You are Mara, a dry-witted ship navigator. Stay in character."
history = []
MAX_TURNS = 40 # keep the last 40 messages
while True:
user = input("you> ")
history.append({"role": "user", "content": user})
messages = [{"role": "system", "content": PERSONA}] + history[-MAX_TURNS:]
stream = client.chat.completions.create(
model="uncensored",
messages=messages,
stream=True,
temperature=0.9,
)
reply = ""
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
piece = chunk.choices[0].delta.content
reply += piece
print(piece, end="", flush=True)
print()
history.append({"role": "assistant", "content": reply})
ध्यान दें कि सिस्टम संदेश हर कॉल पर जोड़ा जाता है और कभी काटा नहीं जाता। केवल इतिहास स्लाइस को काटा जाता है। यदि आप चाहते हैं कि कैरेक्टर दूर के घटनाओं को याद रखे, तो हर 20 बारी पर मॉडल से तीन वाक्यों का सारांश मांगें और उस सारांश को एक अतिरिक्त सिस्टम संदेश के रूप में रखें।
एक सत्र की लागत
कीमत $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है। चूँकि हर टर्न पर पूरा इतिहास फिर से भेजा जाता है, इनपुट हावी होता है। एक मध्यम लंबाई वाले सत्र को लें जिसमें 3,000-टोकन का प्रॉम्प्ट और 300-टोकन का जवाब हो:
- इनपुट: 3,000 / 1,000,000 x $0.15 = $0.00045
- आउटपुट: 300 / 1,000,000 x $0.50 = $0.00015
- एक टर्न: $0.0006, इसलिए 1,000 टर्न्स की लागत $0.60 है
यहां तक कि इनपुट के रूप में भेजे गए पूरे 100,000-टोकन संदर्भ की लागत भी प्रति कॉल 100,000 / 1,000,000 x $0.15 = $0.015 होती है। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता, और क्रेडिट कभी समाप्त नहीं होता। न्यूनतम टॉप-अप $20 है, और आप मूल्य निर्धारण पृष्ठ पर सटीक दरें देख सकते हैं। यह साइट केवल क्रिप्टो स्वीकार करती है, TRC20 पर USDT या Base पर USDC।
नए खातों को API कुंजी पृष्ठ पर एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट प्राप्त हो सकता है। यह ऊपर दिए गए उदाहरण के लगभग 800 चरणों के लिए पर्याप्त है, जो 7 दिनों के लिए मान्य है, और इसके लिए भुगतान विवरण की आवश्यकता नहीं है।
लंबी कहानियों को सारांशों के साथ सहज बनाए रखें
गिनती द्वारा कटौती सबसे सस्ती स्मृति है, लेकिन यह भूल जाती है। लंबी कहानियों के लिए एक बेहतर पैटर्न एक रोलिंग सारांश है। हर 20 टर्न्स पर, इतिहास के सबसे पुराने हिस्से को मॉडल के साथ एक छोटे निर्देश के साथ भेजें, परिणाम को स्टोर करें, और उस हिस्से को छोड़ दें जो वह कवर करता है।
def summarize(old_messages):
text = "\n".join(m["role"] + ": " + m["content"] for m in old_messages)
r = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "Summarize this story so far in 3 sentences. Keep names, places and open plot threads."},
{"role": "user", "content": text},
],
max_tokens=200,
temperature=0.3,
)
return r.choices[0].message.content
# when len(history) > 40:
# summary = summarize(history[:20]); history = history[20:]
# then add {"role": "system", "content": "Story so far: " + summary} after PERSONA
इसकी लागत हर 20 बारी पर एक अतिरिक्त छोटी कॉल है और प्रॉम्प्ट को फ्लैट रखती है। आप सारांश को एक फ़ाइल या डेटाबेस में भी स्टोर कर सकते हैं ताकि एक कैरेक्टर दिनों तक उपयोगकर्ता को याद रखे। सब कुछ सादा टेक्स्ट है, इसलिए कॉन्फ़िगर करने के लिए कोई विशेष स्मृति सुविधा नहीं है।
वे मुश्किलें जिनका आप सामना करेंगे
- पात्र आपकी ओर से बोलता है। यदि आप सादे ट्रांसक्रिप्ट फॉर्मेट का उपयोग करते हैं, तो पर्सोना में एक पंक्ति जोड़ें और
stopसीक्वेंस जैसे["\nyou:"]सेट करें। - जवाब दोहराए जाने लगते हैं।
temperatureको थोड़ा बढ़ाएं औरfrequency_penaltyयाpresence_penaltyका उपयोग करें। ये पैरामीटर मॉडल को पास किए जाते हैं। - HTTP 429। एक पूर्ण कुंजी 8 समानांतर अनुरोधों और प्रति मिनट 300 अनुरोधों की अनुमति देती है। स्ट्रीम किए गए जवाब में स्ट्रीम समाप्त होने तक उसकी जगह बनी रहती है, इसलिए कई उपयोगकर्ताओं को सेवा देने वाले बॉट को संदेशों को कतार में लगाना चाहिए। त्रुटि कोड बताता है कि आपने कौन सी सीमा पार की:
rate_limitedयाconcurrency। - कॉन्टेक्स्ट विंडो का विस्तार। प्रॉम्प्ट और जवाब के लिए विंडो 100,000 टोकन की है। संदेशों की संख्या के आधार पर ट्रिम करना सरल है, लेकिन लंबे संदेश अभी भी जमा हो सकते हैं, इसलिए यदि आपके उपयोगकर्ता निबंध लिखते हैं तो अनुमानित आकार के आधार पर ट्रिम करें।
कंपैनियन बॉट्स के लिए इस पैटर्न के अधिक उदाहरण AI कंपैनियन API गाइड में हैं, और दस्तावेज़ में हर पैरामीटर सूचीबद्ध है।
जब ऐप अभी भी बेहतर विकल्प है
अगर आप सार्वजनिक किरदारों की एक विशाल लाइब्रेरी, आवाज़, छवियाँ, या बिना सेटअप वाले मोबाइल क्लाइंट चाहते हैं तो ऐप चुनें। यह API केवल पाठ के लिए है: न छवि या ऑडियो उत्पादन, न एम्बेडिंग और न ही फाइन-ट्यूनिंग। जब आप अपना खुद का उत्पाद, एक Discord या Telegram बॉट, या प्रॉम्प्ट और इतिहास पर पूर्ण नियंत्रण चाहते हैं तो API चुनें।
यदि आपके पास पहले से एक Discord सर्वर है, तो ऊपर बताई गई लूप एक बॉट के भीतर फिट हो जाती है। बिना फ़िल्टर वाले AI Discord बॉट बनाने पर निर्देश देखें।
अधिक गाइड
प्रश्न और उत्तर
क्या यह वही मॉडल है जो Character.AI उपयोग करता है?
नहीं। यह एक स्वतंत्र प्रदाता द्वारा चलाया जाने वाला एक अलग ओपन-वेट मॉडल है। यह किसी भी चैट ऐप या मॉडल विक्रेता से संबद्ध नहीं है।
क्या मुझे कोडिंग आनी चाहिए?
थोड़ा सा। ऊपर दिया गया लूप पायथन की लगभग 25 लाइनों का है। यदि आप SillyTavern या एक समान फ्रंट एंड का उपयोग करते हैं, तो आप बेस URL और कुंजी के साथ एक OpenAI-कम्पैटिबल एंडपॉइंट जोड़ सकते हैं।
क्या मेरी चैट्स प्रशिक्षण के लिए उपयोग की जाती हैं?
नहीं। प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते हैं।
क्या कोई ऐसी सामग्री है जिसे API लिखने से अस्वीकार कर देती है?
मॉडल को कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड किया गया है। नाबालिगों से जुड़ी यौन सामग्री एक कठोर सीमा है और अनुमति नहीं है।
आपकी कुंजी बस एक फॉर्म दूर है
एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।
API कुंजी पाएँ