TR ▾
nofilterai.top
NoFilter AI
API anahtarı al

Filtresiz AI Rol Yapma Uygulaması: API ile Oluşturun

Bir AI sevgili API'si, büyük dil modellerini kullanarak romantik veya eş benzeri etkileşimleri simüle eden sohbet uygulamaları için özel bir arayüz sağlar. Bu kılavuz, standart içerik reddi olmaksızın rol yapma bağlamını işleyen sansürsüz modellere odaklanarak teknik yaklaşımları karşılaştırır.

Rol yapma uygulaması mimarisini gösteren, bir sunucuya parlayan bir veri akışıyla bağlantılı mini bir tiyatro sahnesi

Tek bir resimde mimari

Tarayıcı, kullanıcının mesajını sunucunuza gönderir. Sunucunuz kişiliği ve son geçmişi ekler, modeli stream: true ile çağırır ve her parçayı geri iletir. Başka bir şeye gerek yoktur.

  1. Tarayıcı: bir metin kutusu ve tokenlar geldikçe büyüyen bir div.
  2. Sunucunuz: API anahtarını tutar, mesaj listesini oluşturur ve kendi kullanıcı başına sınırlarını uygular.
  3. Model API'si: POST /v1/chat/completions https://api.nofilterai.top/v1 adresine, uncensored modeli ile.
  4. Depolama: her konuşma için mesajların bir tablosu veya dosyası. Başlamak için SQLite yeterlidir.

Model, yasal yetişkin kullanımı için içerik reddi olmadan cevap verecek şekilde ayarlanmış tek bir açık ağırlıklı modeldir. Sadece metindir. Karakter sanatı veya ses istiyorsanız, başka bir hizmet eklemeniz gerekir.

Sistem istemini tasarlayın

Rol yapma için sistem istemi işin çoğunu yapar. Her birini bağımsız olarak değiştirebilmeniz için üç kısa bloğa bölün: dünya, karakter ve format kuralları.

{
  "world": "A rain-soaked port city in 1920s Europe, run by rival smuggling families.",
  "character": "Ilse, a sharp-tongued ferry captain who trusts nobody but her brother.",
  "format": "Write in third person past tense. 2 to 4 short paragraphs. Never write the user's actions or lines."
}

İstek zamanında bunları tek bir sistem mesajına birleştirin. Ayrı tutmak, kullanıcıların dünyayı ve karakteri bağımsız olarak seçmesine olanak tanır; bu, bir rol yapma uygulamasının ihtiyacının çoğudur. Yetişkin kurgu yasal yetişkin kullanımı için izin verildiğinden, kendi hizmet koşullarınızda bunu bir kez belirtin ve bir yaş kapısı ekleyin. API'nin üretemeyeceği tek şey reşit olmayanlar içeren cinsel içeriktir ve uygulamanız bunu denememelidir.

Akış arka ucu

Bu Express rotası bir konuşma kimliği ve bir mesaj kabul eder, geçmişi yükler ve akışı tarayıcıya sunucu tarafından gönderilen olaylar olarak yönlendirir. Resmi openai paketini kullanır.

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.nofilterai.top/v1",
  apiKey: process.env.API_KEY,
});

const app = express();
app.use(express.json());
const store = new Map(); // conversationId -> messages

app.post("/chat", async (req, res) => {
  const { id, text, persona } = req.body;
  const history = store.get(id) ?? [];
  history.push({ role: "user", content: text });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  const stream = await client.chat.completions.create({
    model: "uncensored",
    messages: [{ role: "system", content: persona }, ...trim(history)],
    stream: true,
    temperature: 0.9,
  });

  let reply = "";
  for await (const chunk of stream) {
    const piece = chunk.choices[0]?.delta?.content ?? "";
    if (piece) {
      reply += piece;
      res.write("data: " + JSON.stringify(piece) + "\n\n");
    }
  }
  history.push({ role: "assistant", content: reply });
  store.set(id, history);
  res.write("data: [DONE]\n\n");
  res.end();
});

app.listen(3000);

Bir akışın son parçası kullanımı içerir; her konuşmanın neye mal olduğunu görmek için günlüğe kaydedebilirsiniz. Üretimde, Map yerine bir veritabanı kullanın ve çağrı etrafına hata işleme ekleyin.

100k penceresi içinde geçmişi kısaltın

Bağlam penceresi, istem ve tamamlama için 100.000 token içindir. Rol yapma oturumları yavaş büyür, ancak büyürler. Boyuta göre çalışan bir kısaltma işlevi sürprizlerden kaçınır. Token başına 4 karakterlik kabaca bir tahmin bütçeleme için yeterlidir.

function trim(history, maxChars = 120000) {
  let total = 0;
  const kept = [];
  for (let i = history.length - 1; i >= 0; i--) {
    total += history[i].content.length;
    if (total > maxChars) break;
    kept.unshift(history[i]);
  }
  return kept;
}

120.000 karakter yaklaşık 30.000 token'a eşittir, bu da limitin çok altındadır ve her çağrıyı ucuz tutar. Sadece hikayeniz uzun bir hafıza gerektiriyorsa artırın. Maliyet kuralını unutmayın: her adım, tutulan geçmişi girdi olarak yeniden gönderir ve 1M token başına $0,15 fiyatla, 30.000 token'lık bir istek, yanıtı almadan önce adım başına 30.000 / 1.000.000 x $0,15 = $0,0045 maliyetine sahiptir.

Tarayıcı istemcisi

Sayfa, SSE akışını fetch ile okur ve metni geldikçe ekler. İstek bir POST olduğu için, EventSource uygun değildir; akışı elle ayrıştırın.

async function send(text) {
  const out = document.getElementById("reply");
  out.textContent = "";
  const r = await fetch("/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ id: "demo", text, persona: PERSONA }),
  });
  const reader = r.body.getReader();
  const dec = new TextDecoder();
  let buf = "";
  while (true) {
    const { value, done } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const parts = buf.split("\n\n");
    buf = parts.pop();
    for (const p of parts) {
      if (p === "data: [DONE]") break;
      if (p.startsWith("data: ")) {
        out.textContent += JSON.parse(p.slice(6));
      }
    }
  }
}

Bunu bir uygulama gibi hissettiren özellikler

  • Yeniden oluştur ve düzenle. Mesaj kimliklerini tutun. Yeniden oluşturmak, son asistan mesajını silmek ve aynı geçmişle API'yi tekrar çağırmak demektir. Düzenlemek, bir sonraki çağrıdan önce kaydedilmiş bir mesajı yeniden yazmak demektir.
  • Karakter başı ayarlar. Her karakterle birlikte temperature, top_p ve ceza değerlerini saklayın. Sakin karakterler için 0.7 gibi, kaotik karakterler için 1.0 gibi değerler kullanın. Tekrarlanabilir test çalıştırmaları istediğinizde seed geçirin.
  • Maliyet gösterimi. X-Balance-USD yanıt başlığını okuyun veya GET /v1/balance adresini çağırın ve kullanıcıya kalan kredinin ne kadar olduğunu gösterin. Kendi kullanıcılarınıza erişim satıyorsanız, bu size çok fazla destek sorusundan kurtarır.
  • Sizin kontrolünüzdeki güvenlik bariyerleri. Bir yetişkin kapısı, bir şikayet butonu ve reşit olmayanları içeren herhangi bir isteği API'ye ulaşmadan önce engelleyen bir kural ekleyin. Platform da bu sınırı uygular, ancak uygulamanız da yapmalıdır.

Sınırlar, hatalar ve bütçeler

Tam bir anahtar 8 eşzamanlı istek ve dakikada 300 istek izin verir. Akışlı bir istek, akış bitene kadar bir eşzamanlılık slotu tutar; bu nedenle 20 aktif kullanıcılı bir rol yapma uygulaması yoğun dakikalarda limite takılır. API, HTTP 429 yanıtını concurrency veya rate_limited koduyla verir ve geçici aşırı yüklemelerde Retry-After: 5 ekler. İstekleri sunucunuzda sıraya alın ve bu gecikmeden sonra yeniden deneyin.

Başarısız veya reddedilen istekler ücretlendirilmez, bu nedenle yeniden denemeler size mal olmaz. Bütçeleme için, tipik bir adım 3.000 girdi tokenı ve 300 çıktı tokenı $0,00045 + $0,00015 = $0,0006 tutar. Kredi $20'den ön ödemelidir ve hiç sona ermez. Bu site kripto kabul eder; TRC20 üzerinde USDT veya Base üzerinde USDC; fiyatlandırma sayfası $50'den başlayan bonusları listeler.

Sonraki adımlar

Bir anahtar alın ve ücretsiz deneme ile test edin: API anahtarı sayfası kayıt sonrası 7 gün geçerli, ödeme bilgisi gerektirmeyen $0,50 kredi sunar. Deneme anahtarı 2 eşzamanlı isteğe izin verir, bu tek kullanıcılı bir prototip için yeterlidir. dokümantasyon zar zarflama veya envanteri fonksiyon çağrıları olarak işlemek istiyorsanız fonksiyon çağırma dahil olmak üzere tüm parametreleri listeler.

Tek kalıcı bir karakterle bir arkadaş tarzı varyant için AI arkadaş API makalesi'ne bakın. Sunucu içinde bir sohbet botu için Discord bot kılavuzu'ni okuyun.

Sorular ve cevaplar

API'yi doğrudan tarayıcıdan çağırabilir miyim?

Evet, ancak anahtarınızı tüm ziyaretçilere açmış olursunuz. Anahtarı bir sunucuda tutun ve yalnızca kendi rotanızı açığa çıkarın.

Modelin karakterimin eylemlerini yazmasını nasıl engellerim?

Sistem isteminde belirtin ve transkript formatı kullanıyorsanız bir durma dizisi ekleyin. Her ikisi de geçiş parametreleriyle çalışır.

Uygulama konuşmaları kaydetmek zorunda mı?

API kendisi stateless'tir, bu nedenle her adımda geçmişi yeniden gönderirsiniz. İstemler eğitim için kullanılmaz.

Prototip yapmak için en ucuz yol nedir?

Deneme anahtarını ve bellekte bir Map kullanın. Döngü çalıştıktan sonra veritabanına ve bakiyesi olan bir anahtara geçin.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Tüm kurulum budur.

API anahtarı al