PL ▾
nofilterai.top
NoFilter AI
Pobierz klucz API

Aplikacja do odgrywania ról AI bez filtrów: Zbuduj ją z API

API do AI girlfriend zapewnia dedykowany interfejs do aplikacji czatowych, które symulują romantyczne lub towarzyskie interakcje przy użyciu dużych modeli językowych. Poradnik porównuje podejścia techniczne, skupiając się na modelach bez cenzury, które obsługują kontekst roleplay bez standardowych odmów generowania treści.

Mini scenka teatralna połączona świecącym strumieniem danych z serwerem, ilustrująca architekturę aplikacji do odgrywania ról

Architektura na jednym obrazku

Przeglądarka wysyła wiadomość użytkownika do Twojego serwera. Twój serwer dodaje osobowość i ostatnią historię, wywołuje model z stream: true i przesyła każdy fragment dalej. Nic więcej nie jest potrzebne.

  1. Przeglądarka: pole tekstowe i div, który rośnie w miarę przybywania tokenów.
  2. Twój serwer: przechowuje klucz API, buduje listę wiadomości, egzekwuje własne limity na użytkownika.
  3. API modelu: POST /v1/chat/completions pod https://api.nofilterai.top/v1 z modelem uncensored.
  4. Przechowywanie: tabela lub plik z wiadomościami dla każdej konwersacji. SQLite wystarczy na początek.

Model to jeden model o otwartych wagach, dostrojony do swobodnego odpowiadania bez odrzucania treści dla legalnego użytku przez dorosłych. Obsługuje tylko tekst. Jeśli chcesz grafiki postaci lub głosu, dodaj inną usługę samodzielnie.

Zaprojektuj prompt systemowy

W odgrywaniu ról prompt systemowy wykonuje większość pracy. Podziel go na trzy krótkie bloki, aby można było zamieniać każdy z nich niezależnie: świat, postać i zasady formatu.

{
  "world": "A rain-soaked port city in 1920s Europe, run by rival smuggling families.",
  "character": "Ilse, a sharp-tongued ferry captain who trusts nobody but her brother.",
  "format": "Write in third person past tense. 2 to 4 short paragraphs. Never write the user's actions or lines."
}

Połącz je w jedną wiadomość systemową w momencie żądania. Ich oddzielenie pozwala użytkownikom wybierać świat i postać niezależnie, co jest główną potrzebą aplikacji do odgrywania ról. Ponieważ literatura dla dorosłych jest dozwolona w ramach legalnego użytku przez dorosłych, wspomnij o tym raz w swoich regulaminach i dodaj weryfikację wieku. Jedyną rzeczą, której API nie wygeneruje, jest treść seksualna z udziałem nieletnich, czego Twoja aplikacja nie powinna próbować.

Backend ze strumieniowaniem

Ta trasa Express przyjmuje ID konwersacji i wiadomość, ładuje historię i przesyła strumień do przeglądarki jako zdarzenia wysyłane przez serwer. Wykorzystuje oficjalny pakiet openai.

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.nofilterai.top/v1",
  apiKey: process.env.API_KEY,
});

const app = express();
app.use(express.json());
const store = new Map(); // conversationId -> messages

app.post("/chat", async (req, res) => {
  const { id, text, persona } = req.body;
  const history = store.get(id) ?? [];
  history.push({ role: "user", content: text });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  const stream = await client.chat.completions.create({
    model: "uncensored",
    messages: [{ role: "system", content: persona }, ...trim(history)],
    stream: true,
    temperature: 0.9,
  });

  let reply = "";
  for await (const chunk of stream) {
    const piece = chunk.choices[0]?.delta?.content ?? "";
    if (piece) {
      reply += piece;
      res.write("data: " + JSON.stringify(piece) + "\n\n");
    }
  }
  history.push({ role: "assistant", content: reply });
  store.set(id, history);
  res.write("data: [DONE]\n\n");
  res.end();
});

app.listen(3000);

Ostatni fragment strumienia zawiera zużycie, które możesz logować, aby zobaczyć koszt każdej konwersacji. W produkcji zamień Map na bazę danych i dodaj obsługę błędów wokół wywołania.

Przycinaj historię w oknie 100k

Okno kontekstu ma 100 000 tokenów dla promptu plus uzupełnienia. Sesje odgrywania ról rosną powoli, ale rosną. Funkcja przycinania oparta na rozmiarze zapobiega niespodziankom. Przybliżna ocena 4 znaków na token wystarcza do planowania budżetu.

function trim(history, maxChars = 120000) {
  let total = 0;
  const kept = [];
  for (let i = history.length - 1; i >= 0; i--) {
    total += history[i].content.length;
    if (total > maxChars) break;
    kept.unshift(history[i]);
  }
  return kept;
}

120 000 znaków to około 30 000 tokenów, znacznie poniżej limitu, co utrzymuje koszt każdego wywołania niskim. Podnieś go tylko, jeśli Twoja historia wymaga długiej pamięci. Pamiętaj o zasadzie kosztu: każde wywołanie ponownie wysyła zachowaną historię jako input po $0,15 za 1 mln tokenów, więc prompt o 30 000 tokenów kosztuje 30 000 / 1 000 000 x $0,15 = $0,0045 na krok przed odpowiedzią.

Klient przeglądarkowy

Strona czyta strumień SSE za pomocą fetch i dołącza tekst w miarę jego przybywania. Ponieważ żądanie to POST, EventSource nie pasuje, więc parsuj strumień ręcznie.

async function send(text) {
  const out = document.getElementById("reply");
  out.textContent = "";
  const r = await fetch("/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ id: "demo", text, persona: PERSONA }),
  });
  const reader = r.body.getReader();
  const dec = new TextDecoder();
  let buf = "";
  while (true) {
    const { value, done } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const parts = buf.split("\n\n");
    buf = parts.pop();
    for (const p of parts) {
      if (p === "data: [DONE]") break;
      if (p.startsWith("data: ")) {
        out.textContent += JSON.parse(p.slice(6));
      }
    }
  }
}

Funkcje sprawiające, że to wygląda jak aplikacja

  • Regeneruj i edytuj. Przechowuj ID wiadomości. Regeneracja oznacza usunięcie ostatniej wiadomości asystenta i ponowne wywołanie API z tą samą historią. Edycja oznacza przepisanie przechowywanej wiadomości przed kolejnym wywołaniem.
  • Ustawienia dla każdej postaci. Przechowuj temperature, top_p i kary dla każdej postaci. Spokojniejsze postaci preferują 0,7, chaotyczne 1,0. Przekazuj seed, gdy chcesz powtarzalnych wyników testów.
  • Wyświetlanie kosztów. Odczytaj nagłówek odpowiedzi X-Balance-USD lub wywołaj GET /v1/balance i pokaż użytkownikowi, ile zostało kredytu. Jeśli odsprzedajesz dostęp własnym użytkownikom, oszczędzi Ci to wiele pytań do pomocy technicznej.
  • Twoje własne szyny bezpieczeństwa. Dodaj bramkę tylko dla dorosłych, przycisk zgłoszenia i regułę blokującą każde zapytanie z udziałem nieletnich przed dotarciem do API. Platforma egzekwuje ten limit również, ale Twoja aplikacja powinna to robić.

Ograniczenia, błędy i budżet

Pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę. Zapytanie ze strumieniowaniem zajmuje slot współbieżności do momentu zakończenia strumienia, więc aplikacja do roleplay z 20 aktywnymi użytkownikami przekroczy limit w minutach o dużym natężeniu ruchu. API zwraca HTTP 429 z kodem concurrency lub rate_limited, a przy tymczasowym przeciążeniu dodaje nagłówek Retry-After: 5. Kolejkuj zapytania na swoim serwerze i ponów zapytanie po tym czasie oczekiwania.

Nieudane lub odrzucone żądania nie są rozliczane, więc ponowne próby nie kosztują Cię pieniędzy. Do planowania budżetu: typowy krok z 3000 tokenami wejściowymi i 300 wyjściowymi kosztuje $0.00045 + $0.00015 = $0.0006. Kredyt jest przedpłacony od $20 i nie wygasa. Ta strona akceptuje kryptowaluty, USDT na TRC20 lub USDC na Base; strona cen wymienia bonusy od $50 w górę.

Gdzie iść dalej

Uzyskaj klucz i przetestuj z darmowym kredytem próbnym: strona klucz API oferuje $0,50 kredytu po zalogowaniu się, ważny przez 7 dni, bez podawania danych płatniczych. Klucz próbny pozwala na 2 równoległe żądania, co wystarcza dla prototypu jednoosobowego. dokumentacja wymienia każdy parametr, w tym wywoływanie funkcji, jeśli chcesz, aby rzuty kośćmi lub inwentarz były obsługiwane jako wywołania funkcji.

Dla wariantu typu towarzysz z jedną trwałą postacią zobacz artykuł API towarzysza AI. Dla bota czatu wewnątrz serwera przeczytaj przewodnik bota Discord.

Pytania i odpowiedzi

Czy mogę wywołać API bezpośrednio z przeglądarki?

Możesz, ale wystawisz swój klucz każdemu odwiedzającemu. Trzymaj klucz na serwerze i udostępnij tylko własny endpoint.

Jak sprawić, by model nie pisał akcji mojej postaci?

Wpisz to w prompt systemowy i, jeśli używasz formatu transkrypcji, dodaj sekwencję zatrzymania. Oba mechanizmy działają z parametrami przekazywanymi dalej.

Czy aplikacja musi przechowywać konwersacje?

API jest bezstanowe, więc wysyłasz historię przy każdym kroku. Prompty nie są używane do trenowania.

Jaka jest najtańsza metoda prototypowania?

Użyj klucza próbnego i Mapy w pamięci. Przenieś się do bazy danych i użyj klucza z doładowanym kredytem, gdy pętla zadziała.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień adres bazowy. To cała konfiguracja.

Pobierz klucz API