繁中 ▾
nofilterai.top
NoFilter AI
取得 API 金鑰

無審查 AI 角色扮演應用程式:使用 API 建置

AI女友API提供專門介面,用於透過大型語言模型模擬浪漫或伴侶互動的聊天應用程式。本指南比較技術方法,專注於處理角色扮演上下文且無標準內容拒絕的無審查模型。

微型劇場舞台透過發光的資料串流連接到伺服器,說明角色扮演應用程式的架構

架構圖

瀏覽器將使用者訊息傳送至你的伺服器。你的伺服器加入人格與近期歷史,使用 stream: true 呼叫模型,並將每個區塊轉發回去。除此之外無需其他操作。

  1. 瀏覽器: 文字方塊與隨 token 到達而擴展的 div。
  2. 你的伺服器: 保留 API 金鑰、建構訊息清單、強制執行你自己的每使用者限制。
  3. 模型 API: POST /v1/chat/completions 於 https://api.nofilterai.top/v1,使用模型 uncensored。
  4. 儲存: 每個對話的訊息資料表或檔案。SQLite 足以應付初期需求。

該模型是一個開放權重模型,經過調校以在法律允許的成人用途下無內容拒絕地回答。它僅支援文字。若你想要角色插畫或語音,需自行新增其他服務。

設計系統提示詞

對於角色扮演,系統提示詞承擔大部分工作。將其分為三個短區塊,以便獨立交換:世界觀、角色和格式規則。

{
  "world": "A rain-soaked port city in 1920s Europe, run by rival smuggling families.",
  "character": "Ilse, a sharp-tongued ferry captain who trusts nobody but her brother.",
  "format": "Write in third person past tense. 2 to 4 short paragraphs. Never write the user's actions or lines."
}

在請求時將它們合併為一個系統訊息。保持獨立讓使用者可以獨立選擇世界觀和角色,這是角色扮演應用程式的主要需求。由於法律允許成人小說,請在你的服務條款中說明一次,並加入年齡驗證。API 不會產生的唯一內容是涉及未成年人的性內容,你的應用程式也不應嘗試產生。

串流後端

此 Express 路由接受對話 ID 與訊息,載入歷史,並將串流作為伺服器傳送事件 (SSE) 傳送至瀏覽器。它使用官方的 openai 套件。

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.nofilterai.top/v1",
  apiKey: process.env.API_KEY,
});

const app = express();
app.use(express.json());
const store = new Map(); // conversationId -> messages

app.post("/chat", async (req, res) => {
  const { id, text, persona } = req.body;
  const history = store.get(id) ?? [];
  history.push({ role: "user", content: text });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  const stream = await client.chat.completions.create({
    model: "uncensored",
    messages: [{ role: "system", content: persona }, ...trim(history)],
    stream: true,
    temperature: 0.9,
  });

  let reply = "";
  for await (const chunk of stream) {
    const piece = chunk.choices[0]?.delta?.content ?? "";
    if (piece) {
      reply += piece;
      res.write("data: " + JSON.stringify(piece) + "\n\n");
    }
  }
  history.push({ role: "assistant", content: reply });
  store.set(id, history);
  res.write("data: [DONE]\n\n");
  res.end();
});

app.listen(3000);

串流的最後一個區塊包含用量資訊,你可以記錄它以查看每次對話的成本。在生產環境中,將 Map 替換為資料庫,並在呼叫周圍新增錯誤處理。

在 100k 視窗內修剪歷史

上下文視窗為 100,000 個 token,包含提示詞與生成結果。角色扮演會話增長緩慢,但確實會增長。按大小運作的修剪函式可避免意外。每個 token 約 4 個字元的粗略估計已足以進行預算規劃。

function trim(history, maxChars = 120000) {
  let total = 0;
  const kept = [];
  for (let i = history.length - 1; i >= 0; i--) {
    total += history[i].content.length;
    if (total > maxChars) break;
    kept.unshift(history[i]);
  }
  return kept;
}

120,000 個字元約為 30,000 個 token,遠低於限制,且能保持每次呼叫成本低廉。僅在故事需要長程記憶時才提高它。記住成本規則:每一輪都會將保留的歷史作為輸入重新發送,每 100 萬 token 費用為 $0.15,因此 30,000 token 的提示詞每輪成本為 30,000 / 1,000,000 x $0.15 = $0.0045,尚未包含回覆。

瀏覽器客戶端

頁面使用 fetch 讀取 SSE 串流,並在資料到達時附加文字。由於請求為 POST,EventSource 不適用,因此需手動解析串流。

async function send(text) {
  const out = document.getElementById("reply");
  out.textContent = "";
  const r = await fetch("/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ id: "demo", text, persona: PERSONA }),
  });
  const reader = r.body.getReader();
  const dec = new TextDecoder();
  let buf = "";
  while (true) {
    const { value, done } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const parts = buf.split("\n\n");
    buf = parts.pop();
    for (const p of parts) {
      if (p === "data: [DONE]") break;
      if (p.startsWith("data: ")) {
        out.textContent += JSON.parse(p.slice(6));
      }
    }
  }
}

讓應用程式感覺像應用程式的功能

  • 重新產生與編輯。 保留訊息 ID。重新產生意味著刪除最後一個助手訊息並使用相同的歷史再次呼叫 API。編輯意味著在下次呼叫之前重寫儲存的訊息。
  • 每個角色的設定。 儲存 temperature、top_p 與懲罰值於每個角色旁。平靜的角色如 0.7,混亂的角色如 1.0。當你想要可重現的測試運行時,傳遞 seed。
  • 成本顯示。 讀取 X-Balance-USD 回應標頭或呼叫 GET /v1/balance,並向使用者顯示剩餘額度。如果你向自己的使用者轉售存取權,這可節省大量客服問題。
  • 你擁有的安全機制。 新增僅成人閘門、檢舉按鈕,以及一條規則,在請求到達 API 之前阻止任何涉及未成年人的請求。平台也會執行該限制,但你的應用程式也應如此。

限制、錯誤與預算

完整金鑰允許 8 個並行請求和每分鐘 300 個請求。串流請求會佔用一個並行槽位,直到串流結束,因此擁有 20 個活躍使用者的角色扮演應用程式在繁忙分鐘數內會達到上限。API 會以程式碼 concurrency 或 rate_limited 回應 HTTP 429,並在暫時過載時新增 Retry-After: 5。在伺服器上排隊請求並在該延遲後重試。

失敗或拒絕的請求不會收費,因此重試不會產生費用。對於預算規劃,典型的單次請求包含 3,000 個輸入 token 和 300 個輸出 token,成本為 $0.00045 + $0.00015 = $0.0006。額度為預付,自 $20 起,且永不過期。此網站接受加密貨幣,TRC20 上的 USDT 或 Base 上的 USDC;定價頁面 列出 $50 以上的獎金。

下一步該去哪

取得金鑰並使用免費試用進行測試:API 金鑰頁面 在註冊後提供 $0.50 的額度,有效期為 7 天,無需付款資訊。試用金鑰允許 2 個並行請求,足以滿足單一使用者原型的需求。文件 列出了所有參數,包括工具呼叫,例如將骰子投擲或庫存處理為函式呼叫。

若需具有單一固定角色的伴侶風格變體,請參閱 AI 伴侶 API 文章。若需在伺服器內運行聊天機器人,請閱讀 Discord 機器人指南。

問答

我可以從瀏覽器直接呼叫 API 嗎?

你可以,但這會向每位訪客暴露你的金鑰。將金鑰保留在伺服器上,僅暴露你自己的路由。

我如何防止模型撰寫我角色的動作?

在系統提示詞中說明,如果你使用對話格式,請新增停止序列。兩者都支援直通參數。

應用程式需要儲存對話嗎?

API 本身是無狀態的,因此你需要在每個回合重新傳送歷史記錄。提示詞不會用於訓練。

最便宜的原型開發方式為何?

使用試用金鑰和記憶體中的 Map。待迴圈運作正常後,再遷移至資料庫和已儲值金鑰。

只需填寫一個表單即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰