中文 ▾
nofilterai.top
NoFilter AI
获取 API 密钥

无审查 AI 角色扮演应用:使用 API 构建

AI 女友 API 为聊天应用提供专用接口,利用大型语言模型模拟浪漫或伴侣式互动。本指南对比了技术方法,重点关注能处理角色扮演上下文且不会出现标准内容拒绝的无审查模型。

微型舞台通过发光的数据流连接到服务器,展示角色扮演应用的架构

架构一览

浏览器将用户消息发送给你的服务器。你的服务器添加角色设定和近期历史,使用 stream: true 调用模型,并将每个数据块转发回去。无需其他操作。

  1. 浏览器:一个文本框和一个随 token 到达而增长的 div。
  2. 你的服务器:保留 API 密钥,构建消息列表,执行你自己的每用户限制。
  3. 模型 API: POST /v1/chat/completions 在 https://api.nofilterai.top/v1 使用模型 uncensored。
  4. 存储:每个对话的消息表或文件。SQLite 足以开始使用。

该模型是一个开放权重模型,经过调整以在无内容拒绝的情况下回答合法成人用途。它仅支持文本。如果你想要角色插画或语音,需自行添加其他服务。

设计系统提示词

对于角色扮演,系统提示词承担大部分工作。将其拆分为三个短块,以便独立替换:世界、角色和格式规则。

{
  "world": "A rain-soaked port city in 1920s Europe, run by rival smuggling families.",
  "character": "Ilse, a sharp-tongued ferry captain who trusts nobody but her brother.",
  "format": "Write in third person past tense. 2 to 4 short paragraphs. Never write the user's actions or lines."
}

在请求时将它们合并为一个系统消息。保持分离状态允许用户独立选择世界和角色,这是角色扮演应用的主要需求。因为允许合法成人用途的成人小说,所以只需在你的服务条款中说明一次并添加年龄限制。API 唯一不会生成的是涉及未成年人的性内容,你的应用也不应尝试生成。

流式后端

此 Express 路由接受对话 ID 和消息,加载历史记录,并将流作为服务器发送事件管道传输到浏览器。它使用官方的 openai 包。

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.nofilterai.top/v1",
  apiKey: process.env.API_KEY,
});

const app = express();
app.use(express.json());
const store = new Map(); // conversationId -> messages

app.post("/chat", async (req, res) => {
  const { id, text, persona } = req.body;
  const history = store.get(id) ?? [];
  history.push({ role: "user", content: text });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  const stream = await client.chat.completions.create({
    model: "uncensored",
    messages: [{ role: "system", content: persona }, ...trim(history)],
    stream: true,
    temperature: 0.9,
  });

  let reply = "";
  for await (const chunk of stream) {
    const piece = chunk.choices[0]?.delta?.content ?? "";
    if (piece) {
      reply += piece;
      res.write("data: " + JSON.stringify(piece) + "\n\n");
    }
  }
  history.push({ role: "assistant", content: reply });
  store.set(id, history);
  res.write("data: [DONE]\n\n");
  res.end();
});

app.listen(3000);

流的最后一个块包含使用情况,你可以记录以查看每次对话的成本。在生产环境中,将 Map 替换为数据库,并在调用周围添加错误处理。

在 100k 窗口内修剪历史

上下文窗口为 100,000 个 token(包括提示词和补全)。角色扮演会话增长缓慢,但确实在增长。按大小修剪的功能可避免意外。每个 token 约 4 个字符的粗略估计足以进行预算规划。

function trim(history, maxChars = 120000) {
  let total = 0;
  const kept = [];
  for (let i = history.length - 1; i >= 0; i--) {
    total += history[i].content.length;
    if (total > maxChars) break;
    kept.unshift(history[i]);
  }
  return kept;
}

120,000 个字符约为 30,000 个 token,远低于限制,且保持每次调用成本低廉。只有当你的故事需要长记忆时才提高它。记住成本规则:每一轮都会重新发送保留的历史记录作为输入,每 1M 个 token 成本为 $0.15,因此 30,000 个 token 的提示词在回复前每轮成本为 30,000 / 1,000,000 x $0.15 = $0.0045。

浏览器客户端

页面使用 fetch 读取 SSE 流并在文本到达时追加。由于请求是 POST,EventSource 不适用,因此需手动解析流。

async function send(text) {
  const out = document.getElementById("reply");
  out.textContent = "";
  const r = await fetch("/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ id: "demo", text, persona: PERSONA }),
  });
  const reader = r.body.getReader();
  const dec = new TextDecoder();
  let buf = "";
  while (true) {
    const { value, done } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const parts = buf.split("\n\n");
    buf = parts.pop();
    for (const p of parts) {
      if (p === "data: [DONE]") break;
      if (p.startsWith("data: ")) {
        out.textContent += JSON.parse(p.slice(6));
      }
    }
  }
}

提升应用体验的功能

  • 重新生成和编辑。 保留消息 ID。重新生成意味着删除最后的助手消息并使用相同的历史记录再次调用 API。编辑意味着在下次调用之前重写存储的消息。
  • 每个角色的设置。 为每个角色存储 temperature、top_p 和惩罚值。冷静型角色适合 0.7,混乱型适合 1.0。如果需要可复现的测试运行,请传递 seed。
  • 费用展示。读取 X-Balance-USD 响应头或调用 GET /v1/balance,向用户展示剩余额度。如果你向自己的用户转售访问权限,这能减少大量支持问题。
  • 你拥有的安全护栏。 添加仅限成人入口、举报按钮,并添加一条规则,在请求到达 API 之前阻止任何涉及未成年人的请求。平台也会强制执行该限制,但你的应用也应如此。

限制、错误和预算

完整密钥允许 8 个并发请求和每分钟 300 个请求。流式请求会占用并发槽位直到流结束,因此拥有 20 个活跃用户的应用在繁忙时段将达到上限。API 将返回 HTTP 429 错误,代码为 concurrency 或 rate_limited,在临时过载时添加 Retry-After: 5。在你的服务器上排队请求并在该延迟后重试。

失败或被拒绝的请求不会收费,因此重试不会增加你的成本。用于预算规划时,典型的 3,000 输入 token 和 300 输出 token 的对话成本为 $0.00045 + $0.00015 = $0.0006。额度为预付制,从 $20 起充,且不会过期。本站接受加密货币,支持 TRC20 链上的 USDT 或 Base 链上的 USDC;定价页面 列出了从 $50 起的优惠。

下一步操作

获取密钥并使用免费试用额度进行测试:API 密钥页面 在登录后提供 $0.50 额度,有效期 7 天,无需提供支付信息。试用密钥允许 2 个并发请求,足以满足单用户原型的需求。文档 列出了所有参数,包括如果你希望将掷骰子或库存管理作为函数调用时的函数调用参数。

对于具有单个持久角色的伴侣风格变体,请参阅 AI 伴侣 API 文章。对于服务器内的聊天机器人,请阅读 Discord 机器人指南。

问答

我可以从浏览器直接调用 API 吗?

可以,但这会向所有访问者泄露你的密钥。将密钥保留在服务器上,仅公开你自己的路由。

我如何防止模型编写我角色的动作?

在系统提示词中声明,如果使用转录格式,请添加停止序列。两者均支持透传参数。

应用需要存储对话吗?

API 本身是无状态的,因此你需要在每一轮重新发送历史记录。提示词不用于训练。

最便宜的原型开发方式是什么?

使用试用密钥并在内存中使用 Map。一旦循环运行正常,再迁移到数据库和已充值密钥。

只需填写一个表单即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥