Cập nhật
Ứng dụng nhập vai AI không bộ lọc: Xây dựng với API
API AI girlfriend cung cấp giao diện chuyên dụng cho các ứng dụng trò chuyện mô phỏng các tương tác lãng mạn hoặc giống như người bạn đồng hành bằng các mô hình ngôn ngữ lớn. Hướng dẫn này so sánh các phương pháp kỹ thuật, tập trung vào các mô hình không kiểm duyệt xử lý ngữ cảnh đóng vai mà không có từ chối nội dung tiêu chuẩn.

Kiến trúc trong một hình ảnh
Trình duyệt gửi tin nhắn của người dùng đến máy chủ của bạn. Máy chủ của bạn thêm persona và lịch sử gần đây, gọi mô hình với stream: true, và chuyển tiếp từng chunk trở lại. Không cần gì thêm.
- Trình duyệt: một hộp văn bản và một div mở rộng khi token đến.
- Máy chủ của bạn: giữ khóa API, xây dựng danh sách tin nhắn, thực thi các giới hạn theo người dùng của riêng bạn.
- API mô hình:
POST /v1/chat/completionstạihttps://api.nofilterai.top/v1với mô hìnhuncensored. - Lưu trữ: một bảng hoặc tệp các tin nhắn theo mỗi cuộc hội thoại. SQLite là đủ để bắt đầu.
Mô hình là một mô hình trọng số mở, được tinh chỉnh để trả lời mà không từ chối nội dung cho việc sử dụng người lớn hợp pháp. Nó chỉ hỗ trợ văn bản. Nếu bạn muốn nghệ thuật nhân vật hoặc giọng nói, hãy thêm một dịch vụ khác.
Thiết kế prompt hệ thống
Đối với nhập vai, prompt hệ thống thực hiện hầu hết công việc. Hãy chia nó thành ba khối ngắn để bạn có thể thay thế từng khối độc lập: thế giới, nhân vật và quy tắc định dạng.
{
"world": "A rain-soaked port city in 1920s Europe, run by rival smuggling families.",
"character": "Ilse, a sharp-tongued ferry captain who trusts nobody but her brother.",
"format": "Write in third person past tense. 2 to 4 short paragraphs. Never write the user's actions or lines."
}
Hãy ghép chúng thành một thông báo hệ thống tại thời điểm yêu cầu. Việc giữ chúng riêng biệt cho phép người dùng chọn thế giới và nhân vật độc lập, điều mà hầu hết ứng dụng nhập vai cần. Vì tiểu thuyết người lớn được phép cho việc sử dụng người lớn hợp pháp, hãy nói điều đó một lần trong điều khoản dịch vụ của riêng bạn và thêm bộ lọc độ tuổi. Điều mà API sẽ không tạo ra là nội dung tình dục liên quan đến người chưa thành niên, và ứng dụng của bạn không nên thử.
Backend truyền phát
Route Express này chấp nhận ID cuộc hội thoại và một tin nhắn, tải lịch sử và chuyển luồng đến trình duyệt dưới dạng sự kiện được gửi bởi máy chủ. Nó sử dụng gói openai chính thức.
import express from "express";
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.nofilterai.top/v1",
apiKey: process.env.API_KEY,
});
const app = express();
app.use(express.json());
const store = new Map(); // conversationId -> messages
app.post("/chat", async (req, res) => {
const { id, text, persona } = req.body;
const history = store.get(id) ?? [];
history.push({ role: "user", content: text });
res.setHeader("Content-Type", "text/event-stream");
res.setHeader("Cache-Control", "no-cache");
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "system", content: persona }, ...trim(history)],
stream: true,
temperature: 0.9,
});
let reply = "";
for await (const chunk of stream) {
const piece = chunk.choices[0]?.delta?.content ?? "";
if (piece) {
reply += piece;
res.write("data: " + JSON.stringify(piece) + "\n\n");
}
}
history.push({ role: "assistant", content: reply });
store.set(id, history);
res.write("data: [DONE]\n\n");
res.end();
});
app.listen(3000);
Chunk cuối cùng của luồng mang theo thông tin sử dụng, mà bạn có thể ghi lại để xem mỗi cuộc hội thoại tốn bao nhiêu. Trong sản xuất, hãy thay thế Map bằng cơ sở dữ liệu và thêm xử lý lỗi xung quanh lệnh gọi.
Cắt lịch sử trong cửa sổ 100k
Cửa sổ ngữ cảnh là 100.000 token cho prompt cộng với completion. Các phiên nhập vai phát triển chậm, nhưng vẫn phát triển. Một hàm cắt giảm dựa trên kích thước tránh những bất ngờ. Ước tính sơ bộ 4 ký tự mỗi token là đủ tốt để lập ngân sách.
function trim(history, maxChars = 120000) {
let total = 0;
const kept = [];
for (let i = history.length - 1; i >= 0; i--) {
total += history[i].content.length;
if (total > maxChars) break;
kept.unshift(history[i]);
}
return kept;
}
120.000 ký tự tương đương khoảng 30.000 token, thấp hơn nhiều so với giới hạn và giữ mỗi lệnh gọi rẻ. Tăng nó chỉ khi câu chuyện của bạn cần khả năng nhớ dài hạn. Hãy nhớ quy tắc chi phí: mỗi lượt gửi lại lịch sử đã giữ làm đầu vào với giá $0,15 cho mỗi 1 triệu token, vì vậy một prompt 30.000 token tốn 30.000 / 1.000.000 x $0,15 = $0.0045 cho mỗi lượt trước khi phản hồi.
Client trình duyệt
Trang đọc luồng SSE với fetch và nối văn bản khi nó đến. Vì yêu cầu là POST, EventSource không phù hợp, vì vậy hãy phân tích luồng bằng tay.
async function send(text) {
const out = document.getElementById("reply");
out.textContent = "";
const r = await fetch("/chat", {
method: "POST",
headers: { "Content-Type": "application/json" },
body: JSON.stringify({ id: "demo", text, persona: PERSONA }),
});
const reader = r.body.getReader();
const dec = new TextDecoder();
let buf = "";
while (true) {
const { value, done } = await reader.read();
if (done) break;
buf += dec.decode(value, { stream: true });
const parts = buf.split("\n\n");
buf = parts.pop();
for (const p of parts) {
if (p === "data: [DONE]") break;
if (p.startsWith("data: ")) {
out.textContent += JSON.parse(p.slice(6));
}
}
}
}Các tính năng tạo cảm giác như một ứng dụng
- Tạo lại và chỉnh sửa. Giữ nguyên ID tin nhắn. Tạo lại nghĩa là xóa tin nhắn trợ lý cuối cùng và gọi API lại với cùng lịch sử. Chỉnh sửa nghĩa là ghi đè một tin nhắn đã lưu trước khi gọi tiếp theo.
- Cài đặt theo nhân vật. Lưu
temperature,top_pvà các hình phạt cùng với mỗi nhân vật. Các nhân vật bình tĩnh như 0.7, các nhân vật hỗn loạn như 1.0. Truyềnseedkhi bạn muốn các lần chạy thử có thể tái lập. - Hiển thị chi phí. Đọc tiêu đề phản hồi
X-Balance-USDhoặc gọiGET /v1/balancevà hiển thị cho người dùng biết còn lại bao nhiêu tín dụng. Nếu bạn bán lại quyền truy cập cho người dùng của chính mình, điều này giúp bạn giảm rất nhiều câu hỏi hỗ trợ. - Rào chắn an toàn do bạn sở hữu. Thêm cổng chỉ dành cho người lớn, nút báo cáo và quy tắc chặn mọi yêu cầu liên quan đến người chưa thành niên trước khi nó đến API. Nền tảng cũng thực hiện giới hạn đó, nhưng ứng dụng của bạn cũng nên vậy.
Giới hạn, lỗi và ngân sách
Một khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Một yêu cầu truyền phát giữ một khe đồng thời cho đến khi luồng kết thúc, vì vậy một ứng dụng đóng vai với 20 người dùng hoạt động sẽ đạt giới hạn trong những phút bận rộn. API trả về HTTP 429 với mã concurrency hoặc rate_limited, và khi quá tải tạm thời, nó thêm Retry-After: 5. Hãy xếp hàng yêu cầu trên máy chủ của bạn và thử lại sau độ trễ đó.
Các yêu cầu thất bại hoặc bị từ chối không bị tính phí, vì vậy việc thử lại không tốn của bạn. Để lập ngân sách, một lượt điển hình với 3.000 token đầu vào và 300 token đầu ra tốn $0.00045 + $0.00015 = $0.0006. Tín dụng được trả trước từ $20 và không bao giờ hết hạn. Trang web này chấp nhận tiền mã hóa, USDT trên TRC20 hoặc USDC trên Base; trang giá cả liệt kê các khoản thưởng từ $50 trở lên.
Đi tiếp ở đâu
Lấy khóa và thử nghiệm với gói dùng thử miễn phí: trang khóa API cung cấp $0,50 tín dụng sau khi đăng ký, có hiệu lực trong 7 ngày, không cần thông tin thanh toán. Khóa dùng thử cho phép 2 yêu cầu đồng thời, đủ cho nguyên mẫu một người dùng. Trang tài liệu liệt kê mọi tham số, bao gồm gọi hàm nếu bạn muốn xử lý tung xúc xắc hoặc quản lý kho dưới dạng gọi hàm.
Đối với biến thể dạng bạn đồng hành với một nhân vật duy nhất tồn tại liên tục, xem bài viết API bạn đồng hành AI. Đối với bot trò chuyện trong máy chủ, đọc hướng dẫn bot Discord.
Hướng dẫn khác
Hỏi đáp
Tôi có thể gọi API trực tiếp từ trình duyệt không?
Bạn có thể, nhưng bạn sẽ làm lộ khóa API cho mọi khách truy cập. Hãy giữ khóa trên máy chủ và chỉ expose endpoint của riêng bạn.
Làm thế nào để ngăn mô hình viết hành động của nhân vật của tôi?
Hãy nêu rõ trong prompt hệ thống và, nếu bạn sử dụng định dạng bản ghi, hãy thêm chuỗi dừng. Cả hai đều hoạt động với các tham số truyền qua.
Ứng dụng có cần lưu trữ các cuộc hội thoại không?
Bản thân API không trạng thái, vì vậy bạn gửi lại lịch sử mỗi lượt. Các prompt không được sử dụng để huấn luyện.
Cách rẻ nhất để tạo nguyên mẫu là gì?
Hãy sử dụng khóa dùng thử và một Map trong bộ nhớ. Chuyển sang cơ sở dữ liệu và khóa đã nạp tiền khi vòng lặp hoạt động.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.
Lấy khóa API