TH ▾
nofilterai.top
NoFilter AI
รับคีย์ API

แอปบทบาทสมมติ AI แบบไม่มีตัวกรอง: สร้างด้วย API

API สาว AI ให้อินเทอร์เฟซเฉพาะสำหรับแอปแชทที่จำลองการโต้ตอบแบบโรแมนติกหรือเหมือนเพื่อนคู่ใจโดยใช้โมเดลภาษาขนาดใหญ่ คู่มือนี้เปรียบเทียบแนวทางทางเทคนิค โดยเน้นที่โมเดลแบบไม่เซ็นเซอร์ที่จัดการบริบทการสวมบทบาทได้โดยไม่มีการปฏิเสธเนื้อหาตามมาตรฐาน

เวทีละครขนาดเล็กที่เชื่อมต่อกับเซิร์ฟเวอร์ผ่านสายข้อมูลเรืองแสง เพื่อแสดงสถาปัตยกรรมของแอปบทบาทสมมติ

สถาปัตยกรรมในภาพเดียว

เบราว์เซอร์ส่งข้อความของผู้ใช้ไปยังเซิร์ฟเวอร์ของคุณ เซิร์ฟเวอร์ของคุณเพิ่มเพอร์โซนาและประวัติล่าสุด แล้วเรียกใช้โมเดลด้วย stream: true จากนั้นส่งแต่ละชิ้นกลับไปยังเบราว์เซอร์ ไม่จำเป็นต้องทำอย่างอื่น

  1. เบราว์เซอร์: กล่องข้อความและ div ที่ขยายขนาดเมื่อโทเคนมาถึง
  2. เซิร์ฟเวอร์ของคุณ: เก็บคีย์ API สร้างรายการข้อความ และบังคับใช้ขีดจำกัดรายผู้ใช้ของคุณเอง
  3. API โมเดล: POST /v1/chat/completions ที่ https://api.nofilterai.top/v1 พร้อมโมเดล uncensored
  4. การจัดเก็บ: ตารางหรือไฟล์ข้อความสำหรับการสนทนาแต่ละครั้ง SQLite เพียงพอสำหรับการเริ่มต้น

โมเดลเป็นโมเดลแบบเปิดน้ำหนักหนึ่งตัว ซึ่งปรับแต่งมาให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย รองรับเฉพาะข้อความ หากคุณต้องการภาพตัวละครหรือเสียง ให้เพิ่มบริการอื่นด้วยตนเอง

ออกแบบพรอมต์ระบบ

สำหรับการสวมบทบาท พรอมต์ระบบทำหน้าที่ส่วนใหญ่ แบ่งออกเป็นสามบล็อกสั้นๆ เพื่อให้คุณสามารถสลับแต่ละบล็อกได้อย่างอิสระ ได้แก่ โลก ตัวละคร และกฎของรูปแบบ

{
  "world": "A rain-soaked port city in 1920s Europe, run by rival smuggling families.",
  "character": "Ilse, a sharp-tongued ferry captain who trusts nobody but her brother.",
  "format": "Write in third person past tense. 2 to 4 short paragraphs. Never write the user's actions or lines."
}

รวมข้อความเหล่านี้เป็นระบบเมสเสจเดียวในขณะเกิดคำขอ การแยกกันไว้ช่วยให้ผู้ใช้เลือกโลกและตัวละครได้อย่างอิสระ ซึ่งเป็นสิ่งที่แอปบทบาทสมมติส่วนใหญ่ต้องการ เนื่องจากนิยายผู้ใหญ่ได้รับอนุญาตสำหรับการใช้งานของผู้ใหญ่ที่ถูกต้องตามกฎหมาย ให้ระบุเงื่อนไขดังกล่าวไว้ในข้อกำหนดการให้บริการของคุณเพียงครั้งเดียวและเพิ่มการจำกัดอายุ API จะไม่ผลิตเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ และแอปของคุณก็ไม่ควรพยายามทำเช่นกัน

แบ็กเอนด์สตรีมมิง

เส้นทาง Express นี้รับ ID การสนทนาและข้อความ โหลดประวัติ และส่งสตรีมไปยังเบราว์เซอร์ผ่านเหตุการณ์ที่ส่งจากเซิร์ฟเวอร์ (SSE) ใช้แพ็คเกจ openai ทางการ

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.nofilterai.top/v1",
  apiKey: process.env.API_KEY,
});

const app = express();
app.use(express.json());
const store = new Map(); // conversationId -> messages

app.post("/chat", async (req, res) => {
  const { id, text, persona } = req.body;
  const history = store.get(id) ?? [];
  history.push({ role: "user", content: text });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  const stream = await client.chat.completions.create({
    model: "uncensored",
    messages: [{ role: "system", content: persona }, ...trim(history)],
    stream: true,
    temperature: 0.9,
  });

  let reply = "";
  for await (const chunk of stream) {
    const piece = chunk.choices[0]?.delta?.content ?? "";
    if (piece) {
      reply += piece;
      res.write("data: " + JSON.stringify(piece) + "\n\n");
    }
  }
  history.push({ role: "assistant", content: reply });
  store.set(id, history);
  res.write("data: [DONE]\n\n");
  res.end();
});

app.listen(3000);

ชิ้นสุดท้ายของสตรีมมีข้อมูลการใช้งาน ซึ่งคุณสามารถบันทึกเพื่อดูว่าแต่ละบทสนทนาใช้ต้นทุนเท่าใด ในสภาพแวดล้อมการผลิต ให้แทนที่ Map ด้วยฐานข้อมูลและเพิ่มการจัดการข้อผิดพลาดรอบการเรียกใช้

ตัดประวัติภายในหน้าต่าง 100k

หน้าต่างบริบทมีขนาด 100,000 โทเคนสำหรับพรอมต์รวมกับการตอบกลับ เซสชันการสวมบทบาทเติบโตช้า แต่ก็จะเติบโต ฟังก์ชันการตัดที่ทำงานตามขนาดช่วยหลีกเลี่ยงความไม่คาดคิด การประมาณการอย่างหยาบว่า 4 ตัวอักษรต่อ 1 โทเคนก็เพียงพอสำหรับการวางแผนงบประมาณ

function trim(history, maxChars = 120000) {
  let total = 0;
  const kept = [];
  for (let i = history.length - 1; i >= 0; i--) {
    total += history[i].content.length;
    if (total > maxChars) break;
    kept.unshift(history[i]);
  }
  return kept;
}

120,000 ตัวอักษรมีค่าประมาณ 30,000 โทเคน ซึ่งต่ำกว่าขีดจำกัดมาก และทำให้แต่ละคำขอมีค่าใช้จ่ายต่ำ เพิ่มเฉพาะเมื่อเนื้อเรื่องของคุณต้องการหน่วยความจำที่ยาวขึ้น จำกฎค่าใช้จ่าย: ทุกเทิร์นจะส่งประวัติที่เก็บไว้ใหม่เป็นข้อมูลนำเข้าที่ $0.15 ต่อ 1 ล้านโทเคน ดังนั้นพรอมต์ขนาด 30,000 โทเคนจะมีค่าใช้จ่าย 30,000 / 1,000,000 x $0.15 = $0.0045 ต่อเทิร์นก่อนการตอบกลับ

ไคลเอนต์เบราว์เซอร์

หน้าเว็บอ่านสตรีม SSE ด้วย fetch และเพิ่มข้อความเมื่อมาถึง เนื่องจากคำขอเป็นแบบ POST EventSource จึงไม่เหมาะสม ดังนั้นให้แยกวิเคราะห์สตรีมด้วยตนเอง

async function send(text) {
  const out = document.getElementById("reply");
  out.textContent = "";
  const r = await fetch("/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ id: "demo", text, persona: PERSONA }),
  });
  const reader = r.body.getReader();
  const dec = new TextDecoder();
  let buf = "";
  while (true) {
    const { value, done } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const parts = buf.split("\n\n");
    buf = parts.pop();
    for (const p of parts) {
      if (p === "data: [DONE]") break;
      if (p.startsWith("data: ")) {
        out.textContent += JSON.parse(p.slice(6));
      }
    }
  }
}

ฟีเจอร์ที่ทำให้รู้สึกเหมือนแอป

  • สร้างใหม่และแก้ไข เก็บ ID ของข้อความ การสร้างใหม่หมายถึงการลบข้อความผู้ช่วยล่าสุดแล้วเรียก API อีกครั้งด้วยประวัติเดิม การแก้ไขหมายถึงการเขียนข้อความที่จัดเก็บใหม่ก่อนการเรียกครั้งถัดไป
  • การตั้งค่าเฉพาะตัวละคร เก็บค่า temperature, top_p และค่าปรับ (penalties) ไว้กับแต่ละตัวละคร ตัวละครที่สงบอาจใช้ค่า 0.7 ส่วนตัวละครที่วุ่นวายอาจใช้ค่า 1.0 ส่ง seed เมื่อคุณต้องการการทดสอบที่ผลลัพธ์ซ้ำกันได้
  • การแสดงผลต้นทุน อ่านหัวตอบกลับ X-Balance-USD หรือเรียก GET /v1/balance แล้วแสดงให้ผู้ใช้เห็นว่าเครดิตคงเหลืออยู่เท่าใด หากคุณขายต่อการเข้าถึงให้ผู้ใช้ของคุณเอง สิ่งนี้จะช่วยประหยัดคำถามฝ่ายสนับสนุนได้มาก
  • กลไกป้องกันความปลอดภัยที่คุณเป็นเจ้าของ เพิ่มการจำกัดเฉพาะผู้ใหญ่ ปุ่มรายงาน และกฎที่บล็อกคำขอที่เกี่ยวข้องกับผู้เยาว์ก่อนที่จะส่งไปยัง API แพลตฟอร์มบังคับใช้ขีดจำกัดนี้เช่นกัน แต่แอปของคุณควรมีการบังคับใช้เช่นกัน

ขีดจำกัด ข้อผิดพลาด และงบประมาณ

คีย์แบบเต็มอนุญาตให้ทำคำขอพร้อมกัน 8 รายการ และ 300 คำขอต่อนาที คำขอแบบสตรีมมิงจะครอบครองช่องความพร้อมใช้งานไปจนกว่าสตรีมจะสิ้นสุด ดังนั้นแอปบทบาทสมมติที่มีผู้ใช้ใช้งานอยู่ 20 คนจะชนกับขีดจำกัดในช่วงนาทีที่แออัด API จะตอบกลับด้วย HTTP 429 พร้อมโค้ด concurrency หรือ rate_limited และเมื่อเกิดภาวะโอเวอร์โหลดชั่วคราวจะเพิ่ม Retry-After: 5 ไว้ด้วย ให้คิวคำขอที่เซิร์ฟเวอร์ของคุณแล้วลองใหม่หลังจากช่วงเวลาดังกล่าว

คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน ดังนั้นการลองใหม่จึงไม่เสียค่าใช้จ่าย สำหรับการประมาณงบประมาณ การสนทนาหนึ่งรอบที่มี 3,000 โทเคนอินพุตและ 300 โทเคนเอาต์พุตมีต้นทุน $0.00045 + $0.00015 = $0.0006 เครดิตเป็นแบบเติมเงินล่วงหน้าเริ่มต้นที่ $20 และไม่มีวันหมดอายุ เว็บไซต์นี้ยอมรับคริปโต USDT บน TRC20 หรือ USDC บน Base; หน้าราคา ระบุโบนัสตั้งแต่ $50 เป็นต้นไป

ขั้นตอนถัดไป

รับคีย์และทดสอบด้วยเครดิตทดลองใช้ฟรี: หน้าคีย์ API ให้เครดิต $0.50 หลังจากเข้าสู่ระบบ มีอายุการใช้งาน 7 วัน ไม่ต้องใส่รายละเอียดการชำระเงิน คีย์ทดลองอนุญาตคำขอพร้อมกันได้ 2 คำขอ ซึ่งเพียงพอสำหรับโปรโตไทป์ของผู้ใช้คนเดียว เอกสาร ระบุพารามิเตอร์ทั้งหมด รวมถึงการเรียกใช้ฟังก์ชันหากคุณต้องการให้การทอดลูกเต๋าหรือการจัดการสินค้าคงคลังทำงานผ่านการเรียกใช้ฟังก์ชัน

สำหรับรูปแบบคล้ายเพื่อนคู่สนทนาที่มีตัวละครเดียวที่คงอยู่ตลอดไป ดูที่ บทความ AI companion API สำหรับแชทบอทภายในเซิร์ฟเวอร์ อ่าน คู่มือ Discord bot

ถาม-ตอบ

ฉันสามารถเรียกใช้ API โดยตรงจากเบราว์เซอร์ได้หรือไม่

ทำได้ แต่คุณจะเปิดเผยคีย์ของคุณให้ผู้เยี่ยมชมทุกคนเห็น ควรเก็บคีย์ไว้ที่เซิร์ฟเวอร์และเปิดเฉพาะเส้นทางของคุณเองเท่านั้น

ฉันจะหยุดโมเดลไม่ให้เขียนการกระทำของตัวละครของฉันได้อย่างไร

ระบุไว้ในพรอมต์ระบบ และหากคุณใช้รูปแบบบทสนทนา ให้เพิ่มลำดับหยุด (stop sequence) ทั้งสองวิธีทำงานร่วมกับพารามิเตอร์แบบส่งผ่าน (pass-through parameters)

แอปจำเป็นต้องเก็บประวัติการสนทนาหรือไม่

API เองนั้นไม่มีสถานะ (stateless) ดังนั้นคุณจึงต้องส่งประวัติการสนทนาใหม่ในทุกการตอบกลับ พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล

วิธีที่มีต้นทุนต่ำที่สุดในการสร้างโปรโตไทป์คืออะไร

ใช้คีย์ทดลองและ Map ในหน่วยความจำ แล้วย้ายไปยังฐานข้อมูลและคีย์ที่มีเงินทุนเมื่อวงจรทำงานได้

คีย์ของคุณอยู่ห่างแค่ขั้นตอนเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API