JA ▾
nofilterai.top
NoFilter AI
API キーを取得

フィルターなしAIロールプレイアプリ:APIで構築

AIガールフレンドAPIは、大規模言語モデルを使用してロマンチックまたは相棒のような相互作用をシミュレートするチャットアプリケーション向けの専用インターフェースです。このガイドでは、標準的なコンテンツ拒否なしでロールプレイのコンテキストを処理する無検閲モデルに焦点を当てた技術的アプローチを比較します。

光るデータストリームでサーバーに接続されたミニチュア劇場の舞台、ロールプレイアプリのアーキテクチャを示す

アーキテクチャの全体像

ブラウザはユーザーのメッセージをサーバーに送信します。サーバーはペルソナと最近の履歴を追加し、stream: trueでモデルを呼び出し、各チャンクを転送します。それ以上の処理は必要ありません。

  1. ブラウザ: テキストボックスと、トークンの到着に応じて拡張するdiv。
  2. サーバー: APIキーを保持し、メッセージリストを構築し、ユーザーごとの制限を適用します。
  3. モデルAPI: POST /v1/chat/completions、エンドポイント https://api.nofilterai.top/v1、モデル uncensored.
  4. ストレージ: 会話ごとのメッセージのテーブルまたはファイル。開始にはSQLiteで十分です。

モデルは1つのオープンウェイトモデルで、法的な成人用途に対してコンテンツ拒否なしで応答するようにチューニングされています。テキストのみです。キャラクターアートや音声が必要な場合は、別のサービスを自分で追加してください。

システムプロンプトの設計

ロールプレイでは、システムプロンプトが多くの役割を果たします。それぞれ独立して交換できるように、3つの短いブロックに分割します:世界、キャラクター、フォーマットのルール。

{
  "world": "A rain-soaked port city in 1920s Europe, run by rival smuggling families.",
  "character": "Ilse, a sharp-tongued ferry captain who trusts nobody but her brother.",
  "format": "Write in third person past tense. 2 to 4 short paragraphs. Never write the user's actions or lines."
}

リクエスト時にこれらを1つのシステムメッセージに結合します。別々に保持することで、ユーザーは世界とキャラクターを独立して選択でき、これはロールプレイアプリの大部分のニーズに対応します。法的な成人用途では成人向け小説が許可されているため、独自の利用規約でそれを明記し、年齢確認を追加してください。APIが生成しない唯一のものは未成年者を含む性的コンテンツであり、アプリも試みるべきではありません。

ストリーミングバックエンド

このExpressルートは会話IDとメッセージを受け取り、履歴を読み込み、ストリームをサーバー送信イベントとしてブラウザにパイプします。公式のopenaiパッケージを使用します。

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.nofilterai.top/v1",
  apiKey: process.env.API_KEY,
});

const app = express();
app.use(express.json());
const store = new Map(); // conversationId -> messages

app.post("/chat", async (req, res) => {
  const { id, text, persona } = req.body;
  const history = store.get(id) ?? [];
  history.push({ role: "user", content: text });

  res.setHeader("Content-Type", "text/event-stream");
  res.setHeader("Cache-Control", "no-cache");

  const stream = await client.chat.completions.create({
    model: "uncensored",
    messages: [{ role: "system", content: persona }, ...trim(history)],
    stream: true,
    temperature: 0.9,
  });

  let reply = "";
  for await (const chunk of stream) {
    const piece = chunk.choices[0]?.delta?.content ?? "";
    if (piece) {
      reply += piece;
      res.write("data: " + JSON.stringify(piece) + "\n\n");
    }
  }
  history.push({ role: "assistant", content: reply });
  store.set(id, history);
  res.write("data: [DONE]\n\n");
  res.end();
});

app.listen(3000);

ストリームの最終チャンクには使用状況が含まれており、各会話のコストを確認するためにログに記録できます。本番環境では、Mapをデータベースに置き換え、呼び出しの周りにエラー処理を追加してください。

100kウィンドウ内で履歴をトリミング

コンテキストウィンドウは、プロンプトと補完を合わせて100,000トークンです。ロールプレイセッションはゆっくりと成長しますが、成長します。サイズに基づいて機能するトリム関数は、予期せぬ事態を避けます。トークンあたり約4文字の見積もりは、予算策定には十分です。

function trim(history, maxChars = 120000) {
  let total = 0;
  const kept = [];
  for (let i = history.length - 1; i >= 0; i--) {
    total += history[i].content.length;
    if (total > maxChars) break;
    kept.unshift(history[i]);
  }
  return kept;
}

120,000文字は約30,000トークンに相当し、制限をはるかに下回り、各呼び出しを低コストに保ちます。ストーリーに長い記憶が必要な場合にのみ引き上げてください。コストルールを覚えておいてください:各ターンで保持された履歴が入力として再送信され、1Mトークンあたり$0.15で、30,000トークンのプロンプトは返信前にターンあたり30,000 / 1,000,000 x $0.15 = $0.0045かかります。

ブラウザクライアント

ページはfetchでSSEストリームを読み取り、到着するたびにテキストを追加します。リクエストがPOSTであるため、EventSourceは適さないため、ストリームを手動で解析します。

async function send(text) {
  const out = document.getElementById("reply");
  out.textContent = "";
  const r = await fetch("/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ id: "demo", text, persona: PERSONA }),
  });
  const reader = r.body.getReader();
  const dec = new TextDecoder();
  let buf = "";
  while (true) {
    const { value, done } = await reader.read();
    if (done) break;
    buf += dec.decode(value, { stream: true });
    const parts = buf.split("\n\n");
    buf = parts.pop();
    for (const p of parts) {
      if (p === "data: [DONE]") break;
      if (p.startsWith("data: ")) {
        out.textContent += JSON.parse(p.slice(6));
      }
    }
  }
}

アプリのような体験を実現する機能

  • 再生成と編集。 メッセージIDを保持します。再生成は最後のアシスタントメッセージを削除し、同じ履歴でAPIを再度呼び出すことを意味します。編集は、次の呼び出しの前に保存されたメッセージを書き換えることを意味します。
  • キャラクターごとの設定。 各キャラクターにtemperature、top_pおよびペナルティを保存します。落ち着いたキャラクターには0.7、混沌としたキャラクターには1.0が適しています。再現可能なテスト実行にはseedを渡します。
  • コスト表示。 X-Balance-USDレスポンスヘッダーを読み取るか、GET /v1/balanceを呼び出し、ユーザーに残っているクレジットの量を表示します。自分のユーザーにアクセスを再販売する場合、これはサポート質問を大幅に減らします。
  • 独自の安全策。 成人専用ゲート、レポートボタン、および未成年者に関連するリクエストをAPIに到達する前にブロックするルールを追加します。プラットフォームもこの制限を適用しますが、アプリ側でも適用すべきです。

制限、エラー、予算

フルキーは8つの同時リクエストと1分あたり300リクエストを許可します。ストリーミングリクエストはストリームが終了するまで同時実行スロットを保持するため、20人のアクティブユーザーがいるロールプレイアプリは、忙しい時間帯に制限に達します。APIはHTTP 429をコードconcurrencyまたはrate_limitedで返し、一時的な過負荷時にはRetry-After: 5を追加します。サーバーでリクエストをキューに入れ、その遅延後に再試行します。

失敗または拒否されたリクエストは課金されないため、リトライしてもコストはかかりません。予算計画の場合、入力トークン 3,000 と出力トークン 300 の典型的なターンは $0.00045 + $0.00015 = $0.0006 かかります。クレジットは $20 から前払いされ、期限切れになりません。当サイトは暗号資産、TRC20 上の USDT または Base 上の USDC を受け付けています。価格ページには $50 からのボーナスが記載されています。

次のステップ

キーを取得して無料トライアルでテストしてください:APIキーページでは、サインアップ後に7日間有効な$0.50のクレジットが提供され、支払い情報の登録は不要です。トライアルキーでは同時2リクエストまで可能で、単一ユーザーのプロトタイプには十分です。ドキュメントには、サイコロの目や在庫管理を関数呼び出しとして処理したい場合の関数呼び出しを含む、すべてのパラメータが記載されています。

単一の永続的なキャラクターを持つコンパニオンスタイルのバリアントについては、AIコンパニオンAPI記事を参照してください。サーバー内のチャットボットについては、Discordボットガイドをお読みください。

質問と回答

ブラウザからAPIを直接呼び出せますか?

可能ですが、APIキーがすべての訪問者に公開されます。APIキーはサーバーに保持し、独自のエンドポイントのみを公開してください。

モデルにキャラクターの行動を書かせない方法は?

システムプロンプトで指示し、トランスクリプト形式を使用する場合はストップシーケンスを追加します。両方とも透過パラメータで動作します。

アプリは会話を保存する必要がありますか?

API自体はステートレスなので、各ターンで履歴を再送信します。プロンプトはトレーニングには使用されません。

最も安価なプロトタイピング方法は?

トライアルキーとメモリ内のMapを使用します。ループが動作したら、データベースとチャージ済みのキーに移行してください。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得