โมเดล Generative จะแบ่งข้อมูลออกเป็นหน่วยที่เรียกว่าโทเค็นเพื่อประมวลผล แต่ละรูปแบบมีจำนวนโทเค็นสูงสุดที่รองรับในพรอมต์และคำตอบ
หน้านี้จะแสดงวิธีใช้ Count Tokens API เพื่อรับจำนวนโทเค็นโดยประมาณและจำนวนอักขระที่เรียกเก็บเงินได้สำหรับคำขอไปยังโมเดล Gemini ไม่มี API สำหรับการรับจำนวนโทเค็นโดยประมาณในการตอบกลับ
โปรดทราบว่า Count Tokens API ใช้ไม่ได้กับโมเดล Imagen
ข้อมูลใดบ้างที่ระบุไว้ในจํานวน
โปรดทราบข้อมูลต่อไปนี้เกี่ยวกับการนับโทเค็นและตัวละครที่เรียกเก็บเงินได้
การนับโทเค็นทั้งหมด
จํานวนนี้มีประโยชน์ในการตรวจสอบว่าคําขอของคุณไม่เกินกรอบเวลาบริบทที่อนุญาต
จํานวนโทเค็นจะแสดงขนาดของไฟล์ทั้งหมด (เช่น รูปภาพ) ที่ระบุไว้เป็นส่วนหนึ่งของอินพุตคําขอ แต่จะไม่นับจำนวนรูปภาพหรือจำนวนวินาทีในวิดีโอ
สำหรับโมเดล Gemini ทั้งหมด โทเค็นจะเท่ากับประมาณ 4 อักขระ โทเค็น 100 รายการมีความยาวประมาณ 60-80 คำภาษาอังกฤษ
การนับจำนวนอักขระทั้งหมดที่เรียกเก็บเงินได้
จำนวนนี้มีประโยชน์ในการทำความเข้าใจและควบคุมต้นทุน เนื่องจากสำหรับ Vertex AI จำนวนอักขระเป็นส่วนหนึ่งของการคำนวณราคา
จำนวนอักขระที่เรียกเก็บเงินได้จะแสดงจำนวนอักขระในข้อความที่ระบุไว้เป็นส่วนหนึ่งของอินพุตคำขอ
สำหรับรุ่น Gemini รุ่นเก่า โทเค็นจะไม่เป็นส่วนหนึ่งของการคํานวณราคา แต่สำหรับรุ่น Gemini 2.0 และ Gemini 2.5 ระบบจะใช้โทเค็นในการคำนวณราคา ดูข้อมูลเพิ่มเติมเกี่ยวกับขีดจํากัดโทเค็นต่อโมเดลและราคาต่อโมเดล
การกำหนดราคาและโควต้าสำหรับการนับโทเค็นและอักขระที่เรียกเก็บเงินได้
ไม่มีค่าใช้จ่ายหรือข้อจำกัดโควต้าในการใช้ CountTokens
API โควต้าสูงสุดสำหรับ CountTokens
API คือ 3,000 คำขอต่อนาที (RPM)
ตัวอย่างโค้ด
การป้อนข้อความเท่านั้น
Swift
let response = try await model.countTokens("Write a story about a magic backpack.")
print("Total Tokens: \(response.totalTokens)")
print("Total Billable Characters: \(response.totalBillableCharacters)")
Kotlin
val response = generativeModel.countTokens("Write a story about a magic backpack.")
println("Total Tokens: ${response.totalTokens}")
println("Total Billable Characters: ${response.totalBillableCharacters}")
Java
Content prompt = new Content.Builder()
.addText("Write a story about a magic backpack.")
.build();
GenerativeModelFutures modelFutures = GenerativeModelFutures.from(model);
ListenableFuture countTokensResponse =
modelFutures.countTokens(prompt);
Futures.addCallback(countTokensResponse, new FutureCallback() {
@Override
public void onSuccess(CountTokensResponse response) {
System.out.println("Total Tokens = " + response.getTotalTokens());
System.out.println("Total Billable Characters: = " +
response.getTotalBillableCharacters());
}
@Override
public void onFailure(Throwable t) {
t.printStackTrace();
}
}, executor);
Web
const { totalTokens, totalBillableCharacters } = await model.countTokens("Write a story about a magic backpack.");
console.log(`Total tokens: ${totalTokens}, total billable characters: ${totalBillableCharacters}`);
Dart
final tokenCount = await model.countTokens(Content.text("Write a story about a magic backpack."));
print('Token count: ${tokenCount.totalTokens}, billable characters: ${tokenCount.totalBillableCharacters}');
Unity
var response = await model.CountTokensAsync("Write a story about a magic backpack.");
UnityEngine.Debug.Log($"Total Tokens: {response.TotalTokens}");
UnityEngine.Debug.Log($"Total Billable Characters: {response.TotalBillableCharacters}");
อินพุตหลายรูปแบบ
Swift
let response = try await model.countTokens(image, "What's in this picture?")
print("Total Tokens: \(response.totalTokens)")
print("Total Billable Characters: \(response.totalBillableCharacters)")
Kotlin
val prompt = content {
image(bitmap)
text("What's in this picture?")
}
val response = generativeModel.countTokens(prompt)
println("Total Tokens: ${response.totalTokens}")
println("Total Billable Characters: ${response.totalBillableCharacters}")
Java
Content prompt = new Content.Builder()
.addImage(bitmap)
.addText("What's in this picture?")
.build();
GenerativeModelFutures modelFutures = GenerativeModelFutures.from(model);
ListenableFuture countTokensResponse =
modelFutures.countTokens(prompt);
Futures.addCallback(countTokensResponse, new FutureCallback() {
@Override
public void onSuccess(CountTokensResponse response) {
System.out.println("Total Tokens = " + response.getTotalTokens());
System.out.println("Total Billable Characters: = " +
response.getTotalBillableCharacters());
}
@Override
public void onFailure(Throwable t) {
t.printStackTrace();
}
}, executor);
Web
const prompt = "What's in this picture?";
const imagePart = { inlineData: { mimeType: 'image/jpeg', data: imageAsBase64 }};
const { totalTokens, totalBillableCharacters } = await model.countTokens([prompt, imagePart]);
console.log(`Total tokens: ${totalTokens}, total billable characters: ${totalBillableCharacters}`);
Dart
final prompt = TextPart("What's in the picture?");
final tokenCount = await model.countTokens([
Content.multi([prompt, imagePart])
]);
print('Token count: ${tokenCount.totalTokens}, billable characters: ${tokenCount.totalBillableCharacters}');
Unity
var response = await model.CountTokensAsync(new [] {
ModelContent.Text("What's in this picture?"),
ModelContent.InlineData("image/png", imageData)
});
UnityEngine.Debug.Log($"Total Tokens: {response.TotalTokens}");
UnityEngine.Debug.Log($"Total Billable Characters: {response.TotalBillableCharacters}");