Kimi API Platform

import json
from typing import Any

tools: list[dict[str, Any]] = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get the weather for a city",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string"}
                },
                "required": ["city"],
            },
        },
    }
]

messages: list[Any] = [
    {"role": "user", "content": "What is the weather in San Francisco today?"}
]

first = client.chat.completions.create(
    model="kimi-k3",
    messages=messages,
    tools=tools,
    tool_choice="required",
)

assistant_message = first.choices[0].message
messages.append(assistant_message)

for tool_call in assistant_message.tool_calls or []:
    arguments: dict[str, str] = json.loads(tool_call.function.arguments)
    result: str = json.dumps({
        "city": arguments["city"],
        "weather": "sunny",
        "temperature_c": 24
    })
    messages.append({
        "role": "tool",
        "tool_call_id": tool_call.id,
        "content": result
    })

final = client.chat.completions.create(
    model="kimi-k3",
    messages=messages,
    tools=tools,
)

print(final.choices[0].message.content)

from typing import Any

dynamic_messages: list[dict[str, Any]] = [
    {
        "role": "user",
        "content": "Calculate 23 times 47.",
    },
    {
        "role": "system",
        "tools": [
            {
                "type": "function",
                "function": {
                    "name": "calculate",
                    "description": "Evaluate an arithmetic expression",
                    "parameters": {
                        "type": "object",
                        "properties": {
                            "expression": {
                                "type": "string",
                                "description": "The arithmetic expression to evaluate",
                            }
                        },
                        "required": ["expression"],
                    },
                },
            }
        ],
    },
]

completion = client.chat.completions.create(
    model="kimi-k3",
    messages=dynamic_messages,
)

print(completion.choices[0].message.tool_calls)

Kimi K3 предоставляет контекстное окно в 1 миллион токенов и использует единую модель оплаты по факту использования — без разбивки по длине контекста. Входящие токены (с отдельными тарифами для попаданий и промахов кэша) и исходящие токены тарифицируются по единым ценам за токен. Подробнее см. в разделе тарификации Kimi K3.