Moonshot AI lança Kosong para que você una modelos e ferramentas no Kimi CLI

Ouça este artigo

Neste artigo você vai descobrir o que é o Kosong, a camada de abstração de LLM da Moonshot AI que move o Kimi CLI. Vai ver como o ChatProvider unifica mensagens e streaming, e como as funções generate e step simplificam respostas e o uso de ferramentas. No final, ficará claro por que isso pode tornar seu agente mais fácil de manter. Fonte: https://www.marktechpost.com/2025/11/10/moonshot-ai-releases-kosong-the-llm-abstraction-layer-that-powers-kimi-cli/

Principais pontos

• Kosong unifica provedores e formatos de mensagem.

• Orquestra ferramentas assíncronas sem amarrar lógica ao provedor.

• Usa generate e step para completar chats e executar ferramentas.

• Suporta streaming e mede tokens de forma independente.

• Inclui demo local que integra Kimi CLI e ferramentas de sistema.

Moonshot AI lança Kosong, camada de abstração LLM que alimenta Kimi CLI

A Moonshot AI anunciou Kosong, uma biblioteca Python criada para unificar mensagens, orquestração de ferramentas e provedores de chat. Kosong já é o componente que move o Kimi CLI, segundo a documentação oficial e a cobertura em https://www.marktechpost.com/2025/11/10/moonshot-ai-releases-kosong-the-llm-abstraction-layer-that-powers-kimi-cli/. A evolução do ecossistema Moonshot, incluindo o novo modelo Kimi K2 — voltado para ações e soluções autônomas, ajuda a entender por que uma camada como o Kosong faz sentido operacional.

O que é Kosong e por que importa

• Kosong atua entre seu código de agente e provedores LLM.

• Evita amarrar a lógica do negócio a uma API específica.

• Torna simples trocar provedores, modelos e ferramentas sem reescrever a orquestração — útil quando você quer rodar agentes localmente ou em infra híbrida, como descrito em guias para agentes locais.

Como Kosong funciona (visão geral)

Você usa Kosong importando funções de alto nível e modelos de resultado. A interface pública é pequena por design.

Principais elementos:

• ChatProvider — ponto de integração central.

• Message — representação padronizada das mensagens.

• Toolset / SimpleToolset — registro e resolução de ferramentas.

• generate e step — funções de uso principal.

• GenerateResult e StepResult — resultados retornados.

API e fluxo básico

• Inicialize um ChatProvider (por exemplo, a implementação Kimi) com endpoint e chave.

• Monte uma lista de Message para histórico e um system_prompt.

• Use generate para respostas simples.

• Use step para turnos que podem envolver ferramentas.

Detalhes técnicos essenciais

• Mensagens: Message aceita role (ex.: "user") e content (texto ou partes multimodais).

• Streaming: provedores emitem StreamedMessagePart; Kosong junta essas partes em uma Message final.

• Contagem de tokens: TokenUsage padroniza uso de tokens entre provedores (opcional).

Ferramentas e orquestração

• Ferramentas são modeladas via subclasses de CallableTool2 com modelos Pydantic para parâmetros.

• Exemplo: AddTool que retorna um resultado tipo ToolOk.

• Registre ferramentas em SimpleToolset (ex.: operator =).

• SimpleToolset roteia chamadas de forma assíncrona.

• A função step faz parsing de argumentos, executa ferramentas e agrega resultados.

• Para padrões de orquestração e integração com recursos externos em tempo real, veja práticas similares explicadas em como integrar IA a recursos e ferramentas em tempo real. Se você planeja distribuir agentes e publicar runtimes, os conceitos de runtime nativo e mercado de agentes podem ser relevantes. Para cenários que envolvem frameworks em TypeScript e MCP, veja também soluções como Volcano.

Diferença entre generate e step

Função	Uso principal	Suporta ferramentas?	Retorno
generate	Completar chat simples	Opcional	GenerateResult (mensagem final uso de tokens)
step	Turnos com chamadas a ferramentas	Sim (SimpleToolset)	StepResult (inclui método para obter resultados das ferramentas)

Streaming e integração prática

• generate permite callbacks para cada StreamedMessagePart, possibilitando exibição incremental.

• Ao final do streaming, você obtém uma mensagem consolidada pronta para uso ou log.

• Se precisar integrar visualizações em tempo real na sua UI, as práticas de integração mostradas em AG UI para agentes em tempo real são um bom ponto de referência.

Demo e relação com Kimi CLI

• Kosong inclui um agente de demonstração executável localmente.

• A demo usa variáveis de ambiente para configurar Kimi (KIMIBASEURL e KIMIAPIKEY).

• É possível rodar um agente de terminal que chama ferramentas, incluindo comandos de shell quando ativado — procedimento semelhante ao descrito em guias sobre uso de CLIs de IA em pipelines.

• Para mais contexto e cobertura da novidade, veja também: https://www.marktechpost.com/2025/11/10/moonshot-ai-releases-kosong-the-llm-abstraction-layer-that-powers-kimi-cli/

O que isso significa para sua equipe

• Reduz a necessidade de reescrever orquestração ao trocar provedores.

• Fornece uma camada consistente para mensagens, streaming e ferramentas.

• Em projetos que evoluem com novos modelos e integrações, a modularidade acelera manutenção — conceito alinhado a iniciativas que promovem agentes cooperativos e coordenados, como em agentes MCP que coordenam em equipe.

Pontos principais (resumo)

• Kosong é uma camada de abstração LLM em Python.

• Centraliza ChatProvider, Message e Toolset.

• Oferece duas funções públicas: generate (chat) e step (agent ferramentas).

• Inclui suporte a streaming, contagem de tokens e demo com Kimi CLI.

• Objetivo: facilitar mudanças de provedores sem reescrever sua orquestração. Mais informações na matéria em https://www.marktechpost.com/2025/11/10/moonshot-ai-releases-kosong-the-llm-abstraction-layer-that-powers-kimi-cli/

Conclusão

Em poucas palavras: Kosong permite que seu agente funcione sem ficar amarrado a um provedor. Você ganha uma interface única — o ChatProvider — que unifica mensagens, streaming e contagem de tokens, enquanto generate e step cuidam do chat simples e da orquestração com ferramentas. A demo com Kimi CLI mostra que é funcional hoje, não apenas conceitual.

Quer continuar aprendendo? Confira matérias sobre agentes, modelos e infraestrutura, como as discussões sobre DeepAgent e pesquisas sobre agentes de pesquisa profunda.

Perguntas frequentes (FAQ)

• O que o Kosong fornece?
  É uma camada de abstração para LLMs que unifica mensagens, streaming, uso de tokens e chamadas de ferramentas. Mantém a API pequena: generate, step, GenerateResult e StepResult. É a base que alimenta o Kimi CLI.

• O que é o ChatProvider e como usar o Kimi?
  ChatProvider padroniza a conversa entre seu código e o provedor. O Kimi tem uma implementação em kosong.chatprovider.kimi. Crie um objeto Kimi com baseurl, api_key e nome do modelo e passe para generate/step.

• Como funcionam mensagens e streaming?
  Mensagens usam a classe Message com role e content; content pode ser string ou lista multimodal. Providers emitem StreamedMessagePart que o Kosong junta no final. Há contador de tokens opcional (TokenUsage).

• Como funcionam ferramentas e o SimpleToolset?
  Ferramentas são classes tipo CallableTool2 com modelo Pydantic de params. Registre ferramentas em SimpleToolset (ex.: = AddTool). O step despacha chamadas, valida args e coleta resultados.

• Quando usar generate e quando usar step?
  Use generate para chat simples e streaming de uma resposta. Use step para agentes que chamam ferramentas e precisam orquestração. Há demo integrada que roda com KIMIBASEURL e KIMIAPIKEY.

Se você quiser conhecer outros artigos semelhantes a Moonshot AI lança Kosong para que você una modelos e ferramentas no Kimi CLI, você pode visitar a categoria Notícias e Tendências.