Unverified

近期热门 AI 开源项目 · GitHub ★ 30,918

SGLang

面向大语言模型与多模态模型的高性能推理、服务和结构化生成框架。

面向大语言模型与多模态模型的高性能推理、服务和结构化生成框架。 截至 2026-07-29,GitHub 公开元数据显示约 30,918 stars,仓库最近推送于 2026-07-29;最近公开 release 为 v0.5.16(2026-07-25)。本条目根据公开仓库与 README 资料整理;功能、部署方式和生产可用性尚未做运行验证。

AIOpen Sourcellm-servinginferencemultimodalstructured-generationGPUcudallamallmmoetransformervlmdeepseekblackwellgpt-ossdiffusionattentionglmminimax
01

Screenshots

SGLang 推理基准准确率分布图
SGLang 推理基准尝试次数与标准误结果
02

How it works

  1. Step 1

    发现热门项目

    以 2026-07-29 的 GitHub stars、最近推送和公开资料作为发现信号。

  2. Step 2

    核对上游边界

    阅读 sgl-project/sglang 在抓取提交 0ebbe43dbb9b6e916dd1e46ac03499fdae900094 的文档、许可证和依赖要求。

  3. Step 3

    确认后交给 Agent

    先确认目标与验收标准,再建立运行基线并做最小范围改造;未知项保持 Unverified。

03

Capabilities and scenarios

  • 面向大语言模型与多模态模型的高性能推理、服务和结构化生成框架。
  • 提供可追溯的公开源仓库;默认分支为 main,本次抓取提交为 0ebbe43dbb9b6e916dd1e46ac03499fdae900094.
  • GitHub 热度证据:约 30,918 stars,最近推送于 2026-07-29.

Good starting points

Scenario 1

评估 sglang 是否适合作为相关 AI 产品或工程方案的开源起点。

Scenario 2

将公开仓库与本 Redo Pack 交给 Agent,在确认目标、许可证和运行条件后搭建或改造自己的版本。

04

Fit and limitations

Fit at a glance

Project type
近期热门 AI 开源项目 · GitHub ★ 30,918
Repository set
1 repository
Runtime status
Unverified

Known limitations

  • Unverified:本次仅核验公开仓库元数据,没有安装依赖、运行项目或验证生产可用性。
  • Unverified:项目专属的硬件、模型、数据、账号、网络与运行成本要求需以抓取提交对应的官方文档为准。
  • GitHub stars 与活跃度是 2026-07-29 的时间点数据,会随时间变化。

Confirm before starting

  • 先阅读 https://github.com/sgl-project/sglang 在提交 0ebbe43dbb9b6e916dd1e46ac03499fdae900094 对应的 README、安装文档和许可证。
  • 在执行任何命令前确认目标环境、依赖版本、模型/硬件/存储需求和验收标准。
  • 密钥、token、私有代码、私有数据和 .env 只能保留在用户控制的环境中。
05

Repository set

These repositories form the complete project workflow. Follow setup order and include optional services only when the confirmed goal needs them.

Setup 1Required

sgl-project/sglang

该条目的唯一上游源仓库;面向大语言模型与多模态模型的高性能推理、服务和结构化生成框架。

Default branch
main
Captured revision
0ebbe43dbb9b6e916dd1e46ac03499fdae900094
Author / maintainer
sgl-project
License
Apache-2.0
公开资料来源:https://github.com/sgl-project/sglang ; https://api.github.com/repos/sgl-project/sglang ; https://sglang.io。约 3.1 万星,是近年增长最快的高性能模型服务框架之一,抓取当天持续开发。

Catalog updated 2026-07-29. Reconfirm licenses, revisions, environment requirements, and runtime behavior from each repository before starting.

Project lineage

Project relationships

Every extension should preserve a clear path back to its sources.

01

Upstream projects

Where this project started

No upstream projects yet

02

Peer projects

Projects with the same upstream

No peer projects yet

03

Downstream projects

Published work derived from this project

No downstream projects yet