🧠 AI知识库

人工智能产业链与技术栈全景图 v0.2.0 · 2026-05-14

MLC-LLM

MLC-LLM

🌍 海外 🚅 推理部署 通用推理引擎

简介

卡内基梅隆大学MLC团队开源,基于Apache TVM编译技术将大模型部署到手机、浏览器和笔记本。支持iOS/Android原生应用和WebGPU浏览器推理,无需服务器。让大模型在iPhone、安卓手机等消费设备上本地运行,推动了端侧AI的普及。

发布/成立2023美国
官网https://github.com/mlc-ai/mlc-llm