Lepton AI 成立于两年前,并于 2023 年 5 月从 CRV 、红杉中国和 Fusion Fund 筹集了 1100 万美金的种子轮融资。在大模型的浪潮之下,贾扬清的创业并没有选择构建基础模型,而是切入了 AI infra 赛道。
企业主页:https://www.lepton.ai/
Github 链接:https://github.com/leptonai
Lepton AI 核心理念如同其标语「Why Lepton AI Cloud:Efficient, reliable and easy to use」所传达的——让 AI 模型的构建与部署变得简单高效。无论是经验丰富的开发者还是 AI 部署初学者,Lepton AI 都致力于通过精心设计的工具和服务降低技术门槛。
Lepton AI 并不训练自己的大模型,而是提供大模型训练、部署和应用时所需的基础设施。贾扬清团队希翼通过技术解决 AI infra 层的三个核心问题:速度、价格和质量。
Lepton AI 主要提供两大核心产品:Python SDK 和云计算平台。通过 Python SDK,开发者仅需 2-3 行代码即可部署 AI 模型,无需深入了解复杂的部署流程。部署完成后,只需一个简单的 curl 命令或几行 Python/Node.js 代码就能实现客户端请求,快速将模型功能整合到应用中。
Lepton AI 的云平台提供按需分配的计算资源,包括 CPU、GPU(如 NVIDIA A100)和存储支撑。开发者可将模型部署至云端,利用其托管服务轻松提供公开的 AI 服务,免去自行管理服务器或容器环境的麻烦。
在模型支撑方面,Lepton AI 与 HuggingFace 平台兼容,开发者可利用其丰富的预训练模型库,通过转换工具集成到项目中。此外,Lepton AI 还支撑从 GitHub 仓库创建 AI 模型(需符合特定配置),为开发者提供更多灵活选择。
在 AI 领域,贾扬清是全球最受关注的科学家之一,他博士毕业于加州大学伯克利分校,主要研究方向为人工智能硬件和App堆栈的设计和演进。在伯克利读博期间,他开发了深度学习框架 Caffe,以优异的结构、性能和代码质量成为机器学习领域最受欢迎、最成功的开源 AI 框架之一,对机器学习领域发展起到了极大的推动作用。