阿里云前高层创办的Lepton AI，被英伟达看中了！

据美国多家媒体报道，全球半导体巨头英伟达即将以数亿美元的估值收购人工智能初创企业Lepton AI。值得关注的是，Lepton AI是由阿里云前副总裁贾扬清创立。该公司的多家投资机构也得以顺利退出。

Lepton AI

Lepton AI做什么？

Lepton AI成立于2023年，创始人为贾扬清和Junjie Bai，目前拥有大约20名员工，其客户中包括多家风险投资支持的初创公司。

据公司介绍，该公司创立的平台主要针对AI工作负载进行了优化，客户既可以使用它来训练AI模型，也可以执行推理，即在训练后在生产环境中运行神经网络的任务。

此外，Lepton AI提供了一个可视化界面，用于在其云中设置训练集群。该公司提供多种英伟达显卡供用户选择。而对于并排训练多个模型的团队，该平台提供了一个工具，可用于集中管理分配给每个项目的硬件数量。

在训练期间，AI模型有时会遇到错误，从而降低其输出质量。Lepton AI的平台提供了检测此类错误的功能。它还发现了更微妙的技术问题，例如神经网络在训练期间使用的内存可能超过应有的内存。

模型开发完成后，Lepton AI 客户可以将其部署在公司云中的推理优化实例上。该平台承诺提供每秒超过600个令牌的处理速度，同时将延迟保持在10毫秒以下。当需求增加时，自动扩展功能会自动向客户的推理环境添加更多硬件资源。

此外，Lepton AI还使用vLLM等开源工具加快推理速度。该技术将类似的LLM提示合并到单个请求中，从而减少了模型必须执行的处理量。开发人员还使用vLLM来减少模型的内存占用。

分析认为，英伟达作为目前全球AI芯片的主要提供商，同时也面临其最大客户——云服务提供商的竞争压力，如亚马逊和谷歌正试图开发和低价租赁替代芯片来削弱英伟达的市场地位。英伟达正寻求多元化发展，通过收购小型AI初创公司来推动其云和软件业务的快速发展，使得使用英伟达芯片构建新的AI模型成为可能。

英伟达此次收购Lepton AI，无疑是对其自身技术生态的一次有力补充。通过吸纳Lepton AI在AI应用平台方面的专长，英伟达将能够更好地满足市场对高效、灵活AI解决方案的迫切需求。同时，这也将为英伟达芯片在AI领域的广泛应用开辟新的道路。

而对于Lepton AI而言，加入英伟达大家庭意味着其将获得更多的资源和支持，从而加速技术创新和市场拓展的步伐。可以预见，在英伟达的强大助力下，Lepton AI的技术成果有望更快地转化为实际应用，为全球企业带来更加智能、高效的AI解决方案。

值得关注的是，在传出收购Lepton AI消息的同时，英伟达还将收购另外一家人工智能初创企业Gretel。Gretel提供了用于创建合成数据的工具，这些合成数据是自动生成的，可用于训练AI模型。据报道，这笔交易的价值超过3.2亿美元。

创始人贾扬清

公开资料显示，贾扬清是全球AI架构领域最知名的技术人才之一。2002年考入清华大学自动化系，先后获得学士和硕士学位，后在美国加州大学伯克利分校获得计算机科学博士学位。

2013年贾扬清博士毕业后加入谷歌。2016年2月，贾扬清从谷歌离职进入Facebook，在时任Facebook人工智能实验室负责人Yann Le Cun手下担任研究科学家。而在这个重要的人工智能实验室里，贾扬清打造的深度学习框架Caffe，成为了Facebook重点部署的框架之一。2019年3月，阿里巴巴达摩院宣布，原Facebook人工智能科学家贾扬清已正式加入阿里巴巴，担任技术副总裁岗位，领导大数据计算平台的研发工作。

2023年，贾扬清离职创立了Lepton AI，该公司另外一位创始人Junjie Bai同样在Meta工作过。

2023年5月，公司宣布完成天使轮融资，红杉中国、Fusion Fund和CRV成为其天使轮投资者。英伟达此番收购的交易价值可能达数亿美元，完成后，三家机构也将实现比较可观的退出。

校对：杨舒欣