关超宇：让AI触达世界每个角落

　　清昴智能，是一家AI模型部署优化技术提供商，致力于研发硬件感知的自动化模型部署优化平台，解决AIGC、自动驾驶、AIoT等领域复杂AI模型的落地难和硬件资源利用率低等核心痛点问题。基于该创业团队自研的硬件感知自动机器学习算法，可为客户自动寻找最适合硬件的模型架构，从而让AI模型在各类设备上高效运行。

　　模型部署优化是我们实验室的长期研究项目”，关超宇回忆说。在清华大学读研究生时，他所在的实验室专注于边缘计算和模型优化方向。2022年毕业前夕，他进行了数月的市场走访和调研，还与导师和同学深入交流了创业的想法。

　　同年年底，基于在实验室研发的一个相对成熟的项目，他开始全身心投入到模型部署优化的创业之路上。在他看来，这项技术成果转化后，将为大模型推理实现“加速”，为大模型在设备上的高效运行提供解决方案。

　　在AI领域，深度学习分为训练、推理和验证三个关键领域。训练是深度学习模型的初始阶段，通过学习数据的过程逐步优化自己的参数，实现捕捉输入数据特征并执行特定任务的能力。推理则是训练的下一个阶段，此时模型接收新的、未见过的数据样本，并根据已学的特征和模式，生成预测结果。图像分类、语音识别、自然语言处理等任务是相对常见的应用场景。验证则是在训练期间使用验证集评估模型性能，以监控和改进模型的泛化能力。

　　清昴智能专注的是模型推理这一阶段。关超宇表示，“我们的理念是，让机器自己去做优化”。

　　与人为优化操作相比，机器优化有两个特点，其一是效率显著提高。同一个优化项目，人为需要几十个人花费几个月，而交给机器只需要几个人用一个月就能“搞定”了。其二是自动学习。机器比人为具有更强的泛化能力和更佳的新场景适应力。尤其对国内不断更新和补充各种硬件的需求而言，机器的适配效率更高、成本更低。

　　“与GPU服务器行业属性相仿，我们做的是模型部署中间层的事情，是一种与行业结合度很高的通用技术。”关超宇介绍说。

　　他举例说，运行GPU可能遇到高延迟、高并发或高能耗等问题，需要联合设备给予优化。同理，AI模型部署优化，解决的是大模型在设备上良好运行的问题。

　　ChatGPT横空出世后，大模型迎来爆发期，更为复杂且多量的参数，令运行复杂系统的资源耗费量和难度越来越高，同时也为模型部署优化行业带来了新的机遇。

　　关超宇团队曾对行业作出了基本的预估。预计到2027年，国内的模型部署优化的市场，将达到2023年整个中国算力需求量的两个数量级。届时将需要亿级的算力规格来支撑国内人工智能的发展，而这其中的80%算力会用在推理阶段。

　　大模型的部署优化需要更好的算力体系和大量高端显卡的参与。目前，我国芯片发展呈现百花齐放的状态，相应的算力种类较多，导致国内优化市场相对复杂。此外，异构环境下的多芯片优化问题，也存在一定的技术挑战。这些情况给细分领域的创业留下了一些机会。理清了行业的发展走向，关超宇团队着手将实验室的成果向技术落地转化。

　　关超宇介绍了几个客户应用的例子。其一是AI医疗领域，针对体检场景通过虚拟人进行导引、分析及咨询辅导的企业。他们需要一款完全离线的模型，适应其数据保密、实时响应等要求。

　　针对客户需求，清昴智能为其提供了可离线运行大模型的硬件选项，实现了该公司对模型产品离线运行的核心优化需求。

　　其二是针对法律行业的模型部署优化。这家企业同样遇到模型私有化的问题，法律相关数据不能向云端部署，需要软硬件一体的解决方案。清昴智能不仅为其找到了适配的高性能服务器，还辅助其优化软件，将大模型部署到了服务器上。

　　关超宇表示，目前清昴智能主要提供两种产品形态，一是软硬件一体的解决方案，即通过服务器接入其他硬件设备，另一种是提供算力运营管理产品。

　　他说，算力运营管理主要针对算力中心的大量GPU服务器的调度纳管和模型运营解决问题。由于算力中心需求的高度专业性，清昴智能提供了一套类似于管理软件的产品。其中包括最基本的算力调度、算力纳管、模型的一体化训练推理优化等，为算力中心的云平台打造和运营提供一整套的产品。

　　关超宇坦言，现阶段的模型部署优化技术还是发展的初期，他们一直与清华大学媒体网络实验室保持长期合作，正在对大模型场景下的模型优化和压缩做更深入的研究。该实验室已发表的论文、专利数量及所获相关奖项，均在行业内具有一定的领先优势。

　　提到创业过程中最难忘的经历，关超宇的记忆回到了创业最初的那半年。团队按照预想打造了一款产品，本以为会得到客户的认可，不想面对客户时，却遭遇客户需求与市场不匹配问题。

　　那次“闭门造车”的经历也让关超宇意识到，与客户沟通交流才是确定产品方向的不二之选。

　　参加中关村U30时，他聆听了前辈对公司管理倾囊相授的经验，也感受到来自各方面的关怀和支持。“从‘技术大脑’总想着如何实现，转为‘管理大脑’常常想怎样解决，创业的这一年多，我判断问题和思考问题的方式都在改变”，关超宇直言，自己越来越认可“选择比努力更重要”。尤其是创业公司，方向的抉择，意味着是否能够把公司这条船平稳长远地行驶下去。

　　“让AI触达世界每个角落是我们的愿景。”关超宇表示，希望有更多志同道合的人加入到团队中，同时让更多的人了解清昴智能，结成更多的合作。