专注于边缘智能芯片
文字| 《中国企业家》 记者涛涛
编辑李伟
图片来源|受访者邱晓欣每天五六点起床,开始处理工作信息,多线程工作,直到晚上11点睡觉。 56岁的她创业五年后仍保持旺盛的精力。员工评价她“精力充沛,情绪非常稳定”。邱晓欣是爱芯远志半导体有限公司(以下简称“爱芯远志”)的掌舵人,也是中国半导体圈少有的女性。 20世纪90年代,邱晓欣从清华大学硕士毕业后赴美留学。他获得南加州大学博士学位,曾担任博通副总裁、紫光展锐首席技术官。 2019年,从大公司辞职后,邱晓欣面临着一道选择题——:她应该重新进入大公司还是自己创业?当时,芯片行业刚刚经历了从高峰到低谷的过程,AI企业也进入了应用瓶颈期。然而,积累了20多年行业经验的邱小新判断,中国巨大的市场潜力和对新技术的拥抱将导致人工智能在应用层面的后续爆发。天时、地利、人和,邱晓欣果断决定创业。在庞大的AI赛道中,爱芯远智寻找端侧、边缘侧芯片作为立足点。 “过去十几年,大部分AI处理都发生在云端。现在,随着AI和芯片技术的发展,云、边、端的结合构成了人工智能的新基础设施。AI云数据中心市场对算力影响巨大,客户和市场相对集中,对初创公司有一定门槛;相比之下,边缘端芯片客户集中度较低。而AI的应用场景同样广阔。”对于边缘端侧的进入,邱小新解释道。在端到端市场,爱信远志在成立之初就制定了聚焦视觉领域的战略。在邱小新看来,整个行业如果需要AI赋能,除了算力之外,还需要数据。 AI收集的数据80%以上是通过视觉,而这个垂直赛道最有应用前景。如今,爱信远智的两大技术护城河——爱信通远(NPU,嵌入式网络神经处理器)和爱信智墨(AI-ISP)正好契合边缘计算应用,采用视觉处理,与公司当初的战略目标一致。
与大多数半导体芯片公司专注于手机、智能驾驶或智慧城市市场之一不同,爱芯远智在后两个场景中选择了两轮驱动。 “边缘侧市场相对分散,不像云市场那么集中,需要提取市场的共性,一套技术可以覆盖多种场景,可以有效降低边际成本。”邱小欣解释道。回顾拓展市场的过程,邱小新感叹当时的艰辛:“评估第一个芯片时,弥补缺点是一个痛苦的过程,就像飞行时更换发动机一样。”第二颗芯片从量产到拿下客户订单,爱芯远志经历了一场技术提升的恶战。经过5年的努力,爱信远志的道路现在已经顺利很多。邱晓欣表示,第二个五年,爱信远志将继续提高市场份额,力争实现盈利。该公司的最终目标是成为中国领先的芯片设计公司,并使产品达到世界一流水平。
提炼市场共性船舶起航,必须锚定目标。端到端市场的快速发展,为爱信远志选择进入端侧和边缘侧提供了市场可能性。据QYResearch研究团队最新报告显示,预计2024年全球边缘AI芯片市场规模将达到23.16亿美元,2030年全球边缘AI芯片市场规模将达到81.3亿美元,年复合增长率为16.5%。 % 未来几年。云计算通常是指通过互联网和数据中心为终端设备提供集中的计算和存储资源。边缘端侧计算更关注距离数据源较近的一侧,就近提供服务。前者适合大规模集中式数据处理和分析,后者适合信息的本地实时处理,具有低延迟、保证隐私和安全的特点。 “在智能驾驶场景中,边缘计算有很大的优势,比如需要踩刹车,你不能等到信息传到云端,等待反馈,系统才发出指令。”邱晓欣举了一个例子。在AIoT场景中,边缘计算可以帮助机器人的视觉系统进行环境建模、路径规划和动作执行。 “例如,如果我要求机器人拿一瓶水,我需要它快速理解并执行命令。它必须在边缘和末端实现闭环。”邱小欣说道。目前,国产汽车SoC(片上系统)竞争已进入白热化阶段,地平线、黑芝麻等主攻汽车领域;在智慧城市和AIoT领域,瑞芯微、星辰科技等玩家正在争夺另一块蛋糕。同样涉足端侧和边缘侧市场的爱信远智选择了智慧城市和智能驾驶双管齐下,致力于未来拓展更广阔的机器人市场。 “之所以采取两轮驱动策略,正是因为边缘侧和端侧市场本身就比较分散,每个赛道很难独立支撑一家大规模的芯片公司。”邱小欣说道。 ABI Research最新调查报告显示,预计2024年全球云端AI芯片市场规模将达到100亿美元,而边缘AI芯片市场规模还不到四分之一。同时进入多个细分赛道的决定,也来自于多年海外工作给邱小新带来的经验:“成熟的芯片公司会把自己打造成平台公司,将共享的底层技术和IP应用到不同的领域。”侧应用就像“大象在盒子里跳舞”,无论什么场景,本质都是一样的,爱芯远智的IP、芯片平台、AI计算都可以应用在不同的场景。 “我们要做的就是用一套技术来满足市场的共同需求,提高投入产出比。多细分赛道也能提高公司的抗风险能力。”邱小新补充道。
远见带来的机会锚定目标后,对于舵手邱小新来说,精准发力就变得至关重要。芯片领域从立项到投产的周期约为一年半,客户引进周期在九个月到一年之间,总计两年到两年半。生产周期长给产品定位带来更高的风险。
因此,该公司对行业发展和产品定义的前瞻性方法至关重要。 “在产品定义和设计中,整个产品结构或市场会发生什么变化,客户需求会如何变化,都需要纳入设计之中。”邱小欣说道。对行业趋势的预测很大程度上决定了产品的成败。启明创投管理合伙人周志峰告诉《中国企业家》:“2020年投资爱芯远智时,我主要看中的是他们独特的——位国际级芯片技术领袖和顶尖AI算法专家团队。这种组合该团队有潜力在场景丰富、对初创公司友好的AI端芯片市场实现真正的颠覆。”邱小新团队在早期定义产品时认为,对于AI来说最重要的是。整个行业就是算力和数据。海量数据中,视觉数据占比高达80%。因此,爱芯远智将芯片技术重点放在视觉上。 “这和我们研发团队之前的积累是一致的。”她说。 2020年,爱芯远智推出的第一代芯片产品嵌入AI-ISP技术。 AI-ISP采用像素级AI处理技术,全面提升各种复杂应用场景下的成像效果,为后期智能处理提供高质量的图像和视频素材,例如让场景在黑暗中看起来像白天一样。此外,爱信元智的另一核心技术爱信通元混合精度NPU采用多线程异构多核设计,高效支持混合精度算法设计,并支持Transformer网络结构,提供边缘大模型。端侧和端侧应用提供了良好的基础。当时,在GPU(图形处理单元)和NPU这两种常用技术中,爱芯远智经过权衡后选择了NPU,因为NPU在边缘侧和端侧计算方面具有相对优势。 “GPU架构更加灵活,更适合云端芯片。但是在端侧过于灵活,所以成本和功耗都非常高。NPU就像一个更原生的AI处理器,直接把AI当作一种计算方法,以最经济合理的方式实现这些计算方法,有点像CPU处理加减乘除。”邱小新解释道。爱芯远智第三代NPU芯片——AX650N成为国内首个可支持大型模型落地的边缘侧芯片平台。 “ChatGPT系列出来后,大型型号开始被人们所熟知。但我们在2021年底和2022年初设计芯片时,考虑到了Transformer的支持,所以我们抓住了机会。”邱小欣说道。
飞行中更换发动机对于一家初创公司来说,新技术的推出、满足客户的基本需求、得到市场的广泛认可之间存在着巨大的差距。尽管爱芯远志锚定了合理的目标,做出了精准的努力,但邱小新仍然记得第一颗芯片从流片到交付所经历的艰辛挑战。 2020年7月,爱芯远智自主研发的首款AI芯片——AX630A诞生。当时,爱芯远志信心十足,但客户收到芯片后,各种问题不断出现。 “产品的长板非常突出,但短板也非常明显,我们靠着团队一点一点地弥补短板,做到桶不漏。”邱小欣回忆道。 2020年10月至2021年6月的八个月里,爱信远志的客户经理带领十几人的团队每天驻扎客户身边,不断解决问题。 “每天晚上10点到12点,客户经理会带领大家开日常会议,讨论一个又一个问题,一一去解决。如果客户觉得工具链不好用,我们必须重构它,有点像飞机,意味着在飞行时改变发动机。”邱小新补充道。自2020年第一颗芯片量产以来,爱芯远志已完成四代多芯片的研发和量产。 “我们之所以每年推出一代芯片,是因为我们需要快速完善产品矩阵,快速优化产品性能。”邱小欣说道。在爱芯远智第二代芯片产品流片过程中,爱芯智模AI-ISP进一步优化,性能显着提升。 AI-ISP可以在黑暗环境中非常清晰地捕捉到周围的事物,包括黑暗中的路口、山脉、池塘,以及人们行走和跑步的影子。爱信远志花了近三年的时间将这项技术推向市场。在解决了第一代芯片的基本问题之后,爱芯远志在第二代芯片上重点关注了性价比。 “比如,新功能厂商可以接受多少额外成本?很多厂商都表示可以合作,但根据效果要求成本几乎不增加。”邱小欣说道。因此,爱芯远智不断打磨自己的技术和产品,不断提升芯片中NPU的技术性能。针对厂商的需求,爱芯远智的NPU技术通过减少数据处理,在一定程度上降低了内存墙和功耗墙的障碍,从而在边缘面积和功耗有限的情况下实现更高的效率。有效的算力支持更多智能算法。在厂商低价需求的推动下,爱芯远智搭载AI-ISP和NPU的芯片产品已被市场广泛接受。虽然爱芯远志仍处于研发和市场拓展阶段,但经过五年的打磨,爱芯远志的产品目前在智慧城市和AIoT市场占有率位居前列,跻身国内汽车智能驾驶SoC供应商前列。在商家中,出货量跃升至第二位。未来五年,爱信远志将把重心转向商业化,寻求更高的市场份额和企业利润。在邱小新看来,中国目前的芯片设计企业还没有形成垄断格局,每个企业都有机会。爱心远志在牌桌上,邱小心对自己的陪伴非常有信心。