江西国税：提出便民办税“硬指标”

正文 干掉硅中介层？ 无论是哪种技术，都各有优劣，也永远面对新的瓶颈和挑战，需要根据实际需求来进行设计和选择。但万变不离其宗，持续提升性能、降低成本，无疑是行业发展永久的“必杀技”。 近年来，在AI高算力需求推动下，HBM正在大放异彩。尤其是进入2023年后，以ChatGPT为代表的生成式AI市场的疯狂扩张，在让AI服务器需求迅速增加的同时，也带动了HBM高阶存储产品的销售上扬。TrendForce数据显示，2023年全球搭载HBM总容量将达2.9亿GB，同比增长近60%，预计2024年还将再增长30%。SK海力士预测，HBM市场到2027年将出现82%的复合年增长率。在此发展势头下，作为AI芯片的主流解决方案，HBM受到了存储巨头的高度重视。自2014年SK海力士首次成功研发HBM以来，三星、美光等存储巨头也纷纷入局，展开了HBM的升级竞赛，目前HBM已从*代HBM升级至第四代HBM3，产品带宽和最高数据传输速率记录被不断刷新。下一代HBM3E超带宽解决方案也已在样品测试阶段，HBM4也被提上议程。HBM发展历程借助AI东风，HBM需求水涨船高，三大原厂纷纷推动HBM新代际产品开发与产线扩张。与此同时，台积电也宣布将CoWoS产能扩大两倍，以期更好地支撑水涨船高的HBM需求。近日，英伟达H200的推出有望再次掀起HBM布局浪潮，未来在AI大模型日趋复杂化的趋势下，随着存储巨头的持续发力，产业链上下游企业也将紧密部署，HBM的影响力将逐步扩大并带来全新机遇。本文，将围绕HBM发展过程中的一个细分环节——硅中介层（Si-Interposer），来详述其价值、瓶颈以及未来的技术走向。01 硅中介层，挑战重重谈到硅中介层，我们需要先来了解一下HBM的结构。与传统DDR存储器不同，HBM使用硅通孔技术（TSV）和微凸块（ubump）垂直堆叠多个DRAM芯片，并通过封装基板内的硅中介层与GPU、CPU或ASIC直接相连，从而具备高带宽、高容量、低延时与低功耗等优势，相同功耗下其带宽是DDR5的三倍以上。因此，HBM突破了内存瓶颈，成为当前AI GPU存储单元的理想方案和关键部件。HBM架构示意图HBM是一种标准化的堆栈储存技术，可为堆栈内部，以及内存与逻辑组件之间的数据提供高带宽信道。HBM封装将内存裸晶堆栈起来，并透过TSV将它们连接在一起，从而创建更多的I/O和带宽。从上图可以看到，这个硅中介层可以理解为一块精密的电路芯片，里面布置了密集的电信号传输通道，用于帮助芯片、封装基板进行电性能互连，实现芯片与芯片，芯片与封装基板之间的信息交换，可以用于提高芯片的性能和带宽，以及使芯片更加紧凑，从而减少了信号传输的延迟和功耗。总体来看，硅中介层是一种经过验证的技术，具有较高的细间距I/O密度和TSV形成能力，在2.5D IC芯片封装中扮演着关键角色。硅中介层有两种技术路线，代表分别是台积电的CoWoS和英特尔的EMIB。台积电CoWoS-S通过硅中介层承载处理器和HBM，处理器和若干HBM的投影面积决定了硅中介层的大小，而中介层的面积受限于光刻掩膜尺寸，会限制HBM的使用数量。这就成为了早期HBM应用的瓶颈——需要HBM的往往是高性能的大芯片，而大芯片的规模本身就已经逼近了掩膜尺寸极限，给HBM留下的面积非常有限。对此，台积电相继攻克了多重困难突破了中介层尺寸的限制，单芯片内部逐渐可封装4颗、6颗，甚至12颗HBM。硅中介层的面积如此发展，在解决尺寸限制的同时，也带来了新的挑战，即成本越来越高。以8GB HBM2为例，其成本约175美元，其中硅中介层成本约25美元，而同时期的8GB GDDR5仅需52美元，在没有考虑封测的情况下，HBM成本已经是GDDR的三倍左右。尤其是随着HBM的演进，中介层面积越来越大，要包含所有的Die，大大增加成本。此外，中介层是有半导体工艺制作，成本不低，且很难做很大面积。为了降低中介层的成本和尺寸，英特尔发明了EMIB，将die-die的互连用“硅桥（Si Bridge）”实现，且硅桥嵌入在基板内部，die-substarte的连接通过传统方法实现。这种做法可以大大降低硅中介层的面积，减少成本，减轻多die封装的限制。英特尔EMIB架构图值得注意的是，EMIB通过非常小的凸点间距提供高互连密度，从而允许芯片之间具有更高的带宽，并且由于走线长度较短，因此比使用有机基板具有更低的功耗。它类似于微型硅中介层，仅覆盖小芯片之间需要连接的区域。但是，尽管EMIB充分利用了硅中介层和有机载板的技术特点和电气特性，但也存在组装成本高的缺点，因为需要在有机载板中镶嵌，增加了工艺复杂度，限制了载板的选择。因此，为了进一步降低成本，行业厂商开始研究弃用硅中介层的技术和方法。SK海力士：直接在处理器上堆叠HBM4据报道，SK海力士开始招聘CPU和GPU等逻辑半导体设计人员，希望直接在处理器上堆叠HBM4，这不仅将改变逻辑芯片和内存的典型互连方式，还将改变其制造方式。目前，HBM堆栈集成了8个、12个或16个存储器件，以及一个像集线器一样的逻辑层。HBM堆栈被放置在CPU或GPU旁的中间件上，并通过1024位接口与处理器相连。SK海力士的目标是将HBM4堆栈直接放在处理器上，完全省去中介层。据悉，SK海力士正在与包括Nvidia 在内的几家公司讨论其HBM4集成设计方法。SK海力士和Nvidia很有可能从一开始就联合设计芯片，并在台积电生产，台积电还将使用晶圆键合技术把SK海力士的HBM4安装到逻辑芯片上。为了使内存和逻辑半导体在同一芯片上作为一个整体工作，联合设计是不可避免的。台积电目前也有像SoIC等更高级的3D封装工艺，确实可以将更好的将显存堆叠到芯片之上，就像AMD的3D V-Cache处理器就是用到了这种工艺，不过该处理器*的问题就是发热，还有良率以及成本等因素，目前还不太适用于HBM显存。据业内人士表示，直接连接存储器和逻辑芯片在经济上是可行的。不过，虽然将HBM4堆栈直接放在逻辑芯片上可以在一定程度上简化芯片设计并降低成本，但这也带来了另一个挑战——散热。散热本身就是HBM长期存在的挑战之一，HBM的2.5D封装结构会集聚热量，而靠近CPU和GPU的布局又会进一步增加热量。以Nvidia的H100处理器为例，其消耗数百瓦的功率，并耗散数百瓦的热能，且HBM内存也相当耗电。目前来看，如果发热问题能够得到解决，HBM的“游戏规则”可能会发生变化，存储器和逻辑半导体之间的连接可能会变得像一体机一样运行，而无需中间件。三星：将HBM存储与芯片封装解耦三星方面也认为，随着封装变得越来越大，带来了装配和可靠性等多方面的挑战。为此，三星通过提供一个在logic die上堆叠DRAM die的方法，将功耗效率提升了40%，并将延迟降低了10%。在另一种方案中，三星将Cash DRAM堆叠在logic die上，使得功耗效率提升了60%，延迟则降低了50%。在三星看来，这是一个更好的、面向未来解决方案。展望未来，三星方面进一步指出，光互连将发挥重要作用。在使用光学I/O后，将获得非常高的带宽密度；与此同时，这种解决方案还能带来非常低的功耗。在三星看来，光学I/O将逻辑封装和存储封装连接到一起。同时，该技术还能将HBM存储与芯片封装完全解耦，将HBM模组从芯片本体分离出来，并通过光学技术与逻辑处理单元相连。这样就不必处理中介层带来的芯片封装复杂性，且这种方法简化了HBM和逻辑单元的芯片制造与封装成本，并且避免了复杂的数字到光学信号内部转换。随着全球存储巨头的深度介入，上述挑战或将得到解决，HBM市场的激战也会愈演愈烈。除了存储原厂之外，台积电等厂商也正在通过研发不同类型的中介层，或是采用不同的材料来实现成本节降。以台积电为例，台积电正在不断尝试降低下一代HBM的成本，宣布拥有多种不同类型的中介层：除了硅中介层外，还有RDL中介层，以及其他试图摆脱中介层的技术探索。比如CoWoS-R、CoWoS-L等，前者将硅中介层换做有机RDL，能够降低成本，不过劣势是牺牲了I/O密度；后者是台积电专门针对AI训练芯片设计的，结合了台积电CoWoS-S和信息技术的优点，预计晚些时候才能应用。图源：TSMC官网此外，集成扇出封装技术（INFO）也正在考虑集成HBM，作为硅中介层的经济替代方案等等...。Cadence IP团队产品营销总监Marc Greenberg表示，如果行业能够聚集在一起并决定一个适用于标准封装的内存标准，那么就有可能提供与HBM类似的带宽，且成本要低得多?？杉?，弃用硅中介层或进一步降低成本正在成为HBM未来新的技术创新路线。成本因素之外，HBM干掉硅中介层还可以减小传输路径、提升传输速率，体积也会更加小。02 Chiplet也要干掉中介层在HBM弃用硅中介层的迹象之外，Chiplet也正在进行此方面的探索（其实某种程度上，HBM就是Chiplet的一种类型）。迄今为止，业界*的Chiplet互连需要先进封装和昂贵的硅中介层。而Eliyan公司验证了他们在高性能Chiplet互连方面的突破。笔者在此前文章中对此有过详细介绍。Eliyan凭借其Nulink技术，可以为die-to-die互联在各种封装衬底上提供功耗、性能和成本的优势方案。因为这种PHY接口可以让不同的裸片直接在有机衬底上实现高速互联，而不必采用CoWoS、EMIB或硅中介层等昂贵的先进封装方式，在降低成本的同时加速产品制造周期。从上图可看到，左边是当今常见的使用硅中介层的Chiplet互连方法；右边是Eliyan的NuLink技术，可以以*的带宽实现小芯片互连，而无需硅中介层?？杉?，NuLink通过简化系统设计降低了系统成本。更重要的是，Eliyan可以增加芯片之间的距离，对于生成式AI，NuLink为每个ASIC提供更多的HBM内存，从而提高了配备HBM的GPU和ASIC的内存密集型应用程序的性能。采用硅中介层的传统Chiplet解决方案与采用有机基板的Eliyan NulinkEliyan还展示了其NuLink PHY的*个工作芯片，该芯片采用5nm标准制造工艺实现，可以让Chiplet与不同工艺的裸片实现混搭，不需要硅中介层等先进封装技术。NuGear消除了对大型硅中介层的需求Eliyan指出：“如今业内的一大需求是能够获得足够大的中介层，这样就可以构建越来越大的GPU或TPU，并带有大内存。”这还是在抛开成本因素的考量下，而Nulink有机基板的尺寸可以达到硅中介层的三四倍，同时提供相同或更好的功率效率和带宽。这导致成本更低、制造速度更快，每个封装的计算能力更强。与此同时，NuLink还为HBM DRAM提供*的散热性能，消除了HBM-ASIC之间的热串扰，允许ASIC时钟速度提高20%，以及更简单/低成本的冷却。测试和产量是另一个优势。传统硅中介层需要使用微凸块将小芯片连接到中介层引线，微凸块限制了对晶圆进行全面测试的能力，使良率面临风险。对此，Nulink对有机基板的使用通过允许使用具有标准尺寸凸块的小芯片来缓解这个问题，这可以更有效地进行测试。因此，可以将芯片良率从60%提高到90%左右。总结来看， Eliyan消除了对先进封装的需求，例如Chiplet设计中的硅中介层尺寸有限、成品率低、成本高、难以冷却、供应链有限、测试等所有相关限制和复杂性。NuLink技术能够实现DRAM扩展、节约材料成本、提高产量并缩短芯片上市时间等优势。Eliyan认为，其Chiplet互连产品可以超越英特尔和台积电等芯片巨头的先进封装技术，或者有望成为英特尔、台积电的*选择，从而实现下一波高性能芯片架构。NVIDIA、Intel、AMD和Google等公司可以授权NuLink IP，或从Eliyan购买NuGear小芯片，以消除硅中介层尺寸限制带来的性能瓶颈，使他们能够实现更高性能的AI和HPC SoC。但任何技术都有两面性，并非提供完全的优势。例如，Eliyan新技术可以把Chiplet从2.5D的封装要求切换到2D上，但必然需要增大线速来换取更低的线密度需求。但速率的增加对于PHY的设计会引入显著的额外延时和能耗。03 写在最后总的来说，无论是HBM、Chiplet异构集成，还是裸片堆叠，这些先进封装技术正逐步解决传统芯片缩放遇到的难题，同时也为未来的芯片设计提供了更多的灵活性和高效性。同时随着互连技术的演进，预计将进一步促进HBM或Chilet封装技术的进步，为行业带来更低功耗、更高性能以及更低成本的解决方案。无论是哪种技术，都各有优劣，也永远面对新的瓶颈和挑战，需要根据实际需求来进行设计和选择。但万变不离其宗，持续提升性能、降低成本，无疑是行业发展*的“必杀技”。 谁抢走了传统零食店的生意？

正文 3个MIT物理学家创业，超50亿融资之王，要IPO了 如今行至上市前夕，这家“不差钱”的国内新药AI领域的龙头如今的当务之急，便是守住估值，力图更进一步。 2023年11月30日，晶泰科技递交招股书，计划借助18C特专科技新规在港上市。成立至今八年时间，晶泰科技一路收获了腾讯、真格、红杉等*投资机构投出的7.32亿美元资金，是全球AI新药研发领域当之无愧的“融资王”。十大人工智能药物发现公司的融资总额及技术能力（数据来源：晶泰科技招股书）2021年7月，晶泰科技最后一轮融资总计3.8亿美元，投后估值达到19.68亿美元。如今行至上市前夕，这家“不差钱”的国内新药AI领域的龙头如今的当务之急，便是守住估值，力图更进一步。6年时间，30人的小团队成了千人规模的AI制药巨头与如今AI新药动辄上亿的种子轮融资不同，晶泰科技的创业时新药AI方兴未艾，三位麻省理工的物理学家在中 美两地辗转，也仅获得了腾讯2400万元的A轮融资。转机出现在2016年底。当时的辉瑞举办了一场晶型预测盲测，涉及三款内部药，没给任何外部数据，在邀请了全球范围内的晶型结构预测的机构和团队分别做实验评估，再与实验室已经合成的稳定晶型做对比。晶泰科技有幸成为了这场全球竞赛的参赛选手之一。那时公司上下一共三十余人，为了完成这场测试，他们调动了几乎所有的资源，耗时一个多月时间，才完成了三款药物的晶型预测分析。与众多励志小说中的桥段相似，晶泰科技在这场比赛中一鸣惊人，以100%的预测成功率力压众多*机构，且较于实验室合成，他们的算法大幅缩短了预测耗费的时间，甚至还帮助优化了分子结构。辉瑞对于晶泰科技的预测结果同样非常满意。2017年初，晶泰科技开启了与辉瑞的首次合作，为其提供药物晶型预测服务，成为国内首家与世界*药企达成合作的新药AI公司。2018年4月，辉瑞直接与晶泰科技签订了长达十年的战略性合作研究许可协议，借助混合物流及人工智能驱动技术加速药物研发。有了辉瑞的背书，晶泰科技终于得以在资本市场之中大展拳脚。6年时间内，这家公司总计融资8次，多次刷新了国内医疗人工智能领域的单轮融资金额纪录。晶泰科技融资历程（数据来源：动脉橙数据库）将量子物理与人工智能融合时至今日，晶泰科技早已不再是那家做预测都需要拼尽全力的创业公司。融资后的MIT创业团队将AI制药与拿手的物理进一步融合，开创了融合量子物理、人工智能和机器人技术的创新研发平台。据晶泰科技表示：不同于常见的人工智能方法（其需要充足的实验数据训练人工智能模型），他们的AI技术可基于量子物理的*性原理计算自行生成可扩展的数据，不仅克服了基于人工智能的药物研发早期阶段数据匮乏的问题，还能显著提高预测的准确性，为化学及生物对象及其相互作用提供更相关的模型。此外，基于量子物理的计算能够在并无任何训练集的情况下，计算出超越现有的行业知识及数据的分子特征，从而显著改善早期药物发现。相关算法亦可指导生成式人工智能以更快、更准确的方式高效地大规模发现创新候选药物。人工智能预测与量子物流预测的区别（数据来源：晶泰科技招股书）面对新兴的大语言模型，晶泰科技同样迅速展开研发。招股书资料显示，噬菌体展示平台XpeedPlay能够利用LLM超高速生成苗头抗体。在研究VHH抗体（一种存在于骆驼血清中的天然轻链缺失抗体，用于治疗癌症，自然界不存在）结构时，该平台通过同时优化多种药物特性，帮助晶泰科技一举获得了1000亿个最有前景的新VHH抗体序列。同时，人工智能生成序列的平均表达量为59.6 mg/L，大幅超过阳性对照组37.1 mg/L的平均表达量。随机选取了26个序列进行测试，研究人员发现25个序列能在体外重组中成功表达，表达成功率高达96.1%，远高于行业平均水平。凭借上述底层技术，晶泰科技融合医药企业与医械企业的服务模式建起三大业务，分别为药物发现解决方案、固态研发服务、自动化研发实验室，打造三位一体的研发平台，自研药物或为客户提供多元CRO服务。其中，晶泰科技的药物发现解决方案涉及提供靶标验证、苗头化合物识别、先导化合物生成、先导化合物优化至临床前候选药物推荐，涵盖小分子、抗体、多肽、ADC及PROTAC等多类型药物。目前，晶泰科技已借自研或合作研发的方式建起10条管线，XBD-101、XBB-202、XBD-207已通过IND，即将步入临床试验环节。晶泰科技管线（数据来源：晶泰科技官网）固态研发服务及自动化化学合成服务则是服务制药及材料科学行业及其他行业的客户，提供标准或定制的自动化解决方案，这是晶泰科技目前最为稳定的营收来源。多方位押注下，晶泰科技的员工数量与合作用户数量骤增。据招股书数据显示，晶泰科技现有员工989人，服务过的客户超过200家。在具体服务中，晶泰科技往往以一个3-5人的团队为单位，使用自有的AI技术平台配合客户项目研发，并从中获取收入。这些客户之中不乏MNC中的佼佼者。2022年收入排名前20位的全球生物技术与制药公司中，有16家正在或者曾经与晶泰科技开展合作。于2020年、2021年及2022年以及截至2023年6月30日止六个月，晶泰科技的客户留存率分别约为53.8%、67.5%、51.4%及51.4%，远高于行业平均水平。单年营收过亿，晶泰挤入全球头部AI制药梯队尽管多项指标都在行业之上，但晶泰科技距离盈利仍有相当长的距离。招股书数据显示，晶泰科技2020年、2021年和2022年、2023年1-6月的营收分别为3563.6万元，6279.9万元、13335.3万元、7996.7万元，呈逐年上升趋势。但减去众多支出项，同期经营亏损分别为12632.1万元、29943.2万元、52531.4万元、24695.7万元，与营收同向增长。晶泰科技综合损益表（数据来源：晶泰科技招股书）具体到解决方案，药物发现解决方案报告期内的营收分别为1266.6万元、3934.6万元、8766.6万元以及3609.6万元，占收入总额分别为35.5%、62.7%、65.7%和45.1%。晶泰科技各业务营业收入分布（数据来源：晶泰科技招股书）单看数字，晶泰科技的表现似乎谈不上可观，但若放眼整个行业，晶泰科技的数据却也可排入全球*水平。晶泰科技同已上市新药AI公司营收利润对比（数据来源：动脉网；单位：亿美元；使用2023年4月汇率换算，1:6.8）表格之中*盈利的企业AbCellera Biologics是一家抗体研发公司，支撑该公司2022年营收利润双增长的主要因素为“版税”，贡献收入4.43亿美元，同比增长35%，绝大部分来源于与合作伙伴礼来销售的Bebtelovimab分成不过，AbCellera Biologics的优异表现未能助其止住市值的骤降，失去Bebtelovimab这一重要的吸金法宝，AbCelera四季度的收入仅仅为 2150万美元，占2 022年总收入的4%。另一家与晶泰科技业务类似且表现优于晶泰科技的企业Schr?dinger，去年该企业总营收为1.81亿美元，其中新药AI研发相关收入为1.356亿美元。但Schr?dinger已有30多年历史，直到近年来才在营收上略有起色。晶泰科技账上的资金还能支撑其高速发展多年，凭借如今的表现，晶泰科技极有可能在未来发展之中弯道超车，三年9笔投资，晶泰投出了一个10亿估值项目也许是因为“不缺钱”，也许是因为晶泰科技想进一步拓宽其业务范畴。新冠疫情后，这家企业采用了与药明康德类似的打法——以投资扩充产线能力。动脉橙数据库数据显示，2020年3月-2023年3月，晶泰科技总计进行了9项风险投资，所有投资均未脱离晶泰科技的领域范畴，其中有8项位于A轮之前。*一个中期项目给了英国靶点发现公司PhoreMost，晶泰科技参与了其B轮4600万美元融资。晶泰科技投资历程（数据来源：动脉橙数据库）这些投资中，晶泰科技尤其热衷于内部孵化及与投资客户，进而加强业务的互补。剂泰医药作为晶泰科技内部孵化的首家初创公司，现已完成4轮融资，最新的A轮融资单轮资金达到了惊人的8600万美元的?？突蹲史矫?，希格生科、剂泰医药、默达生物均曾是晶泰科技的年度前五大客户。希格生科分别在2020年、2021年间为晶泰科技提供了25.2%、24.0%的营收比例。从被投项目的表现来看，晶泰科技显然是一个成功的投资人。如今的希格生科、剂泰医药均又完成多轮融资，尤其是剂泰医药，现估值已经超过了10亿元，新药AI，最终驶向何处？放在其他行业，跻身全球头部公司本应引领行业的趋势走向。但纵观整个AI制药，从技术路径到商业模式，这里尚无一家企业能够给出具备充分证据的答案，指引其他企业前行。归根结底，生命科学类AI若想获得可观的营收，*的方式就是自研或协助MNC取得获批上市药物，而至今尚无满足上述条件的药物突破临床II期。不过，AI技术对于制药行业的价值仍需时间验证。虽无法抵达许多人预期的80%—90%的研发成功率，但若能将7.9%（BIO、Informa Pharma Intelligence、QLS报告数据，研究周期为2011至2020年）的平均成功率提升至10%，已能有效加速新药的产出，释放足以匹配如今投资规模的价值。这正是晶泰科技等一众AI企业的价值所在。跻身上市公司之列，晶泰科技或能更为有效地运用自身的技术优势与资金优势，带领中国制药跃入世界舞台。 【本文由投资界合作伙伴动脉网授权发布，本平台仅提供信息存储服务。】投资界处理。西工大，正排队宣布融资