中文 英语

边缘上的赢家和输家

没有公司拥有这个市场 - 并且不会很长一段时间。

人气

这一优势是与狭窄的垂直市场捆绑在一起的大量利基市场,而且这种情况可能会持续数年。这对半导体公司来说既是好事也是坏事,这取决于它们在生态系统中的位置,以及它们适应不断变化的环境的能力。

一些领域将持续或新的增长,包括EDA、制造设备、IP、安全和数据分析。随着设计先进节点芯片的成本飙升,以及低端市场继续分化,其他公司的市场份额可能会下降。因此,为了扭亏为盈,它们将不得不变得更加灵活,在边缘地区争夺较小的销量,而到目前为止,还没有明显的赢家。

这已经引起了多个市场的动荡。的例子:

  • 芯片制造商获得的最大奖励是为服务器、智能手机以及越来越多的汽车公司设计芯片。但谷歌、Facebook和苹果等系统公司,以及大众(Volkswagen)、戴姆勒(Daimler)和宝马(BMW)等大型汽车原始设备制造商,现在都在设计自己的芯片,利用其专有的AI/ML/DL算法或软件。这使得独立的芯片制造商在加速器和控制逻辑设计方面展开竞争,这些设计的平均售价(asp)要低得多。
  • 边缘市场正变得更加狭隘,特别是随着智能设备被添加到提供特定解决方案的设备中。为了使性能和功率效率最大化,硬件需要与软件共同设计,这使得开发一个跨越多个市场的极其复杂的SoC变得非常困难。
  • 边缘的卷展览符合摩尔定律的放缓和开发高度定制的SOC的上升成本。这使得在多个段中的基础平台的开发更重要,但它还需要由多个供应商开发的小芯片和其他IP。这倾向于淡化利润并改变商业模式。

作为一个整体,边缘代表了芯片行业的一个进化转折点,其驱动因素包括数据的爆炸式增长、人工智能的普及以及将所有数据发送到云端进行处理的高成本(从经济、内存/带宽/功率角度来看)。对于那些难以站稳脚跟的小公司来说,这为新的机遇打开了大门。但这些市场窗口将比过去更快地打开和关闭,预计竞争、价格压力和上市时间需求将非常激烈。

一般来说,芯片市场分为四个基本领域——云计算、边缘计算、边缘设备和设备上的加速器。每一个都是非常不同的,尽管它们通过数据流连接在一起。

“我们的客户正在制作的知识产权选择是众所周知的,”IP战略营销经理Ron Lowman说Synopsys对此。“我们拥有云的AI加速器,用于边缘计算,用于边缘设备和用于导向设备的加速度,这可以是添加到其移动应用处理器的AI的移动设备。同样的事情发生在汽车中。它是一个可以做到的应用程序处理器。IP选择对于那些不同。AI加速器正在使用不同的创新只是为了加速那些。“

这些中的每一个都有截然不同的关注点。“他们是完全不同的市场,”Lowman说。“汽车公司正试图自己神经网络。那些专注于声音的人正在努力做到rnns.和LPSN(低功率传感器节点)。边缘设备公司正在播放更先进的技术,如尖峰神经网络,这些神经网络具有高度压缩和行动更像大脑。相机开发人员正在识别面,这足够好,所以他们只是想降低成本。牌照读者现在非常简单。这是关于电力消耗和成本,而不是试图改善算法。“

定义边缘
将单个标签放在所有这些发展中可能是不可能的,事实仍然是仍然形成的边缘并且定义继续转变。但一般来说,边缘是四波计算的高潮。

“第一波是个人计算机,重点是计算绩效,”通信产品副总裁Zeev Collin说Adesto技术。“数以百万计的电脑都装有又大又贵的处理器。第二波是连通性,这开启了一个数量级的新销售账户。然后我们有流动性革命,并在单位数量中增加了另外两个数量级,再次,设备上的小型化和成本压力。第四波,与之IOT.美国将增加数百亿台设备,但这一切都取决于大小、成本和功率的综合。与前一波不同的是,现在的焦点是可以传输多少数据以及传输多远。如果你不需要那么多的数据,你不必把它推得太远,但它必须具有低延迟。这是非常不同的交通问题。”

边缘是第五波。Simon Segars,CEO手臂,指向AI,5G和IOT的收敛作为这个新的世界秩序中的定义技术。只是建立数十亿个廉价的设备并将所有内容发送到云端不适用于许多设备。即使具有最快的通信和处理基础架构,大量数据的移动也会增加许多应用程序的延迟太多,并且它提高了对共享个人数据的隐私问题。

反过来又提示急于执行更接近数据源的处理。但是为了达到经常在电池或有限的电力预算上所需的性能改进,需要对整个设计过程的基本重新思考。并且由于数据现在驻留在这些设备上,除了清洁和结构之外,这些设备还需要比简单的物联网设备更多的安全性。


图1:中间地面,但仍在定义和开发的地面。资料来源:兰姆斯

设计挑战
在这个领域竞争的半导体公司最初面临的最大挑战之一,将是让潜在客户相信他们的解决方案比竞争对手的更好。通常情况下,这需要进行全面的性能和功率比较,但只有当相同的软件可以在不同的系统上运行时,指标才有效。例如,要确定一台PC的速度,需要使用相同的计算密集型应用程序。这也适用于比较gpu、mcu和fpga。但是在高度针对性的应用程序中,用例可能会有根本的不同,并且度量标准需要针对这些用例进行定制。

“每次Mac的皮奥尔斯只是说你正在进行MAC计算,”执行董事Kris Ardis说马克西姆集成。“还有很多事情要做。大量的能量花费在将数据从一个地方移动到另一个地方。这真的支持了这样一种架构,在这种架构中,你不需要移动东西,而是在它们所在的地方进行操作。”

案例在点:Maxim集成的卷积神经网络加速器是专门为这一目的而设计的,采用了40nm工艺来降低成本。

”而设计的CNN的加速器,而不是在市场上我们看到,哪里有神经助攻单片机——或者,也许你更并行数学,但你仍然抓取重量和数据和存储中间结果,”阿迪说。“这是一个全新的建筑。虽然我们正在制造的硅包含一个Arm Cortex M4闪存和SRAM,这些主要是用于系统管理。芯片的大部分是这个巨大的外设:神经网络加速器。所以你启动后,从flash中复制重量和其他配置,然后将其放入嵌入神经网络加速器的重量内存中。”

其结果是比通用MCU性能好几个数量级,功率更低,但用例更窄。这是一个很大的权衡,它代表了一种不同的边缘设计方法。cnn主要用于图像和视频识别以及自然语言处理。但即便如此,这也比其他一些边缘应用要广泛得多,而这正是为边缘设计芯片的经济学开始变得具有挑战性的地方——从设计的角度来看,这可能更有趣。


图。图2:ML应用程序,例如对象识别效益于边缘处理器。资料来源:Maxim集成

“如果你看看你必须做些什么来优化一个图形加速器的CUDA实现,那么很多涉及提高吞吐量使它更快,”Raik Brinkmann(CEO)奥克森解决方案。“这与你对硬件设计进行架构上的改变非常相似。那么,在算法层面上,如果我改变计算的顺序呢?如果我有交错运算的方法呢?当你将事物并行化并映射到硬件上时,人们已经这样做了,因为gpu很大,天生就具有并行性。”

但这还需要了解硬件和软件设计工具以及计算机科学的颤抖。“The question is, ‘Will they learn all of this, or will the tools they use become so powerful that they will be able to do it for them?’ The hope for high-level synthesis is that you can actually take an algorithm and map it to the platform pretty efficiently without much thinking,” Brinkmann said. “But I don’t believe that’s going to happen anytime soon.”

这也提示更加关注可编程性,并且它已经提升对可定制的指令集架构,特别是RISC-V感兴趣。

嵌入式fpga是这样一种方式,在多年的观望之后开始获得吸引力。“我们已经经过了实验期,”Geoff Tate说Flex Logix。“我们有一些早期的开拓者。他们已经成功。嵌入式fpga的价值是显而易见的。市场上的问题是,它能否奏效。现在人们看到了它的作用,我们得到了越来越多的采纳。我们已经为客户提供了十几种可用芯片,还有几十种正在设计和评估中。”

eFPGA的优点是,它可以被集成到任何流程节点的任何芯片中,并增加可编程性,这有助于定制SoC,并在算法和协议变化时保持现有芯片的更新,因为它可以在现场进行编程。

RISC-V提供了一种不同的方法。“过去,客户想要的嵌入式内核只能完成简单的任务,”微软首席技术官Zdenek Prikryl表示密码。“现在他们想要一个能够播放视频的核心,或者一个更复杂的核心。你可以在AI的矢量中看到很多活动。如果你看看欧洲过程倡议,你会发现他们在矢量处理中使用了很多协处理器。RISC-V将被用于处理器,我相信在未来几年内,你会看到Android移植到RISC-V上。”

Arm同样在去年秋天的TechCon上宣布,它将开放其MCU ISA,允许被许可方建立自己的定制指令,并开发自己的工具,以确保与该公司的安全基础设施TrustZone兼容。这一举动使得Arm的嵌入式处理器架构能够适应edge的发展。

不同的安全
安全性在边缘设计中扮演着越来越重要的角色,而安全性供应商在这个市场中具有潜在的巨大优势。虽然设计是高度垂直导向的,但安全性需要水平实现。这可能包括从防篡改技术到信任根源和软件/固件安全,以及与这些技术一起销售的安全服务。

“数据移动正在影响系统架构,以及我们对安全的看法,这在很大程度上推动了这一趋势。兰姆斯。“将所有数据拖动到数据中心是不可行的,因此将其直接部署到设备上并将较小的金额返回到数据中心。因此,现在您将原原数据靠近终端设备,并且为安全性添加了有趣的新要求。如果您正在做的只是发送数据,您可以做些事情来模糊数据。但是,如果您的攻击表面更大 - 更多的大门或接入点 - 那么您需要更多地考虑更多关于架构的信息。“

这也意味着,如果设备受到威胁,备份可能不会像“传统”物联网设备那样存在于云端。处理这一问题的一个选择是除了封闭周边和数据外,还关注弹性。如果一个设备被破坏了,它需要能够恢复,特别是在边缘应用程序,如汽车和机器人,这可能涉及安全。

“如果你看看国防部,他们的方法是拥有一个安全的网络和一个非安全网络,这两个彼此隔离,”杰森·奥格,首席执行官龟岛的逻辑。“这种方法在现代系统中不起作用,因为它们太复杂、交织在一起,而且有太多类型的数据。所以你需要在诸如环境之类的东西之间有某种共享。你需要一种找到问题、适当适应和回应的方法。但你也想建立基础设施。你需要筑起一堵墙,但如果这些墙被打破了,你需要一种应对的方式。有一种方法可以评估这种风险。所以‘这堵墙’可能会被打破,‘这堵墙’不太可能被打破。”


图3:安全层和步骤。资料来源:Tortuga Logic

奥伯格说:“透明度很重要。“你希望获得关于系统安全性的市场反馈。所以你需要设计一个基于基本安全原则的芯片。你需要在“我创建了它,但我也要对我所创建的内容保持透明”之间取得平衡。’对此开诚布公真的很重要。”

除了安全性,汽车和其他安全关键应用外,还添加了一些其他关键要求,即安全性和可靠性。所有这些元素都在过去的分离问题,但在汽车等应用中,每个都有一个轴承。

“边缘筹码有很多唯一性和很多共性,”Synopsys的主要安全技术专家Mike Borza说。“AI中有很多共性。麻烦的是,AI削减了两种方式。它可以适用于好的和坏。“

其他事宜
还有许多其他挑战,这在新市场中并不罕见。边缘的问题是很难获得临界质量来解决这些问题,因为有太多的碎片。

“汽车中的许多设计都是高度可配置的,即使是根据来自传感器的数据,Simon Rance表示,即使是在飞行中,也可以配置,”营销副总裁Simon Rance表示ClioSoft。“数据从这些传感器返回到处理器。从车辆到数据中心再回到车辆的海量数据,都必须被追踪。如果出了问题,他们就得追踪并找出根本原因。这就是需要被填补的地方。”

此外,大部分数据都是独一无二的,部分原因是每个OEM正在开发自己的技术,部分原因是汽车中可能的使用情况和角落壳体。“在汽车行业中需要更标准化,并确定什么样的数据不需要是独一无二的,”兰斯说。

任何提供某种程度的共性都会有所帮助。“一切都是基于设计NOC的用例,”营销副总裁Kurt Shuler说动脉IP.。“你必须了解用案例能够尺寸的大小。有两个方面。一个是在芯片上创建该网络以及它的配置,以及被烧毁到芯片中的内容。另一个步骤是,一旦你创造了所有的道路 - 他们这很长或这是宽的 - 这就是它。确定服务质量。这就是您在斜坡和施工和氧化灯上的计量灯的地方。这是服务质量特征,而且是动态的。“

但如果算法发生变化,则需要解决方法。“我们的芯片架构师必须平衡,”普罗尔说。“如果你总是在运行三到五个用例,而且没有什么会改变,那么他们会非常精细地调整NOC的配置。那个芯片将能够做到这一点,没有别的。如果它们更改了该用例,则不会表现良好。你真的锁定了这种绩效方案。这是一个极端的。另一个极端是一个正在进行通用AI芯片的人。他们会把额外的一切放大,额外的比特宽度,所以你可以进入控制和状态寄存器,更改事物的优先级。在第一种情况下,它是静态的。 In most cases, except for things that are deeply embedded and will only do a few functions, the quality of service capabilities are super-important. Especially for merchant chip vendors, they’re designing a platform that may be going into multiple markets.”

结论
边缘仍然是一个很大程度上未开发的机会,由碎片终端市场驱动,并且需要为特定用例定制AI解决方案。但它也是一个难以实现这些机会的唯一途径,所以难以实现各种各样的方式,这也是一个难以实现这些机会的领域。

这表明新的商业模式是灵活和低成本的,这将需要调整芯片制造商的上市战略。但是,至少到目前为止,如果有点模糊,所以边缘的景观似乎很大。错过机会的公司可能能够迅速锁定一个新的。尽管如此,这个部门很可能会看到很多湍流。

相关的材料
边缘计算知识中心德赢vwiniOS
关于边缘计算的头条新闻、特德赢娱乐合法吗别报道、视频、白皮书和博客
建立智能系统的挑战
圆桌上的专家:看看当今设备的智能,以及它需要如何发展。
在边缘的需求冲突
成本,电源和安全冲突,需要智能,本地化处理和定制。
加速边缘计算
出现了管理和处理数据的新方法,以及比较数据的标准方法。
AI边缘芯片的内存问题
内存计算变得至关重要,但是在哪个内存和进程节点上呢?



发表评论


(注意:此名称将公开显示)