正在阅读:

手握2款AI芯片 15年行业老兵 他要革命AI芯片存储瓶颈

扫一扫下载界面新闻APP

手握2款AI芯片 15年行业老兵 他要革命AI芯片存储瓶颈

“AI芯片”这个新鲜的概念在过去一年间逐渐走过了普及的阶段,越来越被大众所熟知。在行业走过野蛮生长,开始加速落地、加速整合的过程中,也有更多的AI芯片公司也开始走出属于自己的差异化路线。

 文 | Lina

智东西在此前AI芯片系列报道第一季之后,再次出发,进一步对AI芯片全产业链上下近百间核心企业进行差异化的深度追踪报道。此为智东西AI芯片产业系列报道第二季之一。

今年年底,探境科技的两款分别针对图像和语音的AI芯片就将流片面世,虽然主打的也是低功耗端智能的安防、智能家居等应用场景,但探境科技提出,目前终端AI芯片性能表现的瓶颈不在于芯片的峰值计算力,而在于芯片存储的管理与调度,只有把存储管理做好了,才能让芯片达到性能与功耗的最佳表现——而AI芯片的存储性能优化,正是探境科技的核心竞争力所在。

▲创始人兼CEO鲁勇

最近,智东西来到探境科技的北京办公室,与创始人兼CEO鲁勇进行了一场深入对话,这是位有着15年芯片打造经验的半导体“老兵”,十年Marvell研发生涯让他对于芯片行业的运作规律有着深刻认知,并与AI芯片的发展方向有着自己的独到见解。

值得一提的是,不仅鲁勇本人是清华的本科、硕士、博士毕业,探境科技的创始团队也大多来自清华毕业。在芯片及AI芯片行业,清华学子几乎遍布产业上下,占据了大半壁江山。智东西将会针对清华系的芯片创业者一系列的跟踪报道,探境科技就是其中之一。

一、Marvell前研发总监离职创业,15年芯片打造经验

探境科技成立于2017年上半年,曾于2017年获得马力创投、臻云创投、大榭鹏创投资的天使轮融资,并于今年5月获得数千万美元的Pre-A轮融资,由中芯聚源资本领投,洪泰基金、险峰长青、启迪汇、京道基金、熊猫资本跟投。值得一提的是,中芯聚源资本由国内集成电路产业龙头中芯国际牵头设立。

探境科技的创始人兼CEO鲁勇是位在半导体业摸爬滚打了15年的老兵,在成立探境科技之前,鲁勇曾是通信和存储解决方案Marvell半导体的中国芯片研发总监。据鲁勇介绍,在Marvell这十年里,他带领着Marvell的中国芯片研发团队从零开始一手搭建起来。

这一轮人工智能与深度学习在业界兴起于2015年,与不少芯片从业者一样,鲁勇也敏锐地察觉到了人工智能对与未来的决定性意义,同时也看到了由芯片带来的算力瓶颈制约着AI发展的步伐。不过,那时的鲁勇并没有选择立刻离职创业,而是开始认真地研究两件事——1、技术实现;2、市场需求。

“做芯片不是做科研,必须要找到足够大的市场,才能支撑起一个公司的商业化发展。”

在鲁勇仔细研究AI芯片热潮背后的真实需求与切实落地场景时,几件偶然的事情打动了他。彼时,几位在海康威视、大华股份等安防巨头中任职的朋友都陆续来找到鲁勇,咨询英特尔Movidius VPU是否能够适用于终端AI处理的需求。一方面,是看到安防巨头们在如此积极地推动AI落地;另一方面,则是看到Movidius VPU这类并不适用于AI安防摄像头的弱算力芯片也有不少人来咨询,可见安防行业对于芯片提供的AI算力有着何等强大的需求;那一刻,鲁勇觉得自己一直在寻找的机会到了。

2017年,鲁勇决定离开Marvell,与一群老朋友一起成立了探境科技。目前探境科技的核心创始团队大约有7人,都是鲁勇过去的老同事、老朋友、以及清华的师兄弟,他们分别负责从芯片设计、系统设计、软件、算法等领域,将近一半为博士毕业。探境科技的名字来自其英文名“Intengine”,取意”Intelligent Engine”,有“探索未来、探索未知境界”之意,探境希望自己成为智能时代的发动机,推动AI普及落地。

加入Marvell之前,鲁勇曾经在硅谷数模半导体中做了5年,而更早之前,鲁勇是清华的本硕博“三清”毕业生,有着清华微电子所的研究背景。目前探境科技团队约有50人,在北京、上海等地设有分部。

二、打造两款AI芯片:“巴赫”与“达芬奇”

虽然探境科技成立于2017年,并不属于随着第一波AI芯片浪潮而亮相初创公司,但鲁勇认为探境产品的脚步并不落后于市场。

今年下半年,探境的两款AI芯片就会投入流片,分别是主攻智能家居IOT市场的语音识别、与安防市场的图像识别,探境内部将这两块芯片称为“巴赫”和“达芬奇”。这两块芯片都将由台积电代工,使用28nm制程。

“达芬奇”芯片在算力与功耗上目前能够达到4T/W,能够适应众多安防应用场景的需求,而“巴赫”芯片则主打低功耗物联网语音交互场景,其功耗将低于数百毫瓦。除了这两款产品外,探境科技未来还将沿着图像与语音这两条大产品线上继续深拓展。

▲运行着探境科技图像检测算法的开发板

鲁勇认为,探境科技的核心团队有着多年的芯片行业经验,对于芯片行业运转规律有着深刻的理解与认识,能让他们在芯片的设计、功能的定义、架构的搭建、以及流片量产的过程中少走很多弯路,同时也能更准确地把握市场定位,对市场进行更准确的预判。

与此同时,据鲁勇介绍,探境科技的团队中也囊括了众多软件算法人才,比如探境科技的算法首席顾问就是谷歌副总裁,对于AI算法有着自己的积累。

三、两大路径解决AI芯片瓶颈——存储

鲁勇认为,目前终端AI芯片的性能瓶颈不在于算力,而在于存储——存储问题分为两个部分:带宽、功耗。一旦没有进行存储优化,那么芯片实际能够提供的计算力其实会大大低于理论值。

芯片存储优化的路径有两种:一是压缩神经网络大小、降低精度、减少数据量;二是设计更合理的数据流,减少数据资源在接口中来回往返的次数。

神经网络的压缩与简化则是一个学术界与工程界都在研究讨论的重要问题,目前的深度神经网络普遍较大,无论是在云端还是在终端,都会影响网络速度,增大功耗。

这一领域现在较火的两大研究方向分别为是降低计算精度(比如从32比特到8比特)、以及剪枝(Purne)先构造好整个算法网络,然后再尝试消除多余的节点,压缩网络大小。

优化设计数据流这方面,则是探境科技的优势所在。如果将多次被重复使用的数据放在离计算资源较近的地方,则可以大大讲少数据来回“搬运”的次数,把芯片的性能跟功耗降到最低。

结语:AI芯片竞争步入2.0时代

随着AI芯片走过了概念普及的阶段,越来越多的AI芯片公司开始涌现;虽然从应用落地场景来说,它们瞄准的大多也都是安防(图像)与IoT(语音)市场,不过从技术路径来说,它们已经陆续开始走出了属于自己的差异化路线,AI芯片的竞争也开始步入2.0时代。

然而,安防与IoT市场体量虽大,但其智能化进程却需要时间积累,而且这两个市场都呈现了极大的碎片化状况。另一方面,随着各个AI芯片公司的产品逐渐落地,市场竞争也会进一步激烈,各家对于芯片落地节奏也需要严格把控,才能不落后于市场。

本文为转载内容,授权事宜请联系原著作权人。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

手握2款AI芯片 15年行业老兵 他要革命AI芯片存储瓶颈

“AI芯片”这个新鲜的概念在过去一年间逐渐走过了普及的阶段,越来越被大众所熟知。在行业走过野蛮生长,开始加速落地、加速整合的过程中,也有更多的AI芯片公司也开始走出属于自己的差异化路线。

 文 | Lina

智东西在此前AI芯片系列报道第一季之后,再次出发,进一步对AI芯片全产业链上下近百间核心企业进行差异化的深度追踪报道。此为智东西AI芯片产业系列报道第二季之一。

今年年底,探境科技的两款分别针对图像和语音的AI芯片就将流片面世,虽然主打的也是低功耗端智能的安防、智能家居等应用场景,但探境科技提出,目前终端AI芯片性能表现的瓶颈不在于芯片的峰值计算力,而在于芯片存储的管理与调度,只有把存储管理做好了,才能让芯片达到性能与功耗的最佳表现——而AI芯片的存储性能优化,正是探境科技的核心竞争力所在。

▲创始人兼CEO鲁勇

最近,智东西来到探境科技的北京办公室,与创始人兼CEO鲁勇进行了一场深入对话,这是位有着15年芯片打造经验的半导体“老兵”,十年Marvell研发生涯让他对于芯片行业的运作规律有着深刻认知,并与AI芯片的发展方向有着自己的独到见解。

值得一提的是,不仅鲁勇本人是清华的本科、硕士、博士毕业,探境科技的创始团队也大多来自清华毕业。在芯片及AI芯片行业,清华学子几乎遍布产业上下,占据了大半壁江山。智东西将会针对清华系的芯片创业者一系列的跟踪报道,探境科技就是其中之一。

一、Marvell前研发总监离职创业,15年芯片打造经验

探境科技成立于2017年上半年,曾于2017年获得马力创投、臻云创投、大榭鹏创投资的天使轮融资,并于今年5月获得数千万美元的Pre-A轮融资,由中芯聚源资本领投,洪泰基金、险峰长青、启迪汇、京道基金、熊猫资本跟投。值得一提的是,中芯聚源资本由国内集成电路产业龙头中芯国际牵头设立。

探境科技的创始人兼CEO鲁勇是位在半导体业摸爬滚打了15年的老兵,在成立探境科技之前,鲁勇曾是通信和存储解决方案Marvell半导体的中国芯片研发总监。据鲁勇介绍,在Marvell这十年里,他带领着Marvell的中国芯片研发团队从零开始一手搭建起来。

这一轮人工智能与深度学习在业界兴起于2015年,与不少芯片从业者一样,鲁勇也敏锐地察觉到了人工智能对与未来的决定性意义,同时也看到了由芯片带来的算力瓶颈制约着AI发展的步伐。不过,那时的鲁勇并没有选择立刻离职创业,而是开始认真地研究两件事——1、技术实现;2、市场需求。

“做芯片不是做科研,必须要找到足够大的市场,才能支撑起一个公司的商业化发展。”

在鲁勇仔细研究AI芯片热潮背后的真实需求与切实落地场景时,几件偶然的事情打动了他。彼时,几位在海康威视、大华股份等安防巨头中任职的朋友都陆续来找到鲁勇,咨询英特尔Movidius VPU是否能够适用于终端AI处理的需求。一方面,是看到安防巨头们在如此积极地推动AI落地;另一方面,则是看到Movidius VPU这类并不适用于AI安防摄像头的弱算力芯片也有不少人来咨询,可见安防行业对于芯片提供的AI算力有着何等强大的需求;那一刻,鲁勇觉得自己一直在寻找的机会到了。

2017年,鲁勇决定离开Marvell,与一群老朋友一起成立了探境科技。目前探境科技的核心创始团队大约有7人,都是鲁勇过去的老同事、老朋友、以及清华的师兄弟,他们分别负责从芯片设计、系统设计、软件、算法等领域,将近一半为博士毕业。探境科技的名字来自其英文名“Intengine”,取意”Intelligent Engine”,有“探索未来、探索未知境界”之意,探境希望自己成为智能时代的发动机,推动AI普及落地。

加入Marvell之前,鲁勇曾经在硅谷数模半导体中做了5年,而更早之前,鲁勇是清华的本硕博“三清”毕业生,有着清华微电子所的研究背景。目前探境科技团队约有50人,在北京、上海等地设有分部。

二、打造两款AI芯片:“巴赫”与“达芬奇”

虽然探境科技成立于2017年,并不属于随着第一波AI芯片浪潮而亮相初创公司,但鲁勇认为探境产品的脚步并不落后于市场。

今年下半年,探境的两款AI芯片就会投入流片,分别是主攻智能家居IOT市场的语音识别、与安防市场的图像识别,探境内部将这两块芯片称为“巴赫”和“达芬奇”。这两块芯片都将由台积电代工,使用28nm制程。

“达芬奇”芯片在算力与功耗上目前能够达到4T/W,能够适应众多安防应用场景的需求,而“巴赫”芯片则主打低功耗物联网语音交互场景,其功耗将低于数百毫瓦。除了这两款产品外,探境科技未来还将沿着图像与语音这两条大产品线上继续深拓展。

▲运行着探境科技图像检测算法的开发板

鲁勇认为,探境科技的核心团队有着多年的芯片行业经验,对于芯片行业运转规律有着深刻的理解与认识,能让他们在芯片的设计、功能的定义、架构的搭建、以及流片量产的过程中少走很多弯路,同时也能更准确地把握市场定位,对市场进行更准确的预判。

与此同时,据鲁勇介绍,探境科技的团队中也囊括了众多软件算法人才,比如探境科技的算法首席顾问就是谷歌副总裁,对于AI算法有着自己的积累。

三、两大路径解决AI芯片瓶颈——存储

鲁勇认为,目前终端AI芯片的性能瓶颈不在于算力,而在于存储——存储问题分为两个部分:带宽、功耗。一旦没有进行存储优化,那么芯片实际能够提供的计算力其实会大大低于理论值。

芯片存储优化的路径有两种:一是压缩神经网络大小、降低精度、减少数据量;二是设计更合理的数据流,减少数据资源在接口中来回往返的次数。

神经网络的压缩与简化则是一个学术界与工程界都在研究讨论的重要问题,目前的深度神经网络普遍较大,无论是在云端还是在终端,都会影响网络速度,增大功耗。

这一领域现在较火的两大研究方向分别为是降低计算精度(比如从32比特到8比特)、以及剪枝(Purne)先构造好整个算法网络,然后再尝试消除多余的节点,压缩网络大小。

优化设计数据流这方面,则是探境科技的优势所在。如果将多次被重复使用的数据放在离计算资源较近的地方,则可以大大讲少数据来回“搬运”的次数,把芯片的性能跟功耗降到最低。

结语:AI芯片竞争步入2.0时代

随着AI芯片走过了概念普及的阶段,越来越多的AI芯片公司开始涌现;虽然从应用落地场景来说,它们瞄准的大多也都是安防(图像)与IoT(语音)市场,不过从技术路径来说,它们已经陆续开始走出了属于自己的差异化路线,AI芯片的竞争也开始步入2.0时代。

然而,安防与IoT市场体量虽大,但其智能化进程却需要时间积累,而且这两个市场都呈现了极大的碎片化状况。另一方面,随着各个AI芯片公司的产品逐渐落地,市场竞争也会进一步激烈,各家对于芯片落地节奏也需要严格把控,才能不落后于市场。

本文为转载内容,授权事宜请联系原著作权人。