耐能創(chuàng)始人兼CEO劉峻誠創(chuàng)業(yè)前任職于高通的多媒體研發(fā)部門，也是因為在高通的工作經(jīng)歷促使了他選擇創(chuàng)業(yè)。“其實高通早在2011年左右內(nèi)部就在嘗試做終端AI的方向，我也參與其中，不過當(dāng)時還看不太清楚具體的應(yīng)用，因此當(dāng)時在高通很難得到重視。我非常看好AI和NPU的潛力，最終決定離職創(chuàng)業(yè)，在2015年3月在圣地亞哥創(chuàng)立了耐能。”劉峻誠接受雷鋒網(wǎng)專訪時表示。
有意思的是，劉峻誠是和一群比他資深的專家創(chuàng)業(yè)。耐能COO是Milkyway Sillcon Technology前COO劉彥甫博士，CCO是高通前開發(fā)副總裁Adrian Ong，首席科學(xué)家是高通前多媒體研發(fā)總監(jiān)李湘村，首席架構(gòu)師是金蝶中間件前首席架構(gòu)師袁紅崗，技術(shù)總監(jiān)是曾長期任職于貝爾實驗室、三星研發(fā)部門的陳云剛。
劉峻誠是靠什么魅力吸引到多位資深專家的?劉峻誠表示:“我覺得能吸引到這么多比我厲害的人加入耐能，最主要的是因為我們真的在做事情。”另外，據(jù)Adrian Ong的說法，因為耐能美國的辦公室就在高通的旁邊，加上雙方也有一些合作，他留意到在感恩節(jié)、圣誕節(jié)這樣美國的假期，耐能的辦公室晚上十一二點都是燈火通明，這讓他想起了剛加入高通時大家為一件事情一起打拼的感覺，最終選擇辭職加入耐能。
劉峻誠還特別介紹了耐能跨越的三個障礙讓他們有了另外三個特點。第一個特點是耐能在美國圣地亞哥、臺北、新竹、深圳、珠海兩大洲五地都有辦公司，美國的休息時間亞洲能夠繼續(xù)開發(fā)，亞洲的休息時間美國又可以繼續(xù)開發(fā)，因此他們可以進(jìn)行24小時不間斷開發(fā)。另外一個特點就是由于團(tuán)隊成員的年齡差別非常大，有時候想法不太一樣，這樣就需要跨越年齡的障礙，吵過架之后繼續(xù)攜手向前走。最后一個特點就是同時研發(fā)軟件和硬件帶來的技術(shù)障礙。
從單純賣IP到提供SoC的商業(yè)模式改變
雖然如今耐能已經(jīng)能夠提供從IP、芯片到SoC的硬件產(chǎn)品及配套軟件，不過耐能切入AI市場的產(chǎn)品是自主研發(fā)的IP。IP在芯片行業(yè)相對而言是投資和風(fēng)險都相對小的生意，對于AI芯片公司而言，自研IP能夠?qū)崿F(xiàn)更加個性化的產(chǎn)品，滿足市場差異化的需求。
但并非所有AI芯片公司都擁有自研IP，這主要是因為不同公司的研發(fā)能力、商業(yè)模式以及技術(shù)的特點不同，所以可以看到完全自主研發(fā)IP、自主研發(fā)IP+使用第三方IP等方法。據(jù)介紹，耐能的IP屬于完全自主研發(fā)，由于聚集了大量專家，他們花了大概一年半的時間就推出了第一代IP，推出之后還在保持迭代。
去年9月，耐能發(fā)布了第二代IP，包括低功耗版KDP 320、標(biāo)準(zhǔn)版KDP 520、高效能版KDP 720。2019年的CES上，耐能展示了最新的3D AI解決方案，并宣布將會在第二季度推出智能物聯(lián)網(wǎng)AI SoC。
對于商業(yè)模式的改變，劉峻誠表示:“以IP的方式進(jìn)入市場，是因為敬畏市場，而且我們公司的特點也是踏實做事。公司的目標(biāo)都是盡快盈利，我們確實也在2017年通過銷售IP產(chǎn)生了營收。提供IP的風(fēng)險確實比提供芯片小一些，因為不用投入大量的資金進(jìn)行流片，但是毛利也低一些，同時由于不直接和芯片用戶對接，也會失去一些市場信息。其實從很早我們就想提供芯片，但是基于風(fēng)險以及資金比較少的考慮，因此選擇先提供IP，當(dāng)看到我們的IP變?yōu)楫a(chǎn)品，也了解一定的市場信息之后，才推出芯片。”
“我們的IP和芯片都獲得了市場不錯的反饋，但我認(rèn)為一整套的方案才比較有競爭力。基于我們軟硬件一體的實力，我們最終在今年推出了SoC，這也會成為未來公司營收的主要來源。”劉峻誠進(jìn)一步表示。
據(jù)記者了解，目前耐能已經(jīng)與Cadence和Synopsys全球兩大IP提供商合作一起向第三方提供AI IP。那最新推出的SoC競爭力如何?
可重組架構(gòu)芯片有何不同?
耐能最新推出的KL 520 SoC采用40nm工藝，神經(jīng)網(wǎng)絡(luò)處理器算力最高可達(dá)345GOPS (300MHz) ，平均功耗500mW，并且搭配Arm Cortex-M4，既可以分擔(dān)主芯片的AI算力作為協(xié)處理器，對于輕量級的應(yīng)用，也可以直接替代主控芯片。劉峻誠強(qiáng)調(diào)，AI芯片不能只看算力，成功的終端AI芯片應(yīng)該同時具備算力、成本、功耗和兼容性的優(yōu)勢。
最讓劉峻誠感到自豪的就是KL520極高的MAC利用率，據(jù)他介紹， KL 520針對ResNet50和GoogleNet的MAC利用率達(dá)到73%和74%，相比其它的AI芯片有3.15倍和1.71倍的提升。
另外，這款A(yù)I芯片能夠支持ONNX、Tensorflow、Keras、Caffe框架，采用Vgg16、Resnet、GoogleNet、YOLO等主流的CNN模型，在其獨特的壓縮技術(shù)下，壓縮精度的損失<0.5%。
那么，兼容主流框架和第三方算法帶來的復(fù)雜性是否會增加芯片的功耗?劉峻誠表示:“如果是傳統(tǒng)的架構(gòu)，同時支持多種AI模型確實會帶來功耗的提升，但是我們的有非常獨特的可重組架構(gòu)。”
所謂的可重組架構(gòu)，可以理解為這款芯片提供的是一堆樂高積木，當(dāng)需要支持語音AI的模型時就通過指令集進(jìn)行組合，需要支持圖像AI模型時，再重新組合，可以很好地支持多種神經(jīng)網(wǎng)絡(luò)模型，并且保持架構(gòu)的精簡性。由此也就同時帶來了性能和功耗的優(yōu)勢，更進(jìn)一步，可以在與級別產(chǎn)品性能相同的情況下，選用更加成熟的工藝制程，降低成本，最終實現(xiàn)高性能、低成本、低功耗、高兼容性的優(yōu)勢。
更深一層，可重組架構(gòu)的優(yōu)勢更本質(zhì)的是解決了存儲的問題，提升MAC的利用率。劉峻誠透露，他們的巧思是實現(xiàn)了動態(tài)存儲DMA(Dynamic Memory Assessment)，當(dāng)處理器對存儲沒有很高的需求時，就預(yù)先準(zhǔn)備好，當(dāng)需要使用的時候就直接讀取，實現(xiàn)效率的提升。
不僅如此，可重組架構(gòu)還能動態(tài)支持同一個神經(jīng)網(wǎng)絡(luò)的不同數(shù)據(jù)精度需求。最終的產(chǎn)品可以根據(jù)客戶的需求，可以支持Int8、FP16以及更高的精度。另外，壓縮率也能夠控制在0.5%以內(nèi)則是來源于耐能獨特的開放平臺，通過這個開放平臺能夠?qū)嚎s率提升40甚至50倍，壓縮率損失則小于0.5%，這是軟件或者說軟硬一體優(yōu)勢的體現(xiàn)。
耐能稱為可重組的架構(gòu)研究已經(jīng)在國際知名的半導(dǎo)體期刊上發(fā)布，并且在美國、臺灣都拿到了專利。據(jù)悉，如果想要設(shè)計AI芯片，有時候不太容易避開這些專利。
對于可重組架構(gòu)與北京清微智能的可重構(gòu)架構(gòu)有何不同，如果繼續(xù)用樂高的類比來解釋，耐能的架構(gòu)是積木層級的可重組，清微智能的可重構(gòu)則是面粉層級的可重組，更加底層。
能否搶占AIoT市場?
既然可重組架構(gòu)的芯片可以滿足從語音到視覺不同應(yīng)用領(lǐng)域的需求，為何耐能更看好AIoT市場?劉峻誠表示，耐能堅決不碰自動駕駛市場，因為有車規(guī)的要求，想要進(jìn)入車廠一般有四到五年的周期，這么長的周期不太適合初創(chuàng)公司。安防行業(yè)想要通過芯片直接和海思、海康威視或大華競爭也不太現(xiàn)實，在安防行業(yè)我們會選擇以合作的方式。我們選擇AIoT市場，是因為看到了家電廠商使用我們IP的芯片已經(jīng)量產(chǎn)，并且也確實看到了這個市場的需求。
“更具體地說，智能物聯(lián)網(wǎng)市場，包括掃地機(jī)器人、智能門鎖、智能家電等市場對于低成本低功耗高性能的AI芯片的需求，最終才慎重的推出智能物聯(lián)網(wǎng)專用的AI SoC。“他進(jìn)一步表示。
但是，為什么會選擇中端的IP率先推出SoC?劉峻誠表示，我們推出一款產(chǎn)品不希望是賠錢，低端的我們已經(jīng)推出的是模組，也有了合作伙伴，比如奇景光電。高端的比較擔(dān)心市場的需求，因此推出SoC會更加謹(jǐn)慎。
耐能還有一個堅決不碰的就是云端芯片。劉峻誠表示云端最終比拼的是生態(tài)，很難與已經(jīng)具備生態(tài)優(yōu)勢的巨頭競爭。雖然終端市場的需求復(fù)雜多變，錯估一個產(chǎn)品就可能打垮公司，但同時這種每年變化帶來的營收增長的機(jī)會，耐能的團(tuán)隊習(xí)慣了這種節(jié)奏，也能打硬仗。
不過，一款芯片即便性能再高，沒有出貨量最終也會歸于失敗。發(fā)布會上，大唐半導(dǎo)體研發(fā)部技術(shù)總監(jiān)母大學(xué)表達(dá)了在智能門鎖產(chǎn)業(yè)安全問題日益明顯的當(dāng)下對新款SoC的信心。奧比中光高級戰(zhàn)略BD總監(jiān)彭勛祿也表達(dá)了對與耐能合作推動AI 3D行業(yè)發(fā)展的期待。
除此之外，格力、搜狗、鈺創(chuàng)科技、全科科技等公司都采用了耐能的IP或芯片。不過劉峻誠指出，還有更多的客戶出于不同的原因，包括手機(jī)領(lǐng)域、家電領(lǐng)域的廠商的客戶都不能公開，我們的產(chǎn)品需求比我們?nèi)肆δ苤С值母唷?/p>
更值得一提的是，耐能有一個更高的愿景，這也是他們希望能夠區(qū)別于其他終端AI芯片公司的特色--Edge AI Net，具備去中心化、多模輸入、離線本地處理、主動智能、算力共享的特點。
劉峻誠舉例表示，基于可重組芯片可以構(gòu)建一個邊緣的特別的網(wǎng)絡(luò)，這個網(wǎng)絡(luò)的規(guī)則可以是使用者制定，比如在家庭中構(gòu)建一個AI智能網(wǎng)，指定的規(guī)則是如果小孩靠近危險的物品，就做出相應(yīng)的反饋，如果小孩靠近廚房，電飯煲就會斷電、燃?xì)庠畈荒艽蜷_，等等，這些都需要基于語音或視覺的可重組芯片，還能進(jìn)行算力共享。
采訪劉峻誠的過程中，能夠很明顯的感受到他把公司踏實做事以及產(chǎn)生營收擺在了最重要的位置。從IP到SoC商業(yè)模式的變化，再到專用芯片推向市場，這種變化背后最重要的考量都是營收。同時，劉峻誠表示堅決不進(jìn)入自動駕駛市場，反而選擇需求非常多樣的智能物聯(lián)網(wǎng)市場，原因除了可重組架構(gòu)的帶來的技術(shù)優(yōu)勢，還因為看到了市場的需求。堅決不碰云端芯片市場是作為一家初創(chuàng)公司避開與巨頭正面競爭的考量。
通過了解耐能的發(fā)展，也能夠感受到這家聚集了多位前高通員工以及技術(shù)背景高管的初創(chuàng)公司的風(fēng)格是很明顯的美國公司風(fēng)格，成立四年多，一直保持低調(diào)，即便在2017年就產(chǎn)生了營收也并未過多渲染，而是直到有一些可以公開的成功案例，才選擇用實際的案例證明自己的實力，這并非是大部分初創(chuàng)公司會選擇的方式。
關(guān)于融資，劉峻誠在采訪中透露了他們今年會有一個比較大的規(guī)劃，目前還不能更進(jìn)一步地探討。
耐能是一家團(tuán)隊文化比較獨特的公司，不過更值得關(guān)注的是其可重組架構(gòu)的技術(shù)特色，技術(shù)架構(gòu)的優(yōu)勢能夠最終轉(zhuǎn)化為產(chǎn)品的優(yōu)勢。想要達(dá)到商業(yè)上最終的成功，有客戶購買產(chǎn)品產(chǎn)生營收是關(guān)鍵，我們已經(jīng)看到了耐能的部分可公開用戶，這是邁向成功的關(guān)鍵一步。
AI芯片市場已經(jīng)吸引了不少巨頭和初創(chuàng)公司的入局，2019年，在摩爾定律放緩的背景下，內(nèi)存墻的問題更加明顯，同時，AI技術(shù)的進(jìn)步以及資本寒冬讓AI芯片的落地更顯關(guān)鍵。CCF-GAIR 2019 AI芯片專場將邀請學(xué)術(shù)專家解讀AI芯片的發(fā)展趨勢，芯片產(chǎn)業(yè)鏈上的不同企業(yè)也將共同探討AI芯片發(fā)展的最新動態(tài)。
