久久精品h_人人人人看_欧美黑人成人www在线观看_亚洲老司机在线_一本大道精品视频在线_国内av在线

這是 SunyaOS 創(chuàng)始人 NikhilBhaskaran 在物聯(lián)網(wǎng) 2019 年的一次演講。物聯(lián)網(wǎng) 2019 年是一種操作系統(tǒng)，它優(yōu)化了嵌入式系統(tǒng)的人工智能庫(kù)，使開(kāi)發(fā)者能夠以非常低的成本非常迅速地快速構(gòu)建人工智能邊緣解決方案。在未來(lái)五年，人工智能將滲透到所有領(lǐng)域；邊緣分析將成為人工智能領(lǐng)域的下一件大事。

目前，人工智能領(lǐng)域的工作更多的是從應(yīng)用的角度解決工業(yè)問(wèn)題。人們希望盡快將解決方案推向市場(chǎng)。為此，大多數(shù)人工智能庫(kù)都建在云中。在這種情況下，有一個(gè)龐大的堆棧，第一個(gè)挑戰(zhàn)是從數(shù)據(jù)開(kāi)始。

你需要訓(xùn)練一個(gè)模型，最大的挑戰(zhàn)不是建立一個(gè)模型，而是找到數(shù)據(jù)，并以一種有效的方式安排數(shù)據(jù)來(lái)訓(xùn)練模型。因此，獲得正確的數(shù)據(jù)是一個(gè)巨大的市場(chǎng)。

第二部分是模型的建立。有很多應(yīng)用程序不需要?jiǎng)?chuàng)建模型，比如人臉識(shí)別和目標(biāo)檢測(cè)。因?yàn)檫@些常見(jiàn)的應(yīng)用程序已經(jīng)有現(xiàn)成的模型，所以你只需要為應(yīng)用程序選擇正確的模型。在此之后，你需要對(duì)模型進(jìn)行進(jìn)一步的培訓(xùn)，因?yàn)榇蠖鄶?shù)模型通常都是針對(duì)不同的數(shù)據(jù)集而訓(xùn)練的，這些數(shù)據(jù)集不能提供良好的輸出。

因?yàn)槊總€(gè)庫(kù)都擅長(zhǎng)某一方面，所以需要為應(yīng)用程序仔細(xì)選擇正確的庫(kù)。

有了工作模式，就必須有目的地籌集足夠的資金。一些賺錢的人應(yīng)該關(guān)心的問(wèn)題是：它應(yīng)該用于什么？市場(chǎng)在尋找什么？

此外，還有一項(xiàng)重大的競(jìng)爭(zhēng)，因?yàn)槊總€(gè)人工智能領(lǐng)域的人都會(huì)直接在云上進(jìn)行模型培訓(xùn)和數(shù)據(jù)工作。然而，人工智能也可以在嵌入式計(jì)算機(jī)上運(yùn)行良好。這通常是人們不知道的事情。

所有人工智能都發(fā)生在邊緣。

在云中運(yùn)行模型時(shí)，通常使用 googleEnginapi 或 Amazon 的對(duì)象識(shí)別模型，并為此支付一定的費(fèi)用。一旦建立了解決方案，您就必須支付大量的費(fèi)用。

相反，同樣的模型可以在硬件上進(jìn)行編碼。在嵌入式系統(tǒng)上，你可以不用花很長(zhǎng)時(shí)間就能獲得云的性能。所有的分析都是在嵌入式設(shè)備上進(jìn)行的，它只向云發(fā)送有限的數(shù)據(jù)。

邊緣分析將是人工智能的下一個(gè)重大事件。人工智能庫(kù)發(fā)送的所有數(shù)據(jù)將由處理器計(jì)算，并給出結(jié)果。例如，過(guò)去玩游戲時(shí)，所有的數(shù)學(xué)計(jì)算都是用 GPU 進(jìn)行的。現(xiàn)在，芯片上有矢量處理單元，可以快速處理云中的矢量（數(shù)據(jù)）。

GPU 也擅長(zhǎng)浮點(diǎn)運(yùn)算。

目前尚不清楚，許多人工智能應(yīng)用程序都可以建立在公司可以優(yōu)化的芯片上。

如今，用于人工智能的圖書(shū)館大約有 800 個(gè)，這聽(tīng)起來(lái)可能令人難以置信，但當(dāng)電腦問(wèn)世時(shí)，人們從未想過(guò)它會(huì)這么大。漸漸地，它成為了我們生活中的必需品。人工智能將遠(yuǎn)遠(yuǎn)超過(guò)這一點(diǎn)。未來(lái)五年，人工智能將滲透到所有領(lǐng)域。許多產(chǎn)品都已內(nèi)置 -- 人工智能。

目前，有 20 多家公司從事人工智能技術(shù)。其中最受歡迎的有騰訊、卡菲、查納、ONNX 和 PyTorch。

嵌入式系統(tǒng)面臨的挑戰(zhàn)

從事人工智能領(lǐng)域工作的人往往面臨著諸如模型大小、選擇合適的模型和框架等挑戰(zhàn)。系統(tǒng)性挑戰(zhàn)是大多數(shù)人沒(méi)有意識(shí)到的。這些挑戰(zhàn)包括：

平臺(tái)

在云中，代碼是預(yù)先安裝的。但是對(duì)于嵌入式系統(tǒng)，您需要獲取源代碼并將其編譯到機(jī)器中。

吸引力

找到正確的源代碼也是一個(gè)挑戰(zhàn)。人們需要做大量的研究才能找到正確的源代碼、正確的補(bǔ)丁并配置它們。

架構(gòu)支持

通常使用 ARM。它可以是 ARM 7 或 ARM 8。借助 ARM 8 中的霓虹燈，硬件 FPU( 浮點(diǎn)單元）提供了 5 倍的性能。這是非常有益的，但也具有挑戰(zhàn)性。

交叉編譯不能提供所需的性能。因此，要獲得性能并使庫(kù)在硬件上發(fā)揮最佳作用，您需要執(zhí)行本機(jī)編譯。這需要很長(zhǎng)的時(shí)間來(lái)編寫(xiě)代碼，并消耗大量時(shí)間。

安裝

編譯后可能會(huì)遇到一些錯(cuò)誤信息。需要注意庫(kù)的正確安裝，特別是新機(jī)器的安裝。

不僅如此，所有庫(kù)通常都有一些依賴關(guān)系。每個(gè)工具 / 框架 / 庫(kù)平均有 4 - 5 個(gè)依賴項(xiàng)。

這些軟件包還需要編譯，以便從安裝在嵌入式系統(tǒng)上的 Ai 庫(kù)中獲得最佳性能。稱為 Docker 的軟件是運(yùn)行包的最快方法，但在運(yùn)行時(shí)沒(méi)有進(jìn)行優(yōu)化，必須謹(jǐn)慎使用。

業(yè)內(nèi)有一種觀點(diǎn)認(rèn)為，要在邊緣運(yùn)行人工智能，你需要大量的計(jì)算，或者需要更好的計(jì)算能力，才能獲得足夠的性能。然而，事實(shí)并非如此。當(dāng)這種解決方案被出售時(shí)，你的成本會(huì)更高。因此，重點(diǎn)應(yīng)該放在更好的項(xiàng)目上，這樣才能降低價(jià)格。這應(yīng)該在不影響最新技術(shù)進(jìn)步的情況下實(shí)現(xiàn)。

OpenGL 和 OpenCL 庫(kù)

在嵌入式系統(tǒng)中，當(dāng) CPU 明顯存在時(shí)，GPU 和 NPU 是可選的。如果您有一個(gè) GPU，它將有一個(gè) OpenGL 或 OpenCL 庫(kù)。OpenGL 是一個(gè)圖形庫(kù)，它將接收到的圖形計(jì)算傳遞給 GPU。OpenCL 是一個(gè)計(jì)算庫(kù)，用于檢查硬件上的計(jì)算能力；它收到的任何計(jì)算請(qǐng)求都分布在整個(gè)系統(tǒng)中。通過(guò)添加 OpenCL，您的性能將非常高。它是一個(gè)比操作系統(tǒng)更好地處理請(qǐng)求的附加層。

在應(yīng)用程序方面還有很多工作要做。在云中編寫(xiě)代碼之后，分析過(guò)程在運(yùn)行時(shí)就開(kāi)始了。在這個(gè)過(guò)程中，代碼會(huì)產(chǎn)生數(shù)量未知的威脅，如果系統(tǒng)無(wú)法處理這些威脅，可能會(huì)導(dǎo)致硬件故障。但在嵌入式系統(tǒng)中，它是定制的。

在這里，邊緣計(jì)算在直接在硬件上執(zhí)行計(jì)算操作方面起著重要作用，而不是將數(shù)據(jù)發(fā)送到云端進(jìn)行計(jì)算。

隨著嵌入式人工智能的發(fā)展，一些框架只是為此目的而建立的。目前，TVM 在這方面做得最好。