一個典型的設(shè)計(jì)目標(biāo)是最大限度地提高系統(tǒng)的運(yùn)行效率。然而，這可能包括圍繞最新 GPU 設(shè)計(jì)系統(tǒng)，這可能是一項(xiàng)艱巨的任務(wù)。

GPU，例如NVIDIA提供的那些，可能非常復(fù)雜。雖然供應(yīng)商可能會提供大量的文檔、示例代碼和其他詳細(xì)信息，但工程師仍然需要部署芯片/電路板/系統(tǒng)并使其以最高效率運(yùn)行。

一種好的做法是部署軟件開發(fā)工具包 （SDK） 或 GPU 供應(yīng)商提供的其他工具。但是，如果您需要在這些工具提供的功能之外冒險(xiǎn)，它可能會變得很棘手。例如，NVIDIA 非常擅長協(xié)助設(shè)計(jì)的 AI 部分。但是，當(dāng)您需要進(jìn)行正確的連接、處理安全性并確保系統(tǒng)能夠應(yīng)對惡劣環(huán)境的嚴(yán)酷環(huán)境時，您可能需要求助于其他來源。

一個很好的例子是連接到多個攝像頭并需要使用 AI 進(jìn)行某種圖像檢測的系統(tǒng)。想想機(jī)場、火車站，甚至是制造工廠。如您所知，圖像可能是數(shù)據(jù)密集型的，當(dāng)您連接多個攝像頭時，需要處理的數(shù)據(jù)量會增長得非常快。

在這里，可以清楚地概述業(yè)務(wù)目標(biāo)——您是否在檢查行李、產(chǎn)品下線等？為了解決這個問題，您需要將這些需求轉(zhuǎn)化為可部署的解決方案，從而推動一些行動或結(jié)果。

確定期望的結(jié)果

下一步是確定所需的行動或結(jié)果。然后，您選擇需要哪些數(shù)據(jù)，從而確定所需的處理類型。直到您回答了這些問題，您才能開始設(shè)計(jì)和部署過程。雖然這條路徑可能看起來很明顯，但您會驚訝于有多少人試圖從最后一步開始，然后因?yàn)橐婚_始沒有概述目標(biāo)而最終重新設(shè)計(jì)他們的系統(tǒng)。

以“智能空間”為例。在這里，您想檢測物體，如果有什么不合適的地方，就會響起警報(bào)。該“警報(bào)”可能是可以聽到的，或者它可以生成發(fā)送給操作員的消息。這是一個比在房間里裝滿監(jiān)視器并讓一個或多個人不斷監(jiān)視這些監(jiān)視器以發(fā)現(xiàn)一些不合適的動作更好的解決方案。

凌華科技通過數(shù)據(jù)采集處理這種情況，特別是使用 NVIDIA DeepStream SDK。該 SDK 用于捕獲視頻并將其寫入磁盤，以便您進(jìn)行一些培訓(xùn)。一旦發(fā)生這種情況并且您有足夠的數(shù)據(jù)，您就可以進(jìn)入下一個階段，即訓(xùn)練階段。

NVIDIA 提供的另一項(xiàng)幫助是遷移學(xué)習(xí)工具包，它可以讓您為您的解決方案提供可部署的處理元素，這比從頭開始時要快得多，可能（并且希望）帶來更大的投資回報(bào)率。為此，凌華科技整理了一組用例，據(jù)該公司稱，這些用例應(yīng)該為開發(fā)人員提供一個很好的起點(diǎn)，并提供優(yōu)化的特定領(lǐng)域模型。在其他情況下，模型可能來自 NVIDIA，例如用于公共安全、智慧城市或產(chǎn)品質(zhì)量檢測。在模型不可用的情況下，開發(fā)人員可以從現(xiàn)有模型開始，一個類似于 hisa 用例的模型，并根據(jù)這些特定需求對其進(jìn)行調(diào)整。

為了推動行動或結(jié)果，非結(jié)構(gòu)化數(shù)據(jù)通過 DeepStream 等處理模型運(yùn)行，從而產(chǎn)生結(jié)構(gòu)化數(shù)據(jù)。從那里，信息可以通過管道發(fā)送到其他應(yīng)用程序以采取行動。

審核編輯：郭婷