解決方案

NVIDIA人工智能實驗室解決方案是NVIDIA公司針對中國教育市場推出的基于數據中心虛擬化基礎架構上的GPU虛擬化，加之NVIDIA深度學習學院培訓體系的一體化人工智能實驗室解決方案。該方案采用以用戶為中心的計算模式、按需向用戶提供GPU資源、框架資源、深度學習環境。保障用戶對GPU資源的獨享，保證用戶獲取足夠的自由度和較高的用戶體驗，同時滿足集中管理和數據安全的需求，靈活和快速部署人工智能實驗環境。

數據中心虛擬化基礎架構平臺是一個成熟的解決方案，主要包括服務器虛擬化、存儲虛擬化、網絡虛擬化及管理平臺等。再加上NVIDIA的GPU虛擬化后，用戶能夠簡單、快速、一站式的構建校園GPU資源管理平臺，對內提供GPU服務，大大簡化GPU資源管理工作，提高數據的安全性，提高機器硬件利用率，降低IT擁有總成本（TCO）。

采用了混合云計算模式（集合服務器虛擬化、GPU虛擬化、PC虛擬化和網盤），既支持服務器的后端計算資源池彈性分配，又支持客戶機前端計算資源的分布式運算，Grid6.0為GPU虛擬化帶來了新的環境實現，支持在GPU虛擬環境下的深度學習框架的搭建和計算，是教育單位的人工智能實驗室得以實現的重要技術平臺。

1.1  系統架構

1.1.1         系統架構

1.1.2         vGPU架構

1.2  產品說明

1.2.1         NVIDIA GPU

通過服務器虛擬化平臺，把GPU計算資源進行切割，按需求進行分配，依托DOCK技術快速部署各種深度學習實踐環境，用戶通過云終端、筆記本、PC、智能終端，通過瀏覽器訪問部署在校內的云端人工智能實驗室門戶網址，進行AI實驗、模型實踐和推演產品的互動體驗。

1.2.2         深度學習框架

1.2.3      英偉達深度學習學院

英偉達人工智能實驗室解決方案依托英偉達深度學習學院的課程進行打造。在原汁原味還原國際課程的同時加入符合中國教育的內容和元素，幫助老師和學生更好的教授、體驗和學習人工智能方面的知識。

NVIDIA 深度學習學院 (DLI) 針對AI 和加速計算提供實踐操作培訓，旨在解決現實問題。DLI 為開發人員、數據科學家和研究人員度身打造課程，您可通過以下三種方式學習：

1.2.3.1    在線主題課程

每個主題課程含八小時課時，學習如何實施和部署端到端的項目。您可以隨時隨地使用云端完全配置的 GPU 加速工作站開始在線學習。

1.2.3.2     在線選修課程

每個選修課程含兩小時課時，探索如何應用特定技術或開發技術。您可以隨時隨地使用云端完全配置的 GPU 加速工作站開始在線學習。

1.2.3.3     講師指導的培訓班

面對面培訓班含八小時主題課程，學習如何實施和部署端到端的項目。由 DLI 認證講師授課，并使用云端完全配置的 GPU 加速工作站實踐操作。您可以申請在自己的組織機構內、大學校園和大型相關會議上舉辦培訓。

1.2.3.4         認證證書

參與者可以獲得認證證書，以證明在相關領域的能力，為自身的職業發展提供支持。您可以在部分在線課程和講師指導的培訓班獲得認證證書。

1.2.4       英偉達人工智能實驗室平臺

1.2.4.1    界面

1.2.4.2    功能

1.2.4.3   使用方式

1.3  課程內容

1.3.1         課程列表

1.3.2   人工智能標注技術

1.3.3   人工智能應用解析

1.3.4      Python可視化及其應用

1.3.5    交互式Python編程

1.3.6     實驗效果

2、 功能亮點

2.1  便捷管理

2.1.1         管理平臺

人工智能實驗室系統的管理平臺采用B/S架構，簡潔的全圖形化管理界面，用戶在任意聯網的終端上通過瀏覽器便可訪問平臺，平臺上可以實現服務器、用戶、桌面、場景、終端、存儲等的全面集中管理。

基于瀏覽器的web控制臺是整個自服務平臺的唯一管理入口，管理員可以坐在辦公桌面通過瀏覽器維護整個學校的GPU資源、云終端和基礎設施，無論是開機/關機/重啟，還是備份/還原，或是重置/升級，都不要進實驗室或是到現場，輕輕松松完成，工作效率提升十多倍。

2.1.2         軟硬件集中升級

人工智能實驗室系統將硬件的計算性能的需求和本地終端解耦，所有GPU計算資源由云端的服務器提供，本地終端可以是普通電腦、一體機或瘦客戶機。

服務器虛擬化軟件除了管理云端資源外還可以提供云還原功能，確保課程結束后實驗環境自動恢復到預設狀態。同時，基于模板和鏈接克隆技術，服務器端集中部署桌面，只要對單個模板配置、修改、安裝升級軟件/虛擬機硬件，即可實現數百桌面的同步更新，幾分鐘時間管理員就能完成全部操作，不需要到用戶現場逐臺操作。

 PC虛擬化包含電腦管理功能，負責虛擬系統模板的管理，電腦終端信息管理，接入控制，外設的管理，通過管理平臺統一推送及更新虛擬操作系統及應用。

2.1.3         實驗課程快速部署

利用管理平臺可以方便制作針對性NVIDIA DOCKER軟件環境模板，通過模板可以實現實驗環境的批量創建、更新、分發，數百臺終端瞬間即可使用相應用戶操作環境，達到快速部署的目的。終端應用軟件的安裝 及配置變化，均可以通過管理控制臺在服務器端集中操作，大大簡化了用戶操作環境的配置和部署。

2.2  有效控制

2.2.1         教學管理端

針對管理權限，教育桌面為管理員和上課教師提供了不同的管理端，管理員登錄后臺軟件管理平臺，來完成對所有用戶進行管理以及系統維護的工作。教學管理端是為上課教師提供的管理軟件，可以選擇多種獨立的教學環境，并且可以一鍵切換教學環境，上課，下課統一開關機等功能，也可以讓學生自由選擇，無需登錄管理后臺進行操作。

2.2.2         有效控制USB接口使用

基于USB接口重定向和穿透技術，有效支撐教學實驗中的各種USB設備，不限于USB存儲、打印機、掃描儀、智能卡、U-key、觸摸屏等。

同時針對USB存儲傳播的各種病毒，以及數據的安全保密規范，可以對各個用戶終端進行USB接口限制，即使插上感染了病毒的移動存儲設備，桌面內也無法訪問和存取，極大的保障了用戶桌面和數據的安全性。

2.2.3         完整的監控功能

提供性能監控功能，對服務器和終端桌面中GPU、CPU、網絡、磁盤、各個進程資源使用率等指標的實時數據統計，并能反映目前物理機、虛擬機的資源瓶頸,同時管理人員還可以監看客戶端接入桌面的操作情況，在必要時進行截圖或錄像。

2.3  教師辦公

2.3.1         個性化DOCK環境快速交付

終端桌面架構在后臺統一管理，快速交付各種教學應用桌面，無需現場逐一安裝；系統選擇更“靈活”老師可以根據個人使用習慣靈活選擇多種NVIDIA DOCKER環境。

2.3.2         移動授課辦公模式

移動辦公包括校內辦公和家庭辦公；移動教學包括辦公室備課和教室上課。教師使用的桌面，是將各種教學軟件、辦公軟件內置到云桌面中打包成各種標準桌面，按需配置，按需分發，有網絡的地方，就能使用自己的個人桌面。但是登錄虛擬桌面對帶寬的依賴較高?，F在網絡發展高速，家庭帶寬都能保障二十兆完全可以支持家庭辦公的遠程連接。同時教師使用其它移動設備辦公，也要保證寬帶的要求，教師可以在學校任何地方，遠程訪問自己的桌面。

教師在辦公室備完課，準備好PPT后僅僅需要來到教師，使用云終端，登錄自己的桌面，就可以直接完成教學。同時可以登錄時修改個人用戶密碼，保證了個人桌面的安全性。教師回到家中，也可以家庭辦公，可以遠程登錄自己的桌面，使用各種軟件利用客戶端訪問校內資源。創建一種嶄新的教學與辦公模式，允許按需隨時學習、碎片學習、移動辦公。

教師再也不用在辦公室、家庭和教室之間來來回回攜帶筆記本電腦或U盤，輕松便捷，而且使用相同的個人桌面。

3、 方案價值

深度學習計算模型：Traing—>INFERENCE

3.1  人工智能應用體驗

未來，隨著人臉識別、語音識別、語義理解、深度學習等技術深入發展，機器人將擁有類人的思考和交互能力，賦能經濟生產和社會生活方方面面。學生在進行人工智能相關的學習之前如果可以深刻體驗科技帶來的神奇，對興趣的培養和后期的學習都大有幫助。

AI語文老師可以教你如何寫藏頭詩，與AI數學老師一起猜數字，AI英語老師學英文單詞和發音，還可以和AI美術老師一起快速涂鴉，面對面請教AI老師許多有趣的問題，再與AI體育老師來一場圍棋對戰……

未來，隨著智能批改、智能陪練、語音測評、智能圖書館、咨詢管理等應用的投入運行，AI將滿足學生個性化需求，解決教師資源相對有限的問題，同時將教育資源傳遞到更多有需要的地方，緩解教育資源不均衡的現狀。借助AI賦能，世界互通，人類將在共通的新水平線上學習發展。

3.2  多樣性AI學習環境—訓練（AI Train）

基于NVDOCK技術可以打包多種深度學習環境，打包各種框架和驅動，實現在一個課堂內的多種深度學習場景和個性化教學實驗課堂。管理員只需要將不同的環境提供給學員即可，對于學生，桌面中不僅只有教學相關的軟件，提升桌面響應速度，同時規范學生注意力，提高了教學質量，還有不同的框架學習機會，體驗各種深度學習方法，對于高校AI實驗室非常適合。

3.3  多樣性AI學習環境—推演（Inference）

深度學習實驗室可以作為人工智能科普實驗室來規劃設計，可以將目前已有的Inference模型進行體驗課堂，例如機器視覺，語音識別等人工智能應用場景體驗?？梢酝ㄟ^“機器對弈”“視覺識別”等模型來體驗AI課程。對于普教實驗室非常適合。

3.4  AI專業教師資源培養

通過NVIDIA的深度學習學院，可以為學校培養AI專業教師，教師可以疊加人工智能概念及基本知識、深度學習的技術和算法等，架構學校自身教學和實驗內容。學校建立系統的AI教學課程也得以實現。

3.5  云教學環境得以實現

由于采納了虛擬桌面技術，可以將常用教學軟件、備課授課資源封裝到虛擬桌面中，通過網絡遠程交付給學生使用，這樣既解決了學生對專業軟件安裝維護的問題，又可以增加軟件、資源的利用率，分攤采購成本，同時也方便了師生在家中備課和教學實驗的完成。

實驗文檔和實驗環境在同一個頁面，打造即學即練的實驗體驗

教師可自主制作實驗文檔并部署實驗環境，打造貼近本校真是需求的課程

3.6  計算資源的復用

由于Grid6.0的特性，可以使GPU的計算資源得以復用，既可以進行虛擬切割實現深度學習實驗課堂，進行學生教學。同時又可以在閑時進行大規模計算任務使用，例如晚上整合GPU進行模型計算。

又由于基于虛擬桌面技術，平臺可以提供重圖形圖像應用環境，例如3Dmax、CATIA軟件的教學和實驗云環境。還能為學校師生提供更多的云應用資源服務，為學校大大節省了投入成本。