一、建設背景
在當今時代,大數(shù)據(jù)、云計算等前沿技術持續(xù)突破,大模型技術已然崛起為人工智能領域的關鍵研究方向。自 2022 年 11 月 ChatGPT 面世,大模型便迅速成為焦點,科技大佬們競相推出大模型實驗室解決方案。大模型不僅在互聯(lián)網(wǎng)場景大放異彩,更憑借其能力垂直化特性,深度融入具體業(yè)務需求,展現(xiàn)出廣闊的應用前景。
基于學?,F(xiàn)有實驗室建設基礎,攜手行業(yè)企業(yè),大模型實驗室應運而生。它緊扣行業(yè)大模型產(chǎn)業(yè)發(fā)展脈搏,打造產(chǎn)學研一體化合作教學平臺,催生 “教學相長、理論實踐融合、校企協(xié)同共進” 的創(chuàng)新教育模式。該實驗室既能助力院校 “雙師型” 師資隊伍建設,又能培育大模型應用開發(fā)領域的復合型、創(chuàng)新型人才。
鑒于產(chǎn)教融合實訓基地開放共享應用需求,以及校企合作項目化特征,建設集教學培訓、項目實踐、科研等功能于一身的 “大模型技術應用實訓室” 迫在眉睫。這將滿足教學、科研、培訓、社會服務等多元需求,產(chǎn)出一批具影響力的社會服務成果,推動科技成果轉化與產(chǎn)業(yè)化,持續(xù)提升學校服務地方經(jīng)濟社會發(fā)展的能力。
在信息化社會浪潮下,高職院校作為高技能人才培養(yǎng)重鎮(zhèn),肩負著培育具備創(chuàng)新能力、實踐能力與跨界融合能力的高素質人才的使命。建設大模型技術應用實訓室,為學生打造實踐平臺,對提升高職院校人才培養(yǎng)質量、促進產(chǎn)學研用深度融合意義非凡,有助于批量孵化具備大模型技術應用能力的高素質人才,契合社會經(jīng)濟發(fā)展需求。
二、建設目標
1、優(yōu)化高校大模型技術應用課程體系
致力于構建一個全面且深入的大模型技術應用課程框架,不僅豐富現(xiàn)有的人工智能教學資源,還將大模型技術及其實際應用案例融入其中。增加實驗和實訓環(huán)節(jié)的比例,確保學生在掌握理論知識的同時,通過動手實踐深化對大模型技術的理解和運用能力。此舉旨在促進高校人才的全面發(fā)展和技術技能的提升。
2、創(chuàng)建大模型技術應用實訓室
在現(xiàn)有校內實驗室的基礎上,與行業(yè)企業(yè)合作,專注于大模型技術的發(fā)展趨勢,遵循“產(chǎn)業(yè)導向、項目驅動、能力培養(yǎng)、全面發(fā)展”的教育理念。利用工智能教學科研平臺及真實的工業(yè)案例,建立一種將教學與學習、理論與實踐、學校與企業(yè)緊密結合的教育模式。通過這種深度整合的方式,共同培育具備高技術水平的專業(yè)人才,涵蓋從專業(yè)技能培訓到師資力量提升,再到教育資源開發(fā)、實習實踐以及科學研究等多個方面。
3、塑造人工智能開發(fā)應用領域的復合型人才
實訓室建設的核心目的是為了培育具有堅實基礎的大模型開發(fā)和應用專家。通過完善實訓設施及相關軟件的支持,為涉及大模型技術應用的教學活動提供全面保障,從而有效地支撐大模型技術領域所需核心人才的培養(yǎng)和發(fā)展。
4、激發(fā)創(chuàng)新創(chuàng)業(yè)潛能
在實際操作案例中,推動人工智能與其他學科(如藝術、設計、傳媒等)之間的深度融合,鼓勵學生跨領域思考和創(chuàng)新。借助大模型工具激發(fā)學生的創(chuàng)造力,培養(yǎng)他們的跨學科創(chuàng)新能力和社會責任感,最終向社會輸送一批既擁有創(chuàng)新精神又具備實戰(zhàn)經(jīng)驗的高素質“智能化”人才。這樣不僅可以滿足社會對創(chuàng)新型人才的需求,同時也促進了多學科間的交流與發(fā)展。
三、唯眾大模型技術應用實訓室關鍵技術
(一)模型架構設計與優(yōu)化
模型架構設計是大模型的核心基礎,它直接決定了模型處理海量數(shù)據(jù)、提取有價值信息的能力。架構設計不僅需要考慮模型的深度和寬度,還要兼顧其靈活性和可擴展性,以適應不同任務需求。同時,模型優(yōu)化是提升性能的關鍵環(huán)節(jié),包括超參數(shù)調整、模型剪枝、量化等技術。通過這些技術,可以有效減少計算量、降低內存占用、提高推理速度,從而優(yōu)化模型的整體性能。
(二)預訓練與遷移學習
預訓練技術是大模型的重要支撐,通過在海量無標注數(shù)據(jù)上進行學習,模型能夠掌握通用的知識表示,形成強大的語義理解能力。遷移學習則進一步拓展了預訓練模型的應用范圍,允許將預訓練好的模型遷移到新的任務上,并通過微調適應特定領域的需求。這種技術不僅減少了標注數(shù)據(jù)的需求,還極大地提高了模型在新任務上的性能,加速了模型的落地應用。
(三)分布式計算與并行處理
大模型的訓練通常涉及海量數(shù)據(jù)和復雜計算,對計算資源提出了很高要求。分布式計算和并行處理技術成為解決這一問題的關鍵。通過將訓練任務分解并分配到多個計算節(jié)點上,利用多核CPU、GPU等硬件資源進行并行處理,可以顯著提高訓練效率,縮短模型訓練時間,從而加速模型的迭代和優(yōu)化。
(四)數(shù)據(jù)處理與特征工程
高質量的數(shù)據(jù)是訓練優(yōu)秀模型的基石。數(shù)據(jù)處理包括數(shù)據(jù)清洗、標注、增強等操作,旨在去除噪聲、補充缺失值、擴充數(shù)據(jù)量,從而提高數(shù)據(jù)的質量和可用性。特征工程則是從原始數(shù)據(jù)中提取有意義的特征,通過特征選擇、特征轉換等方法,將數(shù)據(jù)轉化為模型能夠有效學習的格式,提升模型的訓練效果和泛化能力。
(五)自動化機器學習(AutoML)
隨著模型規(guī)模和復雜度的不斷增加,手動調整超參數(shù)和模型結構變得越來越困難且耗時。自動化機器學習(AutoML)技術應運而生,通過自動化的搜索算法,快速尋找超參數(shù)組合和模型架構,大大降低了模型調優(yōu)的難度,提高了模型性能和開發(fā)效率,使學生能夠更專注于模型的應用和優(yōu)化。
(六)模型壓縮與部署
大模型通常具有較高的計算復雜度和存儲需求,這在實際應用中帶來了諸多挑戰(zhàn)。模型壓縮技術,如剪枝、量化等,通過去除冗余信息、降低模型精度等方式,有效降低模型的復雜度和存儲大小,使其能夠適應資源有限的設備。同時,高效的模型部署技術也是確保模型在實際場景中高效運行的關鍵,包括優(yōu)化推理引擎、適配不同硬件平臺等,從而實現(xiàn)模型的快速響應和廣泛應用。
實訓室布局圖
四、實訓室建設內容
4.1 大模型技術應用教學平臺
大模型技術應用教學平臺是基于現(xiàn)代信息技術,包括計算機技術、多媒體技術和網(wǎng)絡通信技術,針對職業(yè)教育的發(fā)展需求而設計的一種創(chuàng)新教學模式。該平臺融合了現(xiàn)代教育理念、教學內容與信息技術,形成了一個多功能、開放式的教、學、訓一體化交互平臺。
1.架構與部署:平臺采用B/S結構,利用Spring Cloud微服務技術,并通過Kubernetes進行部署,支持公有云、私有云及混合云的安裝模式。它支持多數(shù)據(jù)源以確保技術一致性,保障服務的穩(wěn)定性、可擴展性和彈性擴容能力。每個獨立服務都支持分布式集群部署,可以無限橫向擴展,提高系統(tǒng)處理能力和大規(guī)模并發(fā)教學場景的支持能力。
2.主要模塊:
(1)通用課程模塊:涵蓋課程制作工具、作業(yè)、活動、云盤、共享課、我的課、云優(yōu)選課、云視頻庫和3D模型庫等功能。
1) 課程制作工具:支持PDF、PPT、Word、Excel等多種格式文本、圖片、音頻、視頻及超鏈接的混合編排,并自動生成動態(tài)課程目錄。支持多種格式文件(如圖片、視頻、壓縮文件等)同屏展示。
2) 作業(yè)模塊:支持單選題、多選題、判斷題、主觀題等多種題型,提供自定義出題和自動出題功能,具備監(jiān)控和客觀題自動評分功能。
3) 共享課與我的課:允許教師將自己創(chuàng)建或積累的課程歸檔為“我的課程”,并能將共享課程、云優(yōu)選課、云視頻庫中的課程轉化為個人課程,支持一鍵分享到公共資源池中。
4) 課堂活動:包含簽到、主題討論、提問、分組任務、投票、問卷、計時器等多種互動形式,增強課堂趣味性和參與度。
5) 云優(yōu)選課:整合了多門課程的教學材料,如教材、教案、課件等,內置至少100個不少于20分鐘的在線課程視頻,支持智能備課和一鍵上課。
6) 云視頻庫:提供數(shù)字化教學內容,支持課堂教學、遠程教學和課外學習,充實校內圖書館數(shù)字資源,助力示范性職業(yè)院校建設和精品課程開發(fā)。
7) 個人云盤:提供分類管理的云存儲服務,支持按類型分類(如視頻、音頻、圖片、文檔等),實現(xiàn)一鍵上傳、刪除、新建、重命名和移動等功能。
8) 3D模型庫:至少包含50個3D模型,配備虛擬仿真教學工具,支持3D模型播放和交互操作。
(2)考試模塊:支持試卷導入、手動創(chuàng)建、題庫選題三種方式構建考試,同時提供自動組卷和判分功能。
此外,平臺內置豐富的大模型技術基礎課程資源,如大模型簡介、Python與大模型、LLM大模型API、C++與大模型、CUDA基礎、LangChain基礎、向量數(shù)據(jù)庫、Prompt工程、大模型應用開發(fā)等,旨在全面覆蓋并深入講解大模型技術的相關知識。
4.2 大模型項目實訓管理平臺
大模型項目實訓管理平臺旨在覆蓋實訓項目的整個生命周期,從項目的創(chuàng)建、任務分配、文檔管理、代碼開發(fā)與測試,到實驗環(huán)境配置和成果提交與評估等各個環(huán)節(jié),提供全面支持。
1.項目全生命周期管理:
用戶可以輕松創(chuàng)建新的實訓項目,設定項目基本信息、目標及團隊成員,并為每個成員分配具體任務。通過實時跟蹤任務完成情況,確保項目按計劃推進。
平臺提供了項目成果展示區(qū),方便團隊成員分享經(jīng)驗和技術文檔,促進知識交流和團隊協(xié)作。
2.文檔管理系統(tǒng):
支持上傳、編輯和保存各類實訓文檔(如需求文檔、設計文檔、測試報告),并提供分類功能,使用戶能夠根據(jù)項目或類型快速檢索所需文檔。
文檔版本控制保證了內容的準確性和一致性,同時支持多人協(xié)同編輯,提高工作效率。
3.集成開發(fā)工具:
集成了大模型開發(fā)所需的各種工具,包括模型訓練框架、數(shù)據(jù)預處理工具、性能分析工具等,實現(xiàn)了從代碼開發(fā)到測試的一站式服務。
平臺允許自定義調用CPU和內存資源,并可自由配置硬件加速器(如GPU或XPU),以適應大模型和深度學習任務的需求。特別地,它支持主流的大模型基座私有化部署,例如智譜的ChatGLM、百川的Baichuan、阿里的Qwen等,助力用戶高效進行大模型開發(fā)和微調。
4.實驗環(huán)境管理:
實現(xiàn)實驗機運行狀態(tài)的實時監(jiān)控,涵蓋CPU、內存、磁盤使用情況,并提供遠程管理功能,便于故障排除和日常維護。
通過收集和展示項目進度、任務完成情況、代碼提交量等統(tǒng)計數(shù)據(jù),幫助用戶全面了解項目狀況。
5.權限管理與資源分配:
設置不同的用戶角色和權限,確保信息的安全性和隱私性,限于用戶訪問相應內容。
靈活的資源分配機制讓用戶能夠便捷地使用、開發(fā)和管理大模型應用,同時提供整套開發(fā)環(huán)境和資源監(jiān)控功能,簡化了操作流程。
該平臺不僅提高了大模型項目實訓的效率和質量,還促進了跨學科的合作與創(chuàng)新,為培養(yǎng)具有實戰(zhàn)能力的人工智能專業(yè)人才提供了堅實的基礎。
4.3 大模型項目資源包
1.基于LLM的智能知識庫問答系統(tǒng): 這個系統(tǒng)基于大型語言模型(LLM),提供了一整套即時可用的功能,包括數(shù)據(jù)處理、模型調用等,并通過直觀的Flow工作流編排工具實現(xiàn)復雜問答場景的設計與執(zhí)行。它旨在簡化創(chuàng)建和管理復雜的對話式AI應用過程。
2.智能證件照制作算法: 采用OpenCV模型并通過Python語言實現(xiàn),集成了智能摳圖、人臉檢測及尺寸裁剪等功能,形成一個完整的機器學習解決方案。該算法能夠識別多種拍照環(huán)境,進行精準摳圖并生成符合不同規(guī)格要求的標準證件照,同時支持智能更換正裝背景等功能,如輕量級摳圖、根據(jù)特定尺寸調整證件照片大小等。
3.計算機視覺應用:手寫數(shù)字識別: 利用深度學習技術構建的手寫數(shù)字識別模型,基于MNIST數(shù)據(jù)庫,使用流行的TensorFlow和Keras框架開發(fā)。這個示例項目展示了如何從頭開始構建一個高效的手寫數(shù)字識別系統(tǒng),是學習計算機視覺和深度學習基礎知識的理想選擇。
4.4 大模型技術應用平臺
大模型技術應用平臺專為高校的大模型應用場景設計,既適用于教學也服務于科研。該平臺具備以下特點:
1.用戶友好的操作界面:支持txt、doc、pdf、md等多種格式的數(shù)據(jù)文件上傳,提供了一個簡潔易懂的操作配置界面,使得用戶可以輕松搭建和訓練AI應用,并迅速投入使用。
2.強大的適應性:能夠滿足不同領域的交互式對話場景需求,無論是教育、研究還是實際應用,都能找到合適的解決方案。
3.可視化的工作流編排:允許用戶通過拖拽組件的方式構建復雜問答場景,無需編寫代碼即可完成高級功能設置,極大地降低了技術門檻。
4.提升教學與科研質量:借助此平臺,用戶可以更有效地利用大模型技術,促進創(chuàng)新思維和技術能力的發(fā)展,從而提高整體的教學質量和科研水平。
4.5 大模型技術應用教學平臺
CPU:采用多核心處理器,例如Intel志強系列,核心數(shù)不少于24,確保能夠并發(fā)處理多個微服務實例。
RAM:至少配備64 GB DDR4 RAM,保障同時運行多個微服務實例及相關應用程序的流暢性。
存儲:選用SATA SSD或HDD,容量至少4 TB,用于數(shù)據(jù)存儲和備份,可根據(jù)實際需求擴展容量。
網(wǎng)絡:至少配置10 GbE網(wǎng)絡接口,實現(xiàn)高速內部網(wǎng)絡通信和負載均衡。
主板:支持硬件虛擬化技術(如Intel VT-x或AMD-V),兼容多核心CPU和大量RAM。提供足夠的PCIe插槽,便于擴展網(wǎng)絡適配器和存儲設備。
電源供應:選用至少750W、具備白金效率認證的電源,確保供電穩(wěn)定。
散熱系統(tǒng):采用高性能CPU散熱器,如空氣散熱器或液冷系統(tǒng),確保設備穩(wěn)定運行。
數(shù)據(jù)傳輸與連接:提供USB 3.0或更高版本端口,便于連接外部存儲和其他設備;同時配備HDMI端口,用于連接顯示器。
4.6 大模型項目實訓平臺
CPU:選用Intel Xeon Gold 6230或AMD EPYC 7742等高性能處理器,具備多個核心(至少24核)和高速緩存,支持并行處理和高效數(shù)據(jù)預處理。
GPU:配備NVIDIA GeForce RTX 4090顯卡,擁有大量CUDA核心和高速內存,適合深度學習模型的訓練。
RAM:至少256 GB DDR4 ECC內存,滿足大型模型訓練和數(shù)據(jù)處理的需求。
存儲:選用HDD或SSD,容量至少8 TB,用于數(shù)據(jù)存儲和備份。
主板:支持dual-width GPU插槽,確保顯卡正確安裝和散熱;同時提供足夠的PCIe插槽,便于擴展其他高速設備。
電源供應:選用至少1200W、具備白金效率認證的電源,保障供電穩(wěn)定。
散熱系統(tǒng):采用強勁的CPU散熱器(如液冷或大型空氣散熱器)和顯卡專用散熱系統(tǒng)(如水冷或高性能風扇),確保設備高效運行。
機箱:選用大型機箱,具備良好的散熱和擴展空間,便于安裝多個GPU和散熱設備。
網(wǎng)絡:至少配置10 GbE網(wǎng)絡接口,實現(xiàn)快速數(shù)據(jù)傳輸和模型同步。
數(shù)據(jù)傳輸與連接:提供USB 3.0或更高版本端口,便于連接外部存儲和其他設備;同時配備HDMI端口,用于連接顯示器。
五、實訓室建設清單
5.1 大模型技術應用教學平臺
1.平臺采用B/S結構,運用spring cloud微服務技術,采用kubernetes技術進行部署,支持公有云、私有云、混合云模式安裝;平臺支持多數(shù)據(jù)源從而保證技術的一致性;確保服務的穩(wěn)定、可擴展、彈性擴容;每個獨立服務支持分布式集群部署,可以無限橫向擴展,提高系統(tǒng)處理能力,支持大規(guī)模并發(fā)教學全場景和數(shù)字化專業(yè)群教學實踐應用。主要包含通用課程模塊和考試模塊。
2.通用教學模塊包含以下功能:課程制作工具、作業(yè)、活動、云盤、共享課、我的課、云優(yōu)選課、云視頻庫、3D模型庫。
(1)課程制作工具模塊:支持pdf、ppt、word、excel等不同格式的文本、圖片、音頻、視頻、超鏈接等進行混合編排,并自動生成動態(tài)課程目錄,支持多源格式文件(至少包含:圖片、視頻、壓縮文件、word、ppt、excel、pdf等)同屏展示。
(2)作業(yè)模塊:支持單選、多選、判斷、主觀題等題型,支持自定義出題支持自動出題,支持監(jiān)控,支持自動進行客觀題判題。
(3)共享課程模塊。
(4)我的課程:支持老師利用平臺提供的課程制作的課程或者平時積累的課程自動歸檔為我的課程,也可以將共享課程和云優(yōu)選課、云視頻庫課程轉換成我的課程,支持我的課程一鍵分享到共享課程、云優(yōu)選課中。
(5)課堂活動模塊:課堂活動至少包括:簽到、主題討論、提問、分組任務、投票、問卷、計時器等功能。
(6)云優(yōu)選課模塊:將教學中多門課程的教材,教案,課件,微課,教學配套材料等教學元素整合到云優(yōu)選課模塊,通過互聯(lián)網(wǎng)技術保證教學的實施與效果;支持智能備課、一鍵上課。內置豐富在線課程資源,至少包含100個視頻,每個不低于20分鐘。
(7)云視頻庫模塊:云視頻庫模塊提供數(shù)字化的教學內容,支持課堂教學,支持視頻顯示和多媒體課件互動,支持網(wǎng)絡課堂和遠程教學。豐富學生的課外學習,可為學校的專業(yè)建設提供有力支持,可充實校內圖書館的數(shù)字資源,建立數(shù)字閱覽室,可為學校進行示范性職業(yè)院校建設、精品課程建設、核心專業(yè)建設提供支持。
個人云盤:平臺為用戶提供云盤服務,云盤內所有文件都會按照不同的文件類型進行分類、分類至少包含視頻、音頻、圖片、文檔、回收站等、支持一鍵上傳、刪除、新建、重命名、移動等功能
(8)3D模型庫:至少包含3D模型50個,具備虛擬仿真教學制作工具,可播放 3D 模型、進行交互。
5.2 大模型項目實訓管理平臺
大模型項目實訓管理平臺的功能主要涵蓋了實訓項目的全生命周期管理,從實訓任務、文檔管理、代碼開發(fā)與測試、實驗環(huán)境管理到成果提交與評估等各個環(huán)節(jié)。
用戶創(chuàng)建新的實訓項目,并設置項目的基本信息、目標、團隊成員等。為項目成員分配具體的任務,并實時跟蹤任務的完成情況,確保項目按計劃進行。提供項目成果的展示平臺,方便團隊成員分享和交流項目經(jīng)驗、技術文檔等。
支持用戶上傳、編輯和保存各類實訓文檔,如需求文檔、設計文檔、測試報告等。提供文檔分類功能,便于用戶按項目、類型等快速檢索所需文檔。支持文檔的版本控制,確保文檔內容的準確性和一致性;同時支持多人協(xié)同編輯,提高團隊協(xié)作效率。
集成大模型開發(fā)所需的各種工具,如模型訓練框架、數(shù)據(jù)預處理工具、性能分析工具等,方便用戶一站式完成代碼開發(fā)與測試工作。平臺能夠自定義調用CPU和內存資源,自由配置專門針對大模型和深度學習等任務的硬件加速器(如GPU或XPU),能夠高效地執(zhí)行大模型的prompt工程、大模型應用開發(fā)和大模型的微調。平臺支持主流的大模型基座,支持大模型基座私有化部署,包括智譜的ChatGLM、百川的Baichuan、阿里的Qwen等,助力用戶快速進行大模型的開發(fā)和微調。平臺還提供了豐富大模型開發(fā)工具、整套開發(fā)環(huán)境和資源監(jiān)控功能,能夠靈活分配資源,方便用戶輕松使用、開發(fā)、管理大模型應用。
平臺實時監(jiān)控實驗機的運行狀態(tài),包括CPU、內存、磁盤等使用情況;提供實驗機的遠程管理功能,方便用戶進行故障排除和日常維護。收集并展示項目的進度、任務完成情況、代碼提交量等統(tǒng)計數(shù)據(jù),幫助用戶了解項目整體情況。設置不同的用戶角色和權限,確保不同用戶只能訪問和操作其權限范圍內的內容。
5.3 大模型項目項目資源包
l基于 LLM(Large Language odel)大型語言模型的知識庫問答系統(tǒng),它提供了一整套開箱即用的功能,包括數(shù)據(jù)處理、模型調用等能力,并且通過可視化的 Flow 進行工作流編排,從而實現(xiàn)復雜的問答場景。
l智能證件照制作算法,本項目基于OpenCV模型,使用 Python 語言實現(xiàn)智能摳圖、人臉檢測、尺寸切割等功能于一體,采用了一套完善的機器學習模型工作流,實現(xiàn)對多種用戶拍照場景的識別、摳圖與證件照生成。具體包含輕量級摳圖、根據(jù)不同尺寸規(guī)格生成不同的標準證件照、智能換正裝等;
l計算機視覺應用手寫數(shù)字識別,采用深度學習技術來構建一個手寫數(shù)字識別模型,基于MINST數(shù)據(jù)庫,使用 TensorFlow 和 Keras 這兩個流行的深度學習框架來實現(xiàn)手寫數(shù)字識別。
5.4 大模型技術應用平臺
大模型應用平臺是一款專為高校大模型應用場景教學和科研打造的知識庫問答系統(tǒng)。該平臺易于使用,知識庫支持常見的txt、doc、pdf、md等數(shù)據(jù)文件上傳,同時提供了簡潔易懂的操作配置界面,使用戶可以輕松地搭建和訓練AI應用,并快速調用,滿足不同領域的交互式對話場景需求。此外平臺還支持可視化的工作流編排,能夠滿足復雜的問答場景搭建需求。通過大模型技術應用平臺,能夠更好幫助用戶更好地應用大模型技術,提升教學和科研質量。
5.5 大模型技術應用教學平臺硬件
CPU:多核心處理器,性能不低于 Intel 志強系列,不少于24核,以支持并發(fā)處理多個微服務實例。
RAM:至少 64 GB DDR4 RAM,以確保能夠同時運行多個微服務實例和相關的應用程序。
存儲:SATA SSD 或 HDD:至少 4 TB 用于數(shù)據(jù)存儲和備份,根據(jù)需要可增加容量。
網(wǎng)絡:至少 10 GbE 網(wǎng)絡接口,用于高速內部網(wǎng)絡通信和負載均衡。
主板: 主板應支持硬件虛擬化技術,如 Intel VT-x 或 AMD-V,以提高虛擬機性能。支持多核心 CPU 和大量 RAM 的主板。足夠的 PCIe 插槽,用于擴展網(wǎng)絡適配器和存儲設備。
電源供應:至少 750W 的電源,具有白金效率認證,以確保穩(wěn)定供電。
散熱系統(tǒng):高性能 CPU 散熱器,如空氣散熱器或液冷系統(tǒng)。
數(shù)據(jù)傳輸和連接:USB 3.0 或更高版本的端口,用于外部存儲和其他設備的連接。HDMI端口,用于連接顯示器。
5.6 大模型項目實訓平臺集群
CPU:Intel Xeon Gold 6230 或 AMD EPYC 7742 等,具有多個核心(至少 24 核)和高速緩存,以支持并行處理和高效的數(shù)據(jù)預處理。
GPU:2張NVIDIA GeForce RTX 4090:具備大量的 CUDA 核心和高速內存,適合進行深度學習模型的訓練。
RAM:至少 256 GB DDR4 ECC 內存,以支持大型模型的訓練和數(shù)據(jù)處理。
存儲:HDD 或 SSD:至少 8 TB 用于數(shù)據(jù)存儲和備份。
主板:支持 dual-width GPU 插槽,以確保顯卡能夠正確安裝和散熱。
足夠的 PCIe 插槽,用于擴展其他高速設備。
電源供應:至少 1200W 的電源,具有白金效率認證,以確保穩(wěn)定供電。
散熱系統(tǒng):強勁的 CPU 散熱器,如液冷或大型空氣散熱器。顯卡專用的散熱系統(tǒng),如水冷或高性能風扇。
機箱:大型機箱,具有良好的散熱和擴展空間,以便安裝多個 GPU 和散熱設備。
網(wǎng)絡:至少 10 GbE 網(wǎng)絡接口,用于快速數(shù)據(jù)傳輸和模型同步。
數(shù)據(jù)傳輸和連接:
USB 3.0 或更高版本的端口,用于外部存儲和其他設備的連接。
HDMI 端口,用于連接顯示器。
5.7 實訓終端
CPU:i5-13600
內存:DDR4 16GB
硬盤:固態(tài)硬盤 PCIE4.0 高速 SSD 1TB
無線網(wǎng)卡:內置WIFI6 +藍牙+有線網(wǎng)卡
顯示器:24英寸
鍵鼠套裝:1套
5.8 交互式智能多媒體教學觸控一體機
屏幕尺寸:86寸
可視角度:178°(H)/178°(V)分辨率:3840×2160
顯示亮度≥330cd/㎡
對比度≥960:1
操作系統(tǒng):Android或Windows
CPU≥2 core
GPU≥4 core
RAM≥2G
ROM≥16G
接口:HDMI、VGA、PC AUDIO IN、USB
5.9 交換機
交換容量≥256Gbps,包轉發(fā)率≥56Mpps,48個千兆電口,4個千兆SFP端口,支持4K個VLAN,支持Voice VLAN,基于端口的VLAN,基于MAC的VLAN,基于協(xié)議的VLAN,支持MAC地址≥16K,支持靜態(tài)路由、RIP、RIPng、OSPF ,支持堆疊,主機堆疊數(shù)不小于9臺,支持縱向虛擬化,作為縱向子節(jié)點零配置即插即用;支持對端口接收報文速率和發(fā)送報文速率進行限制,支持SP、WRR、SP+WRR等隊列調度算法;支持G.8032以太環(huán)保護協(xié)議;
5.10 實驗桌椅
面和腳采用25mm厚三聚氰胺板飾面,優(yōu)質PVC全自動機器封邊,其它均采用15mm厚三聚氰胺板,優(yōu)質PVC全自動機器封邊,優(yōu)質五金配件
學生椅:學生椅子圓椅,加厚鋼制腳
5.11 教師講臺
尺寸(單人位):1500mm×841.5mm×750mm
材質:辦公桌橡木色,材質選用三胺飾面板,預留線槽、線孔,預留主機位,帶主機托
教師椅:可升降辦公椅,采用網(wǎng)布+定型海綿面料,鋼制五星腳。
相關產(chǎn)品
免責聲明
- 凡本網(wǎng)注明“來源:化工儀器網(wǎng)”的所有作品,均為浙江興旺寶明通網(wǎng)絡有限公司-化工儀器網(wǎng)合法擁有版權或有權使用的作品,未經(jīng)本網(wǎng)授權不得轉載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權使用作品的,應在授權范圍內使用,并注明“來源:化工儀器網(wǎng)”。違反上述聲明者,本網(wǎng)將追究其相關法律責任。
- 本網(wǎng)轉載并注明自其他來源(非化工儀器網(wǎng))的作品,目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責,不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉載時,必須保留本網(wǎng)注明的作品第一來源,并自負版權等法律責任。
- 如涉及作品內容、版權等問題,請在作品發(fā)表之日起一周內與本網(wǎng)聯(lián)系,否則視為放棄相關權利。