2025年初，全球AIoT平臺與服務提供商研華科技宣布推出一款新的軟件產品——GenAI Studio，該產品是研華Edge AI SDK的一部分，主要目標是為了滿足對成本效益高、本地部署的大語言模型（LLM）解決方案日益增長的需求。

加速人工智能發(fā)展，應對行業(yè)挑戰(zhàn)

作為研華邊緣AI軟件開發(fā)工具包（Edge AI SDK）的一部分，GenAI Studio致力于解決行業(yè)痛點，例如縮短工廠操作員等待關鍵信息的時間，減輕醫(yī)療專業(yè)人員的文檔工作負擔。其無代碼、成本效益高的平臺簡化了大語言模型（LLM）的采用，使企業(yè)能夠快速高效地部署AI解決方案，從而提高生產力和運營效率。

GenAI Studio為研華Edge AI SDK構建，憑借其多功能的LLM平臺，具備出色的本地和云端LLM集成能力，支持包括OpenAI、Gemini、Anthropic和Ollama在內的多種LLM。此外，它還引入了全參數微調功能，針對GPU資源有限的環(huán)境進行了優(yōu)化，實現了更廣泛的可訪問性和性能提升。

GenAI Studio為大語言模型（LLM）開發(fā)提供了一整套全面的工具：

首先是集成微調與推理服務：GenAI Studio將微調與推理功能相結合，最大化硬件利用率，實現資源的更靈活、高效分配。

再次，該平臺具備高級GPU資源管理與任務調度的能力：這些功能使用戶能夠優(yōu)化AI硬件性能，提升高價值設備的成本效益。

隨著AI的迅猛發(fā)展，對易于獲取的大語言模型解決方案的需求日益凸顯，但許多公司因資源有限而受阻。研華邊緣AI軟件開發(fā)工具包（Edge AI SDK）通過提供一套工具來應對這一挑戰(zhàn)，該工具能夠高效地評估、開發(fā)和部署邊緣AI應用。例如，傳統上需要超過30個、每個擁有48GB內存的GPU來微調一個700億參數的大語言模型，而使用研華Edge AI SDK，僅需4個GPU即可完成。這代表著資源需求減少了87%，顯著降低了成本，使大語言模型解決方案更加觸手可及。

借助研華的GenAI Studio和邊緣AI服務器AIR-520，賦能AI創(chuàng)新 

為與GenAI Studio相輔相成，研華的AIR - 520邊緣AI服務器提供了一個強大的硬件平臺，配備了NVIDIA RTX GPU和Phison AI SSD。這種整合交付了可靠、高效的計算能力，旨在滿足制造業(yè)、醫(yī)療保健、零售等行業(yè)的AI應用需求。

研華Edge AI SDK軟件開發(fā)工具包：從模型微調到部署簡化工作流程 

研華Edge AI SDK軟件開發(fā)工具包是一個為無縫邊緣AI開發(fā)設計的全集成平臺。憑借預配置的硬件和優(yōu)化調整的軟件，它提供了即插即用的體驗，能夠實現成本效益高的大語言模型定制、無縫工具包兼容以及大規(guī)模邊緣部署的輕松管理。研華邊緣AI軟件開發(fā)工具包以可靠性、可擴展性和用戶友好性為設計理念，簡化了通往AI創(chuàng)新的道路。它現在包括三個核心組件：

1.GenAI Studio：便于在本地以成本效益高的方式創(chuàng)建、評估和集成定制的大語言模型。

2.推理套件：能夠快速優(yōu)化和評估與嵌入式操作系統兼容的高效AI運行時。

3.操作平臺：為大規(guī)模邊緣部署中的AI模型和應用更新提供高效管理，整合MLOps以簡化操作。

(圖：研華GenAI Studio操作界面)

研華通過其Edge AI SDK軟件開發(fā)工具包以及新增的GenAI Studio軟件模塊，提升了企業(yè)更高效、更低成本地開發(fā)和部署AI解決方案的能力。

關于研華：

研華成立于1983年，以“智能地球的推手”作為企業(yè)品牌愿景，一直專注深耕于工業(yè)物聯網、嵌入式物聯網、智慧城市三大市場。為迎接物聯網、大數據與人工智能的大趨勢，研華提出以邊緣智能和研華工業(yè)云平臺為核心的物聯網軟、硬件解決方案，協助客戶伙伴串接產業(yè)鏈。研華業(yè)務分布全球28個國家，擁有近9000名員工，以強大的技術服務及營銷網絡，為客戶提供本土化響應的便捷服務。此外，研華也積極協同伙伴共創(chuàng)產業(yè)生態(tài)圈，加速實踐產業(yè)智能化的目標。 （公司網站：www.advantech.com.cn ）

關于研華IoT嵌入式平臺事業(yè)群（EIoT , Advantech Embedded IoT Group）

研華嵌入式物聯網平臺事業(yè)群提供全系列嵌入式計算機板卡、智能系統、外圍模塊、軟件服務經銷以及客制化設計導入服務，涵蓋全產品研發(fā)設計、制造與全球銷售與服務，并專注垂直產業(yè)發(fā)展。為迎接物聯網、大數據與人工智能的發(fā)展，我們還提供從邊緣運算(Edge Computing)到云服務(Cloud Services) 的物聯網整合解決方案，包含但不限于AIW無線解決方案、IoT Gateway 網關、EIS邊緣智能服務器及DeviceOn智能化設備維運管理軟件、WISE-PaaS物聯網軟件平臺及主流第三方云服務平臺，更針對人工智能應用推出一系列Edge AI模塊，推理系統及產業(yè)解決方案，專注產業(yè)物聯網解決方案開發(fā)及區(qū)域深耕。（服務專線/QQ：400-001-9088，微信公眾號：研華嵌入式物聯網）