作为研华边缘人工智能SDK软件产品的一部分，GenAI Studio旨在解决诸多行业挑战，例如缩短工厂车间操作员获取关键信息的等待时间，以及减轻医疗专业人员的文档工作量。其无需编写代码的高效平台简化了LLM（逻辑模型）的部署，使企业能够快速有效地部署人工智能解决方案，并提高生产力和运营效率。GenAI Studio专为研华边缘人工智能SDK而设计，利用功能全面的LLM平台，并具备卓越的集成能力，可与包括OpenAI、Gemini、Anthropic和Ollama在内的本地部署和云端LLM无缝对接。此外，它还引入了针对所有参数的微调功能，并针对GPU资源有限的环境进行了优化，从而显著提升了系统的可访问性和性能。GenAI

Studio提供了一套全面的LLM开发工具：
集成微调和推理服务：GenAI Studio结合了微调和推理功能，可最大限度地利用硬件资源，实现更灵活高效的资源分配。
高级GPU资源管理和任务调度：这些功能使用户能够优化人工智能硬件的性能，从而提高高价值设备的成本效益。

人工智能的快速发展凸显了经济实惠的LLM解决方案的必要性。然而，许多公司受限于资源。研华科技的边缘AI SDK通过提供一套旨在高效评估、开发和部署边缘AI应用的工具，有效应对了这一挑战。例如，通常需要30多个配备48GB显存的GPU才能完成的、拥有700亿个参数的LLM微调，使用研华科技的边缘AI SDK仅需4个GPU即可实现。这相当于资源需求减少了87%，大幅降低了成本，使LLM解决方案更易于获取。

为了与GenAI Studio相辅相成，研华科技的边缘AI AIR-520服务器提供了一个强大的硬件平台，配备了NVIDIA RTX GPU和群联AI SSD。这种集成提供了可靠、高效的计算能力，旨在满足制造业、医疗保健和零售等行业AI应用的需求。研

华科技的边缘AI SDK是一个集成平台，旨在实现边缘端的无缝AI开发。凭借预配置的硬件和优化的软件，研华边缘AI SDK提供即插即用的体验，可实现高效的LLM定制、与开发工具的无缝兼容以及大规模边缘部署的轻松管理。研华边缘AI SDK的设计兼顾可靠性、可扩展性和易用性，简化了AI创新之路。它现在包含三个核心组件：
GenAI Studio：支持在本地高效创建、评估和集成自定义LLM；
推理套件：支持快速优化和评估与嵌入式操作系统兼容的高效AI运行时；
编排平台：支持在大规模边缘部署中高效管理应用程序更新和AI模型，并集成MLOps以实现更敏捷的操作。

更多信息