部门首页

工作动态

当前位置: 部门首页 >> 工作动态 >> 正文

本地AI模型服务正式开放!API接口申请通道已开启!

发布日期:2026-03-25    作者:     来源:     点击:

亲爱的师生朋友们:

继校园智能小助手DeepSeek上线、本地个人知识库搭建功能发布后,信息技术中心再添重磅服务——本地AI模型API接口正式开放申请!无论您是教学科研需要智能辅助,还是希望将AI能力融入业务系统,现在都可以通过简单申请,解锁学校本地算力平台上的多款AI模型。

一、强劲算力,坚实底座

本次部署的本地AI算力平台,配备36张英伟达L20GPU,为模型运行提供充沛的算力保障:

显存总量:36×48GB=1,728GB(约1.7TB

总算力:FP8/INT8精度下单卡提供239TFLOPS36张总计8,604TFLOPS(约8.6PFLOPS

这一算力规模可支撑大规模模型推理、多用户并发调用及后续更多模型的快速部署,为全校师生提供稳定、高效的AI服务。

二、我们为您准备了哪些AI能力?

目前,已部署6款主流AI模型,覆盖从文本推理到多模态理解的多种场景:

Qwen3-32b:推理模型LLM,可理解复杂问题并生成高质量文本回答,适用于智能问答、内容生成等场景。

Qwen3-Embedding-8B:向量嵌入模型,可将文本转化为向量表示,用于语义检索、文本相似度计算等任务。

Qwen3-Reranker-8B:重排序模型,可对检索结果进行精细化排序,提升信息检索的准确性与相关性。

Qwen3-VL-32B-Thinking:多模态视觉理解模型,能够同时理解图像与文本,支持图像问答、图文内容分析等应用。

Qwen3-asr-1.7b:语音转文本模型,可将语音内容实时或离线转换为文字,适用于会议记录、课堂转录等场景。

Qwen3-tts-12hz-1.7b-customvoice:文本转语音模型,可将文字内容转换为自然流畅的语音,支持定制化音色,用于语音播报、有声内容生成等。

如果您有上述列表之外的其他模型需求,也欢迎提出申请,信息技术中心将根据资源情况评估并协助部署。

三、两种服务,按需申请

服务一:现有模型API接口申请

针对已部署的模型,您可以直接申请API接口,获取密钥后即可通过代码调用,将AI能力快速集成到您的课程辅助系统、科研实验或管理业务中。

服务二:新模型部署申请

如果您的研究或教学需要使用其他模型,可提交新模型部署申请。信息技术中心将根据算力资源、模型兼容性及使用价值进行评估,优先支持与教学科研紧密结合的需求,并协助完成部署与接口开放。

申请有关事宜请查看学校OA部门文件。

四、持续建设,智领未来

信息技术中心将根据使用反馈和学校发展需求,逐步扩充算力资源、引入更多优质模型,并定期组织技术培训与交流活动。您的每一次使用与建议,都将帮助我们更好地完善服务。

知识永不落幕,智慧永续传承。让我们共同构建贵交大师生的智能学术生态,让AI能力真正服务于教学、科研与管理——现在,开启您的AI应用之旅吧!

 






 

审:费 鸿

二审:黄家琴

三审:程